Ситуация изменилась с началом Нового времени (XVI в.), ставшего свидетелем «научной революции» и распада традиционного мира. Человек был провозглашён всесильным, природа — покорной, а сам мир превратился (вопреки взглядам первых поколений естествоиспытателей) из творения, отражающего высший промысл, в пространство для реализации человеческой воли. Дальнейшие события известны каждому: тотальная смена экономического и общественного уклада, покорение новых земель, бесчисленные изобретения, всё более совершенные лекарства и всё более смертоносное оружие. Так история приняла траекторию, ведущую к сегодняшнему дню — моменту, когда человечество овладело технологиями обещающими сделать его всесильным, но с лёгкостью способным уничтожить.

 

Многие исследователи и целые школы мысли, как трансгуманизм, считают дальнейший прогресс неизбежным и защищают т. н. «проактивный императив», подразумевающий, что новые технологии должны внедряться, даже если их долгосрочные последствия нельзя просчитать. Сам человек позиционируются промежуточным звеном на смену которому придёт новый, более совершенный вид. Подобные идеи озвучивались и в двадцатом веке, но сейчас они приобрели небывалую респектабельность и, что ещё, серьёзнее — реалистичность. Не только фантасты и публицисты, но ведущие учёные говорят, как Джордж Чёрч, о «переизобретении жизни», или, как Обри Ди Грей, о скором достижении бессмертия, или, как Рэй Курцвейл, о сингулярности и оцифровке человеческого сознания.

 

Даже если в этих прогнозах желаемое (некоторыми) выдаётся за действительное, они верно отражают текущие тенденции — прорывы в области искусственного интеллекта, генной инженерии, информационных технологий происходят каждую неделю, а значит растут и ставки. Последствия выхода технологий из под контроля или попадания в плохие руки становятся катастрофическими.

 

Сейчас самое время задаться вопросами. Являются ли инновации безусловным благом и самоцелью? Правильно ли поддерживать любую технологию, обещающую принести благо, если её использование злоумышленниками может привести к коллапсу цивилизации? Согласно ли мы считать себя — и человечество в целом — объектом, пассивно принимающим технический прогресс и смиряющимся со своей судьбой?

 

В постановке таких вопросов нет принижения науки и технического прогресса. Их потенциал почти безграничен — и именно поэтому ответственность учёных и изобретателей выходит далеко за рамки требований простой академической этики.

 

 

* Алексей Турчин, Михаил Батин. Футурология. XXI век: бессмертие или глобальная катастрофа? (2012) — уникальный в своём роде учебник научной футурологии, включающий обширное обсуждение последствий и рисков новых технологий

 

* Константин Фрумкин (редактор). Сингулярность. Образы «постчеловечества» (2016) — сборник работ российских учёных, рассматривающих сценарии «финала» человечества

 

* Рэй Курцвейл. Эволюция разума (2016) — влиятельная работа, описывающая вероятные стратегии создания «искусственного разума»

 

* Ник Бостром. Искусственный интеллект. Этапы. Угрозы. Стратегии (2016) — книга директора Института будущего человечества (подразделение Оксфордского университета) и одного из самых влиятельных футурологов мира; в отличие от Курцвейла, Бостром обращает большее внимание на угрозы, связанные с развитием технологий

Источник