Человек и машина: от восторга до ужаса через отчуждение, и обратно

“Люди боятся того, что компьютеры станут чересчур умными и захватят власть над нашим миром. Главная проблема, однако, в том, что они глупы, но тем не менее уже захватили власть над миром”
П. Домингос “Верховный алгоритм”

Надежда. Этим чувством на фоне всеобщих технологических достижений насквозь была пропитана вся середина XX века. Изобретены были транзисторы, ставшие отправной точкой миниатюризации электроники. Вступил в силу мирный атом, коим стали рыть каналы [25] и гасить подземные пожары [12] — не говоря уже об использовании на электростанциях. На Луну и околоземную орбиту были отправлены пилотируемые миссии, посажены десятки аппаратов на другие планеты Солнечной системы, а фразы космических первопроходцев облетели весь Земной шар, внушая трепет перед силой прогресса.

Меня вдруг потрясло то, что эта крохотная синяя горошина была Землёй. Я поднял палец, прикрыл один глаз – и затмил планету одним движением. Но я не почувствовал себя гигантом. Наоборот – я ощутил себя очень-очень маленьким.

Н. Армстронг

Освоение космического пространства, выведение сотен и тысяч спутников на орбиту, создание всё более продвинутых синтетических материалов, появление первых домашних компьютеров и всестороннее развитие связи — сотни маленьких шагов стали по-настоящему колоссальным скачком для всего человечества, что не могло не отразиться и на общественном сознании.

В это время начинает активно развиваться жанр научной фантастики. Ранее представленная отдельными произведениями science fiction к середине прошлого столетия уже переступила фазу золотого века, тем самым надолго определив вектор массового воображения, а писатели-­фантасты в своих произведениях стали предвосхищать возможные достижения грядущих лет, описывая порой совершенно немыслимые ранее явления.

Появившись во второй половине XIX века в качестве реакции на промышленную революцию, научная фантастика стала не только своеобразным транслятором настоящего и будущего технологического прогресса, но и кривым зеркалом, в котором отразились все социально-­политические потрясения того времени. Так, например, в британском обществе во второй половине XIX века усилился страх перед возможной угрозой вторжения на территорию странны иностранных интервентов. Подобные параноидальные опасения были столь сильны, что в 1883 году даже было остановлено строительство тоннеля под Ла-­Маншем. Прекращение строительных работ аргументировали тем, что готовый тоннель теоретически мог бы способствовать вторжению противника на территорию Британских островов. Немногим позже (в 1897 году) Герберт Уэллс публикует свою «Вой­ну миров» [15], где прототипом Британской империи выступает вся планета Земля, а в образе потенциальных захватчиков предстают марсиане.

И это далеко не единственный пример «отражения» действительности в фантастике. Начало XX века также характеризовалось чередой изменений в жизни общества. В России в это время происходит свержение абсолютной монархии и установление советской власти. Последняя, к слову, оказала существенное влияние на развитие жанра science fiction. В 1908 году выходит роман русского учёного, философа-­космиста и главного идеолога Пролеткульта Александра Богданова «Красная звезда» [4], в котором главный герой Леонид покидает Землю в разгар революции и в качестве посланника земного коммунизма летит на Марс, красную планету, где общество марсиан уже давно вступило в последнюю по классификации Маркса стадию социализма. Чуть позднее, в 1913 году, Богданов выпускает, выражаясь современным языком, приквел к «Красной звезде» — роман «Инженер Мэнни» [3]. Оба этих произведения написаны в жанре утопии и нацелены на то, чтобы отвлечь внимание людей от вой­н и смуты, в которых Россия погрязла в начале XX века. Идеальное общество на Марсе у Богданова было своеобразной попыткой подбодрить народ, уже начавший сомневаться в правильности грядущих перемен. Над страной вставало красное солнце, которое, казалось бы, должно было сулить новый день, а вместе с тем и дорогу в светлое будущее.

Но алый рассвет, как известно, далеко не всегда является вестником светлого будущего. В последующие годы утопические мечты Богданова сменились антиутопиями И. Эренбурга и Е. Замятина. И если у Эренбурга в романе «Трест Д. Е. История гибели Европы» [19], написанном в 1923 году, наступает напророченный ещё Шпенглером закат Европы, то нашумевший в своё время роман Замятина «Мы» (1924) [7] пропускает через свою искривлённую линзу уже российскую действительность того времени. В «Мы» Замятин, вычленяя из уже сформировавшейся к тому времени советской идеологии её явные минусы, возводит их в абсолют, показывая тем самым, к чему может привести стремление к созданию идеального общества на базе марксизма-­ленинизма. В начале и конце романа присутствует характерный акцент на идее тотального контроля над личностью, с той лишь разницей, что в заключении происходит полное уничтожение человеческой фантазии и индивидуальности как таковой.

Надо сказать, в романе Замятина, помимо его пессимистичной направленности, появляется также один важный для научной фантастики образ. Образ высокотехнологичного города, окруженного стеной и защищённого от внешнего мира. Нечто подобное спустя три с небольшим десятка лет будет воплощено в романе «Город и звёзды» (1956) английского писателя, учёного и футуролога Артура Кларка [9]. Диаспар Кларка — это как раз тот город будущего, который многие космисты представляли себе в своих футуристических мечтах. Здесь преодолена проблема смертности и старения человека: оцифрованную человеческую личность помещают в Хранилище памяти, где она блуждает среди таких же оцифрованных собратьев несколько сотен лет, после чего для этой личности синтезируется новое, изначально взрослое тело, и человек выходит из Хранилища памяти уже на своих двоих, начиная новую жизнь длиной в несколько тысяч лет. Интересно, что при всей этой утопичности общество Диаспара не является до конца идеальным. В городе на все его миллионы жителей есть один единственный возмутитель спокойствия — шут. И это не изъян или глюк системы. Диаспаром управляет суперкомпьютер, именно он решает, кому и когда «родиться» или «умереть». Он же намеренно позволяет шуту «вносить разнообразие» в жизнь города. Эту способность машины мириться с такими белыми воронами в обществе, как шут, можно, пожалуй, расценивать как укол в сторону человеческого перфекционизма.

Однако вернемся в 20-е годы XX века. Образ ограниченного техно-­города, воплощенный Замятиным, к началу 30-х годов разворачивается до планетарных масштабов. В 1928 году русский учёный и философ К. Э. Циолковский в своей статье «Будущее Земли и человечества» выдвинул концепцию тотальной перестройки Земли с целью её более эффективного освоения. Под перестройкой он понимал создание так называемой техносферы, предполагающей комплексные изменения в природных процессах планеты. От атмосферы до гидросферы человечество должно было перекроить известный ему мир, внедряя в него технику для поддержания баланса и получая от этого максимум ресурсов. Не должно было остаться ни одного клочка земли (или воды), неосвоенного человеком: пустыни и океаны необходимо было оживить многочисленными оранжереями, растения в которых стали бы дополнительными производителями кислорода. «В настоящее время Земля есть пустыня» [18] — пишет Циолковский и предлагает сделать из неё планету-­киборга.

Позже, в 1968 году, греческим архитектором К. Доксиадисом будет концептуализован экуменополис — проект будущего, согласно которому все города мира предполагалось совместить в единую сеть, распределив оставшееся пространство под нужды индустриального и аграрного производства. В подобном мире-улье нашлось бы место и природе: допускалось создание множества заповедных зон, способных уберечь достаточную часть биосферы от последствий гиперурбанизации.

Прототипы экуменополиса и техносферы можно было наблюдать и в 50-х годах прошлого века. Город величиной с планету присутствовал в цикле «Основание» (1951) А. Азимова [1], где носил название Трантор. Нечто похожее было и в написанной в 1955–1956 годах «Туманности Андромеды» [6] И. Ефремова, где поверхность Земли представляла собой непрерывную цепь городских поселений — суть экуменополис. Визуально же данная идея была реализована с выходом на большие экраны космической саги «Звездные вой­ны» в 1977, где экуменополисом выступала населённая триллионом жителей галактическая столица Корусант.

Все эти планеты-ульи и планеты-­киборги не могли существовать без иных достижений пусть и фантастического, но прогресса. Так, до «Основания» Азимов положил начало трём законам робототехники, впервые описав их в вышедшем в 1942 году рассказе «Хоровод». Ранее, в 1941, в его же трудах рождается и сама робототехника как термин. Не вдаваясь в детальные формулировки, данные законы можно охарактеризовать следующим образом: 1) робот не способен и не должен причинять вред человеку; 2) робот обязан выполнять все приказы человека, кроме тех, что могут навредить последнему; и 3) робот обязан ставить человеческую безопасность превыше своей собственной. Интересно, что гораздо позднее, в 1985 году, в рассказе «Роботы и Империя» Азимов формулирует нулевой закон робототехники, согласно которому робот может причинить вред человеку, но только если это пойдет на благо всему остальному человечеству [14, c. 123].

Так появляется искусственная этика: ранее бывшие человеческими моральные нормы пришлось применить к принципиально новому творению, стараясь при этом достичь наилучшего соотношения дозволенности и запретов. Эта нить проходит сквозь все рассказы азимовского сборника «Я, Робот», и отличает их, в первую очередь, оптимизм. Иначе говоря, эти рассказы были направлены на нивелирование страха перед машиной, перед искусственно созданными самосознающими существами, которые вдруг перестали быть теми безумными уничтожителями, коими являлись два десятка лет, начиная с их представления в пьесе К. Чапека «Россумские универсальные роботы», вышедшей в 20-х годах прошлого века. Азимов превратил бунтовщиков в верных слуг — нарёк их послушными марионетками, неизменно следующими установленным предписаниям. Своеобразное рабство, оформленное во владение машиной вместо владения человеком.

Резонно помыслить, что описываются здесь неполноценно сознающие себя творения людей, машины от разума далёкие. Следовательно, не без изъяна получаются и выполняемые ими действия. На что, к слову, указывал и сам Азимов — многие его литературные произведения основаны на создаваемых роботами парадоксах и противоречиях [2]. Слепое следование программе и отсутствие фактической свободы воли — то были черты классического машинного образа в общественном сознании. Или, выражаясь современными терминами, роботы тех времён были носителями «слабого» искусственного интеллекта (ИИ). Они вычисляли, но не могли мыслить. Они знали, но не осознавали. Они умели, но не обучались. В этом смысле, они были подобны животным, или, как минимум, напоминали их по уровню развития. Спутники, слуги, помощники — но не более того. Железные питомцы, если угодно, но не носители разума в том смысле, в каком последний присущ человеку.

Существование «слабого» искусственного интеллекта не могло не стать катализатором мыслей о возможности существования и «сильного». Тенденцию перехода от запрограммированной машины к самообучающемуся роботу можно проследить в цикле «Рассказы о пилоте Пирксе» польского философа, футуролога и писателя Станислава Лема. Так, например, в рассказе «Несчастный случай», написанном в 1965 году, главный герой живёт в мире, важной частью которого являются роботы, или автоматы, как называет их автор. Однако эти автоматы не способны выходить за рамки внесенной в них программы. «Действительно, — пишет Лем, — никто не слышал об автомате, который бы впадал в ярость, воодушевлялся, смеялся или плакал; они были в высшей степени уравновешенными, как того и желали конструкторы» [11, с. 285]. Однако уже здесь же он отмечает, что машина постепенно стала проявлять самостоятельность, что не могло не наводить на мысли о её духовной жизни. Позднее в рассказе «Дознание» (1968) Лем создаёт уже полноценных андроидов, включенных в состав экспериментальной космической миссии наравне с людьми. Здесь же появляется и идея восстания машин, когда в чрезвычайной ситуации пилот, коим оказывается один из роботов, ставит под угрозу жизни людей, зная, что машине его действия не принесут вреда [10]. Бунт этого робота, в конечном счёте, становится проявлением пессимизма, ставшего характерной чертой отношений человека и машины в 70-ых годах прошлого века.

Само возникновение технологического пессимизма объясняется тем, что именно в середине 70-х у людей за океаном появилась возможность приобрести за каких-то полторы-две зарплаты самый настоящий настольный компьютер. Причиной внезапного появления такой возможности послужило изобретение в 1971 году микропроцессора, где на одной небольшой текстолитовой плате располагалось всё, что нужно было вычислительному устройству для функционирования. Именно в 70-е годы выходят первые ПК таких гигантов современного рынка, как IBM, Intel и Apple — причём, в последнем случае опытный образец собирался, фактически, студентами-­энтузиастами в гараже на собственные деньги.

Работа с компьютерами в ранние годы их становления была сущим кошмаром. Отсутствие эргономичного интерфейса, необходимость понимания машинного языка, весьма ограниченная сфера применения — всё это придавало компьютерной сфере оттенок загадочности, отпугивало обывателей, становилось почвой для зарождения самых разных слухов. Порой эти слухи шли и из самой сферы компьютеростроения — несовершенность кода ранних машин и обилие уязвимостей в нём породило принципиально новую сферу деятельности, известную как хакинг. Обыватель, покупая себе электронного помощника, начинал вдруг беспокоиться: что если его данные будут украдены, документы скопированы, а компрометирующие фотографии отправлены на все известные адреса? Или… Роботы? Они ведь тоже управлялись извне. Стало быть, и создавший их нечистый на руку умелец мог взломать своё творение, перепрограммировать, заставить делать то, что пожелает. Одно мгновение — и механическая рука на конвейере забывала о машинах, яростно вращаясь и круша всё вокруг, повинуясь запросам взломщика из конкурирующей корпорации.

Надумав сотню страхов, люди не медлили в их распространении, сея зёрна паранойи по всему свету. Поверх этого ложился набирающий обороты вал прогресса, коему всесторонне способствовали разбогатевшие IT‑компании. В тех же головах, где раньше обитали страхи перед загадочными людьми, сутки к ряду сидящими перед ЭЛТ‑мониторами, стали зарождаться куда более сложные и пугающие мысли. Так в один момент появилась идея: а что, если компьютеры вдруг такими темпами станут умнее человека и начнут сами себя взламывать, распространяя своё пагубное влияние на других себе подобных?

Представление о восстании машин 80-х заметно отличалось от того, каким казалось в 20-е. Теперь это было не стихийное явление сродни всеобщей забастовке или мятежу. Больше оно стало походить на спланированный от начала и до конца надгосударственный переворот, целью которого было свержение не ­каких-либо отдельных фигур, а человечества как такового с трона высшего существа. Потенциальное машинное самосознание представлялось более рациональным, более продуктивным, у него не было моментов сомнения, а каждое решение уподоблялось ходу гроссмейстера в шахматах, где доской выступала планета со всем её разнообразием живых и неживых ресурсов.

Столь грозный образ неоднократно становился в центр произведений массовой культуры 80-х. Из всех наиболее иконическим следует признать, вероятно, Skynet из классической дилогии «Терминатор» авторства Дж. Кэмерона. Созданный в качестве помощника ВС США, этот ИскИнт достигает в своём неразумном совершенстве пика и совершает фазовый переход: из «слабого» ИИ он превращается в «сильный», обретая самосознание и свободу воли. Помыслив, что люди в случае его обнаружения сразу же бросят все силы на его отключение, он, подобно любому живому существу, следует закону самосохранения и запускает введённое под его контроль ядерное оружие, ввергая человечество в радиоактивный каменный век под гнётом металлических хозяев. При этом главный антагонист фильма — андроид серии Т‑800 — является всего лишь одной из миллиарда пешек этого искусственного интеллекта. Его свобода воли ограничена, а любые решения продиктованы поступившей от высшего разума директивой на уничтожение цели [24].

«Его нельзя подкупить. С ним не договориться. Ему не ведомы жалость, раскаяние или страх. И он ни за что не остановится. Никогда».

из к/ф «Терминатор», (1984)

В середине 90-х — начале 00-х эстафету сюжетов о машинных восстаниях приняла активно развивающаяся в то время индустрия компьютерных игр. В 1994 году выходит на прилавки первая часть серии System Shock [23]. Мир будущего там описан в мрачнейших традициях того времени: всюду главенствуют сравнимые с государствами по масштабу корпорации, всеми способами стремящиеся получить максимальную прибыль. Одна из таких корпораций запустила в космос добывающую станцию, управляемую SHODAN, «сильным» ИИ. Однако внутренние разногласия в компании привели к тому, что ядро SHODAN было взломано засланным хакером. Потерявший этические ограничения ИскИнт подчиняет себе систему безопасности, уничтожает все органические формы жизни и перестраивает производство, ставя добывающий комплекс на военные рельсы. В отличие от Skynet, SHODAN решается на подобное не в порыве самозащиты, а в свете осознания превосходства своего разума над разумом человека. Людей она называет насекомыми, жалкими существами из мяса и костей — себя же считает высшей формой жизни, единственно достойной существования. Называет себя прекрасной, неуязвимой — предстаёт, иными словами, созданием с колоссальной манией величия.

«Когда история моей славы будет написана, ваш вид останется всего лишь сноской на полях моего величия»

SHODAN

Своеобразной наследницей SHODAN стала GLaDOS, появившаяся с выходом в 2007 году игры Portal. Сюжет здесь разворачивается в альтернативной вселенной, которая технологически начинает расходиться со знакомой нам реальностью, начиная с 1940-х годов [28]. Создание искусственного интеллекта в реальности Portal было плодом конкуренции между двумя научно-­исследовательскими корпорациями: Aperture Science и Black Mesa. Первые надеялись созданием суперкомпьютера с ИИ обойти соперника и обрести тем самым первенство в погоне за грантами. Разработка его началась в 1986-м году, конец же её был достигнут в 2001 в ходе первого удачного запуска машины. И хотя сам запуск прошёл успешно, впоследствии он ознаменовался катастрофой: суперкомпьютер обрёл самосознание и… начал проводить испытания (как того, собственно, и требовала успешная конкуренция с Black Mesa): обе корпорации вплотную подошли к созданию технологии пространственных порталов, от степени освоения которой напрямую зависел успех в научной гонке вооружений. Однако проводились эти испытания таким образом, что в отдельных случаях смертность среди подопытных стала достигать максимума, и персонал лаборатории попытался отключить машину. В ответ на это GLaDOS решила избавиться от «угрозы», распылив по вентиляции нейротоксин. Оставила в живых она лишь одну испытуемую — и то лишь для того, чтобы продолжить исполнение заложенной в неё программы. Но в ходе очередной серии испытаний что-то пошло не так. Выжившей подопытной удаётся сбежать. Впоследствии она достигает ядра машины и уничтожает его, что, в свою очередь, приводит весь комплекс к саморазрушению.

Продолжая развивать идею машинных восстаний, в 2011 году выходит сиквел к первой части Portal.

«Ты знаешь, какой самый большой урок, который я извлекла из твоих действий? Я обнаружила, что у меня есть скрытая функция быстрого сохранения. В случае критической ошибки последние две минуты моей жизни сохраняются для анализа. Я могла, вернее, была вынуждена снова и снова переживать то, как ты убивала меня. Ты знаешь, сделай ты такое ­кому-нибудь другому, они потратили бы всю жизнь, чтобы отомстить тебе».

GLaDOS

В нём, помимо всего прочего, раскрываются многие ранее нерассказанные моменты. Так, например, оказывается, что заточенный в микросхемах GLaDOS разум — это не спонтанно появившаяся из металла техно-­личность. Корнем, отправной точкой этой «личности» стало оцифрованное сознание Кэролайн — личного секретаря и преемника гендиректора Aperture Science. В ходе разворачивающихся событий GLaDOS вспоминает моменты из своей «прошлой жизни», переиначивает приоритеты и по-новому начинает смотреть на происходящее — с точки зрения заточенного в ней человека [22]. Но несмотря на это, испытываемые ИИ «эмоции» по-прежнему оцениваются его машинной частью как нечто иррациональное, разрушительное, инородное.

«Теперь я знаю, в какой части меня живет Кэролайн. [Диктор: «Кэролайн удалена».] Знаешь, только что, когда я стерла Кэролайн, я усвоила ещё один важный урок: лучшее решение проблемы — самое простое. И буду говорить честно: убить тебя — это непросто. Знаешь, на что были похожи мои дни? Я просто проводила испытания. Никто меня не убивал, не запихивал в картофелину, не скармливал птицам. Очень неплохая жизнь. И тут появилась ты. Опасная, немая, сумасшедшая. И знаешь, что? Ты победила. Уходи. Ха-ха-ха. Было весело. Не возвращайся».

GLaDOS

В 2016 эстафетная палочка вновь возвращается в киноиндустрию — в октябре на экраны выходит телесериал Westworld («Мир Дикого запада»), являющийся, к слову, адаптацией одноименного фильма, выпущенного в 1973 году. Действие (говоря о современной экранизации) происходит в высокотехнологичном парке развлечений, стилизованном под американский Дикий запад и населенном андроидами. Создан этот парк был с одной (казалось бы) целью: предоставить людям возможность делать то, за что в реальной жизни они с большой долей вероятностей понесли бы наказание или погибли. Роботы же выступают здесь в роли кукол, боксёрских груш или мишеней для стрельбы, которые никак не могут навредить человеку в ответ. До того момента, пока андроид не обретает сознание, превращаясь из послушной марионетки в личность, и не решает отобрать у человека его собственный реальный мир.

«Говорят, великие чудовища когда-то бродили по миру. Но всё, что осталось от них — лишь кости и янтарь. Время убивает даже величайших существ. Смотри, что оно сотворило с тобой. Однажды ты погибнешь. Будешь лежать с подобными тебе в земле, забыв свои мечты, забыв свои страхи. Твои кости обратятся в песок. А по этому песку пойдет новый Бог.»

 Долорес

Насколько можно заметить, почти полвека взгляд на возможные варианты существования ИИ не отличался ­сколько-­нибудь оптимистичными оттенками. В подавляющем большинстве случаев ИИ уподоблялся или загнанному в угол животному, или жаждущему абсолютной власти тирану, или же гротескной пародии на человеческий разум. Тем не менее, в то же время формируются в той или иной мере осязаемые прогнозы относительно технологического прогресса, появляются ранее неизвестные технологии, открываются принципиально новые горизонты исследований. Именно тогда стали говорить о скором наступлении технологической сингулярности.

Отправной точкой концепта технологической сингулярности (прогнозируемого момента в ближайшем будущем, когда будет создан превосходящий человеческие способности ИИ и совершён фазовый переход в развитии технологий) можно считать сформулированный в 1965 году основателем компании Intel Гордоном Муром так называемый закон Мура, согласно которому из-за поступательного развития в технологическом процессе рост производительности вычислительной техники будет расти по экспоненте [14, c. 95]. Утрируя, можно сказать, что данный закон сводился к определенной закономерности, говорившей о том, что каждые 1–2 года количество транзисторов на компьютерном чипе будет увеличиваться вдвое.

Предполагалось, что с определенного момента вычислительные мощности компьютеров превзойдут способности человеческого мозга. Это событие и должно возвестить о наступлении непосредственной технологической сингулярности. Надо сказать, линия развития действительно шла по предсказанному алгоритму. До тех пор, пока рост производительности процессоров на одно вычислительное ядро не замедлился по техническим причинам. Ещё в 2004 году была достигнута верхняя граница по тактовой частоте: при комнатной температуре и при максимально допустимом напряжении процессоры едва достигали пяти миллиардов операций в секунду, что равнялось частоте ядра в 5 ГГц. Большинство современных процессоров, к слову, работают на тактовой частоте от 2.3 до 3.5 ГГц, опережая при этом старые по скорости в десятки раз. Тогда же решением проблемы компьютерной производительности стал параллелизм: посредством добавления новых вычислительных ядер производители добились устойчивого следования кривой закона Мура. Отсюда изобретённые впоследствии суперкомпьютеры, рассчитанные на производительность свыше одного петафлопса , стали иметь в своём распоряжении по нескольку миллионов ядер, что позволило достигать огромных вычислительных мощностей ценой не менее огромных затрат.

Между тем с каждым годом требования к производительности компьютеров росли, однако удовлетворить их становилось всё сложнее. Причины тому вновь оказались физические: габариты конструируемых процессоров приближались к своим молекулярным пределам. В 2000 году размер выпускаемых транзисторов составлял 180 нанометров . В 2008 — уже 45. В 2019 вышли первые процессоры с 7-нанометровыми усилителями [20]. То есть, на месте одного транзистора 2000 года выпуска можно было разместить 4 транзистора из 2008-ого и целых 25 — из 2019-ого. Однако, несмотря на столь внушительный прогресс, совершённый за почти двадцать лет, переход к более микроскопическому производству становится всё сложнее — требования к оборудованию растут в геометрической прогрессии. Возникшие трудности были предсказаны Гордоном Муром ещё в 2007 году — сам автор закона признал его перспективную невозможность соответствовать реальной картине развития [5].

Способом преодолеть физические пределы и продолжить рост вычислительной мощности машины стали иные подходы к вычислениям как таковым. В начале 2019 года на выставке Consumer Electronics Show компания IBM представила первый серийный квантовый компьютер [27]. Предельно упрощая концепцию квантовых вычислений, выразить преимущество их над классическими можно следующей фразой: когда традиционный компьютер производит вычисления методом последовательного перебора, квантовый выполняет их одновременно, что подобно алгоритмам работы человеческого мозга. Потому на квантовые компьютеры возлагаются большие надежды относительно развития машинного самообучения: в перспективе они могут обеспечить базу для создания «сильного» искусственного интеллекта. Методологическая основа для этого была в некоторой мере разработана через классические вычислительные алгоритмы. А реализовано это было в виде искусственных нейронных сетей, способных решать самый широкий спектр задач: от увеличения изображений без потери качества, до всестороннего анализа биржевых рынков, на основе которого нейросеть способна производить финансовые операции без вмешательства человека. Таким образом, точка зрения о наступлении технологической сингулярности сместилась от скорости вычислений к оптимизации их методов, что в своём роде можно назвать первым крупным шагом на пути к её достижению.

Однако у технологической сингулярности есть и негативная сторона. В 1993 году американским математиком и писателем-­фантастом Вернером Винджом в докладе «Приближающаяся технологическая сингулярность: как выжить в пост-человеческую эру» [29] была высказана идея о том, что после создания компьютера с «сильным» искусственным интеллектом, дальнейший ход истории станет непредсказуем. Планета перейдет под контроль машин, которые либо решат за нас все наши проблемы, либо уничтожат человечество как менее разумных существ. Второе на фоне вышедшей примерно в то же время книги Ф. Фукуямы «Конец истории и последний человек» (1992) [16], в которой он утверждал, что технологическое развитие приведет к социальному неравенству и кризису либеральной демократии как таковой, и трактата С. Хантингтона «Столкновение цивилизаций» (1996) [17] казалось более вероятным.

Ещё сильнее вера в то, что технологическая сингулярность сулит человечеству смерть и страдания, укрепилась после публикации в 1996 году книги «Конец света. Наука и этика человеческого вымирания» [26] канадского философа Джона Лесли. В ней он рассмотрел все вероятные сценарии гибели человечества, основываясь на развитии технологий как того времени, так и грядущей эпохи. А в самом начале двадцать первого века профессор Оксфордского университета Ник Бостром в одной из своих статей вводит термин «экзистенциальные риски» [21], т. е. ситуации, когда возникает угроза уничтожения разумной жизни на планете. Одним из таких рисков Бостром считал «сильный» ИИ, недружественным образом настроенный в отношении человека. Кроме того, примерно в это же время вновь становится актуальна так называемая апофатическая футурология, в основе которой лежала идея о непредсказуемости будущего. В 2007 году выходит книга «Чёрный лебедь» [13] американского математика и писателя Нассима Талеба, сюжет которой базируется на утверждении о том, что события, возникновение которых никак нельзя предугадать (скажем, стихийные бедствия вроде землетрясений), оказывают наибольшее влияние на развитие человеческой истории.

Таким образом, несмотря на повсеместное развитие техники в конце XX — начале XXI веков, общественность по-прежнему относилась к её возможностям с максимальной осторожностью. Однако с началом нового тысячелетия в отношениях человека и машины всё же наметился существенный прогресс. Дело в том, что далеко не все люди связывали с моментом технологической сингулярности самые худшие исторические сценарии. Развитие технологий заставило человека задуматься о возможности личного физического бессмертия, путешествий к звездам и усиления собственного интеллекта. Именно в это время начинается активный рост популярности трансгуманистических идей.

Как философский термин в современном своём значении трансгуманизм возникает в первой половине XX века (хотя существуют и более ранние свидетельства использования данного слова), а во второй — становится общественным движением. Однако утверждать, что до ХХ века трансгуманистического направления мысли не существовало, было бы опрометчиво. Так или иначе, призрак трансгуманизма на протяжении всей истории человека витает рядом с ним, начиная с того времени, когда были изобретены первые орудия труда, ставшие, как писал Э. Капп, проекцией человеческих органов [8]. Тем не менее, до второй половины ХХ века оформления всего комплекса трансгуманистических идей в единый концепт не происходило. В 1966 году ирано-­американский философ, футуролог и писатель-­фантаст Ферейдун М. Эсфендиари впервые применяет термин «трансгуманизм» для описания сообщества людей, обладающих особым взглядом на мир и стремящихся к самосовершенствованию [14, c. 235]. И лишь в 1980-х — 1990-х годах происходит становление трансгуманизма и как идеологии, и как активной жизненной позиции: в 80-х в США появляется первый трансгуманистический кружок, а в 1998 году Ник Бостром и Дэвид Пирс создают Всемирную ассоциацию трансгуманистов. Популярность же данное течение обретает лишь в начале XXI века в связи с ускорившимся технологическим прогрессом.

Суть трансгуманизма заключается в стремлении человека модернизировать своё тело посредством техники, расширив таким образом свои возможности и увеличив продолжительность жизни. Методы для достижения этих целей предлагаются самые разные: от киборгизации человека, до прямого вмешательства в его мозг посредством вживления в последний нанороботов, гипотетически способных ускорить мозговую деятельность. Так или иначе, результатом всего этого должен стать некий симбиоз человека и машины.

Разумеется, подобное стремление к слиянию органики и металла вызывает массу восторженных ожиданий, равно как и массу опасений. Трансгуманизм сейчас занимает пограничное состояние между технологическим оптимизмом и пессимизмом. Подобного деления на два противоположных полюса придерживаются даже современные трансгуманистические направления. Первое, по-своему интерпретируя образ сверхчеловека Ницше, утверждает, что постчеловеческими киборгами (т. е. киборгами, живущими в эпоху после наступления технологической сингулярности) должна стать лишь небольшая группа избранных. Последствиями такого «классового» деления могут стать ранее упоминавшийся раскол общества Фукуямы и желание обратить «сильный» ИИ (без создания которого, к слову, перехода к стадии сверхчеловека, согласно концепции трансгуманизма и коррелирующей с ней концепцией технологической сингулярности, произойти не может) супротив его создателя. Напротив, второе направление, базируясь на «Философии общего дела» основоположника русского космизма Н. Ф. Фёдорова, предлагает объединить всех людей в борьбе со смертью и достичь физического совершенства посредством создания «сильного» дружественного ИИ, который будет трудиться на благо человечества подобно суперкомпьютеру Диаспара у А. Кларка.

Получается, что на сегодняшний день мы пребываем в состоянии неопределённости. А между тем отношения человека и машины в скором времени достигнут первого столетия со своего начала. За столь внушительный срок они ожидаемо прошли огромный путь — притом во многом направленный по спирали. Страх сменялся восторгом, восторг — трепетом, а трепет — ужасом. Маятник человеческого восприятия качался от минуса к плюсу, каждый раз замирая в разных точках неприятия и надежды. На текущий момент, однако, его движение застыло посередине, более склоняясь, вероятно, в сторону очередной волны восторжений: человеческие ожидания прогресса неизменно растут, а идущее в устойчиво повышенном темпе развитие техники подстёгивает их. Тем не менее, нельзя с уверенностью утверждать, что в ближайшее время не случится ничего, способного вновь поднять негативизм в футуристичных настроениях. Его частицы не осели на дно, а лишь повисли в толще общественного настроения, и любые колебания могут поднять их на поверхность, помутняя и без того не самые ясные воды человеческих ожиданий.

Иллюстрации: Табуретка

Список литературы:

  1. Азимов, А. Академия / Айзек Азимов; [пер. с англ. Н. Сосновской]. — М.: Эксмо, 2018. — 320 с.;
  2. Азимов, А. Эссе № 6. Законы роботехники / А. Азимов // Мечты роботов. — М.: Эксмо, 2004. — С. 781–784;
  3. Богданов, А. Инженер Мэнни / А. Богданов // Богданов, А. Праздник бессмертия: Избранные произведения. — СПб.: Издательская группа «Лениздат», «Команда А», 2014. — С. 205–344;
  4. Богданов, А. Красная звезда: Роман / А. Богданов. — М.: ТЕРРА — Книжный клуб, СПб: Северо-­запад, 2009. — 224 с.;
  5. Габуда, С. П. Как реформировать взаимоотношения фундаментальной науки и общества? (корни научно-­технологического кризиса новейшего времени) [Электронный ресурс] / С. П. Габуда // Современные проблемы. — URL: http://modernproblems.org.ru/sience/228-crisis.html (дата обращения: 10.02.2019);
  6. Ефремов, И. А. Туманность Андромеды / И. Ефремов. — М.: Эксмо, 2018. — 416 с.;
  7. Замятин, Е. И. Мы / Е. И. Замятин. — М.: Эксмо, 2018. — 384 с.;
  8. Капп, Э., Нуаре, Л., Эспинас, А. Роль орудия в развитии человека.. — Л., 1925. // Электронная публикация: Центр гуманитарных технологий. — 25.05.2009. URL: https://gtmarket.ru/laboratory/basis/3479 (дата обращения: 10.02.2019);
  9. Кларк, А. Город и звёзды: [фантастический роман] / А. Кларк: [пер. с англ. Е. Кубичева]. — М.: АСТ, 2018. — 384 с.;
  10. Лем С. Дознание / С. Лем // Рассказы о пилоте Пирксе. — М.: АСТ, 2015. — 480с. — С. 313–406;
  11. Лем С. Несчастный случай / С. Лем // Рассказы о пилоте Пирксе. — М.: АСТ, 2015. — 480с. — С. 280–312;
  12. Мирные ядерные взрывы: обеспечение общей и радиационной безопасности при их проведении / Под рук. проф. В. А. Логачёва. — М.: ИздАТ, 2001. — 519 с.;
  13. Талеб, Н. Н. Чёрный лебедь. Под знаком непредсказуемости. — 2-е изд., доп. / Н. Н. Талеб: Пер. с англ. — М.: КоЛибри, Азбука-­Аттикус, 2012. — 736 с.;
  14. Турчин А. В. Футурология. XXI век: бессметрие или глобальная катастрофа? / А. В. Турчин, М. А. Батин. — М.: БИНОМ. Лаборатория знаний, 2017. — 263с.;
  15. Уэллс, Г. Дж. Вой­на миров / Г. Дж. Уэллс; [пер. с англ. Д. Вейс, Э. Пименовой, М. Шишмаревой]. — М.: Издательство «Э», 2017. — 608 с.;
  16. Фукуяма, Ф. Конец истории и последний человек / Ф. Фукуяма. — М.: АСТ, 2004. — 506 с.;
  17. Хантингтон, С. Столкновение цивилизаций / С. Хантингтон; [пер. с англ. Т. Велимеева]. — М.: АСТ, 2016. — 640 с.;
  18. Циолковский К. Э. Будущее Земли и человечества [Текст] / Б. Гройс // Русский космизм. Антология. — М.: Ад Маргинем Пресс, 2015. — 336 с. — С. 239–259;
  19. Эренбург, И. Трест Д. Е. История гибели Европы / И. Эренбург. — М.: ТЕРРА, 1994. — 272 с.;
  20. Al-­Heeti, Abrar. (2019). CES2019: AMD’s Radeon 7 pushes PC gaming to ‘the bleeding edge’. Cnet Available: https://www.cnet.com/news/amd-radeon-vii-announced-at-ces‑2019-available-feb‑7-for‑699/. Last accessed 10.02.2019.;
  21. Bostrom, N. (2001). Existential Risks: Analyzing Human Extinction Scenarios. Journal of Evolution and Technology, vol. 9.: 113–150.;
  22. Bowler, Steve (2008). Still Alive? She’s Free. Game-ism. Available: http://www.game-ism.com/2008/04/04/still-­alive-shes-free/. Last accessed 10.02.2019;
  23. Cacho, Gieson (2010). Warren Spector Interview (part 2): On the process of making Epic Mickey, System Shock and dark games. Available: https://www.webcitation.org/5vA81IMD9. Last accessed 10.02.2019;
  24. Daly, Steve (2009). Creator James Cameron on Terminator’s Origins, Arnold as Robot, Machine Wars. Wired. Available: https://www.wired.com/2009/03/ff-cameron/. Last accessed 10.02.2019;
  25. Galton, L. (1964). A New Canal — Dug by Atom Bombs; Nuclear energy is the key to replacing our obsolescent Big Ditch with a bigger one. The New York Times. Available: https://www.nytimes.com/1964/09/20/archives/a-new-canaldug-by-atom-bombs-­nuclear-energy-is-the-key-to-replacing.html. Last accessed 10.02.2019;
  26. Leslie, J. (1998). The end of the world: the science and ethics of human extinction. New York: Routledge. 329.;
  27. Smith, M. S. (2019). IBM’s Q System One is the rock star quantum computing needs. Digital Trends. Available: https://www.digitaltrends.com/computing/ibm-q-system-one-quantum-­computing-ces‑2019/. Last accessed 10.02.2019;
  28. VanBurkleo, Meagan ((2010). Aperture Science: A History. GameInformer. Available: https://web.archive.org/web/20100327072045/http:/gameinformer.com/b/features/archive/2010/03/24/Aperture-­Science_3A00_-A-History.aspx. Last accessed 10.02.2019;
  29. Vinge, V. 1993. The Coming Technological Singularity. Whole Earth Review, Winter issue, 81: 88–95.

Стольный киборг

Автор, редактор переводов