Антиутопии с искусственным интеллектом

Антиутопий, посвященных обществу, в котором власть захватили машины (искусственный интеллект, роботы, киберы и т.д.), такое множество, что сразу возникает недоверие: а почему машины непременно должны быть злее нынешних воротил? Может, как раз ничего страшного и не будет, а подобного рода антиутопии просто выполняют социальный заказ?
Запугивание эрой машин началось с драмы К. Чапека “Расумовские Универсальные роботы” (1921). Эту тему развил в своем романе роман «Утопия-14» К. Воннегут, где описана цивилизация, в которой кибернетизация общественного производства привела к господству автоматов и думающих машин над людьми, к абсурду ненужности самого человечества. Да, собственно, почти все фантасты так или иначе касались этой темы.
Ныне всем нам хорошо знакомы американские фильмы-антиутопии “Терминатор” (1985), “Судья Дрэд” (1995), “Машина смерти” (1994), “Матрица”, “Дознание пилота Пирса” (Польша, 1977), “Лекс” (2000), «Тринадцатый этаж», где роль стражей цивилизации отведена мыслящим машинам - роботам, которые взбунтовались против своего творца (повторение библейского бунта) и либо создали свою машинную цивилизацию, враждебную человеку, либо ограничились одиночным бунтом. Именно в таком, эсхатологическом ключе видится многим фантастам проблема искусственного интеллекта со всеми ее опасными последствиями. [2]
Возникает парадоксальная ситуация: человек отчаянно боится механического двойника и в то же время усиленно создает его. Между тем преимущество механических стражей очевидна: они глухи к проблемам власти, славы и денег, следовательно, их нельзя “купить”; четки в выполнении и застрахованы от случайных или намеренных ошибок; более быстры в анализе ситуации и выборе действий; максимально объективны, неподкупны, умны, способны к обучению, беспристрастны, логичны, долговечны, бесстрашны, надежны, им не нужны меры наказания за нарушение закона, который служит основой их программ, и т.д. Можно сразу отметить и очевидные недостатки: зависание в ситуации размытой неопределенности, возможность сбоя (хотя его можно отнести к разряду “болезней”, которым подлежит и человек, например, заражение вирусом, потеря памяти и т.д.); неприспособленность к выполнению незапрограммированных физических действий (задержка преступника, оперативный поиск, непредусмотренная ситуация) и, в конце концов, прогнозируемая учеными и угрожающaя катастрофическими последствиями возможность выхода из-под контроля. Именно последний момент был долгое время причиной запрета создания программы искусственного интеллекта Римским клубом. Мыслящая машина, искусственно созданный (пусть и с добрыми намерениями) интеллект воображается непременно бездушной, глубоко антигуманной сущностью. А право его создания отрицается как покушение на права Бога, единственно которому принадлежит прерогатива и функция Создания.
Однако основная проблема искусственного интеллекта состоит вовсе не в технической сложности, а в возможности очеловечивания автомата и права машины на это.
Решение этой проблемы можно проследить еще в сказочных историях о Пиноккио (Буратино) – деревянной игрушке, превратившейся в конце концов в настоящего мальчика (эта тема легла в основу «Искусственного разума» Спилберга).
Страх перед машиной овладел человеком в эпоху романтизма в связи с начатой интенсивной механизацией общества, за которой не поспевало мышление. Это было время, когда заводная кукла почиталась вершинным достижением техники, и это имело смысл: техника – в идеале, в потенции – стремилась заменить человека воскресшей вещью. Это нашло отражение и в самом определении робота, появившемся в середине ХХ в.: “Робот – автомат в виде человека-куклы, управляемой телемеханически».
В наше время отношение к способной мыслить машине, роботу во многом напоминает полные мистики ощущения людей эпохи романтизма.
Искусственный интеллект – робот, мыслящая машина – часто отождествляется с ожившим мертвецом, восставшим трупом, схожим с запрограммированной машиной смерти (вспомним фильмы “Совершенный солдат”, “Зомби”, “Судья Дрэдд”, “Газонокосильщик” и др.). Правда, есть и добрые машины-роботы (" Терминатор-2", " Робокоп", «Звездные войны»), но они выступают лишь как помощники, приставки, а не самостоятельные объекты. [3]
Конечно, общая компьютеризация, создание виртуальных программ, игр, сети Интернет и возможности, открывшиеся в связи с этим, существенным образом изменили отношение к способным мыслить машинам в сторону положительного, свидетельством чему есть милый искусственный мальчик Дэвид из фильма Спилберга «Искусственный разум» (2001).
Но не будем радоваться. Ведь причина этого может крыться и в ином - в жажде (осознанной или неосознанной) сопричастности к зловещим прогнозам.
Все фильмы этого плана мусируют по сути одну и ту же проблему, заключающуюся в общем виде в следующем: человечество подошло к такому рубежу, на котором оно приветствует сотворение иного античеловеческого мира, где ему как виду нет места. Более того, этот мир оно всякими способами создает. Объяснение видится в том, что люди видят в непосредственной близости не только рай, но и катастрофу, страх перед которой почти тождественен желанию ее. [4]
Этот страх-желание и отображают нынешние антиутопии.