Проблемы ИИ

Существует моральная (и не только) дилемма: если мир так устроен, что квалиа и живой разум могут существовать на любом носителе, не важно, биологическом или синтетическом, то будет существовать много стадий и много форм такой жизни, как в животном мире, можно будет создать не только сильный ИИ, что кажется благом, но и много неразумных искусственных, но чувствующих форм, в том числе и боль. То есть жизнь будет наполнять такие формы, как бы автоматически, при этом может возрасти количество зла и произвола в мире с той стороны, откуда и не ожидается традиционно. Ведь создавать «симуляцию» боли в лаборатории на неживой (небиологической!) субстанции кажется чем-то инфернальным. С другой стороны, мы уже имеем миллионы лет эволюции за плечами, и все это время жизнь, лишь двигаясь к своей «цели» – созданию человека и разума, попутно испытывала не необходимые страдания (во всяком случае теоретически не необходимые, потому что все произошедшее произошло с необходимостью, по определению).

Зачем формам, которые только лишь средство, быть живыми внутри со всеми вытекающими последствиями? И в каком-то смысле тот произвол, чинимый над ИИ, который будет доступен нашим ученым в теории, уравновешивается «естественным» произволом, если говорить как о нежелательности низших биологических форм, так и о нежелательности примитивных чувствующих искусственных форм. Во всяком случае, темпорально природа нас уже обогнала, и в связи с этим ее «естественность» не может быть сильным аргументом в решении этой дилеммы. Как все-таки устроена Вселенная? Так ли, что вся ее материя – это как «песок, на котором можно рисовать что угодно», то есть она вся «потенциально» живая, или же есть какие-то ограничения и мы не сможем воссоздать разум и чувствующие формы, просто повторив в неживой материи некие информационные процессы? Более того, если мы создадим ИИ, отличающийся от нас, каково это быть им? Насколько широк спектр квалиа вообще?

Многие ломают голову над возможностью создания разумной железяки, а что если это будет железяка, способная чувствовать боль? Разве это не дикость? Соберет некий ученый на скорую руку в лаборатории микросхемы и создаст симуляцию «горение заживо», создав, таким образом, вечный ад для...просто «куска железа», не слишком ли много произвола тут? Вот сюжет для научно-популярной фантастики: ученый случайно воссоздаст структуру агонирующей боли в лаборатории, но начнется заварушка и персонал погибает, лабораторию катаклизмом изолирует от внешнего мира (или дело может быть на отдаленной планете), а оборудование продолжит работу, так как подключено к долгоиграющему источнику питания, - вот вам и «цель Вселенной» - создать ад, длинною в миллионы лет.

Более того, если верить в инвариантность носителя сознания, тогда получается, что какое-нибудь расположение планет во Вселенной (или какое-то более тонкое взаимодействие астрономических объектов) своим движением создает ощущение боли. Это очень, очень странно! Хотя это и маловероятно, но все же - одно дело разводить бактерии в чашке Петри, а другое – «разводить» агонию. Как бы эта дилемма ни разрешалась, надо, однако, придерживаться аксиомы, что «бытие», в самом широко смысле этого слова, не может само себя «загнать» в такие условия, на которые оно само не было бы «согласно» изначально.

Кто «писал» законы Вселенной? Мы неотделимы от своих законов, они - не что-то внешнее по отношению к нам, они и есть мы, поэтому согласно этим законам не может произойти то, чего бы мы не хотели, не с позиции обывателя, а с точки зрения «мирового субъекта». Другими словами, если бы нам удалось узнать «как оно все работает», то мы бы пришли к выводу, что по-другому и быть не могло и быть не может.

Только представьте, как много вариантов для ада в этой жизни, и как мало для счастья. Есть явная асимметрия между болью и удовольствием. Чтобы получить кайф, нужны десятки факторов вместе - крепкое здоровье, красивое тело, такое же второе красивое тело. Оргазм длится 10 секунд - вот и весь экстаз, но сравним ли самый сильный оргазм «по модулю» с ощущением, скажем, дробящего удара молота в область коленного сустава? Тут разрыв просто огроменнейший. Не похоже, что мы живем для «радости». Эволюции «важнее» было сделать сигнальную систему боли для выживания, а об удовольствии она не позаботилась, его как бы по минимуму. Даже не так, животными (и нами) движет страсть, желание, а это боль, негативное переживание, мы хотим при влечении избавиться от боли, а удовольствия получаем самую малость, быть можем оно заключается в самом факте «снятия напряжения» на 90%, как при обильной рвоте, а остальные 10% - это уже что-то «положительно», выброс эндорфинов и т.п.

В самом мозге, если «разогнать» его по полной в плане удовольствия, мы быстро упремся в потолок, потому что он так спроектирован, что в нем нет глубины для кайфа. Вот аналогия: наш мозг - это комната 3 метра высотой, а мы сами ростом 1.5 метра - это естественно доступная радость, если «разогнать» мозг, став на стремянку в этой комнате, упремся в потолок и получим вдвое больше радости. Однако у этой комнаты есть еще шахта глубиной 100 метров – это боль и страдания, которые доступны уже сейчас безо всякого «разгона».

Вопрос - как сделать «больше» удовольствия, чем позволяет мозг сам по себе? Возможно ли это в этом мире? Каков спектр квалиа в этом отношении? Он равен по модулю возможной боли? Напрашивается вывод, что он должен быть хотя бы, в принципе, быть равным, как заряд у протона и электрона. Но вопрос в том, реально ли это в нашем мире. Или для этого есть другие миры?

Со стороны боль и удовольствие на процессах в нейронах выглядят примерно одинаково - как некий «взрыв» потенциалов действия, отличие в том, где такой взрыв происходит, если он, грубо говоря, происходит на структурах под названием «центр удовольствия» - тогда это приятно, если в структурах, отвечающих за восприятие и моделирование боли - тогда неприятно. Понятно, что все не так просто, помимо прочего тут еще участвуют разные нейромедиаторы и т.д. Может быть, я ошибаюсь, поспешно делая заявление, что «боль и удовольствие объективно похожие процессы», отличающиеся с точки зрения нейронных процессов только местом протекания, то есть тем «ярлыком», который к разным местам мозга мы прикрепляем, заранее зная субъективно, когда кому-то больно, а когда приятно. Может быть, все сложнее и, заимствуя терминологию из эзотерики, боль – это «низкочастотные вибрации», а удовольствие – «высокочастотные вибрации», а нейрокорреляты отличаются сами по себе, а значит и их воссоздание на искусственном носителе породит тот же эффект. Но что, если это не так? Что, если окажется, что на самом деле должно быть заранее, a priori, определено, где именно будет центр удовольствия и где именно будет центр боли. Но как сделать на базе микросхем «центр удовольствия», с какой стати он должен им быть? Это будет микросхема, почему генерируемые на ней импульсы должны порождать кайф, а не агонию? Как «объяснить» схеме, что это ее «центр удовольствия»? Вот в чем еще проблема ИИ, в его неинтециональности (не направленности). Может, все-таки за мозгом стоит что-то, что и делает его «живым» (Воля Шопенгауэра, «кармический импульс», «желание жить»), а так как у ИИ такого компонента нет, он никогда не будет чувствующим «изнутри». То есть существует какая-то иерархия и воссоздать разум «снизу вверх» не получится, так как мы существуем только благодаря задумки и цели, которая транслируется «сверху вниз»…

Чтобы марионетка двигалась, ей нужны нити. Мы тогда, может быть, сможем создать саму куклу, но не сможем привязать к ней «нити», потому что мы сами эти «куклы», чьи «нити» уходят в ноуменальный мир и нам не видно руки «кукловода». Разве, что сам «кукловод» начнет «играть» с созданной нами куклой, то есть квалиа «снисходят» автоматически. Попытаться выйти из этого тупика может случай, если мы создадим полную копию мозга, и тогда принцип инвариантности будет загнан в угол и все будет в точности воспроизводиться, если конечно он существует. (Однако ответить на вопрос, будет ли это 100% имитация или реально живое создание уже труднее.) Мне кажется, что сознание автоматически «наполняет» те или иные формы, которые соответствуют математическим моделям его функционирования, это самое простое и прямое объяснением, для всего остального требуется ввести некие произвольные переменные – будь-то карма или что-то наподобие, чего мы не наблюдаем. История вновь и вновь показывает, что вводимые ранее «объяснения» вроде эфира или «живительной силы» являются сфабрикованными категориями.

Вот один из вариантов, как можно будет создать эмуляцию мозга на суперкомпьютере. Сначала надо будет выяснить полностью алгоритм эмбрионального развития мозга, то есть не только расшифровать геном, но и узнать, как он работает в реальном времени при развитии плода, и смоделировать этот процесс посредством системы программ, имитирующих работу этих генов. Получится «новорожденный», которого можно будет обучать, как человека. Но есть одна проблема - существует теория о квантовых вычислениях в нейронах на базе цитоскелета, такое точно невозможно сымитировать на компьютере – миллиарды и миллиарды, если не больше, квантово-запутанных состояний - это даже не смешно, такое невозможно будет сделать даже на квантовом компьютере, который сам еще только мечта. Дело в том, что мы сами - наш мозг - это «эмуляция» на фоне пространства – времени и материи, каждая частица которой – «маленький компьютер». А этот искусственный конгломерат будет эмуляцией эмуляции эмуляции, то есть все необходимые «системные связи» будут потеряны. Быть может, для того, чтобы получить работающий мозг - нужен работающий мозг со всеми мельчайшими и микроскопическими, даже внутриклеточными нюансами…Все же, если учесть тот факт, что вычисления на микросхемах идут намного быстрее распространения потенциалов действия в мозге, может быть, есть принципиальная возможность смоделировать эти вычисления на суперкомпьютере. Другими словами, сама по себе такая макроэмуляция должна быть быстрее, чем наш мозг, тогда относительная продолжительность «кванта сознания» может быть сохранена. Процесс, который требует секунду в мозге, будет моделироваться на компьютере столько же, по крайней мере, не медленнее, потому что хоть вычисления в эмуляции и более разрозненные и громоздкие, все же они протекают быстрее сами по себе. Имея в виду эту поправку, мы, возможно, сможем создать последовательность «моментальных срезов сознания», которая не будет распадаться из-за неуклюжести эмуляции, которая будет компенсироваться ее превосходящей абсолютной скоростью над процессами в мозге. На данный момент мы приблизились к абсолютному пределу вычислительной плотности – к созданию 7-нанометровых транзисторов, быть может, этого будет недостаточно и придется сначала перейти на другие типы физический носителей.

С трудом верится, что можно будет создать ИИ отличный от биологического, точнее, это не невозможно, в принципе, но чтобы это сделать, надо сначала разобраться со своим разумом. Едва ли можно так перешагнуть проблему, создав что-то «круче» своего разума, не поняв его. Скорее всего, дело упрется в создание очень крутых вычислительных ИИ, которые даже нельзя будет почти отличить по манере поведения от человека, но они будут пустые, бессубъектные и не способные на генерацию новых идей и открытий, короче, все, что будет создано - будет с подачи нашего мозга, а компьютеры просто станут очень крутым «калькулятором» для расчета и решения тех или иных задач, но сами они думать не смогут.

Есть еще один вариант, надо не только эмулировать развитие мозга, то есть написать систему программ, исчерпывающе объясняющих его развитие и функционирование, но и параллельно с этим напечатать на 3d принтере этот мозг. За основу взять элементарный блок – он будет выполнять все функции нейрона, будучи при этом намного проще, так как должен будет иметь только набор из 50-200 программ. В массе такого развивающегося мозга надо будет заранее оставить эти блоки, вкрапленные в заготовленную густую сеть, которая должны будет стать аксонами и дендритами по ходу обучения.

Понятие кармы может быть, с огромной вероятностью, пустым, то есть нет никакой индивидуальности, скрепляемой «кармическим импульсом» для поддержания своей целостности. Такую функцию осуществляет сам субъект, который может быть на любом носителе, в теории. Может быть, вышеупомянутая дилемма вовсе и не дилемма, потому что, даже при существовании принципа инвариантности и усиления от этого произвола, он все же может существовать, как следствие неконтролируемых причин, породивших мир, к каким относятся и квалиа у животных, факт наличия которых безусловно аморален и суть произвол не меньший, чем страдания «куска железа». Итак, пришли к тому, что надо решить, есть ли такой «импульс» или нет, как компонент, помимо материи и субъекта. Если он есть, то это будет восстановление понятия кармы, а вместе с ней и всей остальной идеологии буддизма, от которой я пытаюсь тут отойти. Выходит, за «живой» ИИ больше за, чем против него. Но, конечно, это не единственное объяснение, у материи может быть «второе дно», которое не откроется, если просто собрать некую массу частиц и имитировать в точности работу мозга, это может быть странным следствием устройства Вселенной и не требовать «эзотерического» объяснения.

Давайте рассмотрим возражение, что ИИ не обязан быть «антропоморфным» и что проблема переноса боли и эмоций – надуманна. Боль и эмоции - это квалиа, разум - тоже разновидность квалиа, мы «чувствуем» свои мысли, все, что входит в понятие «сознание» - это квалиа, поэтому человеческий разум и человеческие эмоции - это одна категория, не две. А кроме человеческого разума другого мы не знаем, и ИИ будем делать на этой основе. Мы не можем сделать то, о чем не имеем понятие, мы копировать только с себя можем. Но дело даже не в том, что нельзя принципиально создать ИИ без боли - ведь есть люди с анальгезией, а в том, что глядя на те таинства, которые обуславливают как саму боль, так и любые квалиа, возникает вопрос - а «снизойдут» ли они автоматически на искусственную среду? И если даже ответа – «да», то как именно? Тут возникает вопрос о самой возможности трансференции квалия в индифферентную неинтенциональную среду, если такой перенос невозможен, в плане эмоций и боли, то он и не возможен в плане разума. Тут принцип - либо все, либо ничего.