Одним из самых многообещающих и даже «модных» направлений в сфере компьютерных наук является генетическое программирование. Специалисты в этой области занимаются разработкой методов, моделирующих генетическую эволюцию. Мечта многих программистов – создание программы, обучающейся и развивающейся независимо от своего создателя. Прототипом подобной программы можно назвать компьютерный вирус. Израильский историк Юваль Ной Харари задается важным, на мой взгляд, вопросом – можно ли считать вирусы живыми существами? В своем бестселлере «Краткая история человечества» он пишет, что статус вирусов будет зависеть от того, какое значение мы придадим понятию «живое существо»¹. Но в любом случае, вирусы являются продуктом нового эволюционного процесса, независимого от законов биологии.

<p>Цель данной статьи – попытаться понять, какие специфические черты отличают человеческое существо, будет ли на него похож искусственный интеллект и сможет ли человек реализовывать свое исключительно человеческое в присутствии совершенно иного вида. Ответы на эти вопросы ведутся специалистами во многих областях знания – в философии познания, психологии, биоинженерии, логике и, конечно, в сфере информационных технологий; таким образом, проблема имеет поистине междисциплинарный, комплексный характер. В нашей работе мы сосредоточимся на анализе некоторых (но, конечно, ввиду широты проблемного поля. не всех) психологических и философских, в первую очередь, этических аспектов данной темы.</p>

В 2005 году началась активная работа проекта по компьютерному моделированию головного мозга человека Blue Brain Project, специалисты которого обещают воспроизвести в компьютере весь человеческий мозг. Возможным это станет благодаря имитации цепочек электронов работы цепочек нейронов. Руководитель проекта Генри Маркрам уверен, что в скором времени возможно добиться производительности, подобной производительности мозга, опустив при этом все сложные химические и клеточные взаимодействия, скопировав только процессы ввода и вывода информации, уподобив человеческий мозг набору алгоритмов глубокого обучения. При достаточном финансировании за пару десятилетий проект может осуществить искусственный мозг внутри компьютера: он будет разговаривать и вообще вести себя как человек. Добавлю, что в 2013 году Европейский союз выделил на проект миллиард евро.

Не все ученые сходятся во мнении, что попытка создать сознание, подобное человеческому, обернется успехом. Если наш мозг работает принципиально иначе, чем цифровые устройства, то современные компьютеры не смогут их воспроизвести. Например, советский и российский психолог П.П. Зинченко выступал против самого термина «искусственный интеллект». Он предлагал компьютеры называть инструментами интеллектуального действия, которые могут существенно облегчать, ускорять, повышать точность принятия решения, но могут с тем же успехом ускорять принятие неправильных решений. В одной из своих работ Зинченко цитирует академика В.И. Вернадского, которому принадлежат следующие строки: «Познать научную истину нельзя логикой, можно лишь жизнью. Действие – характерная черта научной мысли»². Зинченко против смешивания логики и научно-исследовательской (в том числе и мыслительной) деятельности. По мысли исследователя, идеи об общности компьютера и человеческого интеллекта базируются либо на пренебрежении психологической реальностью, либо на смещении предметов изучения психологии и логики. Другими словами, так называемый «искусственный интеллект» строится на логико-математических, намеренно очищенных от психологии основаниях, а потом уподобляется интеллекту человека.

Психолог уверяет, что анализ процессов мышления предполагает учет человеческой субъективности, анализ мотивационной сферы, борьбы мотивов, изучение процессов целеполагания. Столь сложный по своему строению процесс невозможно свести к логико-математическим структурам. Когда компьютер решает задачи, недоступные человеческому мышлению, не стоит забывать, что и решает он их нечеловеческими способами. Главной чертой человеческого интеллекта Зинченко называет способность к творчеству. Именно по этому параметру психолог предлагал сопоставлять интеллект человеческий с интеллектом искусственным. Но исследование актов творчества по-прежнему остается трудной задачей.

Генри Маркрам сообщает нам нечто похожее по поводу принципов работы мышления. Ученый предполагает, что человеческий разум представляет собой результат вовлечения в окружающий мир. Чем глубже будет вовлеченность искусственного интеллекта в человеческий мир, тем разумнее он станет: «Мозг каждого человека использует опыт своим неповторимым способом; каждый создаёт собственную модель мира, а в ней — модели мозга других людей; и каждый человек пользуется этими моделями, чтобы воспроизводить самим им созданный мир, понимать его и действовать в нём. […] Эволюция породила сеть, существующую в бесконечном числе измерений, строящую модели равно бесконечномерного мира и глубоко слитую с ним. Если искусственный интеллект достигнет такого же уровня погружения в окружающий мир, он сравняется с человеком и даже превзойдёт его»³. Более того, Генри Маркрам считает, что такой искусственный интеллект может превзойти человека не только в умственных способностях, но и в гуманности. Предполагается, это возможно будет за счет того, что искусственный интеллект будет обладать, так сказать, абсолютным сознанием. Если человек осознает лишь малую часть воспринимаемой информации об окружающем мире, а остальная часть обрабатывается без участия сознания, то искусственный интеллект в этом смысле будет сознателен всегда, имея полный доступ к большему числу уровней вовлечения в окружающий мир.

На мой взгляд, предположение о гуманности искусственного интеллекта вследствие режима «абсолютного сознания» слегка наивно. Для аргументации своей позиции начну с вопросов – «что такое гуманизм?» и «кого можно назвать гуманным?» В самом широком смысле слова, гуманизм – это образ мышления, для которого характерно утверждение идеи блага человека главной ценностью (лат. humanus – человечный). Следовательно, гуманен тот, кто имеет такой образ мышления, то есть, тот, кто любит людей, видит в них личностей. Знаем ли мы гуманных людей? Знали и знаем. Но мы знали и знаем именно людей, не полубогов с недремлющим сознанием, а людей, чья гуманность появилась не столько от максимально глубокого осознания действительности, сколько в процессе индивидуального жизненного опыта, в котором неизбежно сыграли свою роль страсти, желания, ошибки, надежды и все то, что так выделяет нас на фоне других существ. Не обязательно быть осведомленным во всём, чтобы проявить свою гуманность. Пока что мы знаем гуманность, которую проявляет существо с периодически «выключенным» сознанием. Возможно, именно благодаря такому устройству нашей психики мы способны быть гуманными. Более того, если мы рассмотрим взгляды основателя третьего венского пcихотерапевтического направления, психолога, психиатра и философа – Виктора Франкла, то увидим, что гуманность (любовь к людям) является основным условием взаимоприсутствия духовных сущностей (людей). На этом стоит остановиться подробнее.

Если Юваль Ной Харари задается вопросом, какое значение мы вкладываем в понятие «живое существо», думаю, следует задать похожий вопрос – что есть человек? Ответ на этот вопрос даст нам основания считать возможным или же принципиально невозможным создание нечто подобного. Достаточно интересное определение человека предложил Виктор Франкл. Первое и важное положение, от которого нам следует оттолкнуться утверждение Франклом того, что у человеческого бытия есть телесное, душевное и духовное измерение, при этом духовное является определяющим. Человек, по Франклу, представляет собой телесно-душевно-духовное целое в единстве этих измерений. Это духовное сущее реализуется в присутствии другого духовного сущего, то есть, человек реализуется при человеке. Возможность духовной сущности «быть» «при» другой сущности – изначальное положение, суть духовного бытия, духовной действительности. Иначе говоря, другой – это данность. Принимая эту возможность, мы избавляемся от бремени доказывания той проблемы, как первый получает доступ ко второму. Но тут нужно отметить самое главное, что подобное взаимоприсутствие духовных сущностей возможно, как пишет Франкл, «только в условиях неустанного взаимно-преданного сосуществования, которое мы называем любовью»⁴. Франкл дает такое определение любви: «постигать человека в его так-бытии, с его внутренней природой, в его уникальности и неповторимости, также в его ценности и долженствовании».

Важным, на мой взгляд, в учении Франкла является идея о существовании бессознательной духовности. В глубинах бессознательного коренится такой исключительно человеческий феномен как совесть. По Франклу, большие, экзистенциально-истинные решения человеческого бытия совершаются без всякой рефлексии. Итак, совесть лежит в сфере бессознательного. Здесь считаю необходимым напомнить, что возможный искусственный интеллект будет обладать сознанием всегда, в связи с этим встает интересный, на мой взгляд, вопрос о том, на основании чего он будет реализовывать свои экзистенциально-истинные решения? И разве не относится гуманность, о которой говорил нам Генри Маркрам, к одному из подобных решений?

По Франклу, совесть показывает человеку то «единственное, что нужно» и оно для каждого человека неповторимо. Речь идет об абсолютно «индивидуальном долженствовании бытия», не охватываемом никаким универсально формулируемым моральным законом (как кантианский императив), а предписываемым только «индивидуальным законом». Как пишет Франкл: «Жизнь с точки зрения совести – это абсолютно личная жизнь, выражающаяся в виде абсолютно конкретной ситуации, той, которая может произойти в рамках неповторимого и уникального бытия-в-мире каждого из нас»⁵.

Помимо этического бессознательного, у человека есть и эстетическое бессознательное, которое психолог называет художественной совестью. Вдохновение художника так же, как и совесть, находится в глубинах бессознательного, как пишет автор: «именно благодаря вдохновению художник творит, поэтому источники его творчества остаются во тьме, которая никогда не может быть до конца освещена силами сознания». В этом вопросе мы видим схожесть взглядов Виктора Франкла с нашим соотечественником – Павлом Зинченко – на творчество, как на принципиально человеческую способность, полный анализ которой практически невозможен. Сторонники прогресса в создании искусственного интеллекта могут на это возразить, предоставив такие сомнительные, на мой взгляд, доказательства, как написанную компьютером картину Рембрандта⁶. Проанализировав 346 работ художника, команда исследователей уловила стиль автора, часто используемые темы, черты лиц и одежды персонажей картин. Эта схема была создана при помощи большой базы данных, выстроенной статистическим анализом и алгоритмами. Финальную работу команда создала с помощью 3D-принтера, чтобы достичь эффекта слоев краски.

Не берусь судить итог данного мероприятия, здесь это не столь важно. Когда мы говорим о творческом процессе, на мой взгляд, мы автоматически подразумеваем состояние наслаждения актом творчества у самого художника. Он может не только сделать, но и дать оценку сделанному, прочувствовать процесс и рассуждать об итоге. О том, что «чувствовала» машина, создавая картину Рембрандта, говорить, на мой взгляд, неуместно. На тему загадочности творческого процесса так высказалась<em> </em>известный биолог, лингвист и психолог, профессор Санкт-Петербургского государственного университета Татьяна Черниговская: «Да, у нас в голове тоже компьютер, как я и говорила вначале, но какой-то совсем другой. У нас масса вещей идет параллельно какими-то невероятными путями. Как делаются открытия? Разве их можно запланировать? Человек в ужасе просыпается ночью, что-то записывает, утром просыпается, видит запись — и с удивлением спрашивает: кто это написал? Откуда это взялось — он сам не знает. Ведь это его мозг породил. Как-то мгновенно. Со странными ассоциациями. Чтобы вычислить алгоритм гениальности, я думаю, надо изучать людей искусства, а не ученых»⁷.

Если проанализировать суждения специалистов в области человеческой психики, мы увидим, что люди немалым пожертвуют в попытке создать искусственный интеллект. В частности, немецкий психолог и философ Эрих Фромм, одним из недостатков технологического общества называл тяготение к неживому, механическому. Как отмечал Фромм, «это тяготение к неживому, которое в своей более крайней форме проявляется как тяготение к смерти и разрушению (некрофилия), приводит даже в менее радикальной форме к безразличию к жизни вместо «почитания жизни». Те, кого привлекает неживое, это люди, предпочитающие «закон и порядок» живой структуре, бюрократические методы — спонтанности, вещи — живым существам, шаблон — оригинальности, скромность — богатству, накопление — тратам. Они хотят контролировать жизнь, потому что боятся ее неконтролируемой спонтанности»⁸. Одним из симптомов в привлекательности чисто механического, по убеждению Фромма, является растущая популярность среди ученых и публики идеи о возможности создания компьютеров, которые не отличались бы от человека в мышлении, чувствовании или любом другом аспекте функционирования.

Кстати говоря, сам Генри Маркрам опасается непредвиденных этапов на пути создания искусственного интеллекта: «Мне представляется кладбище частично успешных версий; оно огромно, оно хранит память о множестве ошибок. Много опасностей подстерегает человечество на пути через эту долину смерти. Чтобы искусственный интеллект не стал для человека тем, чем автомобиль кажется птице, нам нужно задуматься о том, насколько наши творения должны быть вовлечены в общественную жизнь: какие задачи мы ставим перед ними, решение каких оставляем за собой, что и как мы позволим им узнать о нас, как и чему мы сами будем учиться у них». Затем Маркрам сообщает о том, что наделив искусственный интеллект всеми чувствами и желаниями, присущими человеку (хотя сама эта возможность кажется мне маловероятной), мы от него сможем ожидать как плохое, так и хорошее, как и от человека. В качестве примера одного из человеческих чувств Маркрам приводит страх, блокирующий прогрессивные области мозга и разрывающий нашу связь с миром, чтобы сосредоточиться только на выживании. Затем руководитель проекта Blue Brain заключает: «Вряд ли такие короткие замыкания нужны искусственному сверхразуму — особенно если мы дадим ему власть и возможность принимать решения»⁹. Можно предположить, что именно это отсутствие страха и многих других человеческих чувств никак не способствует развитию его гуманности, тем более превосходящей человеческую. Страх может как навредить, так и помочь, стать причиной как жестокости, так и гуманности и т.д. Благодаря чувству страха происходит активация головного мозга, мы начинаем лучше видеть и слышать, происходит выброс адреналина в крови. Разве истории не известны случаи, когда человек совершал невероятные поступки под воздействием этого чувства, особенно из-за страха за жизнь своих близких? Страшно представить человека без чувства страха, не говоря уже о совершенно новом виде существ.

Если принять идеи Виктора Франкла о том, кто есть человек и сопоставить их с оптимистическим настроем специалистов по созданию компьютера, подобно человеку, встают очень серьезные вопросы: нужны ли этому новому виду «условия неустанного взаимно-преданного сосуществования, которое мы называем любовью» и какая совесть будет у него? И будет ли? Сможет ли он творить, если да, то сможет ли он еще и наслаждаться этим творчеством так, как наслаждается своим творчеством человек? Очевидно, что создатели искусственного интеллекта пытаются осуществить сверхчеловека, только не того сверхчеловека, о котором писал Фридрих Ницше, а, скорее, сверхразум, а это совершенно новый вид. Реальные возможности технологий будущего – как изменение самого Homo Sapiens, так и создание нового вида. Как пишет Юваль Ной Харари «космический суперкорабль – пустяк по сравнению с вечно юным киборгом, который не размножается и не занимается сексом, зато способен непосредственно обмениваться мыслями с другими существами. Киборгом, чьи способности помнить и сосредотачиваться тысячекратно превосходят наши, кто не злится и не печалится, но имеет другие эмоции и желания, каких мы себе и вообразить не можем»¹⁰. Будет ли человек в списке его желаний и в каком контексте? Эти вопросы пока что не имеют исчерпывающих ответов, но принимая во внимание набирающий внушительную скорость технологический прогресс, мы должны задаваться ими уже сейчас.

Третья венская психотерапевтическая школа наичеловеческой из всех человеческих потребностей называет потребность в смысле. Франкл подчеркивал, что человек обладает привилегией не только ставить вопрос о смысле своей жизни, но и ставить под вопрос сам этот смысл. По мнению автора, индустриализация со своими страстями к новым технологиям лишает человека корней, отнимая у него ценности, прививаемые через традиции. Смысловая ориентация с психологической точки зрения является важной и неоценимой для выживания. Юваль Ной Харари предполагает, что мы приближаемся к тому, когда все, что исполнено смысла в нашем мире – я, ты, мужчина, женщина, любовь, ненависть – его лишится. То есть, мы приближаемся к новой сингулярности. Физики используют понятие сингулярности для описания состояния Вселенной в начальный момент Большого взрыва: это точка, где не существовало никаких законов природы и времени, потому рассуждать о том, что было до Большого взрыва, бессмысленно.

Созданию со сверхразумом не будет дела до каких-либо конкретных смыслов, которыми ежедневно живет человек и благодаря которым реализует свои возможности, потому что он не человек, он принципиально другое. Какой смысл ему думать о еде, если он не ест, о детях, если он не размножается или о книгах, если он знает все? Какие смыслы будут у возможных новых существ нашей планеты, категорично отличающихся от известных? На мой взгляд, явно нечеловеческие. Будет ли у человека возможность оставаться человеком со всеми своими исключительными феноменами в эру искусственного интеллекта – вопрос открытый.