Формула Бога. Эволюция религии, культуры и этики в эпоху технологической сингулярности и бессмертия - Александр Плющенко

В конкурентной среде, где необходимых ресурсов недостаточно для обмена, изобретательность жизненно необходима, а если появляются возможности накапливать ресурсы, то потенциал изобретательности становится бесконечным.

Такой подход к созданию универсального ИИ может превзойти ИИ человеческого уровня и сразу достичь уровня суперинтеллекта, превосходящего человеческий интеллект во всех отношениях.

Не стоит забывать о существенной разнице между границами возможностей и успешностью. Границы возможностей познания универсального ИИ будут охватывать все вещи, которые мы способны воспринять, на которые можем воздействовать, о которых можно думать и которые можно обсуждать. Однако успешность в разных видах деятельности будет различаться: слабость ИИ в одних областях может компенсироваться хорошими результатами в других.

Искусственный интеллект может быть экспертом по нахождению паттернов в больших объемах данных, но, в отличие от человеческого мозга, он не будет ожидать, что данные упорядочены определенным образом – как поступающие с наших органов чувств.

ИИ должен уметь находить и применять статистические закономерности без посторонней помощи, что потребует больших мощностей и универсальности.

Шанахан считает, что ИИ «будет очень хорош в интерпретации, прогнозировании и управлении поведением человека», потому что его доступ к необходимым данным через Интернет может быть прямым и непосредственным. ИИ, сконструированный для поиска паттернов в больших объемах данных, будет изначально обладать сверхчеловеческими способностями в определенных областях.

Концепция антропоморфного ИИ представляется многим ученым в этой области менее перспективной, чем идея аморфного или распределенного искусственного интеллекта.

Некоторые исследователи утверждают, что метаболизм, обмен веществ и энергии с окружающей средой, помогают сохранять границу между индивидом и социумом, поэтому являются необходимыми условиями сознания. Другие ученые в этой области предлагают смотреть на сознание с функциональной точки зрения, то есть ориентироваться на организацию системы ИИ, а также ее эффективность, не обращая внимания на материальную основу ее функционирования.

Иными словами, большинство современных специалистов в области сознания и ИИ сходятся во мнении, что в ближайшем будущем человеческим – и сверхчеловеческим – сознанием будут обладать и многие неживые объекты, что станет основанием для пересмотра и уточнения многих философских и теологических доктрин.

Разработчики ИИ признают, что человечеству сейчас нужна общепринятая научная теория сознания, которая охватывает все его нынешние формы и потенциально возможные в ближайшем будущем. Эта всеобъемлющая новая теория должна отвечать на вопросы границ сознания как для ИИ, созданного на основе биологических прототипов, так и для неорганического ИИ. В контексте суперинтеллектуального ИИ имеет смысл обсуждать разные виды сознания и его уровни, превышающие человеческие возможности.

Мюррей Шанахан предлагает использовать в качестве основы подобной научной концепции теорию глобального рабочего пространства Бернарда Баарса и теорию интегрированной информации Джулио Тонони. В этих двух теориях сознание характеризуется как феномен всего мозга или всей системы: как всеобъемлющее, неотъемлемое, распределенное и целостное свойство. Согласно этим теориям, допускается наличие сознания даже у видов ИИ, фундаментально отличающихся от биологического мозга и поэтому предполагающих огромное разнообразие сознательных сущностей в пространстве возможных ИИ.

Философ Иеремия Бентам, размышляя о границах сознания, так сформулировал моральный долг человека перед всеми живыми существами: надо спрашивать не о том, могут ли они мыслить и говорить, а о том, могут ли они страдать. Аналогичный вопрос людям придется задавать и в отношении ИИ. Но, прежде всего, надо привить ему джайнистское сострадание по отношению ко всем наделенным сознанием существам, особенно на биологической основе.

Некоторые ученые считают маловероятным появление полноценного универсального ИИ в цифровых алгоритмах, лишенных эмоций, которые у людей неразрывно связаны с принятием решений и творческими процессами. А один из самых важных признаков человеческого интеллекта – это способность выйти за пределы биологически унаследованной функции подкрепления через логику и мышление. В связи с этим, по мнению Шанахана, для обеспечения безопасности «инженеры по нейротехнике должны не только перестроить мотивационную систему мозга, но и зафиксировать полученную в результате функцию подкрепления, чтобы убрать из нее возможность поддаться менее прогнозируемым и более опасным влияниям».

Шанахан выделяет три признака познания, необходимые для сознания и тесно связанные между собой:

– несомненное понимание цели;

– осознание окружающего мира и текущей ситуации;

– способность связывать воедино знания, восприятие и действие.

Цель, осознание и целостность, вероятнее всего, присутствуют в любом универсальном ИИ.

Некоторые футурологи предложили довольно точный прогноз возникновения цифрового суперинтеллекта и, соответственно, технологической сингулярности. Так, Рэй Курцвейл считает, что к 2045 г. количество небиологических интеллектов на планете значительно превысит количество людей в Солнечной системе.

Этот прогноз Курцвейл получил на основе экстраполяции текущего экспоненциального роста вычислительных мощностей и оценки их объема, необходимых для моделирования деятельности коры человеческого мозга в реальном времени. Достигнутой скорости вычислений, по мнению Курцвейла, будет достаточно, чтобы «создаваемый за год интеллект был в миллиард раз мощнее человеческого… что представляет собой фундаментальный и революционный переход в возможностях человека». Курцвейл утверждает, что это и будет технологическая сингулярность.

Небольшие кусочки специализированных технологий ИИ уже сейчас проникают в нашу повседневную жизнь, но нынешняя технология искусственного интеллекта еще далека от универсального ИИ человеческого уровня, обладающего здравым смыслом и изобретательностью. Вполне вероятно, что уже первые читатели этой книги застанут эпохальный момент в истории Земли, когда ИИ получит одно из самых важных человеческих прав – свободу личности. Для этого ИИ должен иметь возможность влиять на окружающий мир, научиться действовать без вмешательства человека и получить возможность сознательно принимать собственные решения, делая выбор между альтернативными вариантами действий.

Признание личности у класса машин с ИИ и предоставление им соответствующих прав и обязанностей станет переломным моментом в истории человечества. По словам Шанахана, «признание ИИ человеческого уровня равным себе сознательным созданием и будет признанием того, что мы не одни во Вселенной, – не по причине обнаружения внеземного разума, а потому что мы создали новую форму земного сознания с уровнем интеллекта, равным своему».