Быть собой: новая теория сознания - Анил Сет

358

Entler et al. (2016).

359

Khuong et al. (2019).

360

Kelz & Mashour (2019).

361

Джонатан Берч, Александра Шнелль и Никола Клейтон вводят термин «профиль сознания» для характеристики межвидового разнообразия сознательного опыта. Вариации они предлагают характеризовать по пяти параметрам: перцептивное богатство, богатство оценки, единство, понимание временных отношений и самость. См.: Birch et al. (2020).

362

В своей работе 1964 г. «Корпорация "Бог и голем"» (М.: АСТ, 2018) эрудированный основоположник кибернетики Норберт Винер отвел големам центральную роль в своих рассуждениях о рисках будущего ИИ.

363

Притча о производителе канцелярских скрепок рассказывает об ИИ, перед которым стоит задача сделать как можно больше скрепок. Поскольку человеческими нравственными ценностями этот ИИ не оперирует, но в остальном очень умен, то, успешно выполняя поставленную задачу, он уничтожает мир. См.: Bostrom (2014).

364

На редкость трезвый взгляд на гипотезу сингулярности см.: Shanahan (2015).

365

Велик соблазн сказать, что сознание и интеллект взаимно отделимы, то есть могут существовать друг без друга. Но это не совсем так. Хотя я считаю, что интеллект может существовать без сознания, не исключено, что сознание все же требует уровня интеллекта выше нулевого.

366

Идея многомерного сознания (и интеллекта) вызывает в памяти концепцию «профиля сознания», сформулированную Джонатаном Берчем и его коллегами (Birch et al., 2020), а также многомерный подход к уровню сознания у человека, предлагаемый Тимом Бейном, Якобом Хохви и Адрианом Оуэном (Bayne et al., 2016).

367

Dehaene et al. (2017). «Глобальная доступность» отсылает нас к популярной теории глобального рабочего пространства, а «самомониторинг» затрагивает некоторые аспекты теории сознания высшего порядка. С обеими теориями мы бегло знакомились в главе 1. Авторы статьи в Science открыто признают, что, возможно, упускают из виду ту составляющую сознания, которая касается чувственного опыта. На мой взгляд, это слишком серьезное упущение.

368

Эта возможность возникает, потому что ТИИ признает один компонент функционализма (независимость от субстрата), но не другой (достаточность соответствия ввода-вывода). Некоторые механизмы, в частности искусственные нейросети подходящего размера с прямой связью, могут воплощать произвольно сложные соответствия ввода-вывода. При надлежащей реализации эти механизмы будут производить впечатление обладающих интеллектом и/или сознанием. Но сети с одной лишь прямой связью не порождают никакой интегрированной информации — для нее требуется хотя бы какая-то возвратность. Таким образом, ТИИ оправдывает концепцию «поведенческого зомби», который, как я объяснял в главе 1, представляет собой артефакт, лишь выглядящий сознательным, но сознанием не обладающий. См.: Tononi & Koch (2015).

369

Эти идеи тесно связаны с понятием автопоэзиса (от греческих слов, означающих «сам» и «создание»), которое вывел чилийский биолог Умберто Матурана. Автопоэтической системой называется та, что способна поддерживать и воспроизводить себя, в том числе производя физические составляющие, необходимые для дальнейшего ее существования как системы. И хотя концепция автопоэзиса применяется главным образом к клеткам, можно проследить любопытные связи между клеточным автопоэзисом и принципом свободной энергии (см. главу 10). Оба предполагают сильную преемственность между «жизнью» и «разумом», из чего в свою очередь следует, что разум (и сознание) не сводится к тому, что система «делает» (Kirchhoff, 2018; Maturana & Varela, 1980). Мне посчастливилось встретиться с Матураной в январе 2019 г. (в мае 2021 г. он скончался на 93-м году жизни) в его родном Сантьяго, где мы обсудили эти идеи, попивая кофе в тенистом саду кофейни в районе Провиденсия.

370

Оригинальная «игра в имитацию», разработанная Аланом Тьюрингом, проводится с участием машины и двух человек одного пола. Машина и один из участников притворяются человеком противоположного пола. Второй участник должен понять, кто из собеседников машина, а кто человек (Turing, 1950).

371

Термин был введен Мюрреем Шанаханом, книгой которого «Воплощенное сознание и внутренняя жизнь» (Embodiment and the Inner Life) (2010) вдохновлялись среди прочего авторы фильма «Из машины».

372

www.reading.ac.uk/news-archive/press-releases/pr583836.html.

373

«Женя Густман — настоящий, подтверждено тестом Тьюринга», — констатирует The Guardian 9 июня 2014 г. См.: https://www.theguardian.com/technology/shortcuts/2014/jun/09/eugene-goostman-turing-test-computer-program.

374

Характеристика теста Тьюринга как проверки человека на доверчивость взята из статьи Джона Маркоффа в The New York Times: «Программе хватает ума, чтобы пройти SAT (академический оценочный тест для поступления в вузы. — Прим. пер.), но до интеллекта там еще очень далеко» ('Software is smart enough for SAT, but still far from intelligent', The New York Times, 21 сентября 2015 г.). См.: www.nytimes.com/2015/09/21/technology/personaltech/software-is-smart-enough-for-sat-but-still-far-from-intelligent.html.

375

GPT означает Generative Pre-trained Transformer (порождающая обученная заранее модель-трансформер) — разновидность нейронных сетей, специализирующаяся на прогнозной обработке и порождении языка. Эти сети обучаются с использованием алгоритмов глубокого обучения без учителя «прогнозировать следующее слово» на основании предшествующего слова или текстового отрывка. GPT-3 имеет впечатляющие 175 млрд параметров, ее обучали на 45 терабайтах текстовых данных. См.: https://openai.com/blog/openai-api/ and for technical details: https://arxiv.org/abs/2005.14165.

376

Конечно, это зависит от того, что подразумевать под «пониманием». Кто-то может сказать, что человеческое «понимание» тоже не особенно отличается от того, которое демонстрирует GPT-3. Но когнитивист Гэри Маркус эту точку зрения опровергает, и я с его аргументами согласен. См.: www.technologyreview.com/2020/08/22/1007539/gpt3-openai-language-generator-artificial-intelligence-ai-opinion/.

377

«Эта статья полностью написана роботом. Тебе уже страшно, человек?» ('A robot wrote this entire article. Are you scared yet, human?' The Guardian Opinion, 8 сентября 2020 г.). См.: www.theguardian.com/commentisfree/2020/sep/08/robot-wrote-this-article-gpt-3. Насколько этот пример репрезентативен, сказать трудно.

378

Becker-Asano et al. (2010).

379

Mori et al. (2012).

380

Синтезированные лица были созданы с помощью thispersondoesnot-exist.com.

381

Технология