Генезис. Искусственный интеллект, надежда и душа человечества - Крейг Манди

Создатели ИИ в наши дни верят, что их творение станет тем самым переполненным амбаром, этой волшебной мельницей, этим рогом изобилия, из которого хлынут неиссякаемые потоки благ: цветы, фрукты, зерно… Но мифы предупреждают: самого создания чуда недостаточно. Чтобы реализовать свой потенциал, ИИ в процессе разработки и внедрения требует продуманных изменений в общественных институтах и изрядную долю мудрой политики. Возможности систем ИИ должны стать инструментом освобождения, в идеале разорвав цепи многовекового социального и экономического порабощения, чтобы проложить дорогу в будущее, где бедность и неравенство утратят свою власть.

Эта цель невероятно амбициозна по любым меркам и вполне закономерно вызывает немало вопросов. Но что, если ИИ и вправду окажется тем мостом, что приведет нас к новому золотому веку? Даже частичное воплощение этой идеи способно открыть эпоху в истории цивилизации[110].

Общее дело

В марте 2016 года, проиграв три партии подряд, корейский мастер игры в го Ли Седоль испытывал не ярость или печаль, а лишь безмерное изумление. Мастер и представить не мог, что проиграет ИИ – этому ультрасовременному противнику. Ведь он отдал всю свою жизнь постижению тайн этой древней игры. Тем не менее ошеломляющий ход № 37, сделанный в предыдущей партии программой AlphaGo, заставил всерьез задуматься: неужели ИИ и правда способен на нечто большее, чем бездушные расчеты? Не сверкнула ли в его алгоритмах искра творчества?

К тому моменту Ли, потрясенный необыкновенным противником, играл уже не ради победы – ведь в их поединке best-of-five-формата[111] он признал свое поражение, – но ради красивого финала. В следующей, четвертой, партии он ответил на 37-й ход своим 78-м – изящным контрударом, который неожиданно для всех принес ему победу – единственную за всю историю классической AlphaGo (2016). По всему миру, где следили за матчем, разочарование вмиг сменилось всеобщим ликованием.

В тот мартовский день в Сеуле первый игрок мира вел поединок один на один с бездушной моделью ИИ, прерываясь лишь на редкие перекуры на террасе фешенебельного отеля-спонсора. Вообразить себе такого противника было сложно в принципе, однако Ли Седоль принял на себя максимальный груз ответственности, играя за самую взыскательную команду – все человечество. Такой миссии он вряд ли когда-либо себе пожелал бы. История сохранит не результат этого поединка, а саму демонстрацию человеческих возможностей – как гения Ли Седоля, так и разработчиков ИИ, бросивших ему вызов[112].

Девиз компании DeepMind, одержавшей победу в Корее, призывает: «Познай природу разума – и тогда сумеешь раскрыть все прочие тайны мироздания»[113]. Интеллект как движущая сила нового творения способен перевернуть наше представление о мире. Но перед лицом этой бездонной неизвестности нас невольно охватывает тревога. И все же в некоторых случаях, пожалуй, стоит следовать примеру Ли Седоля, который отнесся к ИИ не как к сопернику, а как к источнику вдохновения.

Положение Ли Седоля было исключительным – будучи лучшим из лучших в своей области, он соревновался с ИИ в контролируемых условиях эксперимента. Возможно, именно это позволило ему с исследовательским азартом искать новые стратегии, вместо того чтобы погрузиться в горечь поражения от невидимого оппонента и его создателей. Увы, большинство людей отнесутся к успехам ИИ куда менее благородно – волной неприятия и страха.

Особенно остро конфронтация проявляется в мнимых «играх с нулевой суммой[114]» – прежде всего при возможном замещении человеческого труда искусственным разумом. В этой главе мы постараемся развенчать этот, на наш взгляд, ошибочный стереотип и продемонстрировать, как ИИ способен даровать человечеству неожиданное процветание – особенно в мире, где труд перестанет быть необходимостью.

Для подавляющего большинства людей работа никогда не была игрой с возможностью выигрыша или желанным мастерством. Она оставалась тяжким бременем – изнурительной повинностью и социальными оковами. Хотя эти оковы и поддерживали стабильность, их цена неизменно заключалась в подавлении самой человеческой сути.

В Бхагавад-гите – одной из частей великого индийского эпоса Махабхарата – диалог между царевичем-воином Арджуной и его возничим (такой облик принял на время бог Кришна) раскрывает природу социально-религиозных устоев, веками поддерживавших порядок в индийском обществе. Когда Арджуна колеблется, подняв меч на своих сородичей, Кришна недвусмысленно напоминает: «Нет отступлений от долга, нет отклонений от судьбы»:

Лучше выполнить свой долг плохо, чем чужой – безупречно. Прими смерть, но не берись за дело, тебе не предназначенное[115].

В этой системе каждый исполняет предопределенную роль, сколь бы тягостной она ни была, жестко заданную фактом рождения. Как гласит Бхагават-гита,

долг брахманов [высшей касты] – хранить мудрость и спокойствие; кшатриев – сражаться мужественно; вайшьев – возделывать землю и вести торги; шудр – служить смиренно[116].

Общество преуспевает лишь тогда, когда каждый честно выполняет свои обязанности. Те, кто следует этому в нынешней жизни, получают шанс на высшую участь в следующей. Тем же, кто пренебрегает своим долгом, уготованы страдания в новом перерождении.

Индуистская кастовая система не была уникальным явлением. Политическая философия Аристотеля также предполагала строгое разделение социальных функций. А рабство – узаконенное, поддерживаемое насилием и унижением – в некоторых обществах и вовсе превратилось в основной инструмент эксплуатации людей и насаждения искусственной иерархии.

В последние два столетия демократические государства с рыночной экономикой практически устранили кастовую систему и рабство, заменив их концепцией вознаграждения по заслугам. Духовенство возвело трудолюбие в добродетель, ученые в своих трудах всесторонне рассмотрели его значение для общества, а трудящиеся освоили методы коллективных переговоров и организованных протестов. Но даже сегодня, где бы ни использовался человеческий труд – во имя высших сил, государственных интересов или ради заработной платы, – наши интеллектуальные и физические усилия, как правило, служат не столько нам самим, сколько другим.

Немало войн вспыхивало из-за споров вокруг вопроса «Кому что положено – и почему?» (как в названии бестселлера экономиста Элвина Рота, 2015) либо приводило к пересмотру самих этих принципов. Ограниченность земли, рабочей силы и капитала сделала дефицит, а не изобилие базовой экономической парадигмой. Жестокие конфликты возникают не столько за распределение созданных благ, сколько за крохи оставшегося. Эти противоречия пронизывают как внутреннюю жизнь обществ, так и международные отношения – даже в мирные периоды, когда граждане требуют перераспределения ресурсов для смягчения неравенства.

Эффективное производство в сочетании с социальной справедливостью неизменно повышает благосостояние. Однако для этого требуется фундаментальная трансформация, чтобы все общества были уверены в том, что ресурсов действительно хватает. Лишь тогда спор о выживании сменится поиском путей достойного существования.

И вот мы создали ИИ – технологию, способную кардинально изменить сами факторы