Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

Я осознал это, обедая в Сан-Франциско, в районе Мишн, представляющем собой апофеоз культуры бобо. За обедом я встретился с франко-американским другом, представителем моего поколения Адриеном Треем и его молодой семьей. Адриен – программист и уважаемый предприниматель, который набирался опыта в таких легендарных компаниях, как Google X, а потом основал Foldit, видеоигру, пользователи которой, сами о том не ведая, помогают медицинским исследованиям, изучающим структуру белков. На мои тирады о свободе воли он отвечает улыбкой. С его точки зрения, я, должно быть, инквизитор, попавший в наше время из далекого прошлого и до сих пор пережевывающий метафизические понятия, тогда как человечество спокойно движется вперед к лучшему будущему. Адриен уверен, что завтра ИИ позволит оптимизировать вообще все на свете. Он бросает мне вызов – требует, чтобы я нашел контрпример. Я не могу ничего придумать, но делюсь с ним текущей проблемой: мне надо выбрать школу для сына. Сможет ли мне в этом помочь ИИ?

– Легко.

На самом деле я не сомневаюсь в том, что обученные алгоритмы, руководствуясь образцом рынка занятости или сайтов знакомств, могут найти точку схождения между образовательными предпочтениями и доступным предложением, учтя личные качества ребенка, его место проживания и знак зодиака. Однако я пытаюсь найти критерий, который бы сопротивлялся количественной логике ИИ. Представим, например, что я ищу школу, способную развивать критическое мышление.

– Никаких проблем, – отвечает Адриен. – Можно определить и измерить лучшие педагогические техники. И это лучше, чем тыкать пальцем в небо, основываясь… собственно, на чем? На личной интуиции и слухах?

Если отставить вопрос школы, это действительно головокружительная цель: речь о том, чтобы оптимизировать критический дух, последний рубеж интеллектуальной независимости. Встраивая сомнения в собственные критерии обучения, ИИ может сломить последний бастион сопротивления, с которого его можно было судить. Как критиковать ИИ, если он может критиковать сам себя? Неужели мы – вот уж парадокс! – делегируем наше критическое мышление машине, и окажется, что она владеет им лучше нас? Может ли само понятие критики пережить собственную автоматизацию?

Быть может, долг мыслящего человека, если этот термин еще имеет какой-то смысл, в том, чтобы заменить оптимизацию критики критикой оптимизации?

А вот Адриен ни в чем не сомневается. Оптимизация упростится в той мере, в какой стоимость предсказания будет приближаться к нулю[99], открывая путь к невиданным решениям в области здравоохранения, экологии, образования и т. д. Каждый шаг в развитии машинного обучения приближает нас к развязке долгой истории человеческих страданий. И если спутница Адриена, психолог, недавно побывавшая во Франции, похоже, очарована образом жизни Старого Света, сам он – адепт калифорнийской культуры. Он нахваливает мне Burning Man, ежегодное безумное мероприятие, ради которого десятки тысяч участников собираются в пустыне Невады на своего рода грандиозный потлач. Это неделя даров и отдаривания, дионисийского ликования и коллективной религиозности. Илон Маск, как известно, объявил, что Burning Man – это сущность Кремниевой долины. На мероприятии приветствуется каждый, во всем царит принцип инклюзивности, но лучше все же быть миллионером, чтобы обустроить лучший кемпинг, проехаться в лучшей повозке и закатить самый лучший пир. Каждая группа отправляется туда со своими собственными припасами. И знаете, как именно там распределяются места? В ходе сложного процесса оптимизации, в котором учитывается поведение в прошлые годы и будущие обязательства…

Эта нерушимая вера в прогресс вызвала во мне едва ли не ностальгию. Чтобы найти ее эквивалент во Франции, пришлось бы вернуться к промышленной революции, когда было полным-полно изобретателей, а Жюль Верн учил человечество мечтать. Быть может, эта одержимость средневековым понятием свободы воли, которое оспаривалось уже Лютером и Кальвином, превратила меня в реакционера? Что, если я просто не вижу самых фантастических перспектив счастья, какие только были когда-либо у человечества? А вдруг сами мои мысли – всего лишь пережиток промышленной эпохи? Во всем этом действительно можно сомневаться. Тем более, если уж говорить на более теоретическом уровне, на своем пути я встречал немало представителей классического либерализма, моих друзей и братьев, которые не разделяют опасений по поводу ИИ и спокойно продолжают свою борьбу за инновации.

Например, Джон Миклетвэйт – образцовый британский журналист, румяный, с непокорной прядью волос. Моя первая встреча с Джоном произошла около десяти лет назад, когда я лелеял безумную мечту работать для The Economist, моей пятничной библии, – еженедельника, основанного в 1843 году для защиты как свободной торговли, так и индивидуальных свобод и сохранившего свою идеологическую направленность до наших дней. В ту пору Джон Миклетвэйт руководил The Economist и любезно принял меня в своем кабинете в Мэйфер. Я целые сутки работал над статьей о будущем баржевого транспорта и считал, что довел ее почти до совершенства. Высказав ряд тонких understatements, Джон дал мне понять, что The Economist – это новостное издание, а не центр для языковой стажировки… Потом я встретился с ним через пять лет на большой конференции, посвященной Маргарет Тэтчер.

И вот теперь мне показалось, что пришло время для нашей очередной встречи, проходящей, получается, раз в пять лет. На этот раз я поехал к нему в штаб-квартиру новостного агентства Bloomberg News в Нью-Йорке, главным редактором которого он стал. Что именно мог думать об ИИ автор «Четвертой революции», сторонник модели минимального государства, которое в то же время должно оставаться гарантом равенства возможностей? Как этому уму, неумолимо реформаторскому и при этом идеологически размещающемуся в самом центре неолиберальной элиты, удается держать баланс между экономической эффективностью и уважением к людям?

Джон бегом пересек огромное открытое пространство офиса Bloomberg. У него была лишь пара минут, а в нескольких метрах стояла часть его команды, показывавшая знаками, что времени нет. Поскольку он так торопился, ответ оказался замечательно кратким. Конечно, есть некоторая озабоченность, связанная с неприкосновенностью частной жизни, однако в целом ИИ дает миру значительный прирост стоимости и полезности. В компании Bloomberg он позволяет персонализировать информацию, передаваемую клиентам, в зависимости от их вкусов, интересов и наличия свободного времени. А то, что относится к частным предприятиям, однажды должно стать истиной и для правительств, поскольку ИИ даст возможность создать лучше организованные, более быстрые и менее дорогостоящие государственные услуги. Если же я действительно желаю паниковать, я всегда могу прочесть недавно опубликованную в The Atlantic статью старика Киссинджера, который считает ИИ предвестием конца просвещения[100]. Но в конечном счете это все не очень серьезно…

Те же идеи бытуют в Niskanen Center, вашингтонском «мозговом центре», отколовшемся около четырех лет назад от весьма либертарианского Cato Institute. Работы Niskanen Center интересны мне потому, что эта молодая