Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

эти первоначальные благие намерения действительно могли привести к улучшению роста и даже социальной включенности. Однако социальный кредит превратился в беспрецедентный инструмент надзора, так что миллионам китайских граждан теперь запрещено летать на самолете, поскольку они слушали слишком громкую музыку, прогуливали собаку без поводка или же публиковали неприемлемые сообщения в социальных сетях. Развитие этой системы, которая пока находится на стадии тестирования, представляется неизбежным. При этом социальный кредит окутан тайной: позднее в Пекине один журналист из Caixin, наиболее независимой газеты в Китае, расскажет мне, что не знает своего собственного рейтинга и что эта тема заслуживает дополнительного исследования…

Отсюда вопрос, поставленный Мартином во введении к статье: что такое социальный кредит – признак прогресса или угроза частной жизни? Ответ оказался несколько более двусмысленным, чем можно было ожидать. Все еще можно надеяться на то, что кредит вернется к своему первоначальному призванию. Однако сама логика ИИ требует непрерывно расширять область доступных данных. С точки зрения алгоритмов, чтобы точно оценить платежеспособность заемщика, вполне логично учитывать его школьные отметки, семейные отношения и даже политические взгляды. Разве не справедливо, что хороший гражданин, серьезность и надежность которого может быть подтверждена всеми окружающими, с бо́льшей легкостью получит заем, чем мошенник и манипулятор? Если есть средства предсказать поведение помимо простой кредитной истории, почему бы не воспользоваться ими? Не собирается ли Facebook пойти тем же путем, введя свою валюту «Либра»? Надзор в таком случае представляется не столько политическим отклонением, сколько технологическим требованием. Социальный кредит – это одновременно экономический прогресс, средство обеспечения социальной справедливости и угроза частной жизни, и их невозможно отделить друг от друга.

Повесив трубку, я остался в глубочайших сомнениях. В словах Мартина я почувствовал некоторое смущение. Как не усомниться в социальной философии, на которой зиждется социальный кредит? Я сам рос под тенью учения Фукуямы, связывающего экономическое процветание с индивидуальной свободой. Мне всегда говорили, что одно невозможно без другого, и именно по этой причине список либеральных демократий в целом совпадает со списком развитых стран. Интеллектуальная собственность, свобода слова и правовое государство – вот что поощряет инновации и инвестиции, и тогда экономическое развитие порождает средний класс, озабоченный своими правами. Даже сегодня историк Нил Фергюсон связывает успех Запада с такими свободами, как право собственности и принцип конкурентности[148]. Однако социальный кредит доказывает, похоже, прямо противоположное: только подчиняя всех граждан едва ли не тотальному режиму прозрачности и подвергая их постоянному социальному давлению, можно максимизировать результаты, на которые способны алгоритмы. Общее благо имеет свою цену.

ИИ в том виде, в каком его спешат развивать в Китае, разъединяет два члена уравнения, которое я считал вечным: процветание и свободу, экономический рост и права человека. Передо мной, нависая над хаосом Юнион-сквер, стояла двадцатипятиметровая статуя Ники, богини победы. Но, может быть, вскоре она перейдет в другой лагерь? Не соответствует ли триумф США, одержанный в XX веке, той технологической парадигме, которая сегодня устарела? В мире, где прогресс зависит от накопления данных, преимущество, возможно, окажется на стороне авторитарных государств. А раз так, не становится ли частная жизнь, некогда выступавшая залогом креативности, препятствием для оптимизации?

Сталкиваясь с этими ключевыми для будущего нашей цивилизации вопросами, общества и организации, с которыми я познакомился, дают разные ответы, основанные на их собственных ценностях. Для простоты я буду различать конфуцианский Китай, стоическую Европу и протестантскую Америку.

Китай, или Триумф Конфуция

В своих странствиях я потратил на США в три раза больше времени, чем на Китай. Слишком поздно я понял, что надо было сделать наоборот… Хотя центр мировых инноваций по-прежнему находится в Калифорнии, новые китайские гиганты бросают вызов компаниям GAFA и их сателлитам[149]. Например, Didi в одном только Китае ежедневно выполняет больше рейсов, чем Uber во всем мире. Главное же, независимо от споров о реальности сокращения отставания Китая[150], что ИИ в в этой стране стал проектом всего общества в целом, определенным в качестве такового национальной стратегией развития, обнародованной правительством в июле 2017 года.

Чтобы понять китайскую страсть к ИИ, я решил встретиться с Богом – с Кай-Фу Ли, у которого 50 миллионов подписчиков на Weibo (китайском аналоге твиттера). Его выступление на TED, где он объясняет, «как ИИ может спасти человечество» (sic!), набрало более двух миллионов просмотров. О нем регулярно упоминали мои собеседники, которые его едва ли не боготворили. Кай-Фу Ли, специалист по компьютерным наукам, получивший образование в США и прославившийся работами в области распознавания голоса, сделал блестящую карьеру в Apple, Microsoft и Google. Потом, около десяти лет назад, он основал компанию Sinovation Ventures, ставшую основным китайским фондом венчурного капитала, управляющим сегодня более чем двумя миллиардами долларов. Кай-Фу Ли начал инвестировать в предприятия, которые могут составить конкуренцию его бывшим работодателям, и сегодня активно выступает в разных медиа, где защищает ИИ. В штаб-квартире Sinovation Ventures в Пекине есть опенспейс, устроенный по калифорнийскому образцу, с технарями в футболках, которые не отрываются от гигантских экранов. В ближайших к нему залах можно развлечься последними финансовыми инновациями Sinovation Ventures: здесь есть, например, автоматическая касса, которая распознаёт продукты, выложенные на ленту, и пробивает чек; автомат с пивными банками, похожий на простой холодильник, – он может автоматически списывать стоимость напитков со счета клиента (а скоро будет опознавать его по лицу). Проходя мимо экрана, я вижу, что меня разложили на точки и линии, рядом с которыми появилось множество китайских иероглифов, внушающих мне опасение… На доске почета представлены лучшие достижения фонда, с условными обозначениями: два единорога – для стартапа, оцениваемого более чем в пять миллиардов долларов (это Meitu, система обработки фотографий, или Bitmain, производящий чипы, заточенные под биткойны); один единорог – для стартапов, которые преодолели порог в один миллиард (Face++, лидер распознавания лиц); поощрительные знаки – для всех прочих. В целом на долю Китая приходится более сотни единорогов, то есть стартапов, которые преодолели порог в миллиард долларов. Это примерно треть всего мирового числа единорогов и 40 % их общей капитализации. Для сравнения: единственная французская компания, которая может претендовать на этот статус, – Blablacar. Посещение штаб-квартиры Sinovation Ventures позволяет предугадать, какое место в мире уготовано нам, французам.

Перед тем как меня подводят к Богу, я замечаю на полу простую раскрашенную миску, которая служит аквариумом для одинокой рыбки. У края колышется белая кувшинка, постепенно переплывающая с одной стороны на другую. Как неожиданно и трогательно это прикосновение к традиции, которая кажется совершенно забытой во всем этом технологическом водовороте… Вот так и развивается Китай – с головой бросившийся в безумную модернизацию, но при этом пронизанный фрагментарными воспоминаниями о своей