Власть роботов. Как подготовиться к неизбежному - Мартин Форд

Китай движется к превосходству над Соединенными Штатами в исследованиях и разработках искусственного интеллекта. В 2018 году Джеффри Динг, исследователь из Центра по вопросам управления ИИ Института будущего человечества при Оксфордском университете, оценил возможности по развитию ИИ в США и Китае по четырем показателям — базе установленного вычислительного оборудования для ИИ, доступности данных, пригодных для машинного обучения, уровню исследований и продвинутых алгоритмов, а также качеству коммерческой экосферы ИИ. На основании этих факторов Динг создал индекс потенциала в области ИИ, в соответствии с которым Китай набирает только 17 баллов, а США — 33[257]. Динг, в частности, отмечает, что лишь около 4 % заявок на патенты по ИИ, поданных в Китае, впоследствии были приняты и в других юрисдикциях, что, скорее всего, свидетельствует об их низком качестве. Выступая перед комитетом Конгресса США в июне 2019 года, он утверждал, что предполагаемый взлет Китая на вершину в области ИИ сводится к шумихе и преувеличениям и что Америке следует сосредоточиться на поддержании существующего положения дел[258].

Ли Кайфу, напротив, считает, что Соединенные Штаты еще некоторое время сохранят преимущество в исследованиях искусственного интеллекта, но скоро это преимущество будет уничтожено эффективностью Китая в практическом воплощении этой технологии в приложениях, пронизывающих всю экономику. По мнению Ли, чтобы заставить ИИ работать в коммерческой сфере, нужны не самые сильные визионеры, а просто многочисленные знающие и прилежные инженеры, имеющие доступ к огромному массиву данных для обучения машинных алгоритмов[259].

Ставки в возможной гонке Соединенных Штатов и Китая в области ИИ очень сильно поднимает тот очевидный факт, что влияние искусственного интеллекта не будет ограничено коммерческим сектором. ИИ сулит огромные преимущества также для военной сферы и национальной безопасности. Власти Китая прекрасно об этом знают и активно действуют с тем, чтобы полностью стереть разграничительную линию между этими областями. В 2017 году с подачи Си Цзиньпина в конституцию Китая было внесено изменение — требование к коммерческому сектору делиться любыми технологическими достижениями с Народно-освободительной армией. Это так называемый принцип военно-гражданского слияния. В 2018 году Baidu сотрудничала с китайским военным институтом электроники в создании умной технологии командования и управления для армии. Исполнительный директор Baidu Инь Шимин также инженер, имеющий опыт работы в западных компаниях, включая SAP и Apple. На мероприятии в честь начала партнерства Инь заявил, что Baidu и военный институт будут «сообща работать над соединением вычислений, данных и логистики с целью применения нового поколения ИИ-технологий в сфере обороны»[260].

Это разительный контраст с требованием недовольных сотрудников Google выйти из борьбы за контракт с Пентагоном по облачным вычислениям JEDI. Другая оборонная инициатива — проект Maven по созданию алгоритмов компьютерного зрения для анализа изображений, собранных американскими военными дронами, — еще сильнее разъярила работающих в Google. В 2018 году более 3000 сотрудников компании подписали петицию протеста против этого проекта, а некоторые технические специалисты ушли из компании[261]. Как и в случае JEDI, Google в конечном счете свернула проект. Разумеется, сотрудники компании имели полное право выражать свое мнение, но я усматриваю в этой ситуации очевидную и вызывающую обеспокоенность асимметрию. Мысль о том, что работники Baidu или Tencent могли бы подать аналогичный протест (или стали бы его подавать), попросту не приходит в голову. Невозможно обойти вниманием тот факт, что свободы, которыми пользуются граждане демократических государств, не являются естественными человеческими правами, существующими безусловно; это политические права, которые необходимо защищать от авторитаризма. Уровень развития технологии искусственного интеллекта в США и Китае выравнивается. Непонятно, как Соединенные Штаты надеются сохранить конкурентоспособность в области национальной безопасности, если такие компании, как Google, не хотят сотрудничать с американскими военными и силовыми ведомствами, в то время как их китайские коллеги обязаны помогать авторитарной власти, причем эта обязанность выражена настолько явно, что даже закреплена в конституции.

Очевидно, что Соединенные Штаты и другие страны Запада должны очень серьезно отнестись к стремительному взлету Китая в области искусственного интеллекта. Это, скорее всего, потребует увеличения правительственной поддержки фундаментальных исследований в университетах. Также необходимо, чтобы США сохранили одно из своих самых важных преимуществ — то, что их университеты и технологические компании являются центрами притяжения для профессионалов всего мира. Следовательно, США должны быть открытыми для иммиграции, о чем убедительно свидетельствует биография 23 ведущих исследователей ИИ, которых я опросил в ходе работы над книгой «Архитекторы интеллекта». Девятнадцать из них в настоящее время работают в США. Однако больше половины из этих 19 человек родились за пределами Соединенных Штатов в таких странах, как Австралия, Китай, Египет, Франция, Израиль, Родезия (теперь Зимбабве), Румыния и Великобритания. Если Соединенные Штаты перестанут привлекать самых ярких компьютерщиков со всего мира, Китай неизбежно получит преимущество, поскольку продолжает тратить больше денег на образование своего населения, по численности примерно в четыре раза превышающего население США.

Превращение китая в полицейское государство

Нигде синергия авторитарной системы власти Китая и коммерческой экосферы искусственного интеллекта не проявляется очевиднее, чем в растущем кластере стартапов, занимающихся технологией распознавания лиц. В начале 2020 года четыре из них — SenseTime, CloudWalk, Megvii и Yitu — достигли статуса «единорогов», то есть компаний с рыночной стоимостью более $1 млрд[262]. Пока аналитики спорят, приблизился ли Китай к паритету с Соединенными Штатами в развитии технологии искусственного интеллекта, не приходится сомневаться, что в сфере алгоритмов глубокого обучения, используемых для анализа и распознавания лиц и других особенностей людей, китайские компании являются абсолютными лидерами. Как и в других областях применения искусственного интеллекта в Китае, важнейшей движущей силой этого процесса является доступ к огромному массиву данных, на которых можно обучать машинные алгоритмы. По оценкам, в 2020 году в Китае насчитывалось 300 млн камер слежения. Таким образом, с точки зрения доступности цифровых фотографий лиц во всех мыслимых ситуациях и под любыми углами Китай с большим отрывом является мировым лидером.

Бурное развитие стартапов, занимающихся распознаванием лиц, подпитывается безграничным спросом на технологии слежения на всех уровнях авторитарной власти в Китае. Среди самых заинтересованных покупателей этой технологии — полиция, совершенствующая свои сети слежки с учетом особенностей регионов. Синьцзян остается испытательным полигоном для китайского полицейского государства, и технологии, которые были здесь опробованы и доведены до совершенства, быстро распространяются на всю страну. Китайская полиция часто сочетает системы распознавания лиц с другими технологиями, в частности со сканерами мобильных телефонов, которые фиксируют уникальный идентификационный код каждого телефона, оказавшегося поблизости, а также с устройствами считывания автомобильных номеров и отпечатков пальцев. Это оруэлловское единство со временем становится все более тесным. Например, алгоритмы могут связывать