Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир - Кейд Метц

и в Париже, родном городе Яна Лекуна. Microsoft в итоге купила стартап Maluuba422, который стал ее собственной лабораторией в Монреале (с Йошуа Бенжио в качестве дорогостоящего консультанта). А Джефф Хинтон, вместо того чтобы проводить время в Маунтин-Вью, открыл лабораторию Google в Торонто. Он сделал это отчасти для того, чтобы иметь возможность заботиться о своей жене, которая продолжала бороться с онкологией. Она часто приезжала к нему в Северную Калифорнию, где они проводили выходные в Биг-Суре, одном из ее любимых мест отдыха. Но ее здоровье становилось все хуже, и приезжать она могла все реже. Но она непреклонно настаивала на том, чтобы Хинтон продолжал свою работу, и, когда он перенес свою работу в Торонто, это пошло на благо всем.

Последствия иммиграционной политики администрации Трампа ярко проявились уже в апреле 2017 года, всего через три месяца после его вступления в должность, когда Хинтон помог открыть в Торонто научный инкубатор под названием Институт искусственного интеллекта Vector423. Проект был подкреплен финансированием в размере 130 миллионов долларов424, включая поступления от таких американских гигантов, как Google и Nvidia, но смысл его существования состоял в том, чтобы способствовать появлению и развитию новых канадских стартапов. Премьер-министр Канады Джастин Трюдо пообещал 93 миллиона долларов425 на поддержку центров разработки ИИ в Торонто и Монреале, а также в Эдмонтоне. Тернистый карьерный путь одной из ключевых помощниц Хинтона, молодой исследовательницы по имени Сара Сабур, ярко иллюстрировал международный характер разработок ИИ и их восприимчивость к политическому вмешательству. В 2013 году, получив диплом по информатике в иранском Технологическом университете имени Шарифа, Сабур подала заявление в аспирантуру Вашингтонского университета, надеясь заниматься там компьютерным зрением и другими формами ИИ, и ее приняли. Но американские власти отказали ей в визе – только потому, что она выросла и училась в Иране и намеревалась специализироваться в области компьютерного зрения, технологии, которая потенциально может быть использована в военных и разведывательных целях. На следующий год она поступила в Университет Торонто, откуда пришла к Хинтону в Google.

Тем временем администрация Трампа продолжала наращивать политику сдерживания иммиграции. «Американские компании получают от этого краткосрочную выгоду, – говорил Адам Сигал, специалист по новым технологиям и национальной безопасности в Совете по международным отношениям. – Но в долгосрочной перспективе это Америке в ущерб, потому что технологии совершенствуются и новые рабочие места создаются где угодно, только не у нас». По словам Эндрю Мура, декана факультета информатики в Университете Карнеги – Меллона, одного из центров исследований искусственного интеллекта в Соединенных Штатах, ситуация была близка к тому, чтобы не спать из-за нее по ночам. Один из коллег Мура, Гарт Гибсон, покинул Университет Карнеги – Меллона, чтобы возглавить Vector Institute в Торонто. Семь других профессоров уехали в Швейцарию, потому что тамошние университеты предлагали гораздо лучшие условия для такого рода исследований, чем это было в США. «Ситуация напоминает вялотекущий “Спутниковый кризис”, и Соединенные Штаты проигрывают в этом соревновании», – утверждал Мур.

Но отток талантов был все же не самой главной переменой в исследованиях ИИ, связанной с приходом Трампа в Овальный кабинет. С момента окончания выборов национальные СМИ всерьез заговорили о том, какое влияние на исход выборов могла оказать кампания дезинформации в интернете, выражая глубокую озабоченность по поводу растущей роли «фейковых новостей». Марк Цукерберг поначалу отверг роль онлайновой дезинформации в своем публичном выступлении в Кремниевой долине через несколько дней после выборов, беспечно назвав «совершенно безумной» идею426 о том, что настроения избирателей могли быть были поколеблены фальшивыми новостями. Хор отвергающих эту идею репортеров, законодателей, ученых мужей и частных лиц, однако, вскоре поутих. Истина заключалась в том, что проблема массовой дезинформации во время выборов действительно имела место, особенно в социальной сети Facebook, где сотни тысяч, а возможно даже миллионы людей, распространяли выдуманные истории с громкими заголовками типа «Агент ФБР, подозреваемый в утечке электронной почты Хиллари, обнаружен мертвым: подозревается убийство-самоубийство»427 или «Папа Франциск шокирует мир, поддерживая кандидатуру Дональда Трампа на пост президента». Озабоченность только возросла, когда служба безопасности Facebook обнаружила, что российская компания428, имеющая связи с Кремлем, потратила более 100 000 долларов на объявления, которые распространялись на правах рекламы через четыреста семьдесят поддельных аккаунтов и страниц и были посвящены таким острым и болезненным вопросам, как расовая дискриминация, контроль над оружием, права геев и иммиграция. И все это заставило общественность под другим углом взглянуть на генеративно-состязательные сети и сходные технологии. Эти технологии, казалось, как раз и позволяли массово генерировать фальшивые новости.

Мало того, исследователи сами способствовали этой шумихе. Ученые из Вашингтонского университета429, один из которых вскоре перешел в Facebook, использовали нейронную сеть для создания фальшивого видеоролика, где в уста Барака Обамы вкладывались новые слова. Инженеры одного из китайских стартапов, использовали аналогичные методы430, чтобы «научить» Дональда Трампа говорить по-китайски. Фальсификация изображений сама по себе не была чем-то новым. Люди использовали различные технологии обработки фотоснимков с самого зарождения фотографии, а с возникновением в компьютерную эпоху таких инструментов, как Photoshop, у каждого появилась возможность редактировать как фотографии, так и видео. Проблема была в том, что благодаря новым методам глубокого обучения машины могли научиться решать эту задачу – или, по крайней мере, часть задачи – самостоятельно, что грозило значительно упростить процесс массовой фальсификации. Вместо того чтобы платить сотрудникам «фабрик троллей» за создание и распространение фальшивых изображений и фальшивых видео, организаторы политических кампаний, государственные органы, активисты и мятежники в потенциале могли бы создавать такие системы, чтобы они выполняли эту работу в автоматическом режиме.

На момент выборов до полной реализации потенциальных возможностей ИИ в плане манипулирования изображениями оставалось еще несколько месяцев. На то время генеративно-состязательные сети были способны генерировать только миниатюрные изображения, а для создания систем, которые вкладывали различные слова в уста политиков, все еще требовалось много человеческого труда и большой опыт. Но уже через год после победы Трампа, группа исследователей из лаборатории Nvidia в Финляндии представила431 новую, «прогрессивную» модификацию генеративно-состязательных сетей, которая уже могла создавать полноразмерные изображения растений, лошадей, автобусов и велосипедов, внешне неотличимых от настоящих. Но основное внимание привлекло генерирование человеческих лиц. Проанализировав тысячи фотографий знаменитостей, система Nvidia могла создать лицо, которое походило бы на ту или иную знаменитость, но все-таки и отличалось бы от нее, – которое напоминало бы вам Дженнифер Энистон или Селену Гомес, но не было бы лицом ни той, ни другой. Эти выдуманные лица казались совершенно настоящими, со своими морщинами, порами, тенями и