Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир - Кейд Метц

затем компанию DeepMind за 650 миллионов, Юстас собрал под свое крыло почти всех наиболее опытных разработчиков глубокого обучения. Чего компании по-прежнему не хватало, как это вскоре обнаружил Крижевский, так это оборудования, необходимого этим выдающимся исследователям для ускорения их работы в соответствии с их талантом и амбициями. Крижевский выиграл конкурс ImageNet с кодом, написанным для использования на графических процессорах, но когда он прибыл в Маунтин-Вью, то обнаружил, что Google’овская версия его системы, созданная Войцехом Зарембой, работала на стандартных процессорах. Весь аппаратно-программный комплекс Google под названием DistBelief, созданный специально для обучения нейронных сетей, работал на стандартных процессорах. Лаборатория Google Brain потратила месяцы на создание этой системы, но у Крижевского не было никакого интереса пользоваться ею.

Приступив к работе в компании, он купил в ближайшем магазине электроники компьютер с графическим процессором, поставил его в шкаф рядом со своим столом и начал обучать нейронные сети на этом единственном аппарате. Другие исследователи также обзавелись компьютерами с графическими процессорами и держали их у себя под столами. Это не сильно отличалось от того, как Крижевский работал у себя в спальне, еще будучи в Торонто, только теперь компания Google оплачивала счета за электричество. В то время как большинство остальных сотрудников компании создавали и запускали свои программы через мощную сеть корпоративных дата-центров – представляющую собой, наверное, самую большую частную коллекцию компьютеров в мире, – Крижевскому приходилось довольствоваться скромным собственным компьютером. Те руководители, в чьем ведении находились центры обработки данных компании, не видели причин оснащать свои компьютеры графическими процессорами.

Эти традиционно мыслящие руководители не понимали того, что за глубоким обучением будущее и что графические процессоры, в отличие от обычных компьютерных чипов, позволяют резко повысить эффективность этой новой технологии. Такое часто происходит в крупных технологических компаниях, да и в мелких тоже: большинство людей неспособны выходить за рамки привычного образа мышления и поведения. Поэтому Алан Юстас считал необходимым окружить себя людьми, способными применить новые подходы к проблемам, которые никак не удавалось решить старыми методами. «Большинство людей смотрят на конкретные проблемы с определенной точки зрения, под определенным углом и с высоты своего опыта, – говорит он. – Они не принимают во внимание иные точки зрения, способные изменить картину». Это была та же самая философия, которую он применил к подготовке своего прыжка из стратосферы. Когда он планировал прыжок, его жена была против. Она настояла на том, чтобы он снял видео и объяснил, зачем он так рискует, чтобы она могла показать это детям, если он погибнет. Видео он снял, но продолжал уговаривать жену, что риск минимальный, почти несущественный. Он и его команда нашли новый способ совершения таких прыжков, и, хотя многие не понимали его, сам Юстас не сомневался в том, что все получится. «Меня часто называют безрассудным, но на самом деле я полная противоположность безрассудству, – говорит он. – Я нанимаю лучших людей, каких только могу найти, и мы работаем вместе, чтобы исключить практически все возможные риски и постараться сделать так, чтобы то, что кажется очень опасным, стало совершенно безопасным».

Джефф Дин, сидевший в своем офисе чуть дальше по коридору от кабинета Крижевского, знал, что аппаратное обеспечение Google нужно менять. Компания не может продолжать раздвигать горизонты глубокого обучения, пока не перестроит систему DistBelief на основе графических процессоров. Поэтому весной 2014 года он встретился с «головой искусственного интеллекта» Google Джоном Джаннандреа, которого в компании все называли не иначе как Джей-Джи. Он курировал не только Google Brain, но также смежную команду специалистов по ИИ, которую помогал создавать в течение этих лет. Джей-Джи был человеком, к которому исследователи, подобные Крижевскому, приходили, когда им требовалось еще больше графических процессоров под столом или в шкафу. И вот они с Джеффом Дином сели обсудить, каким количеством графических чипов нужно оснастить компьютеры гигантского центра обработки данных, чтобы исследователи вроде Крижевского не требовали больше.

Первая прикидка была двадцать тысяч. Потом они решили, что этого будет слишком мало. Надо просить сорок тысяч. Но когда они отправили свой запрос в бухгалтерию Google, он был немедленно отклонен. Сеть из сорока тысяч графических процессоров обошлась бы компании примерно в 130 миллионов долларов, и, хотя Google регулярно вкладывала такие огромные суммы в оснащение своих центров обработки данных, она никогда не инвестировала в оборудование, подобное запрашиваемому. Поэтому Дин и Джаннандреа передали свою просьбу Алану Юстасу, который как раз готовился совершить прыжок из стратосферы. Юстас все понял. Он передал запрос Ларри Пейджу, и как раз перед тем, как побить рекорд Баумгартнера в прыжках с парашютом188 в акваланге, получил 130 миллионов долларов на графические процессоры. Меньше чем через месяц после закупки эти процессоров все сорок тысяч уже работали круглосуточно, обучая одну за другой нейронные сети.

* * *

К тому времени Алекс Крижевский успел перейти в другое подразделение компании. Навещая родителей в Торонто во время каникул в декабре того же года, он получил электронное письмо от женщины по имени Анелия Ангелова, которая просила его помочь в работе с беспилотным автомобилем Google. На самом деле разработка автономного транспорта была не в ее ведении. Она работала вместе с Крижевским в Google Brain. Но она знала, что ведущие лаборатории исследования в области компьютерного зрения – продолжение дела, начатого Крижевским в Университете Торонто, – могли бы изменить подходы компании к разработке автономных транспортных средств. Проекту беспилотного автомобиля, известному внутри компании как Chauffeur, было почти пять лет. Это означало, что Google потратил почти пять лет на разработку автономных транспортных средств без использования технологии глубокого обучения.

В Университете Карнеги – Меллона еще в конце 1980-х Дин Померло разрабатывал автономный автомобиль на основе нейронной сети, но, когда компания Google почти два десятилетия спустя приступила к работе над автономными транспортными средствами, ядро научного сообщества, включая многих исследователей из Карнеги – Меллона, нанятых Google для реализации этого проекта, давно отказались от этой идеи. Нейронная сеть могла помочь построить автомобиль, который бы сам ездил по пустым улицам, но не более того. Это все любопытно, говорили специалисты, но это не приведет к созданию автономных транспортных средств, которые могли бы лавировать в интенсивном трафике, как это приходится делать машинам с водителями. Ангелова, однако, мнение этих исследователей не разделяла. И вот когда все сотрудники разъехались на рождественские каникулы и офисные здания Google опустели, она задумалась над тем, как технология глубокого обучения могла бы научить беспилотные автомобили замечать пешеходов, переходящих улицу или прогуливающихся по тротуарам. Поскольку все это было для