Совместимость. Как контролировать искусственный интеллект - Стюарт Рассел

Таким образом, можно ожидать, что многие другие идеи, осваиваемые в исследовательских лабораториях мира, в следующие несколько лет преодолеют порог коммерческой целесообразности. Это будет происходить все чаще по мере того, как растет уровень инвестиций, а мир все охотнее воспринимает приложения ИИ. В этой главе приводятся примеры того, с чем мы можем столкнуться в скором времени.

Попутно я буду указывать на определенные недостатки этих технологических достижений. Вероятно, вы сумеете найти многие другие, но не беспокойтесь, я обращусь к ним в следующей главе.

Экосистема ИИ

Сначала область, в которой действовало большинство компьютеров, была, в сущности, «безвидна и пуста»: входные данные поступали исключительно с перфокарт, а единственным методом вывода было распечатывание символов на строчном принтере. Вероятно, поэтому большинство исследователей считали интеллектуальные машины устройствами для ответов на вопросы. Восприятие машин как агентов, ориентирующихся и действующих в окружающей среде, распространилось не раньше 1980-х гг.

Появление всемирной сети интернет в 1990-х гг. открыло целую вселенную для интеллектуальных машин. Появилось новое слово, softbot, обозначающее программных «роботов», действующих целиком и полностью в программной среде, такой как интернет. Предметом восприятия «софтботов», которых впоследствии стали называть просто ботами, являются интернет-страницы, их действия — выдача последовательностей символов, интернет-адресов и т. д.

Во время бума «доткомов» (1997−2000 гг.) компании — разработчики ИИ множились как грибы после дождя, создавая средства поиска и электронной торговли, в том числе анализ соединений, системы рекомендаций, системы репутаций, службы сравнения цен и категоризацию товаров.

В начале 2000-х гг. повсеместное распространение мобильных телефонов с микрофонами, камерами, акселерометрами и GPS впервые дало людям доступ к ИИ-системам в повседневной жизни; «умные колонки», например Amazon Echo, Google Home и Apple HomePod, продолжили этот процесс.

Около 2008 г. количество объектов, подключенных к интернету, превысило число людей, имеющих к нему доступ, — некоторые называют этот переход началом Интернета вещей (IoT). В число этих «вещей» входят автомобили, бытовые приборы, уличные светильники, торговые автоматы, термостаты, квадрокоптеры, видеокамеры, датчики состояния окружающей среды, роботы и всевозможные материальные предметы, как в процессе производства, так и в системах дистрибуции и розничной торговли. Это значительно увеличивает доступ ИИ-систем к сенсорным и управляющим сигналам реального мира.

Наконец, совершенствование восприятия позволило роботам с ИИ выйти за пределы фабрик, где они зависели от жестко ограниченного расположения объектов, в реальный, неструктурированный, хаотичный мир, где их камерам есть на что посмотреть.

Самоуправляющиеся автомобили

В конце 1950-х гг. Джон Маккарти мечтал, что однажды его доставит в аэропорт автоматизированное транспортное средство. В 1987 г. Эрнст Дикманнс продемонстрировал фургон «мерседес» с автопилотом на автобане в Германии; он был способен держать ряд, следовать за другой машиной, перестраиваться и совершать обгон^[85]. Через 30 с лишним лет у нас все еще нет полностью автономного автомобиля, но мы к нему намного ближе. Центр разработки давно переместился из научно-исследовательских лабораторий в крупные корпорации. На 2019 г. лучшие тестовые автомобили «намотали» миллионы километров езды по общественным дорогам (и миллиарды километров в дорожных симуляторах) без серьезных инцидентов^[86]. К сожалению, некоторые автономные и полуавтономные транспортные средства убили несколько человек^[87].

Почему потребовалось так много времени для достижения безопасной автономной езды? Во-первых, из-за очень высоких требований к результативности. Водители в Соединенных Штатах попадают примерно в одну аварию с человеческими жертвами на 160 млн км пути, что высоко поднимает планку. Чтобы автономные транспортные средства были приняты в эксплуатацию, они должны показывать намного лучшие результаты: скажем, одна авария со смертельным исходом на 1 млрд км, или 25 000 лет безаварийной езды по 40 часов в неделю. Вторая причина заключается в том, что предполагаемый обходной вариант — передача управления человеку, если машина дезориентирована или выходит за рамки безопасных условий эксплуатации, — попросту не работает. Когда машина едет сама, люди отвлекаются от дорожной ситуации и не могут включиться в нее достаточно быстро, чтобы успеть взять управление на себя. Более того, попутчики и пассажиры такси на заднем сиденье вообще не имеют возможности подключиться к управлению машиной, если что-то пошло не так.

Текущие проекты ставят целью достижение автономии четвертого уровня по классификации Общества автомобильных инженеров^[88]. Это означает, что транспортное средство должно быть в любой момент способно двигаться самостоятельно или безопасно остановиться, с учетом географических ограничений и погодных условий. Поскольку погода и дорожная ситуация меняются и могут сложиться необычные условия, с которыми автомобиль уровня 4 не сумеет справиться, человек должен находиться в машине наготове при необходимости взять управление на себя. (Уровень 5, неограниченная автономность, не требует водителя, но еще более труднодостижим.) Автономия уровня 4 далеко выходит за рамки простых рефлекторных задач на соблюдение дорожной разметки и избегание препятствий. Транспортное средство должно, опираясь как на текущие, так и на прошлые наблюдения, оценивать целевые и вероятные будущие траектории движения всех релевантных объектов, в том числе таких, которые могут быть невидимыми. Далее, с помощью опережающего поиска автомобиль должен найти траекторию, оптимизирующую определенную комбинацию безопасности и движения. Некоторые проекты используют более прямые подходы, основанные на обучении с подкреплением (главным образом, разумеется, в симуляторах) и на контролируемом обучении, для которого используются видеозаписи сотен водителей, но не похоже, чтобы эти подходы достигли требуемого уровня безопасности.