Конец индивидуума. Путешествие философа в страну искусственного интеллекта - Гаспар Кёниг

дреды до колен наглядно доказывают его нонконформизм, убедил меня уйти из социальных сетей. В Дании я как-то пил чай с Перниль Транберг, бывшей журналисткой, писавшей о технологиях, которая теперь разрабатывает в своем Институте этики данных средства «цифровой защиты», такие как блокиратор рекламы или фальшивые цифровые идентичности (в Facebook она называет себя Пиа). А в Париже министр образования, запретив пользоваться мобильными телефонами в школе, на свой лад доказал, что можно коллективно отказаться от nudge: ведь цель образования, собственно, и состоит в развитии автономной личности. Жизнь вне сети возможна.

Если просто отключиться или сохранить анонимность на практике не удается, существуют и другие методы обхода алгоритмов. Самый изощренный – «затемнение», метод, разработанный и описанный в маленькой методичке двумя преподавателями Нью-Йоркского университета[192]. Он состоит в том, чтобы «намеренно производить двусмысленную, запутанную или ложную информацию с целью создания помех для сбора данных». Иначе говоря, произвести цифровой шум, который мог бы заглушить собственно сигнал. Такая стратегия уже применялась летчиками во время Второй мировой войны: они выбрасывали полоски фольги, чтобы увеличить число ложных сигналов на вражеских радарах. Тот же метод, представленный в иронической форме, можно встретить в кинофильме «Афера Томаса Крауна»: чтобы скрыться из музея, вор смешивается с толпой из десятка посетителей, одетых в одинаковые костюмы, как на картине Магритта. Если следы нельзя стереть, нужно оставить их как можно больше. В интернете сервисы виртуального клонирования позволяют создавать фальшивые идентичности, сбивающие с толку алгоритмы Facebook и Amazon. Авторы приводят множество подобных примеров вместе с полезными советами. Их цель – маскировка, которая позволит продолжать пользоваться благами интернета, не становясь жертвой «асимметричных властных отношений», создаваемых цифровой слежкой.

Эти альтернативные практики часто дублируются политическим дискурсом откровенно левого толка. В Оксфорде на выступлении публициста Джонни Пенна я познакомился со своего рода марксизмом 2.0, ассоциирующим прогресс ИИ с капиталистическим угнетением (позднее на сайте Пенна я выяснил, что в числе его клиентов HSBC, Amazon и General Motors – «икорных левых» ждут хорошие времена). Но это я еще не встречал настоящих радикалов… В Лос-Анджелесе я связался с активистами, которые разоблачают использование силами правопорядка предсказательных алгоритмов (predictive policing). Они пригласили меня на встречу в офис Stop LAPD Spying Coalition.

– Только предупреждаем, мы находимся в Скид-Роу. Ничего для вас?

– Да, а что в этом такого?

Взглянув на карту, я скорее обрадовался: мне представился случай посмотреть даунтаун Лос-Анджелеса, города, больше известного своими пригородами. Выйдя из метро, я увидел офисных работников вперемешку с наркоманами, к чему уже привык в Сан-Франциско. Чтобы добраться до указанного адреса, нужно было идти двадцать минут пешком по прямой. Квартал был так себе… Я перестал смотреть по сторонам и, надев наушники, шел, думая о своем. Мне оставалось пройти еще шесть кварталов, когда я вдруг встал как вкопанный, бессознательно почувствовав тревогу. Ноги отказывались сойти с перекрестка. Я не сразу понял, в чем дело… Это как внезапно оказаться в виртуальной реальности. Я бывал в трущобах Лимы, в деревнях в Руанде, ходил по улицам индийских мегаполисов, по цыганским таборам в Румынии, но еще нигде не видел такого убожества. Передо мной до самого горизонта простирались хаотически разбросанные матрасы, коробки, тенты, зонты от солнца, палатки и кучи мусора. По улице, на которой образовались эти трущобы, находившиеся в постоянном движении, не ездила ни одна машина. Похожие на скелеты силуэты толкали тележки, орали пошатываясь или просто неподвижно сидели с трубкой с крэком в зубах, погрузившись в кошмары наяву. Многие растянулись прямо на тротуаре. Фотографии, сделанные в этом районе Сюзанной Стейн, показывают ужасающее скопище людей с разбитыми в драках лицами, всеми брошенных, кое-как перетаскивающих свои тела по бетонным пространствам, людей, у которых только один друг – наркота. Подобранное на помойке грязное тряпье, которые они нацепляют на себя, создает впечатление вечного костюмированного бала, сатанинского маскарада со шляпами-котелками, темными очками, брендовыми сумочками и леопардовыми шейными платками. В этом смешении полуголых тел, татуировок и беззубых ртов не было ни расы, ни пола, ни возраста; это было равенство отбросов общества, братство апокалипсиса. Несколько оставшихся вывесок, наполовину стершихся, тщетно напоминали о том, что другая жизнь была возможна. Громко сигналя, проносились скорые, благотворительные организации раздавали еду или одеяла: но кого можно спасти в Скид-Роу, квартале, приютившем самое большое количество бездомных в США, в котором многочисленные программы реабилитации, кажется, заранее обречены на провал? Здесь речь идет уже не о бедности, а о непроглядной нищете, беспрерывно движущейся от одних страданий к другим, как на картинах Босха с изображением ада. Скид-Роу – это вопль безумия под открытым небом, в самом сердце главной мировой сверхдержавы.

С некоторым трудом я уговариваю таксиста отвезти меня по нужному адресу параллельными улицами. Затем пробираюсь между двумя палатками до ворот и захожу в довольно аккуратное здание, центр социального действия в Скид-Роу (Community Action Network). Через несколько минут меня приводят в маленькую комнату, где я, к своему удивлению, встречаю всех руководителей Stop LAPD Spying Coalition: Дженни, Акила, Ахмеда, Тифани, Питера. Они не скрывали своего недоверчивого отношения ко мне, ситуацию смягчило только добродушие их предводителя, Ахмеда, афганца, не столь озабоченного доктринальной чистотой. У «Коалиции» благородная цель – бороться против predictive policing, превентивной стратегии полиции, которая вот уже два года позволяет полицейским Лос-Анджелеса, пионера в этой области, производить аресты на основании «достаточно подозрительного поведения». «Коалиция» выявила две программы, в которые сегодня интегрирован ИИ, оценивающий вероятность совершения преступления: LASER, анализирующий индивидуальное поведение, и PRETROL, выявляющий опасные зоны с точностью до сегмента улицы. Пользуясь услугами Palantir, одного из лидеров в области анализа данных по заказу правительства, полиция Лос-Анджелеса может реконструировать передвижения подозреваемых, а также их обычные контакты. Поскольку алгоритмы учитывают прошлые данные, это логично приводит к стигматизации групп населения, живущих в криминальной среде, тем самым «под видом объективности» подкрепляются и узакониваются расистские предрассудки, как объяснил мне один из собеседников[193].

– Эффективен ли, несмотря ни на что, такой полицейский надзор? – имел несчастье спросить я.

Я не добился встречи в самом LAPD – департамент коммуникации (неудачное название) принудил к молчанию офицера, который был готов со мной пообщаться. Поэтому мне пришлось стать адвокатом дьявола. Это не понравилось Дженни. Она строго напомнила мне, что их проект ставит «аболиционистскую» цель, а именно уничтожение полиции. Воспользовавшись этим напряженным моментом, Акил взялся излагать планетарные перспективы деятельности Коалиции, втирая мне про французский Алжир и судьбу Палестины. Я потерялся в этом концептуальном винегрете из борьбы со структурным расизмом, господством белой расы, неоколониализмом, эхом 11 сентября и пособничеством академиков. Питер, молодой компьютерщик, бросивший профессию, чтобы стать активистом по борьбе со слежкой, заявил, что