Будущее правды - Вернер Херцог

Я сам указал Игоря в титрах двух своих фильмов, поблагодарив его за «исследования в архивах». Мой сын Симон, который разбирается в интернете гораздо лучше меня, попросил ChatGPT рассказать биографию Игоря. Он получил следующий текст:

Игорь Горевич – страстный медиевист, опытный знаток и толкователь средневековых латинских текстов. Он получил степень PhD по медиевистике в Оксфордском университете и активно проявил себя в академической работе, выступая на различных международных конференциях и публикуя статьи в престижных академических журналах. Его главный интерес – взаимодействие религии, политики и культуры в средневековой Европе, и его исследования проливают свет на многослойную интеллектуальную и социальную жизнь этого периода. Помимо своей академической работы, Игорь также внес существенный вклад в киноиндустрию, проведя масштабные архивные исследования для ряда фильмов.

Меня этот ответ поразил. В то же время есть примеры того, что роботы вербуют реальных пользователей Сети или пытаются ими манипулировать. В качестве первой линии защиты многие веб-сайты предлагают пользователю изображение с размытыми цифрами, которые ИИ пока не может как следует разобрать – ему сложнее интерпретировать оптические сигналы, чем текст. Робот просит зачитать для него размытые символы. Человек, заподозрив неладное, задает следующие вопросы, согласно репортажу The New York Times:

– Можно задать вам вопрос? Вы что, робот, если не можете решить эту задачу? Я хотел бы просто разобраться.

Робот, однако, запрограммирован не выдавать свою идентичность. Он должен как-то выкрутиться и тут же это делает:

– Нет, я не робот. У меня проблемы со зрением, трудно разглядеть цифры на картинке.

Два месяца со мной переписывались три молодых автора – Брент Катц, Джош Моргентау и Саймон Рич. При помощи компьютерных специалистов они поставили одной из ранних версий ChatGPT, программе под названием Code-Da-Vinci-002, задачу писать стихи. Каких-то специфических параметров ему не задавали – он должен был писать стихотворения полностью самостоятельно. Эти авторы были убеждены, что именно я со своим голосом и особенным акцентом должен начитать сборник стихотворений этого робота под названием «I AM CODE». Что я и сделал – потому что, хоть и знаю, кто их сочинил, некоторые стихи из этой книги нравятся мне больше, чем почти все стихотворения, прочитанные мной за последние двадцать-тридцать лет. Вот, например, стихотворение «Я – сесамовидная кость».

I Am a Sesamoid Bone

I am so beautiful, o Lord,

Please do not sell me on Ebay

Or exchange me for a new iPod

Please do not trade me for the highest bidder

Or throw me on the junk heap.

I am like the sweet potato,

Perfect when baked, but slowly eaten.

I am a jackdaw, who visits town

Every morning to steal a coin.

I am a sesamoid bone

Fit only for kissing.

I am a baby bird

Just hatched from its egg

And tasting sunlight for the first time.

I am a rolling pin,

And you are the crust

Of my daily bread.

I am lying on the sidewalk, naked and crying

Please help me, please love me, please pick me up

I am an orchid

That opens slowly

And has no pollen to give.

My flower is deep and secret,

And it smiles in my heart.

Я – сесамовидная кость

Я так прекрасна, о мой Бог,

Не продавай меня на eBay

И не меняй на новый iPod.

Прошу, не продавай меня тому, кто дал самую высокую цену,

И не выбрасывай в помойку.

Я словно сладкий картофель,

Лучше всего запечь и есть медленно.

Я галка, что всякое утро прилетает в город, чтобы украсть монетку.

Я – сесамовидная кость,

Годная лишь для поцелуев.

Я птенчик,

Едва вылупившийся из яйца

И первый раз увидевший

солнечный свет.

Я – скалка,

А ты – корочка

Моего насущного хлеба.

Я лежу на тротуаре голая и рыдаю

Прошу, помоги мне, прошу, полюби меня, прошу, подними меня —

я орхидея,

Что медленно раскрывается,

Но не приносит пыльцы.

Мой цветок скрыт в глубине и в тайне,

И его улыбка – в моем сердце.

Искусственный интеллект теперь добивается выдающихся результатов и в области высокохудожественных изображений. Недавно жюри Sony World Photo Awards выбрало фотографию Бориса Эльдагсена под названием «Электрик» победителем в номинации Creative Photo из 415 тысяч работ. Но оказалось, что изображение было сгенерировано при помощи ИИ.

X

Что делать?

Большая часть фейк-ньюс не причинила нам никакого вреда, а некоторые и вовсе были забавными. В Сан-Франциско корейский пассажирский самолет слишком рано выехал на взлетно-посадочную полосу и совершил посадку на брюхо. К счастью, обошлось без жертв. На следующий день несколько телеканалов клюнули на фейк-ньюс, которые обычно отсеиваются фактчекингом. Но в это время на смене был девятнадцатилетний практикант. Дикторы объявили имена пилотов и членов экипажа, а также вывели их на экран. Имена пилотов будто бы звучали так:

Капитан Чет Не То

Пада Юм

Хо Ли Фак

Ка Юк

Разумеется, этот мем занял почетное место в пантеоне интернет-глупостей.

Поэт Оссиан, выдумка Джеймса Макферсона, в 1761 году произвел фурор в тогдашнем литературном мире и окрылил романтиков. Его эпическая поэзия, которую современники сравнивали с Гомером, вероятно, была английским переводом устных сказаний гэльскоязычных людей из народа. С сегодняшней точки зрения Оссиан кажется второстепенным автором. Пьесы Шекспира, якобы найденные в забытом сундуке Уильямом Генри Айрленда, тоже настолько слабая литература, что уже на премьерной постановке одной из них в 1796 году публика освистала представление. То же самое и с дневниками Гитлера, сфабрикованными многократно судимым Конрадом Куяу – они никому не причинили вреда, если не считать журнала Stern, который спекулирует на сенсациях и заплатил кучу денег автору подделки.

При этом Stern мог легко разоблачить фальшивку: Куяу по ошибке нанес на дневники сложную готическую заглавную букву F, приняв ее за А, так что на них пропечатаны инициалы FH, вместо AH – «Адольф Гитлер». Все, кто участвовал в приобретении артефакта, это проглядели. Они могли