Власть и прогресс - Саймон Джонсон

пользователей с хорошим «послужным списком». Среди добровольцев, участвующих в развитии сайта, есть опытные редакторы с дополнительными привилегиями и ответственностью, например с возможностью разрешать споры. На более высоком уровне разрешением конфликтов занимаются «распорядители», обладающие бо́льшим объемом власти. Согласно самой платформе, они наделены полномочиями «выполнять решения сообщества техническими средствами, действовать в чрезвычайных ситуациях, бороться с вики-вандализмом». Над «распорядителями» стоит «арбитражный комитет», состоящий из «редакторов-добровольцев, совокупно или в подгруппах находящих решения для проблем и конфликтов, которые сообщество не в состоянии разрешить самостоятельно». «Администраторы» имеют возможность защищать и удалять страницы, а также блокировать редактуру в случае спорного содержания статьи, случаев вандализма или дезинформации. Над администраторами стоят и надзирают за ними «бюрократы».

Такая административная структура эффективно помогает сайту избежать распространения дезинформации, а также поляризации, обычной на других сайтах. Опыт Википедии показывает, что «мудрость человека из толпы», о которой мечтали ранние поклонники соцсетей, в самом деле существует, но «работать» может только под жестким контролем и наблюдением верно выстроенной организационной структуры – и там, где делается верный выбор направления развития технологий.

Альтернативы бизнес-модели, построенной на таргетированной рекламе, не ограничиваются некоммерческими проектами типа Википедии. Netflix, основанный на модели подписки, также собирает информацию о своих пользователях и серьезно вкладывается в ИИ, умеющий предлагать индивидуальные рекомендации. Однако на этой платформе мы практически не встретим ни дезинформации, ни яростных политических споров: она заинтересована в том, чтобы пользователи покупали подписку, а не в том, чтобы максимизировать их вовлеченность.

Платформы социальных сетей тоже могли бы работать с подпиской и извлекать из нее доход. Такой выбор, безусловно, не решит все проблемы соцсетей. И на платформе по подписке можно создавать себе «эхокамеры», и там могут сложиться свои способы монетизации дезинформации и обнаружиться новые уязвимости. Тем не менее альтернативная бизнес-модель позволит уйти от интенсивного вовлечения пользователей, которое уже показало себя с наихудшей стороны: оно поощряет самые токсичные типы социального взаимодействия, вредит и психическому здоровью, и демократическому политическому сознанию.

«Социальная паутина» способна породить множество положительных эффектов, если удастся сдержать ее пагубное воздействие на распространение дезинформации, поляризацию и психическое здоровье населения. Современные исследования, прослеживающие распространение фейсбука в новых регионах и на новых языках, показывают, что малый бизнес в этих странах, получив доступ к иностранным рынкам, в результате расширяет продажи. Нет причин полагать, что компания не сможет зарабатывать на предоставлении таких и других подобных услуг, а не на манипуляции пользователями. Кроме того, социальные сети и цифровые инструменты могут помогать частным людям защищаться от слежки и даже играть продемократическую роль – об этом мы подробнее поговорим в следующей главе. Нажимать на кнопки, играя эмоциями пользователей, и впихивать разозленным и задетым людям таргетированную рекламу – не единственный возможный способ существования соцсетей, никогда не был единственным и, хотелось бы верить, не будет.

Демократия проседает там, где больше всего нужна

Трагедия в том, что ИИ все сильнее подрывает демократию именно там, где она нам больше всего нужна. Пока направление развития цифровых технологий не будет полностью изменено, они продолжат стимулировать неравенство и маргинализировать крупные сегменты рабочей силы, сперва на Западе, затем и во всем остальном мире. Уже сейчас ИИ-технологии применяются для интенсивного наблюдения за сотрудниками и используются для того, чтобы не повышать или даже понижать им зарплаты.

Можете сколько хотите вглядываться вдаль и ждать, когда появится «прицепной вагон производительности». Но никаких предпосылок для него пока не видно. Как мы уже знаем, менеджеры и предприниматели, если их не сдерживают противодействующие силы, склонны использовать новые технологии для автоматизации труда за счет трудящихся. В наше время эту тенденцию усиливает и обостряет масштабный сбор данных.

Однако противодействующие силы едва ли возникнут там, где нет демократии. Когда элита полностью контролирует политику, эффективно используя инструменты репрессий и пропаганды, создать осмысленную и хорошо организованную оппозицию становится очень сложно. По всей видимости, в Китае в ближайшее время не сложится никакого массового движения инакомыслящих, особенно учитывая растущую эффективность цензуры и массовой слежки на основе ИИ-технологий, введенных Коммунистической партией. В то же время становится все сложнее надеяться на появление таких сил в Соединенных Штатах и других странах Запада. ИИ душит демократию, в то же время предоставляя инструменты для репрессий и манипуляций как авторитарным, так и демократически избранным правительствам.

В своем романе «1984» Джордж Оруэлл писал:

«В конце концов, откуда мы знаем, что дважды два четыре? Или что на нас действует сила притяжения? Или что прошлое нельзя изменить? Если и прошлое, и внешний мир существуют лишь в сознании, а сознание можно контролировать – что тогда?»

Этот вопрос становится еще актуальнее сегодня, когда, как и предвидела философ Ханна Арендт, люди как в демократических, так и в недемократических странах, бомбардируемые со всех сторон ложью и пропагандой, перестают верить любым новостям. Может произойти и нечто худшее. «Приклеившись» к социальным сетям, где в избытке сильных и ярких эмоций, люди могут оторваться от своих сообществ и совсем утратить демократическое сознание, уйдя в альтернативную, виртуальную реальность, где чем радикальнее голос, тем громче он звучит, информация делится не на правдивую и ложную, а на «свою» и «вражескую», где от любых сомнений можно укрыться в своей эхокамере, а любые компромиссы прокляты и забыты.

Некоторые оптимистично полагают, что новые технологии, такие как Web3.0 или Метаверс, породят иную динамику. Но пока в IT-компаниях господствуют нынешние бизнес-модели, а правительства озабочены слежкой за населением, скорее всего, нынешние тенденции будут только усугубляться, создавая все более прочные информационные пузыри и все больший разрыв с реальностью.

Уже поздно – но, может быть, еще не слишком поздно. В следующей главе мы изложим свои соображения о том, как можно было бы обратить эти тенденции вспять и какие конкретно политические изменения смогут привести к такому преображению.

Глава одиннадцатая

Великий разворот

«Компьютеры чаще всего используются против людей, а не на благо людей.

Используются, чтобы контролировать нас, а не освобождать.

Настало время все изменить.

Нам нужна…

НАРОДНАЯ КОМПЬЮТЕРНАЯ КОМПАНИЯ»

Первая рассылка «Народной компьютерной компании», 1972 год

«Большинство того, что стоило сделать в этом мире, называли невозможным, пока это было не сделано».

Луис Брандейс, Арбитражные слушания по делу New York Clock Industries, 13 октября 1913 года

Конец XIX века, так называемый Позолоченный век, в Америке был, как и наше время, эпохой стремительных научно-технических перемен – и остро ощущаемого неравенства. Те, кто первыми вкладывали деньги в новые технологии и