Самая большая угроза от ИИ — ощущение, что у нас нет на это влияния. Мой ответ: ну тогда давайте играть.

Технологические магнаты и их высокооплачиваемые говорящие головы рассчитывают, что мы примем их «доктрину неизбежности». Но в Австралии и по всему миру растёт сопротивление.

Из всех факторов, двигающих волну популизма, одним из самых сильных является чувство неизбежности, которое окружает то, что нам представляют как неотвратимый прогресс. Когда будущее подаётся как свершившийся факт, это отравляет гражданскую жизнь, выводя нас из игры.

Пока США цепляются за свой статус старейшей конституционной демократии, нечистый союз между технологическими владыками и Белым домом создаёт собственную реальность ИИ, оторванную от воли народа.

Что касается скорости и траектории развития технологии, Трамп и технологические олигархи решили давить на газ и отбросить ограждения, чтобы «выиграть» неясно определённую гонку по созданию бога в коробке. Это безрассудное применение власти со стороны угасающей империи создало собственную реальность для всех нас.

В Австралии правительство пришло к выводу, что единственный способ сохранить контроль в мире такой неопределённости — ухватиться за этот тяжеловес. Мы становимся для американских технокомпаний тем, чем для Саудовской Аравии является нефть: используя возобновляемые источники энергии для питания огромных центров в пустыне, превращаем солнечную энергию в «токены ИИ» и прокачиваем их в Азию — новая экспортная отрасль, которая будет подпитывать наше общее благосостояние.

В рамках доктрины неизбежности у этой стратегии есть логика. Альтернатива, нам твердят, — превратиться в клиентское государство Кремниевой долины.

Но, преследуя это видение, мы рискуем ослепнуть перед предсказуемыми последствиями того, на что подписываемся.

Отрасль, которую мы строим, извлекает прибыль, заменяя работников; она построена на украденном труде создателей; её нерегулируемое развертывание причиняет невообразимые вреды, особенно на полях брани; ей нужна безмерная энергия и вода; и даже её создатели говорят, что есть немалый шанс, что она уничтожит человечество.

«Доктрина неизбежности» требует от нас капитуляции вместо того, чтобы тщательно исследовать и вести переговоры по этим компромиссам. Эта фасадная демократия порождает популистское отторжение. Мы видим это в США, где правые Бэннона и левые Сандерса объединяются, чтобы остановить масштабирование дата-центров — часть более широкой и своевременной политической переоценки.

В последние недели происходило несколько событий, которые говорят о том, что нечто подобное начинает происходить и здесь.

Во‑первых, австралийцы, несмотря на широкое использование некоторых инструментов ИИ, остаются одними из самых скептически настроенных в мире и плохо переносят техновластелинов. Успешная кампания GetUp против партнёрства Coles с Palantir — компании, чей софт лицензируется американской армией, которая бомбит детей и использует данные миграционных чиновников для отслеживания людей — показывает уязвимость общественных брендов, слишком близко сближающихся с чудовищем.

Во‑вторых, создатели, чей труд был украден для обучения моделей, что уменьшит ценность их будущих карьер, занимают твёрдую позицию. Они справедливо возмущены и не собираются пропускать что бы то ни было, что кажется амнистией. Они требуют компенсации за кражу их работ, а также постоянной модели, дающей им контроль над условиями использования.

Ещё более примечательным может быть провал IPO Firmus, которое должно было стать крупнейшим австралийским размещением со времён Telstra. Решение не выходить на биржу последовало за отменой дата-центра в Сиднее — первого крупного проекта, рухнувшего под давлением местного сообщества. Существует множество возможных причин провала размещения, включая обвинения в жадности, но несомненно рост общественного отпора против дата-центров заставил некоторых задуматься о перспективах гипермасштабирования.

Потребители, создатели, сообщества — все они бросают вызов нарративу «неизбежности». В совокупности это серия ответных ударов, свидетельствующих о том, что наши демократические механизмы ещё не исчерпаны.

Но доктрина неизбежности устойчива, и любое сопротивление должно быть постоянным, потому что у этих компаний есть ресурсы, влияние и откровенная заинтересованность в достижении своих целей с той же решимостью, что и у вышедшего из-под контроля агента ИИ.

Самая большая опасность для нашей демократии от этой технологии — не только в циничном злоупотреблении непроверенным и нерегулируемым развертыванием (хотя это тоже будет крайне разрушительно), но в более широком смысле того, что у нас якобы нет голоса в происходящем. Сейчас начинается игра.

В парламенте в ближайшие недели развернутся баталии за реформу конфиденциальности, цифрового долга заботы, стандарты для дата-центров и правила использования технологий правительствами в отношении граждан. На рабочих местах будут споры о применении, надзоре и вытеснении. В школах и в наших социальных кругах пойдут серьёзные переговоры о том, как мы решили бы использовать ботов и агентов, или нужно ли их использовать вообще.

Я знаю, это утомляет и ошеломляет, и на это будто бы и ставят технологические магнаты и их высокооплачиваемые говорящие головы: что мы просто устанем и найдём убежище в пользовательских интерфейсах, созданных так, чтобы удовлетворять каждое наше желание.

Но сопротивление, которое многие из нас ощущают, реально, и пока мы остаёмся демократией, на избирательном участке у нас будет возможность потребовать от тех, кто претендует на руководство, бросить вызов чувству неизбежности. Потому что вот что важно: неизбежность — это тоже выбор.