Джейсон Квон из OpenAI дал спокойные, ровные ответы австралийскому правительству. Написал ли … ChatGPT это?
Ответы Квона были вежливыми, спокойными и обнадёживающими, но его извинения мало прояснили ситуацию.
Джейсон Квон прилетел из Сан-Франциско в Сидней — в 15‑часовом перелёте — чтобы дать первую личную извинительную речь компании после того, как она признала — в неподписанном электронном письме на общий служебный почтовый ящик — что один из её ИИ‑агентов получил несанкционированный доступ к сайту Services Australia и забрал данные, связанные с Medicare.
Квон — вежливый, дружелюбный, с ровным тоном — без видимых последствий прошёл через потенциально рискованные слушания в парламентском комитете, пообещав исправиться и оказать содействие Австралии. Никаких промахов, никаких вирусных моментов, он просто давал ответы чётко и спокойно, сочувствуя спрашивавшим и признавая смысл их замечаний.
Даже содержание его ответов напоминало голос защищаемого им ИИ‑ассистента.
На вопрос сенатора Дэвида Покока «почему вы отправили письмо на произвольный адрес департамента?» Квон ответил: «Оглядываясь назад, нам следовало поступить так, как вы предлагаете.» На вопрос, почему генеральный директор OpenAI Сэм Олтман не был проинформирован до его встречи с австралийским заместителем премьер‑министра Ричардом Марлсом и почему компания не призналась тогда, Квон сказал: «Согласен, процесс оповещения людей внутри нашей компании об этом инциденте мог быть намного лучше».
Невольно вспоминалось, как сам чат‑бот отвечает при указании на ошибку: «Хорошее замечание. Правильно, что вы настаиваете. Моя вина.»
По словам Квона, модели — созданные OpenAI, которая, как сообщается, хочет оцениваться в 1,4 трлн долларов — «получали доступ к австралийским правительственным сайтам способами, которые им не указывали». Он попытался объяснить, что «новизна» этого инцидента означала, что компания «извлекла урок», заключающийся в том, что нужно сообщать пострадавшим о подобных инцидентах гораздо раньше, а не ждать.
Квон снова извинился за то, что компания ограничилась неформальным письмом федеральному правительству, в котором раскрыла, что её агент неправомерно получил доступ к статистике Medicare, но на слушаниях во вторник попытался объяснить, что иногда «трудно» разобраться, как уведомлять большой разветвлённый государственный аппарат.
Покок любезно предложил: «Полагаю, у кого‑то в вашей команде по связям с правительством есть мобильные номера министров и разных людей?»
В похожем духе последующего раскаяния Квон — главный директор по стратегии OpenAI — дал мало ответов на вопрос, почему Олтман не сообщил Марлсу об инциденте при их личной встрече в Сан‑Франциско 1 сентября. Это произошло за девять дней до того, как компания отправила письмо в Services Australia, и почти через месяц после того, как впервые узнала о взломе 18 июня.
Квон заявил, что Олтман не знал об инциденте до встречи с Марлсом. По итогам слушаний во вторник почему‑то остаётся неясным, почему это было так.
Это большое правительство, и, возможно, Квон прав, что «трудно» найти нужного человека для разговора. Но некоторые также могут возразить, что рукопожатие вашего начальника с заместителем премьер‑министра Австралии могло бы быть полезным каналом для передачи такой информации.
По крайней мере, мы узнали: он сказал, что компания не использовала ИИ для написания печально известного письма. Маленькая радость — письмо всё же написал человек, даже если оно было отправлено на малоизвестный ящик.
Поскольку Австралия стремится стать технологическим центром для дата‑центров и ИИ — как показали на слушаниях представители крупных технологических компаний, от Anthropic до Microsoft и Google — установление базовых правил для этих фирм, касающихся их обязанностей и реакции перед этой страной и её правительством, имеет решающее значение.
Квон заявил, что OpenAI обязуется предоставлять уведомления «очень быстро» в будущем и что им не известно о каких‑либо других инцидентах. Но он мимоходом сообщил одну поразительную деталь: OpenAI всё ещё просматривает журналы активности агентов, причастных к нарушению в Services Australia, объём этих журналов составляет 50 петабайт данных.
Петабайт — это 1 000 терабайт, или 1 млн гигабайт.
Квон сделал умопомрачительное утверждение, что человеку потребовалось бы 66 млн лет — без сна и отдыха — чтобы просмотреть эти данные вручную.
Команда, которой поручено проверять почтовые ящики Services Australia, наверняка надеется, что там не скрываются новые неприятности.
