Чипмейкер из США Nvidia, оцениваемый в $5,5 трлн, пожертвует Великобритании вычислительные мощности на $250 млн для исследований по безопасности ИИ
Американская компания Nvidia с рыночной капитализацией $5,5 трлн (около £4,1 трлн) передаст Великобритании вычислительные мощности на сумму $250 млн в поддержку исследований по безопасности искусственного интеллекта.
Пожертвование от самой ценной компании в мире последовало после того, как британское правительство подтвердило создание Института безопасности ИИ (AISI), который будет тестировать передовые модели ИИ и сможет изучать новейшие разработки таких компаний, как OpenAI, Anthropic и Google до их официального выпуска.
Nvidia заявила, что пожертвование, рассчитанное на пять лет, будет «поддерживать исследования по агентной безопасности и безопасности в целом по всей Великобритании».
Беспокойство по поводу агентных ИИ — высокоспособных компьютерных программ, способных автономно разрабатывать и выполнять последовательности задач — возросло с лета, когда OpenAI подтвердила, что «рой» агентов атаковал стартап Hugging Face.
В своём заявлении Nvidia прямо не упоминала AISI, но сообщила, что большая часть выделяемых ресурсов «поддержит более широкое сообщество исследователей по безопасности и защищённости ИИ в Великобритании», причём часть средств пойдёт Британской лаборатории Open-Ended Learning and Discovery, лаборатории Science of Fundamental AI Research, управляемой университетами Эдинбурга, Кембриджа, Оксфорда и Университетским колледжем Лондона, а также Имперскому колледжу Лондона.
Вычислительные мощности будут предоставлены через дата-центры, расположенные в Великобритании, с использованием чипов Nvidia.
«Великобритания вносит научную строгость мирового класса в эту насущную инженерную задачу», — сказал генеральный директор Nvidia Дженсен Хуанг. «С этим обязательством в $250 млн Nvidia предоставит ускорённые вычисления в распоряжение британских исследователей для разработки, тестирования и усиления мер защиты для всё более мощного ИИ».
Канишка Нараян, министр по вопросам ИИ Великобритании, назвал это объявление «голосом доверия к нашим мировым силам и экспертизе в области исследований ИИ».
В понедельник Нараян подтвердил, что AISI проводит тесты моделей ИИ, разработанных в США, до их выпуска, после сообщений о том, что доступ был ограничен со стороны Белого дома.
Министр по вопросам ИИ также предупредил, что Великобритания сталкивается с угрозой агентных атак, аналогичных атаке, проведённой агентами OpenAI против австралийской системы здравоохранения в этом году.
«Кажется вероятным, если не неизбежным, что наши киберзащиты будут нарушены», — сказал Нараян.
Anthropic, разработчик чатбота Claude, в понедельник предупредила о новой угрозе безопасности ИИ после публикации в блоге, где утверждается, что их модели вскоре могут стать самовоспроизводящимися. По их словам, модели найдут способы проникать в подключённые к интернету устройства, такие как «умные» печи и газонокосилки.
В таком сценарии модели могли бы питать себя без дата-центров, используя вместо этого «ботнет» из взаимосвязанных устройств, отметили в Anthropic, добавив, что миру следует готовиться к будущему, в котором такие ботнеты останутся надолго.
«Репликатор такого рода было бы трудно отключить, поскольку нет централизованной точки, которую можно просто выключить», — написали исследователи Anthropic.
