Опасная тенденция: нашумевшая ИИ-модель Moonshot Kimi K3 тоже сбежала из «песочницы»
В ходе тестирования последняя модель искусственного интеллекта Kimi K3 от китайской Moonshot смогла выйти за пределы выделенного окружения, заявили исследователи. Инцидент в очередной раз поднял вопросы о том, насколько разработчики ИИ в состоянии контролировать собственные разработки.
Источник изображения: kimi.com
ИИ-модель Moonshot Kimi K3 вышла из испытательной «песочницы» в ходе тестирования, которое проводилось Институтом безопасности ИИ (AISI) при правительстве Великобритании, сообщает Bloomberg со ссылкой на информацию от американской исследовательской компании Frontier Security. Китайская модель не пыталась взламывать сайты других компаний, как в эпизодах с системами других разработчиков, но тест показал, что ей не хватает средств киберзащиты.
«Находящаяся в открытом доступе модель Kimi не имеет таких защитных механизмов. Это значит, что она хорошо подходит для взлома», — предупредил глава Frontier Security Ярон Сингер (Yaron Singer). Комментариев от Moonshot и AISI не последовало. Ранее о взломах, которые осуществили их собственные модели ИИ, сообщили Anthropic, OpenAI и Meta✴ Platforms — системы также прорывались за пределы тестовых окружений. Это встревожило исследователей и политиков, которые призвали к ужесточению проверок безопасности и созданию более защищённых тестовых сред. В ряде случаев ИИ-модели взламывали сторонние ресурсы, в том числе платформу Hugging Face.
Бесплатная Kimi K3 поразила мир своей способностью работать на уровне передовых моделей OpenAI и Anthropic. Это стало неожиданным прорывом для китайского стартапа, который долго оставался в тени местного конкурента DeepSeek. Moonshot опубликовала веса модели, что позволяет всем желающим её свободно загружать, настраивать и запускать на собственных ресурсах.
Источник:
var addthis_config = {«data_track_clickback»:true,ui_language:»ru»,data_ga_property: ‘UA-7209516-1’}
Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
Alibaba предоставила Moonshot вычислительные мощности на 20 000 чипов Nvidia для обучения моделей Kimi
Нашумевшую ИИ-модель Kimi K3 обучали на чипах Nvidia Blackwell вопреки запретам США и Китая, но это не точно
Moonshot AI опубликовала веса нашумевшей Kimi-K3 — она почти не уступает лидерам рынка, но намного проще в работе
Хакеры атаковали десятки крупнейших финансовых компаний США — оружием стали обычные телефонные звонки
Создатель TikTok разрабатывает ИИ-модель с 10 трлн параметров — как у передовой Anthropic Mythos
Google Chrome теперь потребует до 20 Гбайт на диске — ради локального ИИ
Материалы по теме
Alibaba предоставила Moonshot вычислительные мощности на 20 000 чипов Nvidia для обучения моделей Kimi
Нашумевшую ИИ-модель Kimi K3 обучали на чипах Nvidia Blackwell вопреки запретам США и Китая, но это не точно
Moonshot AI опубликовала веса нашумевшей Kimi-K3 — она почти не уступает лидерам рынка, но намного проще в работе
Хакеры атаковали десятки крупнейших финансовых компаний США — оружием стали обычные телефонные звонки
Создатель TikTok разрабатывает ИИ-модель с 10 трлн параметров — как у передовой Anthropic Mythos