OpenAI, Anthropic и Google DeepMind уже давно тайно обсуждают, как не дать ИИ уничтожить человечество
OpenAI, Anthropic и Google DeepMind продолжают переговоры по вопросам безопасности искусственного интеллекта. Об этом сообщил журналистам Крис Лейн (Chris Lehane), глава глобальной политики OpenAI, отметив, что компании координируют усилия для снижения катастрофических рисков, связанных с развитием передовых ИИ-моделей.
Источник изображения: AI
Инициатива стала ответом на эссе генерального директора Anthropic Дарио Амодеи (Dario Amodei), опубликованное в минувшую субботу. В тексте он призвал индустрию замедлить темпы разработки больших языковых моделей и объединиться ради предотвращения непредсказуемых последствий. Идею поддержали Сэм Альтман (Sam Altman) из OpenAI, Демис Хассабис (Demis Hassabis) из Google и Илон Маск (Elon Musk). Альтман, по сообщению TechCrunch, также заявил о готовности внедрить независимых аудиторов для мониторинга безопасности внутри своей компании.
Несмотря на опасения экспертов относительно возможного нарушения антимонопольного законодательства при координации действий конкурентов, участники переговоров считают такие риски преувеличенными. Амодеи предлагал получить от правительства специальное разрешение для подобных обсуждений, однако Лейн заверил, что компаниям не требуется разрешений для диалога о стандартах безопасности.
Ранее СМИ сообщали о планах OpenAI, Anthropic и Google DeepMind создать отраслевой орган по стандартизации без участия государства, а Хассабис ещё в июле призывал США учредить регулятора с полномочиями проверять наиболее мощные модели и координировать приостановку разработок в случае выявления угроз. Однако текущая администрация во главе с президентом Дональдом Трампом (Donald Trump) отвергла эти инициативы, считая разговоры об экзистенциальных рисках попыткой затормозить прогресс и уступить лидерство Китаю.
Ранее Лихейн заявил, что OpenAI поддерживает положение законопроекта FRONTIER Act (H.R.9925), который устанавливает в США федеральный надзор за разработкой и внедрением передовых моделей искусственного интеллекта и обязывает крупнейшие ИИ-лаборатории допускать независимые организации для проверки безопасности технологии.
.ps-promo{display:block;clear:both;margin:18px 0;padding:14px 18px;
border:1px solid #dfe3e8;border-radius:10px;background:#f8f9fa;
font-family:Arial,Helvetica,sans-serif;}
.ps-promo-text{margin-bottom:10px;}
.ps-promo-text strong{display:block;font-size:15px;line-height:1.35;color:#1a1a1a;margin-bottom:4px;}
.ps-promo-text span{display:block;font-size:13px;line-height:1.45;color:#5f6368;}
.ps-promo-text a{color:#1a73e8;text-decoration:none;}
.ps-promo-text a:hover{text-decoration:underline;}
.ps-promo-btn{min-height:72px !important;}
.ps-promo-btn iframe{display:block;}
html.dark_mode .ps-promo{background:rgb(43,43,43);border-color:rgb(70,70,70);}
html.dark_mode .ps-promo-text strong{color:#e8e8e8;}
html.dark_mode .ps-promo-text span{color:#a8a8a8;}
html.dark_mode .ps-promo-text a{color:#8ab4f8;}
@media (max-width:600px){
.ps-promo{margin:14px 8px;}
}
@media (min-width:601px){
.ps-promo{display:flex;flex-wrap:wrap;align-items:center;gap:12px 20px;}
.ps-promo-text{flex:1 1 260px;min-width:220px;margin-bottom:0;}
.ps-promo-btn{flex:0 0 auto;width:300px !important;max-width:100%;min-height:80px !important;}
}
Было интересно?
Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект
Источник:
var addthis_config = {«data_track_clickback»:true,ui_language:»ru»,data_ga_property: ‘UA-7209516-1’}
Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
Дженсен Хуанг заявил, что проблему безопасности ИИ надо решать инженерными методами, а не политическими
Юристы Latham & Watkins закупились NVIDIA-серверами — это плохой знак для Anthropic и OpenAI
Anthropic отправила Claude на Уолл-стрит — ИИ теперь анализирует портфели и готовит встречи с клиентами
Был завод, стал ИИ ЦОД: Teravolt предлагает переделать старые промышлынные объекты в дата-центры
DeepSeek готовится выйти на биржу — её новым финансовым директором станет ветеран Уолл-стрит
ИИ-агенты стали регистрироваться в соцсетях и засыпать администраторов платформ спамом
Материалы по теме
Дженсен Хуанг заявил, что проблему безопасности ИИ надо решать инженерными методами, а не политическими
Юристы Latham & Watkins закупились NVIDIA-серверами — это плохой знак для Anthropic и OpenAI
Anthropic отправила Claude на Уолл-стрит — ИИ теперь анализирует портфели и готовит встречи с клиентами
Был завод, стал ИИ ЦОД: Teravolt предлагает переделать старые промышлынные объекты в дата-центры
DeepSeek готовится выйти на биржу — её новым финансовым директором станет ветеран Уолл-стрит