Математики из России научили ИИ-модели общаться без слов — знания большой модели можно эффективно передать маленькой

Российские математики из стартапа Mostik разработали способ, позволяющий ИИ-моделям обмениваться информацией без текстовых сообщений — с помощью математических значений, заложенных в их весах. На практике это означает, что возможности более крупной модели можно передать меньшей модели, чтобы гораздо эффективнее повысить её интеллектуальный уровень.

 Источник изображения: ChatGPT

Источник изображения: ChatGPT

Название стартапа отражает принцип работы технологии. Вместо последовательной передачи текстового ответа от одной модели другой, как это устроено сейчас, предложенная Mostik система использует математический «мост», связывающий их внутренние численные представления. «Мост» должен преобразовывать внутреннее численное представление одной модели в формат, который способна использовать другая — текст между моделями не появляется вовсе, и ни одна из LLM не дообучается.

Mostik заявляет, что уже использовала этот подход в системе для ARC-AGI-3 — соревнования, проверяющего способность ИИ обобщать правила и решать новые абстрактные задачи. По словам компании, её решение вышло в лидеры текущего рейтинга.

Для демонстрации метода Mostik соединила две китайские модели с открытыми весами: GLM-5.2 с 753 млрд параметров и версию Qwen-3.5 с 4 млрд параметров, способную работать на мобильных устройствах. Получившаяся гибридная система обошлась примерно в 20 раз дешевле флагманской GLM и показала результат ровно посередине между двумя исходными моделями.

Глава стартапа Саша Малышева, разработавшая эту идею, считает, что объединение нескольких моделей может оказаться более перспективным направлением развития ИИ, чем постоянное увеличение их размера. Одновременно технический руководитель ИИ-компании Lovable Владимир Арустамян отметил, что возможность соединять универсальные модели со специализированными системами в сфере биологии, физики и других областей могла бы стимулировать создание большего числа таких моделей.

«Техника Mostik означает, что можно приблизиться к качеству крупных моделей без того, чтобы крупная модель обрабатывала весь цикл, что дает существенное улучшение результатов при использовании лишь небольшой модели, работающей параллельно», — говорит Карл Туйлс, бывший специалист по информатике в Google DeepMind, знакомый с технологиями компании. По словам Туйлса, этот метод — очевидный выбор для любого, кто ставит перед собой задачу максимально эффективного запуска моделей.

Главным научным сотрудником Mostik является профессор Женевского университета и лауреат Филдсовской премии 2010 года Станислав Смирнов. По его словам, найти общий математический язык для двух ИИ-моделей оказалось неожиданно сложно, однако дальнейшее изучение подхода может помочь лучше понять принципы работы ИИ и их возможное сходство с мышлением людей. Если технология получит широкое распространение, она может повысить ценность моделей с открытыми весами, позволив им успешнее конкурировать с закрытыми проприетарными моделями от ведущих лабораторий, таких как Anthropic и OpenAI.

.ps-promo{display:block;clear:both;margin:18px 0;padding:14px 18px;
border:1px solid #dfe3e8;border-radius:10px;background:#f8f9fa;
font-family:Arial,Helvetica,sans-serif;}
.ps-promo-text{margin-bottom:10px;}
.ps-promo-text strong{display:block;font-size:15px;line-height:1.35;color:#1a1a1a;margin-bottom:4px;}
.ps-promo-text span{display:block;font-size:13px;line-height:1.45;color:#5f6368;}
.ps-promo-text a{color:#1a73e8;text-decoration:none;}
.ps-promo-text a:hover{text-decoration:underline;}
.ps-promo-btn{min-height:72px !important;}
.ps-promo-btn iframe{display:block;}
html.dark_mode .ps-promo{background:rgb(43,43,43);border-color:rgb(70,70,70);}
html.dark_mode .ps-promo-text strong{color:#e8e8e8;}
html.dark_mode .ps-promo-text span{color:#a8a8a8;}
html.dark_mode .ps-promo-text a{color:#8ab4f8;}
@media (max-width:600px){
.ps-promo{margin:14px 8px;}
}
@media (min-width:601px){
.ps-promo{display:flex;flex-wrap:wrap;align-items:center;gap:12px 20px;}
.ps-promo-text{flex:1 1 260px;min-width:220px;margin-bottom:0;}
.ps-promo-btn{flex:0 0 auto;width:300px !important;max-width:100%;min-height:80px !important;}
}

Было интересно?
Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект

Источник:

var addthis_config = {«data_track_clickback»:true,ui_language:»ru»,data_ga_property: ‘UA-7209516-1’}

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.

Материалы по теме


Chrome стал получать обновления каждые две недели — ИИ изменил правила в сфере безопасности


Google представила ИИ-платформу для исследования человеческого генома и закономерностей изменения ДНК


Илон Маск поссорился с Chess.com: миллиардер заявил, что сверхинтеллект скоро сможет решить шахматы


Цифровую модель нервной системы плодовой мушки научили играть в Doom и Super Mario 64


Представлена «Алиса AI» для бизнеса


Meta✴ собралась наполнить смартфоны своими ИИ-агентами — они попросят доступ даже к банковским данным

Материалы по теме

Chrome стал получать обновления каждые две недели — ИИ изменил правила в сфере безопасности

Chrome стал получать обновления каждые две недели — ИИ изменил правила в сфере безопасности

Google представила ИИ-платформу для исследования человеческого генома и закономерностей изменения ДНК

Google представила ИИ-платформу для исследования человеческого генома и закономерностей изменения ДНК

Илон Маск поссорился с Chess.com: миллиардер заявил, что сверхинтеллект скоро сможет решить шахматы

Илон Маск поссорился с Chess.com: миллиардер заявил, что сверхинтеллект скоро сможет решить шахматы

Цифровую модель нервной системы плодовой мушки научили играть в Doom и Super Mario 64

Цифровую модель нервной системы плодовой мушки научили играть в Doom и Super Mario 64

Представлена «Алиса AI» для бизнеса

Представлена «Алиса AI» для бизнеса

Meta собралась наполнить смартфоны своими ИИ-агентами — они попросят доступ даже к банковским данным

Meta✴ собралась наполнить смартфоны своими ИИ-агентами — они попросят доступ даже к банковским данным

Источник