PrismML представила компактную ИИ-модель для запуска прямо на смарт-очках с чипами Qualcomm
Лаборатория искусственного интеллекта PrismML разработала специальную версию одной из своих компактных языковых моделей, предназначенную для локальной работы на умных очках, оснащённых чипами Qualcomm Snapdragon.
Источник изображения: PrismML
На мероприятии Snapdragon Summit компания Qualcomm продемонстрировала 1-битную модель PrismML Bonsai, способную работать локально на умных очках с ИИ, созданных на базе платформы Snapdragon AR1 Gen 1. Компания PrismML занимается сжатием крупных моделей с сохранением качества ответов — в данном случае это было сжатие в четыре раза. Версия для умных очков представляет собой модель размером 2 млрд параметров, оптимизированную для обработки текстовой и визуальной информации. На практике владельцы таких очков смогут в реальном времени получать ответы на вопросы о том, что видят перед собой.
PrismML выпускает ИИ-модели с открытыми весами, предназначенные для работы непосредственно на устройствах, максимально задействуя их имеющиеся вычислительные мощности. Стартап позиционирует это решение как альтернативу зависимости от обещаний конфиденциальности со стороны разработчиков проприетарного ИИ. ИИ-лаборатория совместно с Qualcomm оптимизировала веса и архитектуру модели специально для нейропроцессора Hexagon.
По качеству работы модель сопоставима с системами с 4-битной точностью, но при этом она потребляет вчетверо меньше памяти и генерирует токены более чем вдвое быстрее. В результате взаимодействие с ней становится более естественным, а контекст данных сохраняется на самом устройстве. PrismML и Qualcomm Technologies намерены и далее продолжать сотрудничество, оптимизируя всё более совершенные модели Bonsai для работы на платформах Snapdragon. Технологии ИИ внедряются в умные очки, прочие носимые устройства и окружающую нас технику, поэтому очередной качественный скачок не получится обеспечить одним лишь наращиванием вычислительной мощности.
.ps-promo{display:block;clear:both;margin:18px 0;padding:14px 18px;
border:1px solid #dfe3e8;border-radius:10px;background:#f8f9fa;
font-family:Arial,Helvetica,sans-serif;}
.ps-promo-text{margin-bottom:10px;}
.ps-promo-text strong{display:block;font-size:15px;line-height:1.35;color:#1a1a1a;margin-bottom:4px;}
.ps-promo-text span{display:block;font-size:13px;line-height:1.45;color:#5f6368;}
.ps-promo-text a{color:#1a73e8;text-decoration:none;}
.ps-promo-text a:hover{text-decoration:underline;}
.ps-promo-btn{min-height:72px !important;}
.ps-promo-btn iframe{display:block;}
html.dark_mode .ps-promo{background:rgb(43,43,43);border-color:rgb(70,70,70);}
html.dark_mode .ps-promo-text strong{color:#e8e8e8;}
html.dark_mode .ps-promo-text span{color:#a8a8a8;}
html.dark_mode .ps-promo-text a{color:#8ab4f8;}
@media (max-width:600px){
.ps-promo{margin:14px 8px;}
}
@media (min-width:601px){
.ps-promo{display:flex;flex-wrap:wrap;align-items:center;gap:12px 20px;}
.ps-promo-text{flex:1 1 260px;min-width:220px;margin-bottom:0;}
.ps-promo-btn{flex:0 0 auto;width:300px !important;max-width:100%;min-height:80px !important;}
}
Было интересно?
Скажите об этом Google, чтобы чаще получать ссылки на наши новости про искусственный интеллект
Источник:
var addthis_config = {«data_track_clickback»:true,ui_language:»ru»,data_ga_property: ‘UA-7209516-1’}
Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
Qualcomm наделит компьютерные процессоры Snapdragon X2 поддержкой Linux
PrismML представила не очень большую языковую модель, которая почти не хуже большого оригинала
Apple заинтересовалась технологией PrismML для запуска больших ИИ-моделей прямо на смартфоне
С обновлением Gemini 3.8 Live у ИИ-моделей Google появилось лицо
Meta✴ позволит создавать игры с помощью ИИ прямо на смартфоне
Годовой темп выручки китайской DeepSeek за пару месяцев взлетел вдвое и достиг $1 млрд
Материалы по теме
Qualcomm наделит компьютерные процессоры Snapdragon X2 поддержкой Linux
PrismML представила не очень большую языковую модель, которая почти не хуже большого оригинала
Apple заинтересовалась технологией PrismML для запуска больших ИИ-моделей прямо на смартфоне
С обновлением Gemini 3.8 Live у ИИ-моделей Google появилось лицо
Meta✴ позволит создавать игры с помощью ИИ прямо на смартфоне