На iPhone теперь можно запустить модель уровня Qwen3.6 27B

PrismML выпустил модель Bonsai 27B, построенную на базе открытой Qwen3.6 27B. Это первая модель такого размера, которая помещается на смартфон. Обычная Qwen3.6 27B весит около 54 ГБ и запустить ее на телефоне невозможно.

Разработчики нашли способ сжать модель до 3.9 ГБ — без заметной потери качества. Вместо стандартного округления весов модель обучали сразу с жестко ограниченным набором значений, что позволило сохранить 90–95% качества полноразмерной версии.

На практике ИИ может вести сложный диалог, писать код, анализировать документы и изображения с камеры и выполнять многошаговые задачи в режиме автономного агента.

Стартап основан командой Калтеха при поддержке Khosla Ventures, Google и Samsung — и привлек $16,25 млн первоначального финансирования.

По данным The Information, Apple уже провела переговоры с PrismML о возможном использовании технологии. Apple активно продвигает концепцию ИИ на устройстве — чтобы данные пользователей не уходили в облако. Однако самые продвинутые части обновленного Siri пока все равно работают на серверах.

Скачать Bonsai 27B можно на HuggingFace.

Нужен ли мощный ИИ прямо на телефоне?

❤️ — да, было бы удобно
🔥 — нет, и так все работает

Подпишитесь на Hi, AI!