Большие языковые модели искусственного интеллекта больше не требуют мощных серверов в дата-центрах. Стартап PrismML добился прорыва: нейросеть весом 54 ГБ сжали до 3,9 ГБ — теперь она работает непосредственно на iPhone, без подключения к облаку.
Как сообщает РБК-Украина со ссылкой на CNBC, в основе разработки лежит открытая нейросеть Qwen3.6 27B от китайской Alibaba. В оригинальном состоянии она весит около 54 ГБ, что делало невозможным ее запуск на потребительских гаджетах.
Инженеры PrismML применили метод радикального упрощения математических значений: вместо стандартного 16-битного кодирования каждый вес внутри нейросети теперь записывается с помощью всего 1-2 битов. Патенты на метод принадлежат Калифорнийскому технологическому институту (Caltech) и лицензированы исключительно для стартапа, который в марте привлек 16,25 миллиона долларов инвестиций.
Что получили в результате
Компания выпустила две бесплатные версии модели под лицензией Apache 2.0. Мобильная версия (3,9 ГБ) оптимизирована для смартфонов и совместима с iPhone 15 и новее через фреймворк Apple MLX. Версия для ноутбуков (5,9 ГБ) адаптирована для MacBook и компьютеров с видеокартами NVIDIA через архитектуру CUDA.
По данным разработчиков, такое сжатие уменьшает использование оперативной памяти в 10-15 раз. Скорость генерации ответов при этом возрастает в 6-8 раз, а энергопотребление снижается в 3-6 раз.
Как это изменит Siri
Apple ведет переговоры с PrismML на фоне запуска публичной бета-версии iOS 27, где компания уже презентовала масштабное обновление голосового ассистента. Локальный запуск сжатых моделей непосредственно на процессорах iPhone дает несколько стратегических преимуществ:
- Мгновенная реакция — смартфону не нужно ждать ответа от облака, обработка происходит на устройстве.
- Полная приватность — конфиденциальные данные (медицинская информация, фитнес-показатели, списки лекарств) вообще не покидают устройство.
- Автономность — базовые функции ИИ, вычислительная фотография и редактирование текста работают без интернета.
- Экономия — снижается нагрузка на дата-центры Apple и оплата сторонних облачных лицензий.
Ложка дегтя: что теряет сжатая модель
Несмотря на оптимистичные заявления, аналитики Counterpoint Research и IDC призывают оценивать технологию осторожно — реальных тестов за пределами лаборатории пока не проводили. Экстремальное сжатие имеет компромиссы: модель теряет несколько процентов общей эффективности. В Bonsai 27B заметно ухудшились вспоминание точных фактов, распознавание изображений и работа со сторонними инструментами. Логика, математика и написание кода остались на высоком уровне.
Также открытым остается вопрос энергопотребления: непрерывная работа нейросети в фоновом режиме способна быстро разрядить аккумулятор, а процессор начинает сбрасывать частоты из-за перегрева уже после пяти минут непрерывной работы.
Когда ждать iPhone с ИИ без облаков
Публичная бета iOS 27 уже доступна для разработчиков, а финальный релиз ожидается осенью вместе с новыми моделями iPhone. Если переговоры с PrismML завершатся успешно, сжатые нейросети могут появиться в Siri уже в одном из ближайших обновлений iOS 27. Это означает, что владельцы iPhone 15 и новее получат ассистента, который работает без задержек, без интернета и без передачи личных данных на сторонние серверы.
Ранее портал Знай сообщал, Samsung Galaxy S26 теряет более 30% стоимости за полгода, а iPhone 17 дешевеет втрое медленнее.
Также наш портал информировал, Honor готовит "Robot Phone" — смартфон, который сам заказывает такси и ставит будильник.