Новинка под названием Tiiny AI Pocket Lab по размерам сравнима с обычным внешним аккумулятором, но при этом, по заявлению разработчиков, обеспечивает вычислительные возможности, которые ранее требовали дорогостоящих профессиональных систем. Для понимания масштаба: другие «компактные» суперкомпьютеры вроде Nvidia Project Digits за ~$3000 или DGX Spark стоимостью около $4000 остаются недоступными для большинства пользователей.
Pocket Lab имеет габариты всего 14,2 × 8 × 2,53 см и весит около 300 граммов, однако, как утверждает Tiiny AI, способен запускать модели размером до 120 миллиардов параметров. Обычно подобные нагрузки ассоциируются с серверными стойками и топовыми видеокартами, но здесь вся вычислительная мощь умещается в устройстве, которое легко держать в руке.
Аппаратная основа Pocket Lab — 12-ядерный процессор ARM v9.2, поддерживающий популярные open-source модели, включая GPT-OSS, Qwen, DeepSeek, Mistral и Phi. Ключевую роль играет отдельный нейропроцессор с производительностью до 190 TOPS. Систему дополняют 80 ГБ LPDDR5X-памяти, что позволяет активно использовать квантизацию и запускать крупные модели локально.
Pocket Lab имеет габариты всего 14,2 × 8 × 2,53 см и весит около 300 граммов, однако, как утверждает Tiiny AI, способен запускать модели размером до 120 миллиардов параметров. Обычно подобные нагрузки ассоциируются с серверными стойками и топовыми видеокартами, но здесь вся вычислительная мощь умещается в устройстве, которое легко держать в руке.
Аппаратная основа Pocket Lab — 12-ядерный процессор ARM v9.2, поддерживающий популярные open-source модели, включая GPT-OSS, Qwen, DeepSeek, Mistral и Phi. Ключевую роль играет отдельный нейропроцессор с производительностью до 190 TOPS. Систему дополняют 80 ГБ LPDDR5X-памяти, что позволяет активно использовать квантизацию и запускать крупные модели локально.
В устройстве реализованы две фирменные технологии:
В результате Pocket Lab выглядит перспективным инструментом для энтузиастов локального ИИ, исследователей, разработчиков робототехники и задач, требующих сложных рассуждений.
Tiiny AI планирует продемонстрировать устройство на выставке CES 2026. Информация о цене и сроках начала продаж пока не раскрывается.
- TurboSparse — подход к разреженной активации нейронов, повышающий эффективность инференса без заметной потери качества модели.
- PowerInfer — гетерогенный инференс-движок, который распределяет вычисления между CPU и NPU, обеспечивая уровень производительности, близкий к серверному, при низком энергопотреблении.
В результате Pocket Lab выглядит перспективным инструментом для энтузиастов локального ИИ, исследователей, разработчиков робототехники и задач, требующих сложных рассуждений.
Tiiny AI планирует продемонстрировать устройство на выставке CES 2026. Информация о цене и сроках начала продаж пока не раскрывается.
