Российская компания Mostik разработала технологию, которая позволяет объединять разные ИИ-модели без традиционного обмена текстовыми ответами. Вместо передачи готового текста нейросети обмениваются математическими значениями из своих внутренних представлений.
Обычно при создании ансамбля ИИ-моделей они работают последовательно: одна нейросеть формирует ответ, после чего другая получает этот текст в качестве входных данных. Такой подход увеличивает задержки и требует дополнительных вычислительных ресурсов. Метод Mostik позволяет передавать информацию непосредственно на более глубоком уровне работы моделей.
Разработчики продемонстрировали технологию, объединив китайскую GLM-5.2 с 753 млрд параметров и значительно более компактную Qwen-3.5 с 4 млрд параметров. Последняя способна работать даже на мобильном устройстве. По словам команды, итоговая система показала производительность примерно между двумя исходными моделями, при этом её запуск оказался в 20 раз дешевле использования полной GLM-5.2.
Другую систему Mostik разработчики вывели на первое место в сложном соревновании ARC-AGI 3, которое предназначено для оценки способности ИИ справляться с новыми и незнакомыми задачами. Подробности решения компания пока не раскрывает, чтобы не публиковать используемый подход до окончания конкурса.
Гендиректор Mostik Александра Малышева считает, что дальнейшее развитие искусственного интеллекта может пойти не по пути создания одной сверхмощной модели, а в сторону объединения множества специализированных нейросетей. В компании сравнивают этот принцип с известным экспериментом, в котором коллективная оценка веса свиньи оказывалась точнее предположения отдельного эксперта.
Обычно при создании ансамбля ИИ-моделей они работают последовательно: одна нейросеть формирует ответ, после чего другая получает этот текст в качестве входных данных. Такой подход увеличивает задержки и требует дополнительных вычислительных ресурсов. Метод Mostik позволяет передавать информацию непосредственно на более глубоком уровне работы моделей.
Разработчики продемонстрировали технологию, объединив китайскую GLM-5.2 с 753 млрд параметров и значительно более компактную Qwen-3.5 с 4 млрд параметров. Последняя способна работать даже на мобильном устройстве. По словам команды, итоговая система показала производительность примерно между двумя исходными моделями, при этом её запуск оказался в 20 раз дешевле использования полной GLM-5.2.
Другую систему Mostik разработчики вывели на первое место в сложном соревновании ARC-AGI 3, которое предназначено для оценки способности ИИ справляться с новыми и незнакомыми задачами. Подробности решения компания пока не раскрывает, чтобы не публиковать используемый подход до окончания конкурса.
Гендиректор Mostik Александра Малышева считает, что дальнейшее развитие искусственного интеллекта может пойти не по пути создания одной сверхмощной модели, а в сторону объединения множества специализированных нейросетей. В компании сравнивают этот принцип с известным экспериментом, в котором коллективная оценка веса свиньи оказывалась точнее предположения отдельного эксперта.
