Институт искусственного интеллекта провёл исследование возможностей альтернативных GPU китайских производителей. Одновременно в Физтехе был создан Центр компетенций, который должен помогать бизнесу в построении ИИ-инфраструктуры.
Российские компании столкнулись с затруднениями при использовании оборудования NVIDIA: увеличением сроков поставок, ограничениями на загрузку драйверов и отсутствием официальной технической поддержки. Это вынудило организации пересматривать привычные процессы и искать новые технические решения.
Институт искусственного интеллекта МФТИ выполнил комплексную оценку рынка альтернативных ускорителей. В ходе работы специалисты анализировали архитектуру устройств, качество драйверов, совместимость с широко используемыми фреймворками и поведение оборудования под нагрузкой при решении различных задач — от обработки больших языковых моделей и систем компьютерного зрения до распределённых вычислений.
Тестирование показало, что наилучшие результаты обеспечили видеокарты Moore Threads s4000 и MetaX C500. Они продемонстрировали высокую производительность и устойчивость в ключевых сценариях, включая длительные непрерывные нагрузки. В ряде случаев их производительность оказалась на уровне NVIDIA A100 или превышала её.
По итогам исследования были сформированы рекомендации по программно-аппаратным конфигурациям, подходящим для запуска языковых моделей на альтернативных платформах. Такой подход позволяет обеспечить предсказуемый жизненный цикл ИИ-решений и способствует системному планированию эксплуатации инфраструктуры внутри компаний.
МФТИ планирует продолжить изучение новых поколений ускорителей и подготовку практических рекомендаций по их применению в типовых задачах.
Российские компании столкнулись с затруднениями при использовании оборудования NVIDIA: увеличением сроков поставок, ограничениями на загрузку драйверов и отсутствием официальной технической поддержки. Это вынудило организации пересматривать привычные процессы и искать новые технические решения.
Институт искусственного интеллекта МФТИ выполнил комплексную оценку рынка альтернативных ускорителей. В ходе работы специалисты анализировали архитектуру устройств, качество драйверов, совместимость с широко используемыми фреймворками и поведение оборудования под нагрузкой при решении различных задач — от обработки больших языковых моделей и систем компьютерного зрения до распределённых вычислений.
Тестирование показало, что наилучшие результаты обеспечили видеокарты Moore Threads s4000 и MetaX C500. Они продемонстрировали высокую производительность и устойчивость в ключевых сценариях, включая длительные непрерывные нагрузки. В ряде случаев их производительность оказалась на уровне NVIDIA A100 или превышала её.
По итогам исследования были сформированы рекомендации по программно-аппаратным конфигурациям, подходящим для запуска языковых моделей на альтернативных платформах. Такой подход позволяет обеспечить предсказуемый жизненный цикл ИИ-решений и способствует системному планированию эксплуатации инфраструктуры внутри компаний.
МФТИ планирует продолжить изучение новых поколений ускорителей и подготовку практических рекомендаций по их применению в типовых задачах.
