Автор Наука Mail Ученые тестировали оборудование на запуске больших языковых моделейИсточник: пресс-служба МФТИ Специалисты Московского физико-технического института разработали подход, который позволяет снизить зависимость российских компаний от решений NVIDIA при создании и эксплуатации систем искусственного интеллекта. Сотрудники вуза провели масштабное исследование рынка альтернативных графических ускорителей и на его основе создали Центр компетенций, который поможет бизнесу выстраивать независимую ИИ-инфраструктуру. Необходимость поиска замены связана с ограниченной доступностью оборудования NVIDIA в России. Компании сталкиваются с долгими сроками поставок, проблемами с загрузкой драйверов и отсутствием официальной поддержки. Чтобы оценить возможности других платформ, исследователи протестировали ускорители нескольких производителей, включая китайские Moore Threads и MetaX. Основная цель заключалась в проверке их пригодности для полного цикла работы современных моделей — обучения и инференса (процесса применения уже обученной модели) до распределенных вычислений. Эксперты МФТИ также изучили архитектуру ускорителей, качество драйверов, совместимость с популярными фреймворками и поведение оборудования под высокой нагрузкой. Тесты проводились на задачах компьютерного зрения, запуске больших языковых моделей и построении кластерных конфигураций. Разработка позволит компаниям структурно планировать использование систем благодаря предсказуемому циклу ИИ-решений По словам научного директора Института искусственного интеллекта Юрия Визильтера, ключевое внимание уделялось стабильности, воспроизводимости результатов и устойчивости систем при длительной эксплуатации. Исследование показало, что карты Moore Threads s4000 и MetaX C500 позволяют запускать популярные модели, обеспечивают корректную работу фреймворков и демонстрируют предсказуемую производительность. В ряде сценариев их результаты сравнимы или превосходят показатели NVIDIA A100. Кроме того, разработанный программный стек поддерживает эффективное распределение задач в составе вычислительных узлов и кластеров. В будущем команда разработчиков планирует расширять список протестированных решений и подготовить отраслевые рекомендации по построению автономной российской инфраструктуры для задач машинного обучения. Ранее Наука Mail сообщала , что российским химикам удалось ускорить синтез соединений для лекарственных препаратов. Source: https://science.mail.ru/news/41266-rossijskij-vuz-predlozhil-alternativu-nvidia/