Предыдущая публикация
МТС запускает LLM-агрегатор на базе облачных сервисов MWS
ПАО «МТС» объявляет о запуске MWS GPT — облачной B2B-платформы, объединяющей большие языковые модели компании. С помощью сервиса малый, средний и крупный бизнес смогут единовременно использовать разные LLM, а также работать с любыми Open Source моделями, дообучать их, применять функционал function calling, а затем внедрять и использовать готовые решения на инфраструктуре экосистемы. Внутри платформы есть собственный чат-интерфейс, который позволяет сохранять промпты и обмениваться ими, а также No-Code конструктор для проектирования и создания приложений без привлечения разработчиков. На первом этапе можно подключить облачную версию MWS GPT, в дальнейшем появится возможность развертывания сервиса на инфраструктуре заказчика. На следующих этап планируется увеличить число доступных моделей, в том числе с помощью популярных на рынке продуктов других компаний. «Чтобы добиться хороших результатов, важно постоянно экспериментировать. Именно с этой целью мы запускали LLM-агрегатор внутри МТС. Сегодня мы фиксируем свыше 1,2 млн обращений к платформе в сутки. Убедившись в эффективности и надежности сервиса, мы приняли решение выходить на внешний рынок. Работая с разными моделями, наши клиенты смогут подобрать наиболее подходящую, не оформляя многочисленные подписки и оптимизируя расходы на техподдержку. На мой взгляд, чтобы получить наилучший результат в решении задач с помощью LLM, не нужно зацикливаться на какой-то одной. В основе MWS GPT лежит агентская архитектура, которая позволяет любой модели быть ИИ-Агентом. Помимо обычного текстового ответа, MWS GPT принимает решение использовать тот или иной навык в зависимости от задачи. К примеру, в случае математических расчетов модель обращается напрямую к интерпретатору, вместо попытки продолжить текст, основываясь на корпусе обучения, а если данных обучения не хватает для полного ответа — делает запрос в поисковую систему», — прокомментировал первый вице-президент по технологиям МТС Павел Воронин. Оплата за использование сервиса будет взиматься в зависимости от количества обработанных токенов, что снижает порог входа для малого бизнеса. Оставить заявку на подключение к MWS GPT или получить консультацию по использованию платформы можно на сайте MWS — https://mws.ru/services/mws-gpt/.Вступай в группу, чтобы ничего не пропустить!
Следующая публикация
Нет комментариев