Предыдущая публикация
В облаке Oracle можно объединить до 16 тыс.
ускорителей AMD Instinct MI300X
Облачная платформа Oracle Cloud Infrastructure (OCI) задействовала ускорители AMD Instinct MI300X и открытый программный стек AMD ROCm в составе новейших инстансов BM.GPU.MI300X.8. Они предназначены для ресурсоёмких ИИ-нагрузок, включая обработку больших языковых моделей (LLM), насчитывающих сотни миллиардов параметров. Инстансы BM.GPU.MI300X.8 типа Bare Metal объединяют восемь ускорителей Instinct MI300X, каждый из которых несёт на борту 192 Гбайт памяти HBM3 с пропускной способностью 5,3 Тбайт/с. Утверждается, что модель Hugging Face OPT с 66 млрд параметров может быть запущена на одном Instinct MI300X.
Подробнее https://7ooo.ru/group/2024/09/27/637-v-oblake-oracle-mozhno-obedinit-do-16-tys-uskoriteley-amd-instinct-mi300x-grss-344714856.html
Следующая публикация
Нет комментариев