Ускорителите AMD Instinct MI300X влизат в нови Microsoft Azure сървъри за работа с AI задачи

По време на събитието Microsoft Build AMD (NASDAQ: AMD) демонстрира своите най-нови изчислителни и софтуерни решения за клиенти и разработчици на Microsoft. Чрез използването на технологии като AMD Instinct™ MI300X ускорители, отворен софтуер ROCm™, Ryzen™ AI процесори и мултимедийни ускорители Alveo™ MA35D, Microsoft е в състояние да предостави мощен пакет от инструменти за AI базирани инсталации в множество пазарни сегменти. Новите Microsoft Azure ND MI300X виртуални машини (VM) вече са общодостъпни, давайки на клиенти като Hugging Face достъп до впечатляваща производителност и ефективност за техните най-взискателни AI.работни натоварвания.

Microsoft активно разработва решения с AI

Серията Azure ND MI300x v5 виртуални машини вече са достъпни в Северна Америка за клиенти с работни задачи свързани с AI. Тези виртуални машини и софтуерът ROCm™, който ги захранва, също се използват за работни натоварвания на Azure AI Production, включително услугата Azure OpenAI, предоставяща на клиентите достъп до GPT-3.5 и GPT-4 модели. С AMD Instinct MI300X и доказания и готов ROCm пакет с отворен софтуер, Microsoft е в състояние да постигне водещо съотношение цена/производителност при работни натоварвания с GPT.

Освен производствените натоварвания на Azure с AI, един от първите клиенти, които използват тези виртуални машини е Hugging Face. Тази компания портира своите модели на ND MI300X VM само за един месец и успя да постигне впечатляващи показатели цена/производителност. Клиентите на виртуалните машини ND MI300X VM могат да работят с модели на Hugging Face, за да създават и внедряват NLP приложения с лекота и ефективност.

Освен това разработчиците могат да използват софтуера AMD Ryzen AI за оптимизиране и инсталиране на AI системи на компютри с AMD Ryzen AI. Софтуерът Ryzen AI позволява на приложенията да работят на модула за невронна обработка (NPU), изграден върху AMD XDNA™ архитектура, първият специализиран хардуер за обработка на AI задачи на процесор с Windows x86. Докато работещите AI модели само на CPU или GPU могат бързо да изтощават батерията, с Ryzen AI лаптоп, AI моделите работят на вградения NPU, освобождавайки ресурси на CPU и GPU за други изчислителни задачи. Това помага значително да увеличи живота на батерията и позволява на разработчиците да изпълняват LLM AI работни натоварвания и едновременни приложения на устройството ефективно и локално.

В помощ на услугите за пренос на видео

Microsoft избра мултимедийния ускорител AMD Alveo™ MA35D за поддръжка на своите огромни по мащаб натоварвания с поточно видео на живо, включително Microsoft Teams, SharePoint видео и други. Създаден именно за интерактивни стрийминг услуги на живо, Alveo MA35D ще помогне на Microsoft да осигури висококачествена работа чрез рационализиране на натоварванията за обработка на видео, включително видео транскодиране, декодиране, кодиране и стрийминг с адаптивен битрейт (ABR). Използвайки ускорителя Alveo MA35D в сървъри с процесори AMD EPYC™ от 4-то поколение, Microsoft получава:

• Възможности за консолидиране на сървъри и облачна инфраструктура - използвайки възможностите за обработка на видео с висока плътност на каналите, енергийна ефективност и ултра ниска латентност на Alveo MA35D, Microsoft може значително да намали броя на сървърите, необходими за поддържане на своите приложения за голям обем интерактивен стрийминг на живо.

• Впечатляваща производителност - Alveo MA35D разполага с ASIC-базирани модули за видео обработка, поддържащи стандарта за компресия AV1 и AI-активирани оптимизации на качеството на видеото, които помагат да се гарантира гладко и безпроблемно видео изживяване.

• Технология AV1, готова за бъдещето – с възможност за надграждане за поддръжка на нововъзникващи стандарти като AV1, Alveo MA35D предоставя на Microsoft решение, което може да се адаптира към променящите се изисквания за обработка на видео.