網(wǎng)易科技8月25日?qǐng)?bào)道近日,浪潮信息正式發(fā)布大模型智算軟件棧 OGAI。OGAI (Open GenAI Infra)“元腦生智”,是為大模型業(yè)務(wù)提供AI算力系統(tǒng)環(huán)境部署、算力調(diào)度保障及模型開(kāi)發(fā)管理能力的全棧全流程的智算軟件棧。
據(jù)介紹,OGAI由5層架構(gòu)組成,從L0到L4分別對(duì)應(yīng)基礎(chǔ)設(shè)施層的智算中心OS、系統(tǒng)環(huán)境層的PODsys、調(diào)度平臺(tái)層的AIStation、模型工具層的YLink和多模納管層的MModel。
記者獲悉,L0層智算中心OS為面向大模型算力服務(wù)的智能算力運(yùn)管平臺(tái),滿足多租戶以裸金屬為主的彈性AI算力運(yùn)管需求;L1層PODsys則為開(kāi)源、兼容、易用的智算集群系統(tǒng)環(huán)境部署方案;L2層AIStation是面向大模型開(kāi)發(fā)的商業(yè)化人工智能算力調(diào)度平臺(tái);L3層YLink是面向大模型數(shù)據(jù)治理、預(yù)訓(xùn)練、微調(diào)的工具鏈;L4層MModel是提供多模型接入、服務(wù)、評(píng)測(cè)等功能的納管平臺(tái)。(江淼)