NVIDIA Dynamo將韓國領先開放模型投入生產

據NVIDIA官網消息，NVIDIA發布由Dynamo優化的部署配方，涵蓋韓國領先的開放模型：SK Telecom的A.X K2、LG AI Research的K-EXAONE 2.0、Upstage的Solar Open 2和Motif Technologies的Motif-3。隨着模型規模超出單個GPU的容量，必須將其拆分至多個GPU，並謹慎協調請求路由。