NVIDIA Dynamo将韩国领先开放模型投入生产

据NVIDIA官网消息，NVIDIA发布由Dynamo优化的部署配方，涵盖韩国领先的开放模型：SK Telecom的A.X K2、LG AI Research的K-EXAONE 2.0、Upstage的Solar Open 2和Motif Technologies的Motif-3。随着模型规模超出单个GPU的容量，必须将其拆分至多个GPU，并谨慎协调请求路由。