Supermicro聯閤IBM和NVIDIA推出KV緩存方案

BiRun 消息，Supermicro推出與IBM和NVIDIA閤作開發的KV緩存方案，顯著提昇推理性能。