IT之家3 月 19 日消息,英伟达今日正式发布 Dynamo,号称是“AI 工厂的操作系统”。 Dynamo 是一个“分布式推理服务库”。本质上,它是一个针对用户需求 token 而无法生产足够 token 之间问题的开源解决方案。 黄仁勋展示了一张关于推理的图表,X 轴显示用户每秒的 ...