登录/注册
扫描二维码
手机浏览

清华系创企清程极智开源大模型推理引擎“赤兔Chitu”

新榜商桥
情报行业动态

新榜讯 清华大学高性能计算研究所翟季冬教授团队与清华系科创企业清程极智联合宣称,开源大模型推理引擎“赤兔 Chitu”。据悉,该引擎首次达成在非英伟达 Hopper 架构 GPU 及各类国产芯片上原生运行 FP8 精度模型。此次开源的版本重点着眼于当下市场最为迫切的需求,即把 DeepSeek-R1 FP8 精度模型毫无损失且高效地部署于存量英伟达 GPU 上。团队宣称,针对多款国产芯片特别优化的版本也将相继开源。


分享文章链接