登录/注册
扫描二维码
手机浏览

昆仑万维开源2千亿稀疏大模型天工MoE

新榜商桥
情报行业动态

新榜讯 昆仑万维今日宣布开源稀疏大模型Skywork-MoE,估计价值高达2千亿美元。据悉,这一先进模型是在之前昆仑万维开源的Skywork-13B模型基础上进行扩展的,标志着MoE Upcycling技术首次得到完整应用并成功实施的开源项目。Skywork-MoE不仅成为了首个能够通过单台4090服务器进行高效推理的开源千亿MoE大模型,其强大的性能更将推理成本降至最低。


分享文章链接