新榜讯 1 月 8 日，智源研究院举行 AI 十大趋势发布会。会上，蚂蚁集团科技战略与执行部副总经理彭晋针对 AI 安全进行了分享。他指出，大模型作为复杂系统，其 Scaling 带来了涌现，然而复杂系统所具有的涌现结果不可预测、循环反馈等独特属性，给传统工程的安全防护机制构成挑战，风险因素于数据、算法、应用层面均有显现。彭晋认为，应做到模型能力提升与风险预防两手抓，持续完善 AI 安全治理体系。