新榜讯 上海：部分企业AI功能使用违规，“亮剑浦江·2025”专项执法聚焦整治AI滥用 近日，上海市网信办在执法办案过程中发现，部分企业在开发使用生成式人工智能功能时，存在一系列违规行为。这些企业既未依法开展安全评估工作，也未采取必要的安全防护措施来防范违规信息生成，同时未设置限制措施以防止该功能被滥用。这一系列问题导致相关人工智能功能被用于“换脸变声”“变装造假”等侵犯他人个人信息权益的行为，还产出了诸如“开盒”“洗钱”等违法违规内容，甚至生成色情低俗图片等不良信息。 为应对这一情况，“亮剑浦江·2025”专项执法行动已将“整治AI滥用”列为年度治理重点，旨在通过严格执法推动企业合规经营，为新兴产业的高质量发展保驾护航。