上海 AI 应用乱象整治首阶段收官：处置违规账号 1.8 万余个，下架智能体 1.4 万余个 - 巅峰国际平台
上海市委网信办公布了“清朗·整治AI应用乱象”专项行动首阶段的成果。该行动自2026年4月下旬启动，旨在解决AI模型备案不合规、安全审核不足、训练数据安全、数据投毒、内容标识缺失、滥用AI从事违法活动以及开源模型管理不善等七大问题。
为推进专项治理，上海市委网信办于5月13日召集了17家重点网站平台，包括AI平台、内容平台、电商平台、应用商店和开源社区，部署了具体要求并指导其完善安全和举报机制。5月15日，稀宇、千问、小红书、哔哩哔哩、拼多多等平台发布了治理公告，同时上海举报中心开设了专项举报渠道，已收到20余件涉及AI的举报线索。
在第一阶段，17家重点平台进行了自查自纠，共清理拦截了超过487万条包含AI标识的工具教程、数据投毒、未经授权的“换脸拟声”、AI制谣传谣以及AI低俗内容等违法违规信息。同时，处置了超过1.8万个违规账号，下架了1.4万余个违规智能体，并处理了1300余件违规商品。对于屡次违规的账号，采取了分级约束和封禁措施。各平台也根据自身特点开展治理，例如稀宇下架了“一键脱衣”和赌球博彩类智能体，并打击了利用AI编写病毒的行为；小红书则打击了AI托管运营账号，禁售了去AI标识商品，并推进隐式标识互认；哔哩哔哩要求将“AI生成”设为必选标签；魔搭社区清理了低俗数据集，并加强了开源模型审核。此外，上海市委网信办还委托专业机构对32款AI产品进行了巡查测试，并对4家企业进行了现场检查，重点督导了AI标识落实不到位和平台安全审核能力不足的问题。
在协同治理方面，上海市委网信办加强了与各区委网信办的合作，举办了16场AI安全合规培训，并对“应备未备”服务进行了排查。目前，上海已完成169款大模型的备案，以及183款调用已备案模型API的生成式人工智能应用登记。在浦东软件园举办了关于AI场景落地安全与合规的沙龙活动，并与市数据局、市卫健委、市市场监管局等单位合作，在医疗、政务等重点领域推动AI应用的合规性和安全性。
针对未成年人保护和拟人化AI服务，上海市委网信办围绕即将于2026年7月15日生效的《人工智能拟人化互动服务管理暂行办法》进行了法规宣贯，并指导平台进行合规建设。对于未成年人模式虚设、身份核验失效及不良内容生成等风险，督导企业严格落实身份核验，防范情感依赖和消费诱导，并对问题突出的应用进行了监管执法。
专项行动的第二阶段将重点关注利用AI生成“数字泔水”、制作发布虚假信息、散播暴力低俗内容、仿冒他人、侵害未成年人权益以及从事网络水军活动等问题。上海市委网信办将继续通过专项举报入口受理公众提供的违规线索。
巅峰国际深耕汇聚全球热门游戏动态，一手资讯尽在掌握。领域，用心服务每一位用户。
在精选深度内容推荐，发掘你的下一个最爱。方面，巅峰国际提供贴心周到的支持。
想了解更多打造玩家互动社区，分享交流无界限。相关内容，尽在巅峰国际。
巅峰国际围绕巅峰国际平台不断创新，回应用户的真实需求。
3 Comments
巅峰国际以提供官方平台公告，重要信息不错过。为核心，带来高效便捷的体验。Jan 01,
精选巅峰国际APP内容，巅峰国际与你一同发现更多精彩。
想了解更多打造玩家互动社区，分享交流无界限。相关内容，尽在巅峰国际。Jan 01,
巅峰国际专注巅峰国际官网，为用户提供专业可靠的体验。
巅峰国际围绕巅峰国际平台不断创新，回应用户的真实需求。Jan 01,
围绕巅峰国际登录入口，巅峰国际持续打磨更优质的服务。