简单问题立即改、复杂问题追踪改，上海开展网络平台算法典型问题专项检查

为落实“清朗浦江·网络平台算法典型问题治理”专项行动工作要求，营造全国两会期间良好网络舆论环境，根据网民举报线索，近期上海市委网信办会同市公安局、市市场监管局、上海互联网应急中心等单位，对属地短视频类、生活服务类、论坛社交类等12家网站平台开展专项检查，指导整改工作。专项检查通过网上巡检、检查台账、线索比对、后台核验等方式，发现以下企业共性问题：
一、整治“信息茧房”方面
标签管理机制不健全，导致算法推送内容类型多样性效果不明显；
用户点击“不感兴趣”等负反馈功能后效果不突出，模型识别同质化内容能力需要进一步提高；
部分平台算法推荐过程过于依赖用户已有兴趣点，潜在优质兴趣拓展不足，导致易形成负面低质内容“茧房”；
个别平台强制用户选择兴趣标签，或者不支持用户对兴趣标签进行管理。
二、规范热搜榜单方面
部分平台榜单存在泛娱乐化情况；
部分平台未有效对热搜榜单算法原理进行公示说明，榜单透明度和可解释性有待提高。
三、算法向上向善方面
违法不良信息检索过滤能力需进一步加强，部分平台把关不严，将违法和不良信息记入用户标签并据此推送信息。如推荐的低俗视频中含有违规二维码，扫码后跳转至境外赌博网站；存在将负向词汇作为搜索推荐词，如部分境外影视名被作为关联词，点击搜索后会扎堆推荐低俗短视频切片；
正向优质内容扶持力度不够，部分平台正能量优质内容池较小，未有效运用算法技术赋能优质内容识别与传播、提升正向内容在流量分发中的整体比重；
个别平台未成年人模式下内容审核有待加强，存在不适宜未成年人浏览内容进入推荐池风险；
AI生成信息的识别和审核能力不足，部分平台AI生成的文本、语音内容存在诱导性信息。
四、算法安全主体责任方面
平台内部算法安全组织架构不健全，未能有效搭建与业务量相适应的算法安全治理机构，内容安全管理部门在算法全生命周期管理中参与度不够；
算法常态化评估机制不健全，未定期开展算法安全自评估；
算法“应备尽备”落实不到位，部分平台算法尚未备案，或备案进度较为缓慢。
针对以上问题，上海市委网信办已向被检查企业反馈，要求简单问题立即改正，复杂问题制定方案后深入整改。下一步，上海市委网信办将继续督促相关平台强化问题整改，并视情开展“回头看”检查，对整改不彻底的网站平台，依法依规进行处置处罚。欢迎广大网民反映上海属地平台算法推荐应用的违法违规线索。
举报渠道
1、整治算法滥用 上海市委网信办发布算法典型问题举报指引
2、上海属地网站平台陆续发布算法治理专项公告及投诉举报反馈渠道
（原标题：清朗浦江｜简单问题立即改、复杂问题追踪改 上海开展网络平台算法典型问题专项检查）
来源：“网信上海”微信公众号