算法歧视、数据泄露、信息茧房……数智服务如何应对挑战？ | 曾赛星

随着信息技术革命和产业变革的深入推进，数智技术不仅深度融入到服务业的每个环节，而且催生出许多全新的服务业态。智慧医疗、直播电商、数字金融、远程教育、共享交通等数智服务新业态不断涌现，已成为经济社会高质量发展的强劲引擎。然而，数智服务的快速发展衍生出了各式各样的社会问题，比如算法歧视、数据泄露、数字鸿沟、网络暴力、信息茧房等。这些问题凸显了数智服务社会责任治理的价值与挑战。只有不断完善数智服务社会责任治理体系，才能更好地维护社会稳定和保障国家安全。
广域性、纠缠性、隐蔽性……数智服务社会责任治理的新挑战
数智服务社会责任呈现出广域性、纠缠性、隐蔽性和动态性等多种复杂特征。广域性是指数智服务社会责任包含经济、社会、法律、伦理、环境等多个维度，影响范围涵盖用户、企业、政府等多元主体，其表现类型多、作用程度深、影响范围广。纠缠性是指数智服务社会责任覆盖大规模多元化的个体或组织，且彼此间交互复杂，内部状态异质，逻辑关系异构。隐蔽性是指服务企业的算法偏见和数据漏洞难以识别，恶意内容和虚假消息难以完全过滤和发现，人机耦合情景下的权责界定不清，导致数智服务社会责任的运作透明度和可解释性不足。动态性是指社会责任的多主体交互影响存在跨时空效应，多元主体的履责场景动态变化，且需各个主体在短时间内应对突发需求。数智服务社会责任所呈现的这些新特征，不仅反映了数智时代下社会责任内涵的扩展与深化，也对现行治理体系提出了新的挑战。
数智服务依赖频繁的人机交互以及虚现空间的深度融合，导致多主体社会责任相互纠缠，其社会影响范围广且程度深，进而拓宽了数智服务社会责任治理的责任边界。一方面数智服务融入了以智能机器为代表的新主体，涵盖服务提供者、平台运营商、数据收集者、算法开发者、政府监管机构以及用户等多主体。另一方面涌现出人机交互、虚实结合、跨时空交流等新的服务模式，导致数智服务社会责任主体间逻辑交互类型异质，内在交互影响机理复杂，难以划定清晰的责任边界。此外，由于数智服务过程中人机功能的强耦合特性，导致人机的社会责任界定复杂，机器自主性亦导致责任主体难以明确，且机器、算法和模型难以处理伦理和社会等综合性社会责任问题，造成服务经济效率下降与社会公平关系失衡。
数智服务的跨时空属性和个性化场景导致社会责任动态变化，其影响范围难以快速评估，进而延展了数智服务社会责任治理的时空范畴。数智服务多元主体的社会责任在不同服务阶段以及不同服务空间流动转化，演变出多模态和多耦合等特征。然而，跨时空的虚拟服务空间具有谣言传播链路动态多变且难以准确预测的特征，极易成为社会舆论的发酵温床，进而产生舆论漩涡以及巨大的虹吸效应。此外，利益相关主体的多样性和交互关系的纠缠性导致社会责任治理及其评估不仅需要大量数据支撑，还需要协调不同相关方以确保数据的流通性和可靠性。由于数智服务社会责任危机事件的发生在时空维度表现出极大的随机性和不确定性，在复杂的履责场景中需要大量针对性的响应策略。
数智服务的场景互联和数据互动共同构筑了服务企业数据和算法的监管屏障，使得数智服务社会责任呈现出隐蔽性，进而提高了数智服务社会责任治理的评测难度。随着数字经济的快速发展，数智服务所涉及的数据和信息呈指数级增长，极大地增加了数据溯源的难度，导致责任主体履责难以被观测。加之，服务企业的模型算法往往复杂度高，算法底层逻辑可解释性低，算法决策过程难以被监管，导致责任主体履责情况的评估难度较大。此外，数智服务系统的良好运作需要虚实同步和人机融合，而在真实服务系统中，主体具有强大的学习和适应能力，随时对周围环境进行反馈、调整和改造，再叠加虚假消息和隐藏行为等不确定因素的影响，使得数智服务系统中的多元主体社会责任行为极难预测。


视觉中国
三方主体价值共创与风险共治，助力治理新范式效能提升
数智服务社会责任治理范式的转型，本质上是构建数字文明时代的新型治理体系。该体系以智能合约、数字孪生、联邦学习等前沿技术为支撑，通过政府、企业及民众三方的价值共创与风险共治，助力数智服务社会责任治理效能提升。
首先，强化政府的引领与监管作用。政府应以法治建设为根基，构建覆盖数据全生命周期的法律框架，明确服务提供者和使用者的权责边界与行为规范，为行业健康发展奠定制度保障。设立专业化监管机构与应急响应机制，实现对数智服务的穿透式监督与常态化管理，确保算法决策可审计、数据流动可追溯。深化行业自律体系建设，引导行业协会制定技术伦理标准与自律公约，形成行业内生规范。建立基于区块链的智能评估矩阵，结合动态激励机制与精准惩戒措施，构建“守信激励、失信受限”的技术治理生态。同步推进全民数字素养提升工程，通过多模态宣传教育提升公众认知水平，依托数字孪生平台整合政企社多方资源，形成虚实联动的共治格局，实现从被动响应到主动预防的治理范式跃迁。
其次，提升企业的自律与担当。企业应将社会责任理念深度内化为技术创新的底层逻辑，通过将伦理约束嵌入技术架构，构建可解释性模型与透明化决策机制，在提升服务效率的同时平衡技术应用的道德风险。建立涵盖数据安全审计与技术伦理审查的闭环管理体系，依托跨部门合规委员会强化全流程风险管控，并通过定期评估确保服务的可追溯性。主动搭建与社会各界的对话通道，借助开放式治理平台动态披露履责进展，实现利益相关方的多元动态协同。以技术创新驱动履责效能提升，探索隐私计算、联邦学习等技术在数智服务中的应用，在保障用户权益的同时释放数智服务的创新潜力，塑造技术向善的行业标杆。
最后，发挥公众的参与与监督作用。公众应借助数字素养提升工程，强化数据主权意识与隐私防护能力，成为数智服务治理的能动参与者。借助分布式监督网络与区块链存证技术，实现市场监督的即时化、可溯化，构建公众科学参与的开放式监督平台。以理性消费行为引导市场生态优化，依托“用脚投票”机制推动企业服务价值重构，形成消费选择驱动的市场净化效应。依托众包模式对企业社会责任进行社会化验证，实现公众从数智服务的被动接受者向治理生态共建者的角色跃迁，为构建可信、可控、可持续的数智服务生态注入社会共治动能。
（作者为上海交通大学安泰经济与管理学院教授）