社科网首页| 客户端| 官方微博| 报刊投稿| 邮箱 中国社会科学网
新利体育在线登陆

构建负责任的平台算法

2021年12月17日来源:《西安交通大学学报(社会科学版)》;CNKI网络首发2021-11-26作者:肖红军

摘要:现实中平台算法失当现象和社会责任缺失问题屡见不鲜,引发社会高度关注并对平台经济可持续发展形成严重制约。本文从理论逻辑、历史逻辑和实践逻辑分析提出,构建负责任的平台算法是深化平台企业社会责任理论的必然要求、技术中立向科技向善转变的趋势使然、平台监管强化与算法规制兴起的重要取向。负责任的平台算法包括本体、过程和结果三个维度,分别是平台算法本身符合社会责任要求、负责任的平台算法开发设计与部署应用、平台算法决策结果对社会负责任,并具象化为合规与合乎道德、稳健安全、功能合意、社会与环境福祉、透明开放和敏捷治理六个构成要件。构建负责任的平台算法,需要通过算法主体自觉尽责、算法技术价值嵌入、算法生态互动治理和算法监管问责强化予以实现。

关键词:平台算法平台企业社会责任算法伦理平台治理

基金:国家社会科学基金重大项目(20&ZD073)中国社会科学院登峰战略企业管理优势学科建设项目

2021年3月召开的中央财经委员会第九次会议指出,平台经济“在经济社会发展全局中的地位和作用日益突显”,但发展中也存在一些突出问题,包括“不规范、存在风险”“不充分、存在短板”。特别是,作为平台经济底层的核心技术支撑,平台算法对于智能平台积极功能发挥、平台经济规范健康持续发展至为关键,但现实中却出现了诸多平台算法“不规范、存在风险”的问题,平台算法失当现象和不负责任行为屡见不鲜。智能信息流平台、社交平台往往采用基于内容的算法推荐、基于用户的协同过滤、基于模型的算法推荐[1],容易引发显著的过滤气泡、信息茧房、数字圆形监狱、回声室效应等现象;电商平台通过歧视性算法实施“大数据杀熟”,既包括“熟客卖高价”的第一代大数据杀熟,也包括“千人千面”与“千人千价”之下的第二代大数据杀熟;外卖平台通过斯德哥尔摩效应式的算法规训将外卖骑手“困在系统里”,形成对外卖骑手的算法操纵;网络游戏平台通过不区分群体的算法系统,诱导青少年沉溺于游戏之中。此外,各类智能平台普遍存在“真实黑箱”(real secrecy)、“法律黑箱”(legal secrecy)和“制造混淆”(obfuscation)等算法黑箱问题[2]6;许多平台的算法自动决策倾向于过度收集消费者数据信息并不当使用,造成对个人隐私的隐性侵犯;头部平台企业依托算法可能实施信使型共谋(messenger)、轴辐型共谋(hub and spoke)、预测型共谋(predictable agent)、自主型共谋(autonomous machine)等算法共谋行为[3],并出现更为隐蔽的算法垄断现象。

平台经济领域存在的平台算法失当现象和社会责任缺失问题引发社会高度关注,2021年10月习近平总书记在中共中央政治局第三十四次集体学习时指出,“要纠正和规范发展过程中损害群众利益、妨碍公平竞争的行为和做法,防止平台垄断和资本无序扩张,依法查处垄断和不正当竞争行为”“要保护平台从业人员和消费者合法权益”。与此同时,平台治理尤其是平台算法治理的一系列制度供给开始出现,2019年8月《国务院办公厅关于促进平台经济规范健康发展的指导意见》(国办发〔2019〕38号)、2021年2月《国务院反垄断委员会关于平台经济领域的反垄断指南》(国反垄发〔2021〕1号)相继印发,2021年8月通过的《中华人民共和国个人信息保护法》对提供重要互联网平台服务、用户数量巨大、业务类型复杂的个人信息处理者提出了明确的个人信息保护义务要求。更具针对性的是,2021年7月,人力资源社会保障部等八部门共同印发《关于维护新就业形态劳动者劳动保障权益的指导意见》(人社部发〔2021〕56号),督促企业修订平台算法,维护新就业形态劳动者权益;同月,市场监管总局等七部门联合印发《关于落实网络餐饮平台责任切实维护外卖送餐员权益的指导意见》(国市监网监发〔2021〕38号),要求网络餐饮平台优化算法规则,采用“算法取中”而非“最严算法”。2021年8月,国家互联网信息办公室发布《互联网信息服务算法推荐管理规定(征求意见稿)》,9月,国家互联网信息办公室等九部门联合印发《关于加强互联网信息服务算法综合治理的指导意见》(国信办发文〔2021〕7号),对包括平台算法在内的互联网信息服务算法进行规范,试图推动互联网信息服务算法对社会负责任;10月,国家市场监督管理总局公布《互联网平台落实主体责任指南(征求意见稿)》,专门明确互联网平台经营者的算法规制义务。然而,与制度供给和平台算法治理实践不相适应的是,目前关于负责任的平台算法严重缺乏理论探索,系统性研究更是难以言及,因此亟需予以突破,这是本文开展探索性研究的重要动因和核心目的。

一、构建“负责任的平台算法”的三重逻辑意涵

平台经济作为新经济的重要形态,其发展已经远远超越经济范畴与技术边界,深刻嵌入于社会之中,与社会形态和社会结构的演变紧密嵌套在一起。与此相适应,平台算法不仅具有技术属性和经济属性,更表现出强烈的社会属性,其开发与应用必须合乎社会责任要求。无论是基于理论逻辑还是历史逻辑,抑或实践逻辑,构建负责任的平台算法都有其必然性、必要性和合意性,也就是说,构建负责任的平台算法是理论逻辑、历史逻辑和实践逻辑的有机统一。

(一)理论逻辑:深化平台企业社会责任理论的必然要求

平台企业应当履行社会责任已经成为社会的基本共识,平台企业社会责任的生成逻辑、内容边界、治理范式和实现机制成为新的研究热点。从生成逻辑来看,平台企业社会责任之所以出现,其逻辑起点在于对平台企业本质属性的认知,即平台企业是经济属性与社会属性密不可分且相互融合的组织,是私人属性与公共属性的耦合体[4]。从内容边界来看,平台企业社会责任的内容确定既有利益相关方模式在平台情境的具体应用,进而形成由员工和双边用户构成的杠杆天平模型[5],也有将平台企业个体社会责任行为和搭建网络化履责平台进行区分[6],构建独立运营主体社会责任和商业运营主体社会责任的细化维度[7],更有透视平台企业作用于社会的两条路径即“企业个体→社会”和“企业个体→平台商业生态圈→社会”,从而形成平台企业作为独立运营主体、商业运作平台、社会资源配置平台三个层次的社会责任内容边界[8]。从治理范式来看,双边市场理论、商业生态圈视角、公共治理理论等不同视角下平台企业社会责任的治理类型不尽相同[9],既可以从治理逻辑差异上将生态化治理和“主体—路径”多中心协同治理作为主导性范式[810],又可以从平台领导角度区分为尽责型自治模式、督责型互治模式和拓责型共治模式[11],还可以基于“情境选择—战略导向—平台基础”划分为平台嵌入式、平台嫁接式、平台撬动式和平台新创式[4]。从实现机制来看,平台企业社会责任的落地需要推动在企业个体和平台商业生态圈两个层面的社会责任融入,前者是要构建平台企业的社会责任管理机制,后者则是要形成责任型审核与过滤机制、责任愿景认同卷入机制、责任型运行规则与程序、责任型评价与声誉机制、责任型监督与惩戒机制[8]。

显然,平台企业社会责任的已有理论研究主要聚焦于组织层面或生态层面,将平台作为一个连接双边用户的“黑箱”,没有进一步深入到平台的核心即平台算法,因此缺乏从平台算法层面深度透视平台企业社会责任。然而,平台功能的发挥是由平台算法来实现的,平台企业通过平台作用于双边或多边用户实际上也是由平台算法来执行的,这意味着平台算法在很多情境下是平台企业的“代理者”。相应地,平台企业嵌入于社会的路径将会得到延拓,即“企业个体→社会”转变为“平台企业个体→平台算法→社会”,“企业个体→平台商业生态圈→社会”转化为“平台企业个体→平台算法→平台商业生态圈→社会”。平台企业链接于社会的路径延拓导致对平台企业社会责任的认知与理解需要深入到平台算法层面,平台企业社会责任的内容边界、治理范式和实现机制都应当考虑平台算法对利益相关方和社会的影响,构建负责任的平台算法是落实平台企业社会责任的必然要求。从另外一个角度来看,平台企业社会责任的落地关键是推动社会责任的全面融入,这在平台企业个体层面要求将社会责任全方位融入到使命战略、业务运营和企业管理,而平台企业业务运营的重要构成和核心实现方式是开发、创新、应用平台算法,因此需要将社会责任融入平台算法的开发、创新和应用,构建具有社会责任感的平台算法。此外,对于社会责任在平台商业生态圈层面的融入,责任型审核与过滤机制、责任愿景认同卷入机制、责任型运行规则与程序、责任型评价与声誉机制、责任型监督与惩戒机制都是通过负责任的平台算法来实现,本质上是社会责任融入“构建平台商业生态圈的平台算法”的显性化结果。由此可见,平台企业社会责任的深化,需要将构建负责任的平台算法作为重要方向。

(二)历史逻辑:技术中立向科技向善转变的趋势使然

平台算法在更宽泛的范畴属于技术领域或科技领域,其是否应当对社会负责任与对技术的价值中立或非中立认知密切相关。从历史演变来看,技术领域经历了价值中立、技术中立转向科技伦理、科技向善的变化。技术中立包括功能中立、责任中立和价值中立,但最终都指向技术的价值维度,即技术价值中立[12]。技术价值中立思想古而有之,亚里士多德将技艺看作其目的存在于自身之外的工具性活动就是这一思想的体现。对技术价值中立思想较早做出系统深刻阐释的当属韦伯,他在区分“价值判断”与“价值关联”的基础上,提出价值中立(value-neutrality)或价值无涉(value-freedom)主张,划界出“科学外”价值立场和“科学内”价值立场,将现代技术看作本质上是一种工具理性、形式合理性。尽管马尔库塞和哈贝马斯等法兰克福学派对韦伯的价值中立观点进行了猛烈批判,最新的后现代主义和建构主义都对价值中立、技术中立观点开展了技术批判[13],但技术中立思想的影响却长期存在。技术中立逐步由科技哲学领域走向司法领域,1984年美国环球影片公司诉索尼公司案对技术中立原则的确立具有实质性意义,美国在20世纪末颁布的《数字千年版权法》中提出的“避风港原则”进一步强化了技术中立原则,而2016年发生的“快播案”则引发对技术中立原则的激烈争论。然而,随着现代技术活动日益呈现出显著的消极社会后果和表现出对社会伦理的挑战,人们对技术中立观点的反思愈加强烈,技术伦理和科学伦理思想逐步兴起。进入21世纪以来,科技哲学出现伦理转向与伦理学出现科技转向相互交汇,尤其是当代技术伦理实现范式由“外在进路”(externalist approach)转向“内在进路”(internalist approach)[14],技术中立观点加速退出,秉持价值非中立思想的科技向善观点日益盛行。科技向善意味着科学技术应当创造有利于人类社会发展和文明进步的正向价值[15],符合社会伦理要求,做到对社会负责任。

技术中立观点向科技向善观点的转变,直接推动人们对算法认知的改变,以技术中立的“菜刀理论”为基础、认为“算法本身是无关好坏选择的价值中立”[16]的算法中立观点逐渐被颠覆,取而代之的是算法伦理观的兴起。算法最早被认为仅仅是自然的技术中介,强调的是其技术性,之后演变为将其看作嵌入于社会结构的存在物甚至社会技术实体,拥有技术性与社会性的双重属性。相应地,算法被认为其本身就内含了基本价值判断[17],是具有载荷价值的决策行动者[18],算法决策应当满足社会伦理符合性。从算法伦理关注内容来看,六种关切(concerns)共同构成了“算法伦理地图”,它们分别是三种认知(epistemic)关切即不足信的证据(inconclusive evidence)、难以理解的证据(inscrutable evidence)和错误的证据(misguided evidence),两种规范(normative)关切即不公正的结果(unfair outcomes)和转化效应(transformative effects),以及可追溯性(traceability)[19]。算法伦理观的代表性观点是道德算法和负责任的算法,前者是“在道德上可接受的算法或合乎伦理的算法”[20],后者则是能够为社会创造最大化综合价值、最大限度增进社会福利的算法。道德算法既可以是“自上而下”(top-down)的伦理规范和道德标准嵌入算法,也可以是“自下而上”(bottom-up)的算法道德学习和道德行为探索,还可以采用“自上而下”与“自下而上”相结合的“混合型”(hybrid)方式[21]79-81。负责任的算法除了要求合乎道德伦理外,更强调算法决策的社会视角和利益相关方视角,突出算法对可持续发展的贡献。进一步来看,顺应算法中立观点转向算法伦理观、算法向善认知的变化趋势,平台算法应当成为道德算法和负责任的算法,构建负责任的平台算法成为趋势使然。

(三)实践逻辑:平台监管强化与算法规制兴起的重要取向

随着平台经济规模的迅速增长、平台对经济社会发展影响力的日益增强和平台经济发展中不规范现象的不断增多,全球范围内对平台监管的强化正在成为一种显著趋势,平台经济强监管模式逐步被许多国家或地区所推崇和采用。从国外来看,欧盟是平台经济严格管制的代表,不仅于2020年12月公布了聚焦于非法内容的《数字服务法》(Digital Services Act,DSA)和聚焦于反竞争行为的《数字市场法》(Digital Markets Act,DMA)两个草案,而且自2018年以来对Google、Facebook、Amazon等多家平台企业实施了高额反垄断处罚或违反数据隐私罚款。即使是对平台经济采取审慎规制策略的美国[22],近两年来也不断加大对平台企业的监管力度,2020年10月发布的《数字市场竞争调查报告》及其后对Google和Facebook发起的反垄断诉讼,以及2021年2月正式提出的《竞争和反垄断执法改革法案》,都意味着美国实施宽松平台监管的态度正在发生逆转[23]。从国内来看,针对平台经济迅猛发展中的资本无序扩张和违规失范现象,政府对平台企业的监管呈现由包容审慎转向严格监管的演变趋势。一方面,加快推进平台监管的制度创新改革,2021年2月和3月先后正式印发了《国务院反垄断委员会关于平台经济领域的反垄断指南》和《网络交易监督管理办法》;另一方面,加大对平台企业违规失范行为监管的执法力度,2021年先后对阿里巴巴和美团实施的“二选一”垄断行为开出巨额罚单,国家七部门联合进驻滴滴对其进行网络安全审查,要求腾讯音乐解除独家版权协议。国内外对平台监管的强化不仅涉及到平台企业的经济行为,还日益扩展至其在社会领域的社会影响,目的是通过将“达摩克利斯之剑”悬于平台企业头上,推动平台企业实施对社会负责任的行为,打造富有社会责任感、对社会负责任的平台企业。实际上,平台企业的诸多行为均依托平台算法予以实施,强化平台监管和构建负责任的平台企业必然都要求深入到平台算法,即要求构建负责任的平台算法。

数字经济治理除了针对不同类型数字企业如平台企业的监管这一进路外,另一条逻辑进路则是对竞争、数据、算法、内容等数字经济核心构成要素的专业规制,其中近年来才兴起的算法规制成为数字经济治理的新内容和新方式。从国外实践来看,虽然欧美国家在算法规制范式上不尽相同,欧盟主要采取个体赋权的算法治理方式,美国则更强调以算法问责制为主的算法治理[24],但不断加强对算法的规制却是共同的趋势。对于前者,2018年5月正式生效的欧盟《通用数据保护条例》(GDPR)将多项新型算法权利赋予数据主体,2019年4月欧洲议会研究服务机构发布的《算法问责制和透明治理框架》针对算法提出了系统全面的治理框架。对于后者,2017年12月纽约市出台了美国首个公用事业领域的算法问责法,2019年2月华盛顿州就算法问责法案举办了听证会,10月《算法问责法2019(草案)》进入美国国会的立法程序,2020年6月范围更广的《数据问责和透明度法》讨论稿发布,2021年5月美国参议院引入《2021年算法公平和在线平台透明度法案》。从国内实践来看,算法规制已经成为互联网治理关注的新焦点,算法规制的制度探索开始起步。2021年8月发布的《互联网信息服务算法推荐管理规定(征求意见稿)》对算法推荐服务提出具体的规范要求,9月印发的《关于加强互联网信息服务算法综合治理的指导意见》对健全算法安全治理机制、构建算法安全监管体系、促进算法生态规范发展做出了明确和细化的规定。无论是国外还是国内,算法规制兴起的着眼点是要推动算法研究、开发、设计、部署、应用活动的规范化,形成符合社会规范要求、对社会负责任的算法。特别是,国内算法规制的需求和重点主要是平台经济领域,并初步形成设定平台算法义务为主、赋予个体权利为辅的复合型算法治理路径[24],这意味着构建负责任的平台算法是国内算法规制的重要目标取向,也是算法规制的高阶实现路径。

二、“负责任的平台算法”的系统刻画

构建“负责任的平台算法”的首要前提是要对负责任的平台算法进行概念界定,廓清负责任的平台算法范畴边界,刻画出负责任的平台算法是一种什么样的平台算法。这意味着需要对负责任的平台算法开展构造分析,解构负责任的平台算法构成要件,理清不同构成要件之间的逻辑关系,从整体上建立负责任的平台算法的构造系统架构。

(一)对“负责任的平台算法”的理解

算法可以做狭义、广义和中义三种理解[25],狭义的算法被看作技术性解决方案,在计算机领域通常指的是一系列的自动化程序或指令,广义的算法被宽泛地认为是技术性和社会性解决方案,指的是所有决策程序或者步骤,中义的算法认知处于广义理解与狭义理解之间,指的是人机交互的决策机制。具体到平台情境,平台算法是平台功能得以实现的技术载体,但它也承载着平台企业的决策意图,因此在平台企业、平台和双边用户的人机交互中,兼具人的决策和算法的自动化判断,这意味着中义的算法认知更适合对平台算法的理解。平台经济的快速发展,本质上得益于以新一代信息技术为基础的平台算法迭代创新,是平台领域人机交互技术与决策机制高级化的结果。从这种意义上来说,平台算法是技术属性与社会属性相交融的混合体,相对一般化的算法,具有更强的价值载荷。特别是,在平台企业与社会关系的两条路径即“平台企业个体→平台算法→社会”和“平台企业个体→平台算法→平台商业生态圈→社会”中,平台算法成为平台企业的“代理者”与社会发生交互,因此平台算法对社会施加影响的性质与强度相当程度上反映出平台企业对社会负责任的表现水平。也就是说,平台算法作为平台企业与社会交互的决策机制或辅助决策机制,其嵌入的价值判断和社会责任符合性对于平台企业或平台实现有益的社会功能至为关键。

对于负责任的平台算法,其可以认为是负责任的算法这一概念在平台领域的应用。然而,目前对负责任的算法主要是从问责制(accountability)角度予以界定的,更多指的是accountable algorithms[2627],强调对算法的社会影响进行责任认定与分配,以及算法在其中应当承担的责任份额,由此负责任的算法被认为是能够承担主体责任事项的算法。显然,负责任的平台算法超越了问责制视角的“负责任的算法”概念,意指responsible algorithms而非accountable algorithms。一方面,从中义的算法概念可知,平台算法作为人机交互的决策机制,更加关注的是平台算法决策对作用对象、利益相关方和社会产生的影响,负责任的平台算法应当考虑和处置这些影响,而非仅仅在不当影响发生后的责任认定、分配和承担问题;另一方面,平台算法在本质上具有弱人工智能属性,在Moor界定的四类人工道德行动体[28]中,更多的属于伦理影响型道德行动体或隐性道德行动体,最大边界也只能触及显性道德行动体,因此算法问责制中的责任认定与分配重点在于作为平台算法开发设计者和部署应用者的平台企业。鉴于平台算法作为平台企业作用于利益相关方和社会的“代理者”角色,对负责任的平台算法应当置于平台企业社会责任整体中予以理解,即从社会责任融入整个平台企业的角度认识负责任的平台算法,将其看作构建负责任的平台企业所必需的深层次关键内容。

社会责任融入整个平台企业必然要求将社会责任融入平台算法,推动平台企业发挥核心社会功能的核心载体即平台算法对社会负责任。从平台企业的平台算法活动来看,大致包括平台算法开发设计与部署应用、平台算法本体构造、平台算法决策三项内容。社会责任融入平台算法就是要将社会责任融入平台算法开发设计与部署应用、平台算法本体构造、平台算法决策,推动形成负责任的平台算法开发设计与部署应用、平台算法本体具有社会责任符合性、平台算法决策结果对社会负责任,这三者共同构成负责任的平台算法。也就是说,负责任的平台算法应从本体、过程和结果三个维度综合理解,如图1所示。本体维度是指平台算法本身可以看作平台功能实现的“物化”载体,类似于一个数字化系统,负责任的平台算法首先应当是平台算法本身是符合社会责任要求的。过程维度是指平台企业对平台算法的开发、设计、部署、应用全过程,这一过程不仅直接关系到会形成什么样的平台算法本体、平台算法决策功能发挥效果如何,而且也会涉及与平台算法利益相关方和社会的互动,因此负责任的平台算法应当具备负责任的平台算法开发设计与部署应用过程。结果维度是指平台算法不同于一般的“物化”载体,具有自主决策或辅助决策功能,决策结果对于作用对象和社会具有重要影响,负责任的平台算法应当是决策结果的消极影响最小化、积极影响最大化,即平台算法决策结果是对社会负责任的。

1负责任的平台算法三维解构

(二)“负责任的平台算法”三个维度的具象化

对负责任的平台算法进行深度解构与再建构,核心是要对“负责任”进行具象化,即将一般化的、具体的社会责任理念和要求与负责任的平台算法三个维度结合起来,考虑平台特殊性和算法特殊性,析出在每个维度上“负责任”的具体表现与要求。从一般化的社会责任理念和要求来看,它是组织以透明和道德的方式管理自身运营对社会、利益相关方、自然环境的影响[29],包括“元层次”思维的外部视野、底线思维、可持续性原则和行为规范层面的社会与环境风险防范、综合价值创造、透明沟通、利益相关方合作、社会资源整合与优化配置[30]。对于负责任的平台算法三个维度,一般化的社会责任理念和要求应用其中具有不同的侧重点与具体表现,需要分别予以识别和界定。

从应用于本体维度来看,平台算法本身具有社会责任符合性关注的重点在于“元层次”思维的外部视野、底线思维、可持续性原则和行为规范层面的透明沟通。外部视野要求平台算法不能仅仅关心算法的程序代码本身,而是要更大程度地服务于其核心社会功能,即更优地实现链接双边市场的“平台功能”,推动平台算法的功能性满足利益相关方和社会需要。底线思维要求平台算法所遵循的规则必须是合规的和满足道德底线,平台算法应当将相关的法律法规要求和道德底线要求内嵌其中,确保平台算法所支撑和生成的平台功能不跨越底线。可持续性原则要求平台算法着眼于平台服务和功能发挥的可持续,确保算法足够安全、可靠和稳健,能够对平台运行中出现的错误或不一致进行有效处理,即平台算法应当具有稳健性和安全性。透明沟通要求平台算法超越“算法黑箱”,增强算法透明度,但完全公开算法运行规则和创建与验证过程的算法透明即完美的、理想的算法透明具有多个方面的局限性[31],因此取而代之的应当是“有意义的算法透明”即拥有对算法表现做出赞成或反对判断的足够知识[32]。平台算法透明并不要求算法代码的直接公开,而是要求算法具有可解释性、底层数据具有可访性或得到描述、算法合规性可以被评估和检验。

从应用于过程维度来看,平台算法的开发、设计、部署和应用属于主体行为,通常是平台企业实施的经营活动,这意味着负责任的平台算法开发设计与部署应用应当全面涵盖社会责任三个方面的“元层次”思维和五个层次的行为规范。考虑到平台算法的开发、设计、部署和应用在很多情形下被看作平台企业的研究与创新活动,因此可以结合负责任的研究与创新理论对其进行深度分析。负责任的研究与创新强调创新过程符合(伦理)可接受性、可持续性和社会发展进步的要求[33],通常包括预期性、自反性、包容性、回应性四个维度[34]。对于负责任的平台算法开发设计与部署应用,外部视野、社会与环境风险防范、综合价值创造意味着平台算法开发设计与部署应用应当满足预期性要求,即对其可能产生的社会、环境、道德影响进行描述、分析和预测;透明沟通、利益相关方合作、社会资源整合与优化配置意味着平台算法开发设计与部署应用应当符合包容性要求,即保持过程开放性让不同利益相关方群体和社会主体参与其中;底线思维意味着平台算法开发设计与部署应用应当具有合规性和满足道德底线要求,即其过程不能违反法律法规和越过社会基本道德规范;可持续性原则意味着平台算法开发设计与部署应用应当符合自反性和回应性要求,即通过反复自省和动态调整行为模式确保其过程持续对社会负责任。

从应用于结果维度来看,平台算法决策结果对社会负责任要求关注决策结果对利益相关方和社会的影响,强调这一影响重点符合“元层次”思维的底线思维、可持续性原则和行为规范层面的社会与环境风险防范、综合价值创造、透明沟通等要求。底线思维意味着平台算法决策结果应当满足对利益相关方和社会的法律义务与道德义务,社会与环境风险防范意味着平台算法决策结果应当最小化其可能对利益相关方、社会和环境带来的消极影响,综合价值创造意味着意味着平台算法决策结果应当最大限度增进其对利益相关方、社会和环境带来的积极影响,透明沟通意味着平台算法决策结果需要向利益相关方和社会披露与解释,可持续性原则意味着平台算法决策结果不应对利益相关方、社会和环境产生次生消极影响,而是在长期来看能够可持续地对社会负责任。

综上分析,负责任的平台算法在三个维度上的重点内容和要求如表1所示。

1负责任的平台算法在三个维度上的具体内容

(三)“负责任的平台算法”构造系统的建构

综合负责任的平台算法在本体维度、过程维度和结果维度上的具体内容,可以对这些内容进行重新组合和再定义,形成对负责任的平台算法更加系统的构成要件。在此基础上,依据要件间的层次和逻辑关系即可对“负责任的平台算法”构造系统进行建构,形成对负责任的平台算法更加清晰的刻画。首先,社会责任的具体理念和要求在本体、过程、结果三个维度的应用与融入,使得三个维度都要求满足合规性和道德底线或道德义务的要求,因此“合规与合乎道德”应当是负责任的平台算法构成要件。其次,社会责任的具体理念和要求在本体维度的应用与融入,一方面要求平台算法本身在技术上具有稳健性、鲁棒性、安全性和抗干扰性,保证平台算法能够稳定运行,另一方面要求平台算法所生成的“平台功能”能够更优实现,符合用户和社会需要,这两个方面意味着“稳健安全”和“功能合意”都应成为负责任的平台算法构成要件。第三,社会责任的具体理念和要求在过程、结果两个维度的应用与融入,不仅要求平台算法决策结果对利益相关方、社会、环境的消极影响最小化和积极影响最大化,确保决策结果产生的社会与环境福祉可持续,而且要求平台算法开发设计与部署应用过程具有对社会、环境、道德影响进行分析预测的预期性,它们可以统一归结为负责任的平台算法构成要件“社会与环境福祉”。第四,社会责任的具体理念和要求在本体、过程、结果三个维度的应用与融入,分别要求平台算法面向利益相关方和社会展现出技术透明(有意义的算法透明)、过程透明(包容性)和结果透明,其中包括包容性所要求的多元利益相关方和社会主体参与,它们共同形成负责任的平台算法构成要件“透明开放”。最后,社会责任的具体理念和要求在过程维度的应用与融入,要求平台算法开发设计与部署应用具有自反性和回应性,这实际上是对平台算法及其形成过程提出自我反思、自我修正、自我迭代、自我优化的要求,本质上是一种敏捷治理,即“敏捷治理”应成为负责任的平台算法构成要件。

进一步来看,在负责任的平台算法六个构成要件中,合规与合乎道德、稳健安全是平台算法必须满足的底线要求,属于底线层次的构成要件;功能合意、社会与环境福祉反映出平台算法应当达到的核心社会功能状态,及其对经济发展、社会进步、环境优化带来的积极增进效果,属于价值层次的构成要件;透明开放、敏捷治理是平台算法需要满足利益相关方和社会的知情权、监督权与参与权,推动平台算法及其形成过程的动态纠偏与优化,属于治理层次的构成要件。底线层、价值层、治理层的构成要件形成三个同心圆,结合负责任的平台算法三个维度构成的三角形,可以构建起“负责任的平台算法”的完整构造系统,如图2所示。

2“负责任的平台算法”的完整构造系统

三、构建“负责任的平台算法”的实现进路

“平台企业个体→平台算法→社会”和“平台企业个体→平台算法→平台商业生态圈→社会”的平台企业与社会两条链接路径表明,构建负责任的平台算法涉及平台企业、平台算法自身、平台商业生态圈和社会四个要素,它们分别从算法主体、算法技术、算法生态和算法制度四个方面对构建负责任的平台算法形成影响。相应地,算法主体自觉尽责、算法技术价值嵌入、算法生态互动治理和算法监管问责强化成为构建“负责任的平台算法”的实现进路。

(一)算法主体自觉尽责

平台算法在相当程度上是平台企业主观意图的反映,载荷着平台企业的价值理念,平台企业的意愿和行为从根本上决定了平台算法本身、平台算法开发设计与部署应用过程、平台算法决策结果的社会责任符合性,因此构建负责任的平台算法首先要求平台算法主体即平台企业自觉尽责。2021年10月,国家市场监督管理总局公布的《互联网平台落实主体责任指南(征求意见稿)》就要求平台企业落实算法规制的主体责任,平台企业自觉尽责是从系统上、根源上推动负责任的平台算法得以构建的必然要求。平台企业自觉尽责要求平台企业树立科学的、适宜的社会责任观,内生出自觉自主履行社会责任的动力与意愿,全面增强社会责任管理与实践能力,高阶耦合和综合运用社会责任根植模式与议题嵌入模式[30],推动社会责任成为全员和整个组织的自觉行为与自身工作。特别是,平台企业需要立足更高站位深刻认识自身的价值使命,回归平台设立的社会“初心”和本真功能,超越纯粹经济价值目标与市场逻辑主导,培育和增强共益型企业家精神,变革组织形态以打造形成共益企业,这对超级平台和大型平台尤为重要。平台企业自觉尽责除了自身对利益相关方和社会尽责之外,还需要通过履责价值导向和赋能支持推动平台生态圈成员开展自觉尽责[11],如《互联网平台落实主体责任指南(征求意见稿)》要求平台企业落实平台内用户管理、平台内容管理、禁限售管控、信用评价等主体责任。

平台企业自觉尽责必然会延拓和深入到平台算法层面,需要推动社会责任融入于平台算法活动。一方面,平台企业要深化对平台算法双重属性的认识,增强平台算法价值载荷与对社会负责任义务的意识,加强对平台算法运行规律的把握,培养和提升负责任的算法设计能力,切实形成构建负责任的平台算法理念和能力。另一方面,平台企业要按照构建负责任的平台算法要求,对平台算法的开发设计与部署应用进行流程优化,增加社会责任融入点和审查环节,建立对平台算法合乎社会责任的内部管控制度。对于超级平台和大型平台,应在企业内部建立形成算法影响评估制度(algorithmic impact assessment)。算法影响评估制度是采取全生命周期视角,依据确定的一套标准对算法的应用过程、数据使用和系统设计等开展全面评估,考察其对利益相关方和社会经济的影响性质、影响水平与风险等级。算法影响评估制度通常由中立、专业、可信的外部评估主体予以开展[35],能够对算法可能产生的不良经济、社会、环境影响做出预测性评判和动态评估,形成应对预案或纠偏方案,增强算法透明度、可追溯性、稳健性、可控性、适用性和接受性。平台企业针对平台算法开展影响评估,可以采取内部机构评估的方式,但对于具有重大意义的算法或者方向难以把握的算法,应聘请中立、专业、可信的第三方机构予以实施。

(二)算法技术价值嵌入

平台算法兼具技术属性与社会属性意味着除了社会手段外,技术手段也是构建负责任的平台算法重要方式。而且,平台算法依托于机器学习甚至深度学习,具有自动决策功能,其决策过程和决策结果可能超出算法设计者的预期,因此在某些场景下确保平台算法对社会负责任将有赖于“技术对技术”的治理。与负责任的平台算法相关的技术主要有两类:价值嵌入的算法设计技术和价值偏离的算法矫正技术。价值嵌入的算法设计技术属于一种内在进路,即将“负责任”的规范和标准嵌入于算法之中,让平台算法按照这些规范和标准进行自动决策,以使决策结果对社会负责任。价值嵌入的算法设计技术本质上是价值敏感设计(value sensitive design)在算法领域的应用,以前摄性地对算法设计进行影响,使其在早期阶段解决价值伦理问题,而不是仅仅在算法设计完成之后的事后反应。价值敏感设计通常考虑道德价值、实用价值、公约和个人品味等传统价值或非传统价值[36],因此价值嵌入的算法设计技术重点是要将合规与合乎道德、社会与环境福祉、功能合意的具体要求嵌入算法,充分考虑不同利益相关方群体的道德感受和价值诉求。价值嵌入的算法设计技术将“负责任”的规范和标准预设于算法设计之中,能够有效避免、检验、解决算法设计与应用过程中可能面临的价值冲突、责任不确定性问题。

价值偏离的算法矫正技术是对平台算法自动决策可能存在的潜在价值偏离或已经出现的责任违背进行揭示与矫正的技术,可以认为是平台算法的“敏捷治理”技术。从平台算法运行的过程即“数据输入—机器学习—算法模型—结果输出”来看,引致价值偏离或责任违背可能源于输入端、算法本身和输出端,相应的矫正技术也可以区分为这三类。从输入端来看,可以运用数据挖掘技术对训练数据或输入数据中可能隐藏的价值偏离(如偏见或歧视)揭示出来,并对数据收集、选择和运用进行修正。从算法本身来看,鉴于“算法黑箱”特别是技术黑箱的存在,可以考虑设计监督算法的算法,即在操作算法之外另外再单独设计一套监督算法[37]。这一算法以“负责任”规范和标准为参考予以设计,在平台算法出现价值偏离或责任违背时及时进行纠正或终止,最大限度避免或以一种更优的方式应对平台算法带来的社会风险。从输出端来看,可以通过采取算法审计(algorithm audit)技术来测试或审查平台算法是否存在盲点或偏见,洞察平台算法是否存在价值偏离。在具体操作中,应按照公共利益原则、介入无害原则、最小必要原则、情境理解原则,采取依托平台、依托用户或两者相结合的算法审计路径予以实施[38],以发现平台算法可能或已经出现的价值偏离和责任违背问题并纠偏。

(三)算法生态互动治理

平台企业在平台商业生态圈中与生态位成员的互动主要通过平台算法来实现,特别是平台企业与双边或多边用户之间、双边或多边用户之间的多种形式交互,都是以平台算法为中介予以开展的。这意味着平台算法内嵌于平台商业生态圈,生态治理中不仅存在“平台企业→平台算法→平台用户”的正向路径,而且应当存在“平台用户→平台算法→平台企业”的逆向路径,即平台用户对平台算法的设计和应用能够产生影响。构建负责任的平台算法,可以和需要发挥平台用户的反向治理功能,通过用户赋权和用户参与两种方式,对平台算法的价值偏离倾向进行抑制,促进平台算法的积极价值创造效应。从用户赋权来看,面对平台算法的高度专业化和自动化决策,用户往往处于相对的“弱势”地位,以立法方式赋予用户新型数据权利、算法解释权、免受仅仅依赖算法自动化决策结果制约的权利[2425],能够对规范平台算法的开发设计与部署应用、推动平台算法对用户负责任形成约束。2018年5月正式生效的欧盟《通用数据保护条例》(GDPR)和2021年11月正式实施的《中华人民共和国个人信息保护法》都对赋予个体相关数据权利和处理算法自动化决策权利做出了具体的规定。此外,也可以通过平台企业运营政策的调整赋予用户更多权利,如苹果公司于2021年4月正式强制执行调整后的隐私新政策,推行App应用追踪透明度(App Tracking Transparency,ATT)功能,将隐私权还给用户,即规定应用开发商只有事先征得用户许可,才能够对用户进行跟踪或访问其设备的广告标识符(Identifier for Advertising,IDFA)。

从用户参与来看,一方面,算法系统所实现的特定功能与用户对特定功能的解释可能出现错位[39],用户参与可以避免和矫正这些错位;另一方面,算法设计的价值嵌入往往涉及用户和社会公众对一些社会问题的共识,算法系统与社会共识(社会判断)的结合能够增进用户和社会公众与算法之间达成某种契约,推动“人机回圈”(human-in-the-loop)和“社机回圈”(society-in-the-loop)的实现[40],这需要用户参与。对于平台算法,用户参与主要包括过程参与和监督参与两个方面。过程参与是指推动用户参与到平台算法的开发设计和部署应用过程中,让用户表达价值诉求和社会关切,贡献用户的使用经验和一线体验,使用户与平台企业能够就算法可能产生的影响进行沟通互动,这样既可以促使平台算法开发设计和部署应用更加符合用户需要和社会需要,增进平台算法对更多社会因素和社会规范的考虑,也可以增强平台算法对于用户的可解释性,缓解“算法黑箱”问题。监督参与是指用户基于法律赋予的算法相关的新型权利,或者依据社会伦理和道德规范,对平台算法活动的价值偏离尤其是平台算法决策结果的社会责任符合性进行监督,并以用手投票、用脚投票、投诉建议、社会曝光等多种方式促使平台算法对社会负责任。进一步来看,无论是过程参与还是监督参与,最为重要的是要推动形成用户参与意愿和增强用户参与能力,前者要求建立用户参与的促进机制,后者则要求提升用户的算法素养。

(四)算法监管问责强化

平台算法在经济社会中与日俱增的影响力和不断出现的算法失当现象,要求政府将平台监管触角穿透到平台算法层面,算法监管可以对算法主体形成威慑性的约束,推动算法主体以负责任的方式构建平台算法。由于平台算法的复杂性、迭代性和新兴性,目前算法监管尚存在监管思维、监管对象、监管主体、监管工具和法律关系等方面的不足[41],算法监管总体上滞后于平台算法技术发展,因此亟需强化。强化平台算法监管需要从加大制度供给、创新监管方式和聚焦监管重点三个方面发力,构建多维系统的算法监管谱系。从制度供给来看,需要将“硬法”和“软法”结合起来,通过法律法规、标准规范、准则规则等方式构建针对平台算法要求的制度体系,特别是要将负责任的平台算法六个构成要件纳入强制性制度,为算法监管提供制度依据。从创新监管方式来看,算法监管应建立事前、事中、事后全流程的动态监管机制,包括对平台算法开发设计者和部署应用者、平台算法本身的双重审查,引入零知识证明(zero-knowledge proofs)制度,推动平台算法影响的外部评估及相应的分级算法监管,推行平台算法应用登记与备案,逐步建立平台算法的认证机制,对平台算法决策结果的不良影响实施追责。从监管重点来看,算法监管关注的重点不在于平台算法技术本身,而是其对利益相关方和社会产生的影响,尤其是对利益相关方权利满足和社会道德遵循的关注。

与强化算法监管相适应的是要构建平台算法问责制,通过问责惩戒推动算法主体对平台算法失当问题进行整改,促使平台算法沿着负责任的方向不断改进,从而破解缺乏主观过错认定机制下的平台监管困境。算法问责制不仅涉及平台算法对利益相关方和社会产生影响的责任分配,而且还包括在算法决策造成伤害后的救济机制,其核心逻辑在于超越传统“主体—行为—责任”链条下的“责任鸿沟”,依据主客观相一致的算法责任原则,对算法主体的主观过错予以认定和问责[42]。平台算法问责的基础是问责点的设置,按照平台监管的全过程要求,问责点应当覆盖平台算法开发、设计、部署、应用和结果输出的全生命周期[43],而不只是局限于结果输出的事后环节。平台算法问责的强度需要考虑多个方面的因素,其中一个重要因素是平台算法影响评估结果即算法风险等级[43],对于低风险算法和高风险算法应当建立差异化的问责强度。此外,平台算法问责制的构建还应当设立专门的问责机构,如算法问责委员会,同时制定更加全面、细化的救济措施。

参考文献

[1]张萌.算法推荐的伦理困境:技术逻辑基础上的社会价值规范[J].今日科苑,2019(10):43-51.

[2]PASQUALE F.The black box society:the secret algorithms that control money and information[M].Cambridge:Harvard University Press,2015.

[3]EZRACHI A,STUCKE M E.Two artificial neural networks meet in an online hub and change the future of competition,market dynamics and society[J].University of Tennessee College of Law,2017,7(323):1-15.

[4]肖红军,阳镇.平台企业社会责任:逻辑起点与实践范式[J].经济管理,2020(4):37-53.

[5]晁罡,林冬萍,王磊,等.平台企业的社会责任行为模式:基于双边市场的案例研究[J].管理案例研究与评论,2017(1):70-86.

[6]阳镇.平台型企业社会责任:边界、治理与评价[J].经济学家,2018(5):79-88.

[7]黄慧丹,易开刚.平台型企业社会责任的概念及其结构维度构建:基于扎根理论的探索性研究[J].企业经济,2021(7):31-41.

[8]肖红军,李平.平台型企业社会责任的生态化治理[J].管理世界,2019(4):120-144.

[9]肖红军,阳镇.平台型企业社会责任治理:理论分野与研究展望[J].西安交通大学学报(社会科学版),2020(1):57-68.

[10]易开刚,黄慧丹.平台经济视阈下企业社会责任多中心协同治理模式研究:基于平台型企业视角双案例的研究[J].河南社会科学,2021(2):1-10.

[11]肖红军.责任型平台领导:平台价值共毁的结构性治理[J].中国工业经济,2020(7):174-192.

[12]郑玉双.破解技术中立难题:法律与科技之关系的法理学再思[J].华东政法大学学报,2018(1):85-97.

[13]高海清.从价值中立批判到技术中立批判[J].北华大学学报(社会科学版),2012(8):111-116.

[14]贾璐萌,陈凡.当代技术伦理实现的范式转型[J].东北大学学报(社会科学版),2021(2):1-7.

[15]伏志强,孙伟平.科技向“善”:人工智能发展的价值遵循[J].甘肃社会科学,2021(2):97-103.

[16]HAUER T.Society and the second age of machines:algorithms versus ethics[J].Society,2018,55:100-106.

[17]KRAEMER F,OVERVELD K V,MARTIN P.Is there an ethics of algorithms?[J].Philosophy&Technology,2011,13(3):251-260.

[18]MARTIN K.Ethical implications and accountability of algorithms[J].Journal of Business Ethics,2019,160(4):835-850.

[19]MITTELSTADT B,ALLO P,TADDEO M,et al.The ethics of algorithms:mapping the debate[J].Big Data&Society,2016,3(2):1-21.

[20]李伦,孙保学.给人工智能一颗“良芯(良心)”:人工智能伦理研究的四个维度[J].教学与研究,2018(8):72-79.

[21]WALLACH W,ALLEN C.Moral machines:teaching robots right from wrong[M].Oxford:Oxford University Press,2009.

[22]谭家超,李芳.互联网平台经济领域的反垄断:国际经验与对策建议[J].改革,2021(3):66-78.

[23]孙晋.数字平台的反垄断监管[J].中国社会科学,2021(5):101-127.

[24]张欣.从算法危机到算法信任:算法治理的多元方案和本土化路径[J].华东政法大学学报,2019(6):17-30.

[25]丁晓东.论算法的法律规制[J].中国社会科学,2020(12):138-159.

[26]KROLL J A,HUEY J,BAROCAS S,et al.Accountable algorithms[J].University of Pennsylvania Law Review,2017,165(3):633-705.

[27]LEPRI B,OLIVER N,LETOUŹE E,et al.Fair,transparent,and accountable algorithmic decision-making processes[J].Philosophy&Technology,2018,31(4):611-627.

[28]MOOR J H.The nature,importance,and difficulty of machine ethics[J].IEEE Intelligent Systems,2006,21(4):18-21.

[29]李伟阳,肖红军.企业社会责任的逻辑[J].中国工业经济,2011(10):87-97.

[30]肖红军.共享价值式企业社会责任范式的反思与超越[J].管理世界,2020(5):87-115.

[31]ANANNY M,CRAWFORD K.Seeing without knowing:limitations of the transparency ideal and its application to algorithmic accountability[J].New Media&Society,2018,20(3):973-989.

[32]BRAUNEIS R,GOODMAN E P.Algorithmic transparency for the smart city[J].Yale Journal of Law and Technology,2018,20(1):103-176.

[33]VON SCHOMBERG R.A vision of responsible innovation[J].Responsible Innovation,2013,82(4):51-74.

[34]OWEN R,MACNAGHTEN P,STILGOE J.Responsible research and innovation:from science in society to science for society,with society[J].Science and Public Policy,2012,39(6):751-760.

[35]张欣.算法影响评估制度的构建机理与中国方案[J].法商研究,2021(2):102-115.

[36]刘瑞琳,陈凡.技术设计的创新方法与伦理考量:弗里德曼的价值敏感设计方法论述评[J].东北大学学报(社会科学版),2014(3):232-237.

[37]ETZIONI A,ETZIONI O.Designing AI systems that obey our laws and values[J].Communications of the ACM,2016,59(9):29-31.

[38]张超.资讯类推荐算法的算法审计路径、伦理与可审计机制[J].中国出版,2021(7):31-35.

[39]BAUMER E P.Toward human-centered algorithm design[J].Big Data&Society,2017,4(2):1-12.

[40]RAHWAN I.Society-in-the-loop:programming the algorithmic social contract[J].Ethics and Information Technology,2018,20(1):5-14.

[41]苏宇.算法规制的谱系[J].中国法学,2020(3):165-184.

[42]张凌寒.网络平台监管的算法问责制构建[J].东方法学,2021(3):22-40.

[43]张凌寒.算法评估制度如何在平台问责中发挥作用[J].上海政法学院学报(法治论丛),2021(3):45-57.

肖红军.构建负责任的平台算法[J/OL].西安交通大学学报(社会科学版):1-19[2021-12-17].http://kns.cnki.net/kcms/detail/61.1329.C.20211126.1330.003.html.

分享到:
Baidu
map