高政宠妻随着技术进步,强人工智能系统已具有高度复杂的学习和决策能力,早就超出传统监管机构的理解和控制范围。
2023年6月14日,《人工智能法案》授权草案在欧洲议会高票通过,正式进入最终谈判阶段。若成员国投票顺利,草案预计2024年生效。作为全球首部通过议会程序、专门针对人工智能的综合性立法,草案从安全、隐私、透明度以及非歧视等方面制定了缜密规则,将欧盟一直以来秉持的权利与价值观展现得淋漓尽致。
《人工智能法案》授权草案以风险为逻辑主线,规定了严格的前置审查程序和履行合规义务,重点对具有高风险的人工智能产品和服务实施治理,要求人工智能公司对其算法保持人为控制,向监管机构提供技术文件,并为“高风险”应用建立风险管理系统。
草案提出人工智能禁令,被禁止的风险分别包括利用人的潜意识、利用特定群体的脆弱性、社会信用分级以及实时的远程生物识别技术。其中,实时远程生物识别技术的禁用,意味着一般公司不得再利用人工智能技术在欧盟国家的公共场合进行人脸识别。此外,欧盟立法者对人工智能基础模型、可以构建其他人工智能系统的大型语言模型作出严苛的限制。法案特别加强惩罚力度,对于违法行为,可处以开发者高达全球年营业额的6%或4500万欧元的巨额罚款。
《人工智能法案》授权草案在世界各国对人工智能监管日渐焦虑但举棋不定的情况下横空出世,不可阻挡地成为世界关注的焦点。无论其最终是否通过,授权草案将对欧盟和全球的人工智能产业的未来走势造成不可估量的影响。抛去繁杂的授权草案带来的直观冲击,思忖其底层逻辑,授权草案是否能如立法者预期般为人工智能上一个“紧箍咒”,还是会过犹不及成为科技创新的“拦路虎”?
《人工智能法案》从技术稳健性和安全性、隐私和数据治理、透明度、多样性、非歧视和公平以及社会和环境福祉出发,构建全面系统的诸项机制,并要求欧盟成员国设立监督机构,以确保这些规则得到遵守。这样面面俱到、无微不至的法案设计,在欧盟领域早已不是第一次,可从欧盟数字经济立法中,预演人工智能立法的后续影响。
自1997年,欧盟陆续颁布数部法令,包括《欧盟电子商务行动方案》、《关于远距离合同订立过程中对消费者保护的指令》、《关于信息社会服务的透明度机制的指令》、《电子商务指令》以及《增值税指导》等,其中GDPR被称为“史上最严数据立法”,囊括了所有新数据保护所必须的相关要求,并建立了严格的处罚机制。欧盟对数字技术的立法启动早、义务规范全、责任约束严,但实践效果适得其反,对欧盟数字经济的发展产生冷却的意外后果。
据统计,全球电子商务市场的13%属于亚马逊,而在亚洲和许多欧洲国家,市场份额被亚洲公司占据,尤其是阿里巴巴[1]。在欧洲主要电商平台中,美国亚马逊拥有11318万的月活跃用户,中国全球速卖通拥有7969万月活跃用户,均远高于欧洲活跃度最高的本土电商平台“OZON”的3725万[2]。企业合规耗费了欧洲本土电商公司过多的精力,令它们蒙受过重负担,导致欧盟电商的竞争力远低于中国和美国的竞争对手。
无独有偶,我国在制定《电子商务法》时也遇到过类似问题。围绕《电子商务法》第38条第2款电子商务平台经营者应承担何种性质的安全保障义务,社会各界对电子商务平台经营者的义务强弱程度,我国在《电子商务法》中设立“电子商务促进”章节,奠定了保障电子商务各方主体的合法权益,规范电子商务行为,维护市场秩序,促进电子商务持续健康发展的基调,使得我国电子商务行业在受到基本监管的同时实现飞速,一跃成为全球最活跃的电子商务国家。
在人工智能技术迅速发展的时代浪潮下,《人工智能法案》继承了欧盟对数字经济一贯的严格立法态度,从具体制度到处罚力度均体现出高压的一面。《人工智能法案》要求系统提供者和使用者都要遵守数据管理、记录保存、透明度、人为监管等规定,以确保系统稳定、准确和安全。还针对生成式人工智能设立专门监管制度,对人工智能生成的内容引入强制性标签,并强制披露受版权保护的训练数据。对于违反规定者,监管机构会迫使企业从市场上撤回应用程序,企业还可被处以高额罚款。
可以预见,这部法案所带来的苛刻监管环境,或使得世界范围内最为先进的科技企业退出欧盟市场,将影响欧盟企业开发自己独特人工智能模型的能力,让欧盟企业无力追赶美国以及中国的竞争对手,影响欧盟在人工智能领域的话语权,其制定的人工智能标准也会失去实际效用。
《人工智能法案》作为世界范围内首份人工智能法案,强调人工智能规范的道德属性是其突出特点之一。法案明确指出,“促进以人为本和可信任人工智能应用,并保证对于健康、安全、基本权利、民主以及法治的高度保护”,“人工智能可能导致虐待和有害影响,应予禁止,因为违背了欧盟尊重人类尊严、自由、平等、民主和法治的价值观以及欧盟的基本权利,包括不受歧视的权利、数据保护和隐私以及儿童权利。”
正在发生类似巨变的美国反垄断法,可以给出上述问题的些许答案,并从中得到启示。美国反垄断的执法在经历哈佛学派(编者注:哈佛学派主张,为了保持有效竞争,获得令人满意的市场结果,必须运用竞争政策对市场结构和市场行为进行干预、调节)的检讨后,一直秉持芝加哥学派(编者注:芝加哥学派特别注重判断集中及定价结果是否提高了效率,而不是像结构主义者那样只看是否损害竞争,认为即使市场是垄断的或高集中寡占,只要市场绩效是良好的,政府规制就没有必要)与后芝加哥学派(编者注:后芝加哥学派主张在广泛的反垄断问题上采取更多的干预主义立场,例如掠夺性定价,搭售和纵向合并)。近年来,则有被新崛起的“新布兰代斯学派”取代的趋势。美国“新布兰代斯学派”将政治与反垄断挂钩,提出竞争政策应回应社会问题,意图对于科技巨头企业采取极为严厉的反垄断规制,以消除竞争损害,减少贫富差距。毫不夸张地说,“新布兰代斯学派”下的反垄断法逐渐沦为政客通过打压科技巨头,获取大量选票的工具。
《人工智能法案》授权草案,或也成为一场表面风光的政治宣言。法案限制、禁止的人工智能系统的内容,部分仍然停留在原则层面,并不具有实际可操作性。例如,法案规定生成式人工智能系统要接受培训、设计、改善,以确保其生成的内容符合有关欧盟法律,但对改进行为、接受范围等并未进行具体规定。
此外,欧盟《人工智能法案》仍然囿于传统监管思维,试图用行政之手暴力介入。
例如,法案将人工智能系统按照现有使用方式分层监管,并在第69、71条指出,“应要求高风险人工智能系统的供应者在欧盟数据库中备案他们的高风险人工智能系统和基础模型。”
应当看到,随着技术进步,强人工智能系统已具有高度复杂的学习和决策能力,早就超出传统监管机构的理解和控制范围。人工智能已然通过自我训练,实现技术的自主迭代。例如,OpenAI通过让模型与环境互动,自我生成并标记数据来训练模型,使得其可以不断地从自身经验中学习,提高其性能。监管强人工智能的最佳方法只能依靠发展更为强大的人工智能技术,就像现在的人工智能都是由人工智能训练一样,也应当用“魔法打败魔法”,即用人工智能监管人工智能。
人工智能技术发展浪潮席卷全球,欧盟在此时制定《人工智能法案》,释放出欧盟正强化其在数字领域内建规立制的强烈信号,试图继续维持欧盟规范的“布鲁塞尔效应”(编者注:布鲁塞尔效应指欧盟凭借市场力量单方面监管全球市场的能力)。作为人工智能领域的追赶者,《人工智能法案》的急于出台,是为了未雨绸缪地添补后发劣势的陷阱,还是会就此陷入无法摘取人工智能发冠的长期劣势?
数据显示,2019年美国人工智能风险投资和私募股权融资达到14345百万美元,大幅度领先欧盟的3207百万美元。2020年,美国获得超过100万美元的人工智能公司数量2130家,相比之下,欧盟仅有890家[3]。可以预料,在欧盟强监管理念的指引下,欧盟将很难拥有自己的明星企业,面临着沦为“全球互联网巨头数字殖民地”的危险。
当前,人工智能技术发展仍处在探索期,距离成熟的人工智能技术还有很长的一段距离。技术创新和制度创新并不存在简单的因果和线性关系,两者需要注意平衡与衔接,方能彼此促进,实现科技的可持续发展。如果过早地约束技术研发和运用范围,反而会对实现创新和成熟应用人工智能技术造成不必要的束缚。正所谓,皮之不存毛将焉附?
2023年4月11日,我国互联网信息办公室起草了《生成式人工智能服务管理办法(征求意见稿)》,向社会公开征求意见。与欧盟相似,我国也站在人工智能领域立法的十字路口,在强化人工智能监管抑或放任其野蛮发展中踟蹰徘徊。鉴于欧盟数字经济领域的前车之鉴、授权草案过于价值观的宣传、人工智能技术发展的现实背景,我国立法者是否可以让子弹再飞一会儿,审慎决定我国人工智能的强化规制?我国可以静待欧盟《人工智能法》授权草案的不断修改演化、立法中演绎出的争议焦点与通过后的立法后评估,再以欧盟《人工智能法》为蓝本,统筹设计我国的人工智能立法。
具体而言,面对如火如荼的人工智能产业,我国可采取“阶梯式”监管模式。在人工智能发展初期,制定以促进人工智能产业健康发展为主的监管条款,待我国人工智能发展较为成熟,充分了解其技术特点、潜在风险和社会影响后,制定更为精准和适应的监管政策。螺旋上升的立法模式可以平衡监管的紧迫性和技术发展的需求,也给予监管机构时间进行充分的研究,立足于我国数字经济发展的根本需要,在利益衡量的基础上,制定出更为系统和具有针对性的监管规则,构成我国特色人工智能治理方案。
[1] 《电子商务趋势报告:2022年行业状况》,访问日期:2023年6月19日。
[2] 《2022年全球电商深度研究 全球电商市场特点分析》访问日期:2023年6月20日。
本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问。
|