人工智能开发的理念、法律以及政策

东方法学 2019 年第 5 期 对违反该法规的企业采取重罚政策。这项法规对数据向其他国家的转移业务也生效。〔22〕2018年12月

欧盟委员会AI高级专家组发布了《人工智能开发和适用伦理指南》草案，以《欧盟基本权利宪章》为基 准，力争形成值得信赖的、负责任并且没有偏见的人工智能，为此提出了七条关键要求。〔23〕这个伦理 指南将从2019年夏季开始进入试行，所有企业、政府部门以及社会团体都可以参加欧洲人工智能联 盟，通过共同遵循伦理指南在数据、算法、技术等方面推进伙伴关系。 日本总务省信息通讯政策研究所通过系列研讨会在2016年10月制订了《人工智能开发指针方案

（征求意见稿）》，经过讨论修改在2017年7月正式公布《为国际讨论而作的人工智能开发指针方案》。

日本方案的基本宗旨是：尽管人工智能的技术创新和互联网化有望给经济和社会生活带来各种各样

的效益，但也存在黑箱化和失控的风险。人工智能是跨越国界互联互通的，因此相关的效益和风险也

势必跨越国界产生连锁反应。在这个意义上，智网社会的治理不可能局限在一国范围内，而应该形成 全球化的治理框架。为此，有必要通过开放式讨论在利益相关者中凝聚国际共识。在人工智能开发的

初期阶段，通过立法来进行规制有可能导致创新活动的萎缩，因此对刚性规范的制定应持慎重态度， 不妨更多地借助“软法”等非正式的有序化机制。〔24〕 日本的人工智能开发指针方案提出了五大理念：（1）人通过与人工智能网络共生而共享其恩惠， 并建立一个尊重人的尊严和个体自主性的“以人为本”的社会；（2）利益相关者应该对作为非约束性 “软法”的指针及其最佳实践经验进行国际共享；（3）应该通过创新的、开放式的开发活动和公平竞争

增进社会效益，在尊重学术自由等社会价值的同时防范风险，确保效益和风险的适当平衡；（4）坚持

技术的中立性，注意不给开发者造成过度负担；（5）对指针方案的内容不断斟酌，根据需要灵活进行 修改。〔25〕

根据这些理念，指针方案具体阐述了人工智能开发的九项原则，即人工智能系统互相连接和互

相运用的“合作原则”（包括与国际标准和规格保持一致、数据形式统一化、界面和通信协议的公开、 知识产权特许合同及其条件的公开等），确保输入和输出的可验证性和判断的可解释性的“透明原 则”（包括开发者公开算法、源代码、学习数据等），开发者能驾驭人工智能的“可控原则”（为此可以采 取监督、预警、停机、断网、修理等有效举措），人的身体、生命、财产免于损伤的“无害原则”，保护人工

智能系统本身的“安全原则”（包括系统的可信度、牢固性以及信息的机密性、完整性、可用性），防止

人工智能利用者和第三者个人信息泄露和滥用的“隐私原则”，〔26〕尊重人格的“伦理原则”，为用户提 供选择机会的“支持原则”（包括设定系统默认、提示易懂的选项、及时反馈、紧急情况的警告、失误的 纠正等），以及对利益相关者履行说明义务的“问责原则”。〔27〕 综合上述信息，我们可以发现在人工智能开发的原则和政策方面，国际社会已经初步形成了一

些基本共识。例如对国际通用的指针、标准、规格采取合作态度，尽量使设计方案统一化；为确保人工

智能系统和智慧网络之间互联互通，必须共有相关信息；数据形式应该标准化；应该公开包括应用程 序编程接口在内的接口和协议、知识产权的特许合同条件；确保技术的中立性以及透明性，判断结果 的可解释性，等等。另外，在不同价值取向发生冲突时，进行选择的元规则被公认为要优先保护人的

〔22〕实施的情况，参见熊剪梅：GDPR实施近一年，数据隐私保护何去何从？，载人民网·公共政策，2019年5月7日。与此相映成趣的 是，中国互联网信息办公室在2019年5月28日发布了《数据安全管理办法（征求意见稿）》，通知公众在6月28日之前反馈意见。 〔23〕欧盟人工智能伦理指南的七条关键要求是人的管理和监督、稳健性和安全性、隐私和数据管理、透明度、多样性和公平性以 及非歧视性、社会和环境福祉、问责制。