人工智能时代的司法权之变

2017年7月

21日由国务院印发的《新一代人工智能发展规划》已经指出研究相关法律问题和建立问责制度的必 要性，提出了一些重要举措。当然，人工智能开发的具体规制方式和规范内容还有待进一步充实、完 善。实际上，艾萨克·阿西莫夫早在1942年发表的科幻短篇小说《转圈跑》中，就曾经提出了关于防止

机器人失控的三大定律，即机器人不得伤害人或者对人受到伤害袖手旁观；机器人必须服从人的指 令，除非该指令危害到人；在遵循上述两条定律的前提条件下，机器人必须保护自己。〔3〕后来，为了避

免允许机器人劫法场之类的逻辑漏洞，他在《机器人与帝国》中又追加了一条零定律：“机器人不得加 害于人类整体或者因为坐视危机而加害人类整体”。〔4〕这些富于灵感和远见的主张为人工智能开发的

规制展现了基本思路和雏形，对后来的制度设计产生了深刻影响，但却不能充分反映当今社会的崭 新状况和需求。 为了正确把握人工智能在全世界的发展趋势以及问题群，我们首先需要对产业革命的进程进行

简单的回顾。 迄今为止，人类社会经历了四次重大产业革命，采取了不同的基本生产方式。首先是机械化生产 方式，由蒸汽机和纺织机的发明而启动，从18世纪后期持续到19世纪前期。其次是电气化生产方式， 因电力和石油以及高度分工引发，从19世纪后期持续到20世纪前期。接着以产业机器人的研发为契 机，〔5〕从20世纪60年代开始出现了自动化生产方式，其驱动力量是半导体、电脑以及互联网。就在这个

阶段，人工智能的研究开始出现几经起伏的热潮。

初级的人工智能只不过是装载了控制程序的家用电器，例如具有自动调节功能的洗衣机、冰箱

以及电动剃须刀。较高级的人工智能则是装载了知识数据库的推理和探索系统，例如象棋程序、扫地

机器人以及对话软件。更高级的人工智能搭载检索引擎，可以按照既定算法进行机械学习，包括各种

实用的专家系统。〔6〕现在我们通常所说的人工智能大多数就是指具有机械学习功能的计算机信息处

理系统。至此我们迎来了大数据时代，新的产业革命条件也开始日渐成熟。〔7〕21世纪初由万物互联互通、 大数据、人工智能引发的智网化生产方式，可谓第四次产业革命。正在进行中的这次产业社会的结构 转型是以数据驱动和人工智能网络化为基本特征的。其主要构成因素有如下三项。 第一，物联网（简称IOT）。物联网导致数据的生成、流通、积蓄并不断增大，通过数据合作实现最

合理化的供应链，可以针对顾客个人需求进行产品和服务的创新。 第二，由物联网形成和积累而成的大数据。对物联网而言，大数据的收集和运用是关键，而大数

据具有经济价值，甚至被认为是一种新型通货。大数据也使得个人生活状态变得非常透明化，甚至可 以说我们面对的是一个极端化的“透明社会”。 第三，人工智能。没有人工智能，大数据的收集和运用都不可能实现，而基于大数据的机械学习

和深度学习又给人工智能带来质变，可以不断开发新产品、新服务，并且大幅度提高效率和质量。 这三种因素互相作用、相辅相成，推动人工智能网络化程度不断加深，促进现实空间与虚拟空间

之间互动和反馈的关系不断增殖，形成一种具备控制力的信息实体交融系统（简称CPS）。