“人工智能与未来法治论坛”研讨会现场。 王京仔 摄

合肥女生曾恐慌无人机窥探隐私

机器人成为法律上的“人”还有多远

智能机器人进入民事主体范畴在未来或许是可行的，随着其不断“进化”，不排除其将来具备与人类相当甚至超越人类的意识和思考能力，并可以在一定范围内独立地享有权利、承担义务

法治周末记者 王京仔

4月16日，英国上议院发布了一份名为《人工智能在英国：充分准备、意愿积极、能力爆棚？》的报告，这份长达183页的报告在关注人工智能在英国发展的同时，更聚焦伦理道德问题，提出在发展和应用人工智能过程中有必要把伦理道德放在核心位置，以确保这项技术更好地造福人类。

诚然，人工智能在全世界高速发展的同时，其不确定性带来的新挑战也一直是各国关注的焦点。

中国的学者们也在行动。4月21日，在中国人民大学法学院未来法治研究院、中国人民大学民商事法律科学中心承办的“人工智能与未来法治论坛”上，多位专家就人工智能带来的伦理和法律问题展开讨论。

话题一：智能机器人是否具有法律上的主体资格

人工智能发展下催生的机器人是否应当视为“法律上的人”，是最为专家们关注的一大法律问题，直接关系到其应享有的权利和承担的责任。

王利明（中国人民大学常务副校长）：尽管从智能机器人的发展现状来看，人工智能机器人已经逐步具有一定程度的自我意识和自我表达能力，但尚未对传统民事法律主体理论提出颠覆性的挑战，在短期内仍应坚守，不宜将智能机器人规定为民事主体。

智能机器人是人类创造出来的，虽可能代替人类从事相关活动，但本质是受其自身算法而决定，尚不具备人类所具有的自主思考的意识和能力，且智能机器人尚不能独立享有权利、承担义务，故目前人工智能机器人还不能也没必要成为民事主体。

但是，智能机器人进入民事主体范畴在未来或许是可行的，随着其不断“进化”，不排除其将来具备与人类相当甚至超越人类的意识和思考能力，并可以在一定范围内独立地享有权利、承担义务。

石佳友（中国人民大学法学院教授）：讨论主体资格首先要界定自由意志和意识能力，机器人若要成为法律关系上的主体，就不能完全受控于人，其意志要独立，且其智力要发展到能足够自己作出判断，能意识到自己行为的后果。

虽然随着未来科技发展不排除机器人成为主体的可能，但就目前来说为时过早。

李琛（中国人民大学法学院教授）：从知识产权的角度来探讨人工智能的主体性，其实际是关于人工智能是否能成为创造者的资格问题。

目前，机器人已经能够自己创作音乐、绘画，2017年5月，微软公司的人工智能“微软小冰”甚至出版了人工智能诗集《阳光失了玻璃窗》。尽管机器人有了个性的表达，但机器人能否成为创造者不能从功能的角度去理解，机器人能够做什么还不能证成其主体性，当人意识到自己的意志自由的时候才敢以创造者自居，成为真正的主体。

因而，即便有机器人比我们更完美，但是没有选择的自由，就不是人性的特征，并且尽管人工智能的结果是不可预知或完美的，但只要其初始是被设定为服从人的指令的，就没有自由意志可言。

　　话题二：人工智能带来的隐私和数据保护问题

随着人工智能的发展，对隐私的保护也提出了新的挑战。

美国已经发生多起因认为无人机侵犯隐私，而将其击落引发的纠纷。在国内，关于无人机侵犯隐私的担忧也在上海、山东、安徽、河南等地出现声音。

2017年5月23日，合肥幼儿师范高等专科学校有女生向媒体反映，学校夜晚有男生操控无人机飞到女生宿舍楼阳台附近，往女生宿舍窥探。尽管事后学校查明前述行为是学生对新买的无人机进行试航，且当事男生称并未打开摄像头，但仍在女生间引发了侵犯个人隐私的恐慌。

王利明：无人机技术实现了以往小说中描述的，在苍蝇身上绑上摄像机去他人房间窥探他人隐私的设想，但在无人机窥探他人隐私的情形下，受害者往往难以进行举证，甚至难以确定具体行为人，这需要法律进一步强化隐私权保护，以更好地应对人工智能技术发展。

而在大数据时代，如何确认数据的权利归属，既保护被搜集人的个人信息权，又保护数据开发者、合法利用者的数据财产权，成为值得讨论的议题。

一些智能机器人大规模收集个人信息，并将其植入程序中，会对隐私等个人信息构成重大威胁，要从技术和法律层面规范智能机器人搜集个人信息的合法性问题。

我国民法总则对个人信息权利的保护作出了规定，但并没有专门规范利用人工智能收集、利用个人信息的行为，未来立法有必要专门设置相关的法律规则，防止人工智能应用过程中的数据非法收集、泄露、贩卖等问题。

同时，除收集个人信息外，人工智能技术需要依赖大量来自于不同主体的数据，数据的收集和分析技术发展成为人工智能进行机器学习和开发的基本方法，并能对收集的各种数据进行加工产生衍生数据。数据的占有和转移占有是无形的，也没有有效的权属证明，如何对数据进行确权并建构起权利内容和权利转移制度，还需要法律予以尽快完善。

张新宝（中国人民大学法学院教授）：可以采用“免费+收费”的双重模式来保护个人信息。

目前，网络服务运营者普遍通过免费策略获得最有价值的资源和用户的注意力，然后转化为市场份额。在免费模式下，网络运营者往往会虚化个人同意的规则，用户很少阅读用户协议或隐私政策，而网络运营者则降低了自身责任。该模式已经不能满足用户日益增长的个人信息保护的需要，亟待调整，而应该形成“免费+付费”的模式，就用户协议和隐私政策，网络服务运营者应分别拟定免费和付费两种文本供用户选择。

在免费模式下，用户享有统一的法律保障，网络服务运营者可以在合法、必要、正当范围内使用、收集个人信息；付费模式下，用户就其个人信息享有定制化和高标准的合同保障，而网络运营者在此种模式下不得搜集个人信息，除非是与履行合同义务不可或缺的信息，同时对搜集到的个人信息的使用应当遵循更严格的限制。

　　话题三：对人工智能是否应该征税

2017年，麦肯锡公司发布的《中国人工智能的未来之路》报告中，其对全球800多种职业所涵盖的2000多项工作内容进行分析后发现，全球约50%的工作内容可以通过改进现有技术实现自动化。

面对人工技能技术的广泛运用，其取代人工后造成的社会问题也成为专家关注的焦点。

王旭（中国人民大学法学院教授）：在这样的前景下，政府的规制性会被激活，需要从公法视角重新思考和定义分配。

例如，很多劳动力低廉的地方政府，有人从资本角度建议可以靠人工智能来代替出卖苦力的人，但作为政府，不能如此简单考虑。人每天需要吃饭，他对于再教育的成本是否能够承担等，这些都是政府需要思考的，若对这些因素都不考虑就只考虑资本，会产生问题，政府需要对资本内在的侵略性进行制约。

黎建飞（中国人民大学法学院教授）：人工智能代替人工后，大量低端劳动者若没有出路，是“非常可怕”的，会对社会造成负面影响。

以快递行业为例，若以无人机送货代替快递人员，早期“快递小哥”可以参与无人送货机的辅助性工作，但当人工智能发展到不需要他们辅助之时，大量的人员会因没有工作而失去生活来源。

从劳动法角度，建议对高科技公司平台征收社会保障税。因为平台的收益至少在没有人工智能替代之前，来源依然是这些人的劳动，所以由平台来保障这些人不能劳动时的基本生活是符合社会公平原则的，在今后的立法包括在相关规定中可要求这些公司承担这部分费用。

徐妍（中国政法大学副教授）：可以通过征收机器人税对机器取代人工进行干预，以防止被取代的劳动者收入锐减，导致收入贫富差距进一步扩大。

从社会补偿的角度，若受益者可以弥补受损者的损失并且有剩余，政府对于社会和经济不平等的安排侧重保护社会的弱势群体，以实现矫正的正义，而机器人背后就是失业的人们。

目前各国对机器人征税都存在争议，韩国从2017年8月开始变相征收机器人税，其缩小了以前为投资工业自动化设备的企业所提供的减税优惠。但要建立缴纳机器人税的税制，还需要对征收对象等问题进一步讨论。 

相关报道: