陈继东丨人工智能时代的法治视野——兼论民法典的智能维度丨科技与文明

◆◆◆◆

上海市社会科学界联合会理事

拥有学术头脑 探索和自由观点

官网地址

◆◆◆◆

注：微信公众号近期改版，订阅号消息不再按时间排序。 为了能继续收到我们的文章，希望您可以点击文章底部的“在看”或为“探索与争议”公众号设置“星号”图标（右上角三点）公众号界面）。 让系统知道这是您常看的公众号，方便您以后看到我们的新闻。 2018年6月1日起，本刊只接受“探索与争议”网站投稿。 请收藏唯一真实的官网地址。 原编辑邮箱tsyzm@sssa.org.cn已停用，原投稿邮箱tansuoyuzhenming@126.com为编辑邮箱和紧急邮箱。

人工智能时代的法治景观

——兼论民法典的智能维度

陈继东 | 上海大学法学院讲师

本文发表于《探索与争议》2021年第2期

除特别注明外，文中图片均来自网络

陈继东

从原子到比特的维度转换：法治所寻求的有效环境如何影响法治

研究《民法典》的路径不限于一端，应注意其对智能社会的调整限度。 季卫东教授将人工智能对社会系统的影响概括为三个方面：日常生活方方面面的数字化、经济活动的重心从资源到数据、市场交易形式从商品到服务。 正是在这些影响下，人工智能时代呈现出三大基本特征：智能网络化、算法黑盒化和机器自主化。 法治领域正在发生“法律编码”与“法律编码”双向运动，新的秩序格局正在形成，以代码为代表的信息技术发挥着越来越重要的秩序供给功能. 在此背景下，民法典鲜明的时代特征主要体现在对以人工智能为代表的新兴技术的回应上。 在这种从原子到比特的深度转化中，我们应该从哪个维度来看待民法典来引导和规范新技术的功能和范围？ 这是信息时代法律从业者应该努力解决的问题。

什么是智能维度，或者为什么会发生观察维度的转变？ 回顾传统民法研究的历史，我们大多是从法律的角度来探索世界，目的是探讨某一法律制度对民事主体的具体影响。 然而，在人工智能法治的相关研究中，这一传统的观察维度被转化为法治所寻求的有效环境如何影响法治。 这种转变背后的基本背景是：随着信息技术的成熟，人类社会的经济价值发生了迁移。 我们已经从拥有某物或物理原子转变为拥有信息。 在数字环境中，信息意味着比特。 这种从原子被认为具有经济价值的世界到信息以比特来衡量价值的世界的转变催化并形成了我们研究视角的焦点。

如何认识比特世界的法治景观，涉及到不同法律思维模式的选择。 就本文而言，传统民法已经形成了较为清晰的精神脉络，即民事主体通过法律行为创设权利义务，并为其可能造成法律后果的行为创设法律权利义务。 损害赔偿的法律责任，以及当事人之间的权利义务关系不明确和滞后，可以通过法理来解释。 基于这一精神脉络，将民法典的主要问题归纳为权利主体、法律行为、权利义务（法理）、法律责任。 法治视野，即先审视人工智能对民事主体制度的冲击与挑战，探讨主体行为在比特世界智能合约中的表现形式，进而分析主体权利的代币化趋势，最后以智能驾驶客体化倾向为例探讨比特世界的民事责任。 由此，我们可以探索民法典的智能维度，思考应对人工智能法治景观的基本方法，探讨构建人工智能法治体系的基本框架。

跨越原子和比特世界的多主体景观

主体制度的法律价值主要表现在：法律承认人的主体资格和人自身的主体意识。 法律赋予主体资格的人是法人，具有主体性。 在从原子到比特的空间转化中，人在跨越两个世界的同时，也遭遇了最根本的冲击。 比特世界呈现多元主体的场景，引发了哲学、伦理学、法学界学者的讨论。

(1)以意义要素为虚构条件

显然，人工智能代理人在我国现行法律体系中不具有主体地位。 虽然可以采用某种法律解释学的方法来论证人工智能主体作为法律主体，但这种方法并未得到普遍认可。 目前，人工智能能否通过法律虚构获得主体资格，一直是这场讨论的焦点。 这种做法的支持者一般以《民法典》的法人制度作为现行法律的例子。 然而，在法人人格的争论中，“实体论”已经取代了“虚构论”成为统治论。 采用“虚构论”只是把法人作为手段而不是目的，不能说明法人的丰富实践。 也正是因为如此，人工智能主体资格的科学性通过法人的虚构路径得以彰显。 此外，现有的讨论特别强调小说的技术特征。 小说似乎是一剂灵丹妙药。 只要用虚构，连山川河流都可以具有法人资格。 但事实是，即使是虚构的人物也仍然需要意志力。 仍以法人为例，无论对法人的本质采取何种理论，都离不开意义要素。 法人之所以能够有效地从事民商事活动，是因为“法律可以形成独立于各成员含义的‘一般含义’，也可以通过为其设立的个人（机构）来行事”。 可见，以虚构为题材的目的并不是要“简化”立法，而是要强调民事活动应当承担的权利和义务。 AI意志力作为必要条件之一。

讨论人工智能的机器意志与法人制度的区别在于，法人是自然人的组合体，其意志的本质仍然是人的自然意识，而机器意志与此不同. 目前对机器的研究将主要围绕量子涌现机制、全局工作空间、信息整合理论和高阶意识理论展开。 从研究策略来看，主要分为算法构建策略和类脑构建策略两种途径。 在具体实现方法上，可以分为三类：一是使用类神经网络的方法，二是使用量子计算的方法，三是使用基于规则的计算方法。 回顾人工智能的发展史可以发现，拥有技能和头脑一直是人工智能的目标，即“让机器去做通常需要智能才能完成的有意义的事情，并且模拟基于生理的思维中发生的事情。” 正是在这个意义上，通过讨论自由意志来讨论人工智能的主体资格是可能的，甚至是可行的。

(2) 自由意志与人工主体的主观性

一、法律人格意义上的自由意志

目前，学者们对人工智能机器意志的讨论，已经脱离了自由意志最初的哲学背景以太坊平台可以运载智能合约，更多地基于语义学，强调自主、自主决策、自主意识的含义。 自由意志或机械意志说的基本目标之一是确定人工智能是否具有人格，是否可以成为法律主体，从而对其行为承担相应的法律责任。 但是，目前的研究还不能清楚地解释自然人的自由意志是如何产生的，甚至人类是否具有自由意志也是一个需要讨论的问题。 从语义学上看，自由意志源于人类具有神性（宗教）的讨论，即人的自由意志是以上帝为基础的。 但自笛卡儿以来，在主体性问题上对自由意志（如人的价值、尊严等）的讨论，旨在摆脱神灵的影响，确立人的地位。 这个意义上的自由意志强调的是其基础而非发生意义，主要与法律人格有关。 自然人具有自由意志，具有自然人格以太坊平台可以运载智能合约，可以无区别地成为法律主体。 也是在这个意义上，我们说植物人也有自由意志。 总之，这一层次的自由意志强调自由是人格，指向自然人（法律主体地位）的权利和能力。

2. 能力意义上的自由意志

追溯自由的本源——意识，显然有助于我们理解自由意志。 在柏格森看来，意识表现为绵延和运动的多种状态，绵延只能归于意识，而物质事物没有绵延。 正是在人的意识中，行动的自由得以发展。 自由意志是整个自我的表达，而自由是来自自我的行为，并且仅来自表达整个人格的自我。 在此基础上，我们可以解释自由意志的第二个含义。 约翰·塞尔说，我们所有的意识，包括我们做出有意识决定的过程，完全依赖于较低层次的大脑过程，也就是说，人类的神经元活动决定了我们的意识，而自由选择是在意识的基础上形成的能力选择有意向性成为自由意志。 只有自由意志才能赋予行动以各种可能，没有自由选择的意识和意图，就不可能有真正的行动。 一个人总是为了达到自己的目的而行动，正是出于这个原因，人类必须对自己的行为负责。 根据这一观察，人类只有在具有意向性意识之后，才能代表自由意志。 法律主体之所以能够自主行动，是因为它具有自由意志，法律所规范的是人的自觉行为。 在这个使用意义上，自由意志体现在行为能力体系中，而行为能力主要是指法律主体辨别行为内容和结果的能力。

（3）组织新发展：去中心化自治组织

在去中心化账本技术 (DLT) 生态系统中，任何组织的创新都可以在三种不同的架构下观察到：DLT 协议、智能合约和组织。 在区块链业务领域，人工智能对组织的影响往往被忽视。 区块链去中心化自治组织（Decentralized Autonomous Organization，简称DAO）是一种典型的基于分布式记账技术的组织。 DAO由智能合约管理，通过一定的共识机制让Token（代币或通证）持有者拥有管理重大事务的权利，让通证持有者共同管理经济或非经济事务。 在一定程度上突破了传统企业形成的官僚机制。

区块链去中心化自治组织（DAO）

目前，区块链已经成为一个资本平台，加密货币和数字资产在DAO内部流转。 THE DAO事件表明，当出现相应的损害时，由谁来承担责任成为监管问题，这就涉及到对DAO法律性质的讨论。 作者曾经主张DAO是一种合伙企业。 为了解决DAO组织的责任问题，笔者进一步认定了民法通则第五十二条规定的合伙型共同经营的DAO性质。 但《民法典》并没有接受pooling的概念及其制度，DAO的本质问题仍然亟待解决。 但无论使用哪种定义，降低投资者的风险，促进去中心化自治组织对智能合约技术的生产性使用和发展，最终形成一个更加无摩擦的二级市场，应该是其基本目的。

综上所述，讨论人工智能的主体性需要从本质和形式两个要素来分析：即可以形成独立于人工智能本身的组织的普遍意义或Token的个体意义持有者; 代理人本身的财产或基于Token持有人账户的自有财产； 人工代理可以基于合约和共识机制注册或有组织要求，满足规范的程序要求。

比特世界的行为模式及其解释

在原子空间中，民事主体的法律行为基于意义的表达。 比特世界中运行的代码及其组成的算法程序，比如大家熟知的智能合约，是否能够有效加载主体的意义，甚至符合意义表达的结构，是显而易见的。 是我们探索比特空间法治景观的核心内容。

(1) 智能合约是电子合约的升级版

比特币及其底层技术区块链的出现，为智能合约提供了安全准确的技术平台。 智能合约随着区块链网络的发展而蓬勃发展。 之所以称为“智能”，是因为它比传统合约具有更多的智能（或自动化）因素。 智能合约可以是区块链上直接用代码表达的意思。 这个意思通常需要对方有相应的行为来进一步确认和履行合同的内容。 该类型属于典型或狭义的智能合约。 而Nick Szabo所定义的“一组数学定义的承诺，包括合约参与者可以履行这些承诺的协议”，属于广义上的智能合约。 一般来说，智能合约的内容体现在由计算机代码组成的程序中，而不仅仅是典型电子合同中使用的计算机代码。 其最大的特点是可以自动执行预设的合约内容。 各方使用密码学“签署”智能合约并将其部署到区块链，当满足代码中的条件时，程序触发预设动作。 交付商品或服务后，智能合约可以通过区块链强制执行自动付款。 如果不付款，它可以恢复或暂停服务。 与此相反，其他电子合同仅能自动向消费者提供商品或服务，从而达到理想状态。

尼克萨博

目前，智能合约和法律合约处于交叉的状态。 一方面，智能合约的应用范围不仅限于交易，还可能用于区块链自治组织内部管理等领域。 另一方面，智能合约还不能涵盖传统民法中的所有合约，只能适用于合约内容各处价值精确的合约。 在实践中，智能合约常用于支付、数字资产转移等可高精度编程的交易。因此，为适应智能合约技术的发展及其特殊性，构建智能合约的调整机制应该相对谨慎，允许有例外。

当事人签发智能合约，具有改变当事人权利的意义。 这显然是基于合同签发方的意思表示而形成的法律关系。 因此，智能合约符合民法对意思表示的定义，可以认定为法律行为。 《民法典》并没有明确禁止使用数据来明示合同。 智能合约以数字代码的形式呈现其内容，属于《民法典》中的“数据电文”。 如果按照法律合约的“要约-承诺”结构来判断智能合约的结构，一般来说，发布的智能合约可以识别为要约，调用和执行要约的代码可以识别为接受。 只是对智能合约的“承诺”需要通过调用和执行代码来完成，而执行代码的意义在于技术上不需要交付给智能合约发行方。 因此，对智能合约的“承诺”可以定义为意义的实现，在做出承诺的同时也履行了合约。

(2) 智能合约的解释问题

智能合约使用计算机代码来最大限度地减少传统合同法中的语言错误和其他棘手问题，但也存在解释困难。 难题本质上是智能合约可以将自然语言编程（翻译）成代码的程度。 当智能合约仅构成法律合约的一部分时，或者当双方对智能合约的含义有不同的理解时，如何解读代码所承载的含义是一个难点。

我们可以用一个案例来说明：书法家A同意以1000万的价格向收藏家B出售欧阳询《九成工礼全铭》拓本一幅。 合同约定拓片估价后支付价款。 但买卖双方的鉴定专家对拓片的年代存在分歧。 买家以为是明代仿本，卖家认为是宋本，要求退还货款。 这就是智能合约遇到的合约解释问题。 与传统合约不同，智能合约的解释更多地依赖于分布式账本技术，也就是说，在这种情况下，重要的不是书法家或收藏家的观点，而是买卖双方是否履行了合同条款。区块链记录，更准确地说是“矿工”确认了一些事情。 当然，本案还有其他丰富的解读可能。 就解释规则而言，传统民法理论采用的是规范解释规则，即考虑意思表示接受人的利益。 但智能合约最终涉及到代码解释，上述规则在智能合约意义解释中的具体应用还有待进一步探索。

欧阳询《九成宫立泉铭》

比特世界的权利变化

在位空间中，信息是一个原子，属性以数字形式存在。 目前，学术界围绕数据利益展开了数据权益及其制度建设的讨论，并为进一步发挥数据作为生产要素的效用，进行了数据资本化的理论探索和实践，加密资产，尤其是代币和财产。 Token化发展迅猛，其权益如何评价？

（一）代币化与代币化

在区块链网络空间中，比特币和以太坊的公链业务依靠加密资产（crypto-assets）来刺激经济活动。 商业机构为了扩展其商业模式，需要创造各种形式的加密资产，并授权其用户与其产品进行交互，从而达到促进奖励、惠及所有利益相关者的目的。 因此，加密资产是依靠加密技术和分布式记账作为其外在认知价值或内在价值的私有财产。 其中，加密货币（cryptocurrency）的形式有数万种——最受关注的代币。

就技术本质而言，token与cookies、session一样，是互联网的一种认证方式。 由于只有获得通证的节点才能进行通信，因此通证客观上具有权益证明的功能。 以太坊和智能合约的出现，赋予了代币更广泛的内涵，逐渐形成了加密、权益、流通三大要素。 以太坊 ERC-20 标准使任何人都可以发行代币来代表任何权利和价值。 目前，实践中的代币大致可以分为三大类：证券型代币、实用型代币和加密货币型代币。 然而，随着加密资产产生的原因不断演变，使用场景不断丰富，这使得定义通证及其性质变得困难。 我国有学者认为，广义的数字货币应定义为准货币。 然而，面对多种代币及其复杂的业务实践，单一的定义显然不符合实际需求。 然而，鉴于代币是区块链上以数字形式持有的资产的权利证明，根据《民法典》第 127 条，将代币识别为虚拟资产可能是合适的。

(2) Tokenization：连接原子和比特

将现实世界中的资产（原子）转化为区块链系统上的数字代币（比特），是一种影响深远的财产（权利）“代币化”。 理论上，可代币化资产可以包括所有权利对象。 要完成资产的代币化，必须将实物资产数字化并记录在区块链中，才能在相关区块链平台上进行流转。 代币化的优势在于分布式账本技术和加密技术使权利更加清晰、透明和不可篡改。 而且，理论上，通证可以无限分割，降低了投资门槛，增加了资产的流动性，使得债权人持有的标的资产的权利可以部分分割，债权人不需要参与整个资产的金融活动。 从这个意义上说，通证化实际上是资产证券化的延伸。

可以肯定的是，未来传统民事权利中的产权、知识产权等权利，都将在​​区块链网络中得到证明，成为数字资产。 代币与这些权利的结合以及它们之间的转换构建了一个完整的代币经济。 从技术上讲，将权利对象数字化、资产化，转化为区块链上的代币并不难。 但问题是，“代币是否真的能够在区块链网络中通过流通和交换获得价值，或者拥有代币后如何转化为代币所代表的权利”。 这样原子和比特就可以互通了，但这需要通证经济的整体发展来完善。 正如哈耶克所指出的，“人们对它的接受程度（流动性）和人们对其价值变化的预期（稳定性仍然变异）”。

民事责任的客观化趋势

“个人责任的古典世界”一直被亚里士多德的归责理论所支配，即我们只能对那些自愿的、个人有能力控制并且他实际控制的事情负责。 这种归咎理论主张，做错事的人必须付出代价，这符合公众对道德错误的普遍看法，因此行为人必须采取合理的谨慎措施。 因此，侵权责任认定的核心也集中在行为人的注意义务及其违反上。 但当我们面对一个“工业现代性的不同世界”时，传统的责任模式就失去了吸引力。 在一个更加不同的比特空间中，违法行为有哪些变化，如何评价主体行为的责任，构成了讨论人工智能法治的逻辑闭环。

(1) 人工智能体双向通信带来的前瞻性问题

人工智能发展带来的变化，就是将人与物之间的单向交流转变为双向交流。 人工智能可以在一定范围内自行行动（自主），也可以通过学习来适应环境（自适应）。 一些先进的弱人工智能甚至可以重现人类智能的部分表现。 据研究人员分析，“能够自我学习的人工智能系统的行为部分取决于其获得的经验，即使是最细心的设计师、程序员和制造商也无法控制或预测人工智能的行为。没有它们的情报系统。” 会发生什么。 因此，人工智能系统的设计者无法预测人工智能系统在现实中会如何表现。”

在人工智能引发的责任问题中，无人驾驶汽车等智能配送系统造成的损害赔偿责任最受关注。 根据目前的学术讨论，自动驾驶汽车造成伤害时可能存在责任重叠。 当自动驾驶汽车造成损坏时，如何判断机动车的故障就成为一个难题。 在典型情况下，责任归属的核心是系统本身的问题，但实际上我们很难证明是司机有错还是系统有错。 这是选择传统侵权责任路径时难以摆脱的困境。 此外，如果选择民法第1202条规定的产品责任路径，则需要证明自动驾驶汽车产品存在质量缺陷或瑕疵。 但我们也很难证明系统算法存在缺陷，因此我们陷入了与机动车侵权责任相同的困境。 在此背景下，如果不再提及自动驾驶汽车的法律主体地位，就需要转变思维方式，摒弃形式主义、一元化的传统逻辑，避免过失责任的适用带来不必要的麻烦，面对风险本身，并注重补偿安排和利益平衡，从而转向监管工具主义的思维模式。

（二）工具主义的兴起与责任客观化的基本趋势

19世纪，随着工业和金融风险的增加和责任保险制度的发展，传统的责任概念让位于更严格的责任概念。 严格责任与个人过失无关，而是关注集体风险的分配。 这就是规制工具主义关于责任的基本命题。 规制工具主义试图指出，损害的存在不是因为非个人的过失（疏忽），而是因为不可接受的违法行为导致风险结果，赔偿责任并不意味着对行为人的否定判断。 在这种理解下，归责原则可以支持有益的创新并将创新技术对人类健康和安全的风险管理在可接受的水平，从而支持技术创新并适度管理风险（人身和财产风险）和多重风险之间的可接受平衡).

从科学技术的角度观察归责原则的变迁，归责原则客观化、损失社会化似乎是发展趋势。 "Looking back on the principle of imputation of legal liability in history, there have been successively the liability for harm, liability for fault and liability without fault, and its development is actually a process of objectifying the principle of imputation. The so-called objectification of the principle of imputation refers to the Within the scope of fault liability, there is widespread application of presumption of fault; outside the scope of fault liability, no-fault liability is vigorously promoted. The common feature of the two is that the fact of causing damage is the logical premise for determining liability, and will be macroscopically Fault is adjusted as an additional restriction or simply ignored, so it becomes the objectification of the way of imputation. In this process, science and technology play an important role in promoting.” Although this understanding is general, it reflects the basic trend of objectification of responsibility. Echoing the proposition of instrumentalism, the so-called objectification tendency of fault in the civil law system only refers to the objectification and typification of the judgment standard of negligence in tort liability, which obviously has a huge gap compared with the above-mentioned proposition of instrumentalism. It only attempts to point out the fault of specific actors not in individual cases, but adopts general rational persons as the judgment standard. Behavior is considered negligent when it fails to meet the objective stylization requirements of the duty of necessary care, which leads to the so-called "communicative circle theory" that classifies according to occupations and areas of danger. At its root, the objectively typed standard of negligence comes from the principle of objective commitment, that is, everyone will be expected in principle to maintain the attenti on due to his position in the communication. Some scholars try to explain this trend with the idea of ​​reliance protection, but another more convincing theory holds that there is no issue of reliance protection in the field of tort law. The basic reason is that no one will rely in advance on the victim's personal ability and its liability for damages. However, this reason becomes less important in bitspace. With the advancement of the trend of digital survival, the composition of artificial intelligence harm liability and the basis of imputation itself are also undergoing adjustments: First, in the smart space, with the digitization and intelligence of the interaction methods, the harm behavior has a trend of intelligence, And objectively, it will leave traces online and offline, thereby boosting the strictness of the principle of liability imputation, and more and more areas of harm such as personal information will adopt no-fault liability. Secondly, the judgment of infringement fault in Bitworld will also be further regularized and elementalized, that is, to judge the subjective fault of behavior based on the rationality of ordinary people and specific rules. The reason is that under the influence of factors such as the gradual increase in special organizational relationships brought about by tokens, trust becomes as possible as the contract field. Finally, on the basis of the previous two points, this objectification may affect the division of general torts and special torts in traditional civil law. The reason is still that the digitization of the basis of this division has led to the homogenization of torts. Destroyed the realistic basis of the division between the two.

结语

Faced with such a complex phenomenon of artificial intelligence technology and its integrated development, the bit world is expanding rapidly, and the connection and interaction with the atomic world is gradually increasing. In the face of this fundamental change in the living environment, although there is still no fundamental change in traditional civil law knowledge, we have already begun to describe the rule of law in the era of artificial intelligence. However, whether it is to explore the main line of the spirit or provide an observation perspective, the logic in between is from artificial intelligence to the Civil Code, and from the Civil Code to artificial intelligence. Using the exposition of the ethicist Verbeck, any similar exploration is to provide people with a framework for understanding, foreseeing and evaluating the quality of technology's impact on society and culture. On the one hand, this requires further analysis of the moderating role of specific AI technologies in human society and culture; on the other hand, the legal relationship to these moderating roles needs to be developed. In this sense, the limits of the Civil Code's response to emerging issues raised in the era of artificial intelligence remain to be observed and explored.

academically minded academically

Focus on China issues

Uphold a humanistic standpoint

A Platform for Humanities and Social Sciences Scholars

Welcome to "Explore and Compete"

||||Column Conference on Hot People, Scholars and Concepts|||||Youth