Who bears the responsibility? Legal liability allocation for AI agent conduct in platform ecosystem
论文重点
本文系统探讨了当AI代理能够自主访问平台并代表用户完成交易时,其行为引发的法律责任应在开发者、用户和平台三方之间如何分配的问题。通过对美国Amazon v. Perplexity案和中国豆包AI手机被平台集体封禁事件的对比分析,论文揭示了现有法律框架在应对AI代理责任分配时的“二元困境”,并提出了基于AI代理自主程度、行为可预见性和各方控制能力的三方动态责任分配框架。
核心研究内容
问题定义
论文聚焦于一个正在快速从理论走向现实的法律难题:当AI代理能够自主访问平台并代表用户完成交易时(例如根据“帮我买最便宜的蓝牙耳机”这一简单指令自动完成搜索、比价、下单、支付等全流程),其行为引发的法律责任应由谁承担?
这一问题的紧迫性在2025年底被两起标志性事件所证实:
- 美国Amazon v. Perplexity案:亚马逊起诉AI搜索公司Perplexity,指控其Comet浏览器内置的AI代理通过伪装User-Agent String(将AI代理伪装成Google Chrome浏览器)等方式“未经授权访问”亚马逊平台,违反了《计算机欺诈和滥用法》(CFAA)。
- 中国豆包AI手机事件:字节跳动与中兴联合推出的豆包AI手机因内置具备系统级权限的AI助手,在发布后48小时内遭微信、淘宝、多家银行APP等集体封禁,平台选择直接限制用户访问而非追究开发者责任。
这两起事件折射出的根本分歧在于:AI代理究竟是开发者的“产品”、用户的“工具”,还是一种全新的行为主体类型?
创新方法
论文的核心创新在于提出了一个三方动态责任分配框架(Tripartite Liability Allocation Framework),其理论贡献体现在三个层面:
第一,突破“二元对立”的思维定式。论文指出,现有法律框架陷入了“开发者责任”与“用户责任”的二元困境——前者将AI代理视为开发者的“产品”(亚马逊的逻辑),后者将其视为用户的“代理工具”(中国平台的逻辑)。论文认为这两种逻辑各具合理性但也各有限制:开发者责任逻辑忽视了用户对AI代理的实际授权和控制程度;用户责任逻辑则可能将过重责任强加于缺乏技术能力穿透算法黑箱的普通用户。
第二,引入“自主程度”作为核心变量。论文主张应根据AI代理的自主程度(degree of autonomy)、行为的可预见性(foreseeability)以及各方对行为的控制能力(capacity for control)来动态分配责任。这一思路的理论根基在于:传统法律框架过度依赖“意图”(intention)和“同意”(consent)这两个概念,而AI代理恰恰是“有风险但无意图的代理者”(risky agents without intentions)——它代表人类行动并对他人构成风险,却缺乏现行法律框架所需的意图要件。
第三,回应“责任 gap”与“责任 abundance”的学术争论。论文巧妙地调和了两种看似对立的理论视角:Matthias(2004)提出的“责任 gap”理论认为AI行为难以归责于任何现有主体;而Kiener(2025)则诊断问题的核心不是“无人负责”的真空,而是“责任过剩”(abundance)——开发者、部署者、用户等多方往往在不同程度上满足归责条件。论文在此基础上提出,当前的核心挑战不是填补“无人负责”的真空,而是在多方之间公平地分配责任。
研究成果
论文的主要研究发现可归纳为以下几点:
1. 现有法律框架存在双重盲区:一是未能充分回应AI代理行为的不可预见性对传统归责逻辑的冲击;二是忽视了平台、开发者和用户之间的权力不对等。
2. 中美欧三法域的比较分析表明,无论是美国的代理法、产品责任法和CFAA,中国的《网络安全法》《反不正当竞争法》,还是欧盟的相关法律框架,均未对高度自主的AI代理的责任分配提供明确和公平的指引。
3. 平台在责任分配中享有事实上的“规则制定权”。在豆包手机事件中,中国平台通过《用户服务协议》(ToS)和技术措施直接限制用户访问,以低成本、高效率的方式实现了风险控制目标。这揭示了一个更深层的问题:在缺乏明确法律规则的情况下,平台实际上通过合同条款和技术手段行使着事实上的“准立法权”。
4. 论文引述的数据显示,2025年全球AI相关诉讼同比增长47%,反映出这一问题已经从学术讨论演变为现实的法律争议。
实际落地应用的可能性
高度可行。论文的价值不在于提出全新的法律主体(如“电子人格”),而在于在现有主体之间实现责任的公平分配。这一务实的定位大大降低了落地的制度成本。
具体落地路径包括:
- 立法层面:可为AI代理的分级监管提供理论依据——根据自主程度设定差异化的责任分配规则。例如,低自主程度的AI代理适用类似传统代理法的规则(用户承担主要责任),高自主程度的AI代理则更多适用产品责任或严格责任的逻辑(开发者承担更多责任)。
- 司法层面:法院在审理相关案件时可参考论文提出的三维度分析框架(自主程度、可预见性、控制能力)进行个案裁量。
- 合同层面:平台、开发者和用户可通过合同条款预先约定责任分配方案。正如新加坡资讯通信媒体发展局(IMDA)的讨论文件所指出的,合同是价值链各主体之间预先分配风险的有效手段。
- 技术层面:可通过技术手段实现责任分配的“可追溯性”——例如通过日志记录、行为审计等方式,追踪AI代理的决策路径和行为轨迹,为事后归责提供证据基础。这与Santoni de Sio和Mecacci(2021)提出的“有意义的人类控制”(meaningful human control)理念相呼应——确保AI行为可被“追踪”和“追溯”到人类决策。
技术细节
核心概念界定
论文对“AI代理”(AI Agent)给出了明确的操作性定义:能够规划目标、分解任务、调用工具、与外部系统交互,并在极少人类监督下执行复杂的多步骤工作流的系统。其核心特征在于自主性(autonomy)和涌现行为(emergent behavior)——系统不再简单地遵循预设指令,而是以人类无法完全预期的方式自主处理复杂任务。
关键案例的技术分析
Amazon v. Perplexity案的技术要点:
Perplexity的Comet浏览器内置AI代理可基于“帮我买最便宜的蓝牙耳机”等简单用户指令,在亚马逊平台上自动执行搜索、比价、下单、支付等操作。亚马逊的核心指控包括:
- Perplexity故意将Comet的User-Agent String伪装成Google Chrome,使亚马逊服务器误将访问者识别为人类而非AI代理;
- 在亚马逊实施技术封锁后,Perplexity迅速发布专门软件更新以规避这些屏障;
- 用户登录亚马逊账户后,Comet的AI代理可在用户无需在亚马逊商店内执行任何进一步操作的情况下完成整个购买流程,部分数据被传输至Perplexity的服务器处理。
从技术角度看,这涉及自动化访问的识别与反识别这一经典猫鼠游戏。User-Agent String伪装是自动化程序绕过网站检测的常见手段,其技术门槛不高但法律后果严重——亚马逊正是以此为抓手,将技术规避行为转化为“未经授权访问”的法律主张。
豆包AI手机事件的技术要点:
豆包AI手机的预装AI助手拥有系统级权限,能够模拟用户操作(点击、滑动、输入),实现跨应用自动化任务执行。各平台将其识别为“异常登录环境”并实施封禁——值得注意的是,即使用户禁用AI助手、切换为纯手动操作,仍然被封禁。部分手机游戏甚至将使用豆包手机直接定性为“作弊”。
这揭示了一个重要的技术现实:平台的自动化检测机制往往基于设备指纹或环境特征而非实际行为。一旦某设备型号被标记为“高风险”,即使用户并未实际使用AI功能,仍可能被“连坐”封禁。这种“一刀切”的风险控制逻辑在效率与公平之间存在着深刻的张力。
理论框架的形式化表达
论文的三方动态责任分配框架可形式化表达为:
设AI代理的行为结果为H,责任分配函数L取决于三个核心变量:
- A= AI代理的自主程度(degree of autonomy)
- F= 行为结果的可预见性(foreseeability)
- C_d、C_u、C_p= 开发者(Developer)、用户(User)、平台(Platform)各自对行为的控制能力(capacity for control)
责任分配的基本逻辑为:
责任 ∝ 控制能力 × 可预见性 × (1 / 自主程度)
即:某一方的控制能力越强、对行为结果的可预见性越高、AI代理的自主程度越低,则该方应承担的责任比例越高。反之,AI代理的自主程度越高、行为越不可预见,则传统归责逻辑越失效,需要寻找新的分配方案。
这一框架虽然尚未量化为可计算的公式,但其分析维度具有明确的实践指导意义——在具体案件中可以依据这三个维度进行逐项评估和裁量。
研究设定
方法论设计
论文采用比较法研究(comparative legal study)与案例分析法(case study analysis)相结合的方法论:
- 比较法维度:系统考察美国、欧盟和中国三大法域的法律框架,包括代理法(Agency Law)、产品责任法(Product Liability Law)、合同法(Contract Law)、计算机欺诈法(Computer Fraud Law)等。
- 案例法维度:以2025年底发生的两起标志性事件——美国Amazon v. Perplexity案和中国豆包AI手机事件——为核心分析对象,通过“最不同案例设计”(most different cases design)揭示不同法域、不同法律策略背后的共性问题。
理论资源配置
从学术资源配置来看,论文引用了跨学科的理论资源:
- 法学理论:代理法、产品责任法、侵权法、合同法、CFAA等
- AI伦理与治理理论:Calo(2015)关于AI主动干预物理世界的论述、Ayres和Balkin(2024)的“有风险但无意图的代理者”概念、Matthias(2004)的“责任 gap”理论、Santoni de Sio和Mecacci(2021)的“有意义的人类控制”、Kiener(2025)的“责任 abundance”理论
- 法哲学资源:Solum(1992)关于AI法律人格是“决策”而非“发现”的经典论述
硬件/软件配置
作为法学论文,本研究不涉及实验性的硬件或软件配置。但从论文分析的技术对象来看,其研究所涉及的AI代理系统通常需要以下技术基础设施:
- AI代理引擎:具备任务规划、工具调用、多步骤工作流执行能力的AI系统
- API集成层:与外部平台(电商、社交、金融等)进行交互的接口
- 身份认证机制:代表用户访问第三方平台所需的账号凭证管理
- 行为日志系统:记录AI代理决策路径和行为轨迹,为事后归责提供证据
综合分析
一、论文的现实基础:真实且紧迫
论文所依托的两起案例均为2025年底真实发生的事件,具有高度的时效性和现实针对性。Amazon v. Perplexity案已被多家法律媒体广泛报道,豆包AI手机事件也引发了中文互联网的广泛讨论。论文引用的数据——2025年全球AI相关诉讼同比增长47%——进一步佐证了这一问题已从学术讨论演变为现实的法律争议。
从技术角度看,论文对AI代理的技术特征描述(自主规划、任务分解、工具调用、跨系统交互等)准确反映了当前AI代理技术的发展现状。User-Agent String伪装、自动化访问检测与反检测等技术细节的描述也符合实际。论文并未夸大技术的“超能力”,而是基于已有技术事实进行法律分析,这增强了其分析的可信度。
二、理论贡献与局限
贡献方面:
论文最重要的理论贡献在于打破了“开发者vs用户”的二元对立框架,引入了“平台”作为第三极。这一视角的转变具有深刻的洞察力——在平台经济中,平台不仅是中立的“场地提供者”,更是拥有技术手段(风险控制系统、ToS条款)和实际执行能力的规则制定者。将平台纳入责任分配的分析框架,使论文的理论分析更加贴近现实。
论文对“责任 gap”与“责任 abundance”两种对立理论的调和也颇具匠心。论文既没有陷入“AI无法归责”的悲观论调,也没有简单地主张“多方都有责任”,而是精准地指出核心挑战在于如何在多方之间公平地分配责任。
局限方面:
论文提出的三方动态责任分配框架目前仍处于概念框架阶段,尚未发展出可供直接操作的具体规则或量化标准。“自主程度”“可预见性”“控制能力”这三个维度如何在具体案件中衡量和权衡,仍有待进一步的理论细化和实践检验。
此外,论文主要聚焦于民事责任的分配,对刑事责任的讨论相对有限。而AI代理可能涉及的刑事问题(如CFAA下的刑事责任)同样重要且复杂。
三、落地的可行性评估
从制度可行性来看,论文框架的落地面临几个现实挑战:
第一,各国法律传统的差异。美国、欧盟和中国在AI治理上的路径存在显着差异——美国倾向于通过现有法律框架的扩张适用(如CFAA、产品责任法),欧盟倾向于制定专门立法(如AI法案),中国则更倾向于通过平台治理和政策引导。论文提出的三方框架能否在不同法域获得认可,取决于各国立法者和司法者的接受程度。
第二,平台的“准立法权”问题。论文揭示了中国平台通过ToS和技术措施行使事实上的规则制定权。这本身就构成了一个更深层的治理问题——在缺乏明确法律规则的情况下,平台实际上在“立法”。论文框架若要在实践中发挥作用,需要首先解决平台的权力边界问题。
第三,技术可追溯性的限制。责任分配的前提是能够追溯AI代理的行为轨迹和决策逻辑。然而,当前大语言模型和AI代理的“黑箱”特性使得完全追溯面临根本性困难。正如论文所引用的,“有意义的人类控制”理念虽然美好,但随着AI日益智能化,“人类控制”在多大程度上仍可被视为“有意义”的,本身就是一个开放的问题。
从实践推动力来看,论文框架落地的最大推动力来自现实压力。2025年全球AI相关诉讼47%的增长、Amazon v. Perplexity等标志性案件的推进、各国监管机构对AI代理治理的关注——这些都在倒逼法律体系做出回应。论文的价值在于提供了一个理论框架,使立法者、司法者和市场主体在面对具体案件时有一个可参考的分析思路。
四、关于作者及其团队的背景分析
根据论文信息,两位作者Zhenyang Zhang和Jinghui He均隶属于韩国东国大学法学院(Department of Law, Dongguk University, Seoul, Republic of Korea)。论文发表于Cogent Social Sciences期刊,该期刊为Taylor & Francis旗下的开放获取期刊,涵盖社会科学各领域。
从作者所在机构来看,东国大学是韩国知名的综合性大学,其法学院在韩国法学教育中具有一定地位。两位作者选择以韩国高校为 affiliation 发表关于中美欧三法域比较法研究的论文,这一跨法域的研究视角本身就体现了较高的学术素养。
从论文本身的质量来看,其理论框架的构建有扎实的学术基础——系统梳理了从Solum(1992)、Matthias(2004)、Calo(2015)到Ayres和Balkin(2024)、Kiener(2025)等学者的理论脉络,案例分析的细节丰富且准确,比较法分析复盖了美、欧、中三大法域。这些特征表明论文具有较高的学术严谨性。
然而,需要指出的是,论文目前仍属于理论性研究阶段。两位作者均为法学研究者而非技术专家,论文对技术问题的分析主要基于公开报道和已有文献,而非第一手的技术实验或工程实践。这意味着论文在技术细节的精确性上可能存在一定局限,但作为法学论文,其对技术事实的依赖程度在合理范围内。
从“落地可能性”的角度来看,论文的价值不在于提供“即插即用”的解决方案,而在于为立法、司法和合同实践提供一个理论框架和分析工具。在这个意义上,论文已经具备了落地的基础——它不需要等待“技术成熟”或“立法完善”,而是可以在现有制度框架内为具体案件的裁量、合同条款的设计提供参考。论文的落地更多取决于法律共同体(立法者、法官、律师、学者)的接受和运用,而非技术层面的突破。
实践应用
对立法者的建议
- 分级立法思路:可参考论文提出的“自主程度”维度,对不同自主级别的AI代理设定差异化的责任分配规则。低自主程度的AI代理适用类似传统代理法的规则(用户承担主要责任),高自主程度的AI代理则更多适用产品责任或严格责任的逻辑。
- 平台责任的明确化:应明确平台在AI代理治理中的角色和边界,避免平台通过ToS和技术措施事实上行使“准立法权”而缺乏相应的责任和制衡机制。
- 跨法域协调:鉴于AI代理的跨国界特性,应考虑在双边或多边层面协调责任分配规则,避免“监管套利”。
对企业的建议
- 合同条款的预先设计:开发者、平台和用户应在服务协议中明确约定AI代理行为引发责任时的分配方案。正如业界专家所指出的,合同是价值链各主体之间预先分配风险的有效手段。对于企业部署AI代理的场景,建议在采购合同中加入针对AI代理行为的赔偿条款。
- 技术可追溯性建设:应通过日志记录、行为审计等手段,建立AI代理决策路径和行为轨迹的可追溯机制,为事后责任认定提供证据基础。
- 透明度提升:AI代理在与平台交互时应主动表明其AI身份(而非伪装为人类浏览器),降低被认定为“未经授权访问”的法律风险。
对司法者的建议
在审理涉及AI代理责任的案件时,可参考论文提出的三维度分析框架进行个案裁量:
- 自主程度:AI代理的行为在多大程度上超出了用户的预设指令?
- 可预见性:该行为结果在多大程度上是开发者、用户或平台可以合理预见的?
- 控制能力:各方在事实上对AI代理的行为有多大的控制能力?
对技术开发者的建议
- 设计阶段的责任考量:在AI代理的系统设计阶段就应考虑责任分配问题——例如通过设计“人类确认节点”(human-in-the-loop)来保留人类对关键决策的控制。
- 行为边界的技术约束:通过技术手段明确限定AI代理的操作边界(如禁止访问某些类型的网站、禁止执行某些类型的操作),从源头降低越界行为的风险。
- 透明的身份标识:避免使用User-Agent String伪装等技术手段规避平台检测,这不仅可能构成法律风险,也不利于建立平台对AI代理的信任机制。
参考资料来源
- 原始论文: Zhang, Z. & He, J. (2026). Who bears the responsibility? Legal liability allocation for AI agent conduct in platform ecosystem.Cogent Social Sciences, 12(1), 2691325. DOI: 10.1080/23311886.2026.2691325
- 论文链接: https://www.tandfonline.com/doi/pdf/10.1080/23311886.2026.2691325