CMAI探讨：应区分线下AI生成制作内容与线上AI生成发布内容的责任主体

随着人工智能技术的深度普及，AI生成内容已渗透至社会生活的方方面面。从个人在电脑前输入提示词生成一段文字、一张图片并在公众平台发布，到通过AI平台查询关键词获取即时生成的推荐结果，再到实体AI智能体在现实场景中的自主言行——AI的“创作”“传播”与“行为”正在以前所未有的规模展开。

然而，当AI生成内容造成名誉损害、经济损失，或者AI智能体的自主行为引发侵权时，责任应当由谁承担？是使用AI工具制作内容并选择发布的人，是提供AI查询服务的平台，还是制造AI智能体的生产厂家？这个问题，正在成为AI法治化进程中的核心议题之一。

CMAI认为：应区分线下AI生成制作内容、线下AI智能体自主行为、线上AI生成发布内容的责任主体。 线下制作、择机发布的内容，责任主体应是内容的实际制作者；线下实体AI智能体的所说所为，责任主体应是生产厂家；线上查询、即时生成的推荐内容，责任主体应是AI平台及其设计者。这一区分，既是权责一致原则的体现，也是AI产业健康发展的制度保障。

一、概念界定：三种典型场景

在讨论责任划分之前，首先需要明确三种核心场景的内涵。

所谓“线下AI生成制作”，是指个人或单位利用AI工具生成文字、图片、视频等内容素材，可以通过加工设计制作好，在公众平台发布的内容。 这一过程的特点是：制作者拥有充分的时间对生成内容进行筛选、修改、完善，对最终呈现的内容形态具有完全的控制权。内容何时发布、以何种形式发布、面向哪些受众发布，均由制作者自主决定。

所谓“线下AI智能体自主行为”，是指以物理形态存在的AI产品（如智能机器人、自动驾驶汽车、智能家居设备等）在运行过程中自主产生的语言表达或实际行动。 这一过程的特点是：AI智能体的行为由内置算法和传感器输入驱动，用户或所有者无法实时干预其具体言行；智能体的“所说所为”直接源于生产厂家设计制造的软硬件系统。

所谓“线上AI生成发布”，是指用户通过AI平台查询或咨询关键词时，AI平台生成的面向公众公开发布的文字、图片、视频、语音等内容。 这一过程的特点是：内容是在用户输入指令后即时生成的AI推荐结果或AI评价，生成即发布，面向公众的信息，用户没有对生成结果的控制能力。平台通过统一的算法模型，向所有查询相同关键词的用户提供基本一致的推荐答案，具有明显的“公开发布”属性。

这三种场景在技术逻辑、控制能力、传播范围上存在本质差异，理应在责任认定上加以区分。

二、线下AI生成制作内容：责任主体应是制作者

在线下制作场景中，责任主体应当是内容的实际制作者。

第一，制作者对生成内容具有实质性控制和最终决定权。司法实践已经明确，当用户通过提示词设计、参数调整、结果筛选、后期加工等方式对AI生成内容投入实质性智力劳动时，其创作行为应获得法律认可。常熟市人民法院审结的江苏首例AI生成内容著作权纠纷案中，法院认定原告通过反复修改提示词、手动调整生成结果、后期加工处理等行为，体现了“人的独创性智力投入”。这意味着，用户对AI生成内容享有权利的同时，也应当承担相应的责任。

更重要的是，在线下制作场景中，制作者拥有“发布与否”的决定权。内容制作完成后，可以选择发布，也可以选择不发布；可以选择公开发布，也可以选择内部使用。这种选择权，本身就是责任的来源——当制作者决定将内容推向公众时，就应当对内容的合法性、真实性负责。

第二，制作者是内容生成意图的决定者。AI工具本身不具备独立的创作意图，生成什么内容、达到什么效果，最终由使用者的指令和后续加工决定。正如北京市互联网法院在“人工智能文生图案”中所采用的“过程独创性”审查方法，强调用户通过个性化提示词设计、模型选择及参数调整形成的“创作空间支配力”。这种支配力，既是权利的来源，也是责任的基础。

第三，制作者处于内容传播链条的起点。在线下制作阶段，内容尚未进入公共领域，其影响范围可控。而一旦制作者选择将内容发布，传播链条便由此开启。作为源头，制作者理应对其创作和发布行为负责。

但是，这一原则存在一个重要的例外情形：如果AI生成的内容涉及极端反动、危害国家安全、宣扬恐怖主义等严重违法内容，即使仅处于线下制作阶段，AI软件开发者及平台也应当承担连带责任。因为此类内容的生成，往往利用了平台提供的技术能力，且平台在设计阶段就应当预见到技术被滥用的风险，并设置必要的防范机制。

三、线下AI智能体自主行为：责任主体应是生产厂家

在实体AI智能体自主行为的场景中，责任主体应当是生产厂家。

第一，AI智能体的行为源于厂家设计的算法和系统。智能机器人的语言表达、自动驾驶汽车的操作决策、智能家居设备的自动响应，均由内置的AI模型和控制系统决定。用户或所有者购买产品后，只能按照说明书使用，无法干预或修改AI智能体的内在运行逻辑。当AI智能体发表不当言论或做出危险举动时，根源在于厂家的设计缺陷或算法偏差，而非用户的使用行为。

第二，生产厂家对产品负有质量保障和安全注意义务。根据《产品质量法》和《消费者权益保护法》，生产者应当对其生产的产品质量负责，保证产品符合保障人身、财产安全的要求。AI智能体作为一种特殊产品，其“言行”同样属于产品质量的组成部分。如果因AI算法错误导致智能体辱骂用户、泄露隐私，或因决策失误造成交通事故，厂家理应承担产品责任。

第三，厂家具备技术改进和风险防控能力。与普通用户相比，生产厂家掌握核心算法，能够通过软件升级、漏洞修复、模型优化等方式修正AI智能体的不当行为。将责任归于厂家，可以激励其在设计和生产阶段就加强安全测试和伦理审查，从源头减少风险。例如，对于自动驾驶汽车的事故责任，我国相关立法趋势已明确由生产者或开发者承担相应责任。

第四，用户无法预见和控制AI智能体的具体言行。用户在购买AI产品时，只能期待其按照设计功能正常运行，无法预知AI智能体在复杂环境下可能产生的自主行为。因此，不能将责任转嫁给无过错的所有者或使用者。

当然，如果用户故意滥用或篡改AI智能体（如非法改装、输入恶意指令），则用户应承担相应责任。但在正常使用情况下，AI智能体的“所说所为”应由生产厂家负责。

四、线上AI生成发布内容：责任主体应是AI平台及设计者

在线上查询发布场景中，责任主体应当是AI平台及其设计者。

第一，平台对内容的公开传播具有决定性作用。当用户通过AI平台查询关键词时，平台通过算法模型即时生成AI推荐结果或AI评价，并直接呈现给用户。这一过程中，平台不再是“工具”的提供者，而是“内容”的生产者和发布者。杭州互联网法院在审理全国首例生成式AI平台侵害信息网络传播权案（“奥特曼案”）中明确指出，平台通过会员付费、积分奖励等营利机制鼓励用户使用服务，已超越单纯的技术中立角色，应承担与商业利益相匹配的注意义务。

第二，平台面向公众提供的信息具有“一致性”和“公开性”。在线上查询场景中，内容是在用户输入指令后即时生成的AI推荐结果或AI评价，生成即发布，面向公众的信息，用户没有对生成结果的控制能力。平台通过统一的算法模型，向所有查询相同关键词的用户提供基本一致的推荐答案，具有明显的“公开发布”属性。这种“一次生成、广泛传播”的特点，决定了平台生成的内容具有天然的公共属性。平台无法以“这是用户个人查询的结果”为由，推脱内容发布的责任。

第三，平台具备技术干预和风险防控能力。上海知识产权法院的研究论文指出，相比传统“平台-用户”的二元结构，生成式AI侵权已进入“开发者-运营者-用户”的三元结构。平台作为技术服务的直接提供者，有能力通过关键词过滤、侵权内容屏蔽、敏感词拦截、生成内容审核等技术手段预防和制止有害内容的生成与传播。杭州互联网法院在“奥特曼案”中认定，平台对于明显侵权内容应当采取必要措施。

第四，平台从内容服务中获取商业利益。无论是会员收费、广告分成还是流量变现，平台都在用户使用查询服务的过程中获得直接或间接的经济收益。根据“风险与收益相匹配”的原则，平台理应对其生成和发布的内容承担相应责任。

因此，当用户通过AI平台查询关键词，平台生成的推荐内容造成他人名誉损害或经济损失时，AI平台应当承担赔偿责任。平台不能以“技术中立”或“算法自动生成”为由推脱责任。正如《生成式人工智能服务管理暂行办法》所规定的，服务提供者应当依法承担网络信息内容生产者责任，履行网络信息安全义务。

五、平台的连带责任：极端内容的特殊规制

在区分责任主体的基础上，还应当明确平台在特定情况下的连带责任。

当AI生成内容涉及极端反动、危害国家安全、宣扬恐怖主义、煽动暴力仇恨等严重违法内容时，无论内容是由线下制作后发布、线下智能体自主产生，还是线上查询即时生成，AI软件开发者及平台都应当承担连带责任。

这是因为：

• 平台在设计阶段就应当预见到技术被滥用于生成极端内容的可能

• 平台有能力通过技术手段阻断此类内容的生成（如关键词过滤、敏感内容识别、生成内容拦截）

• 此类内容危害的是社会公共利益，责任追究不能仅停留在用户层面

检察日报的理论文章指出，若服务提供者未采取行业通行的安全过滤机制，导致违法内容大规模生成，可根据其未履行技术安全保障义务而追究其责任。这一思路同样适用于极端内容的规制。

杭州互联网法院在“奥特曼案”中认定，平台在未建立关键词过滤、主动防控机制的情况下，对明显侵权内容负有责任。这一裁判思路，为极端内容的责任认定提供了有益借鉴。

六、实践探索与制度完善

当前，司法实践正在积极探索AI生成内容的责任认定规则。

在著作权领域，江苏省常熟市法院审结的“伴心”案，首次明确了用户通过多轮提示词输入、参数调整、后期加工等方式对AI生成内容投入实质性智力劳动的，其生成内容可受著作权法保护。这一判决为“制作者责任”提供了重要参考。

在侵权责任领域，杭州互联网法院的“奥特曼案”判决，首次明确了生成式AI平台在用户利用平台生成侵权内容时的责任边界，认定平台未尽合理注意义务构成帮助侵权。这一判决为“平台责任”确立了裁判框架。

在产品责任领域，针对智能产品的立法探索也在推进。例如，《深圳经济特区智能网联汽车管理条例》对自动驾驶汽车的事故责任作出了规定，明确有驾驶人的，由驾驶人承担赔偿责任；无驾驶人的，由车辆所有人、管理人承担赔偿责任，并可依法向生产者追偿。这体现了将AI智能体行为归责于生产者或相关主体的立法趋势。

在理论研究层面，上海知识产权法院的研究提出，应探索建立多层次、多元化生成式AI侵权规则，建立一套适应AI产业发展的过错认定机制和责任分担机制。

在法律规范层面，2025年3月出台的《人工智能生成合成内容标识办法》，通过“显式标识+隐式标识”的双轨制设计，为AI生成内容的身份认证和责任追溯提供了制度工具。这一规范有助于明确不同主体的义务，为责任划分奠定基础。

CMAI语：让责任清晰，让AI健康发展

线下制作、择机发布，制作者负责——这是对创作自由的尊重，也是对发布选择的约束。

线下智能体、自主言行，厂家负责——这是对产品质量的要求，也是对消费者权益的保障。

线上查询、即时生成，平台担责——这是对公共利益的守护，也是对技术能力的匹配。

在AI技术日新月异的今天，我们不能让AI成为“责任真空”的法外之地，也不能让每一个使用AI工具的普通用户背负无限责任，更不能让受害者在AI智能体闯祸后找不到索赔对象。只有清晰划分不同场景下的责任主体，才能既保护权利人的合法权益，又为AI产业创新发展留出空间。

让AI算法的设计者为AI生成的内容负责，让AI平台的运营者为AI发布的后果担责，让AI产品的厂家为AI智能体的行为负责，让普通用户在合理范围内享有创作自由——这是法治的应有之义，也是AI健康发展的前提条件。