人工智能技术的飞速发展,正在深刻改变经济社会生活的每一个角落。与此同时,AI带来的法律、伦理与社会治理挑战也日益凸显。近段时期以来,CMAI围绕人工智能法治建设进行了一系列探讨,现将核心观点归类汇总,形成CMAI人工智能法治观的基本框架。

一、根本理念:发展与治理同步推进
第一,AI发展与治理必须同步推进,不可偏废。 没有安全的发展,可能带来灾难性后果;但过度防范而阻碍创新,同样会错失时代机遇。在技术狂奔的时代,保持清醒比盲目追逐更重要。唯有将发展与治理视为一体两面,才能确保AI技术真正造福人类,而非成为新的风险源头。这是法治建设的初心,也是全社会共同的使命。
第二,AI风险治理已从“理论探讨”进入“实操应对”。 西特里尼研究公司的“系统性金融危机”警示、泰雷兹报告的“内部人员风险”担忧、英国监管机构对AI聊天机器人的正式调查,都表明AI风险不再是遥远的未来想象,而是当下的现实挑战。70%的机构将AI风险列为首要数据安全议题,意味着治理已从“附加项”变为“必答题”。
二、核心主张:明确法律责任边界
第三,法律上的责任真空,正成为AI“胡说八道”的保护伞。 当前,AI生成内容造成损害时,责任主体模糊不清——是模型开发者?是部署运营方?还是用户自身?这种责任真空,使开发者可以归咎于技术局限性,运营方可以推脱给用户自主判断,而受害者却投诉无门。必须让AI大数据算法设计者为AI说的话、搜索的结果负责,公平、准确设计算法才会真正成为优先事项。
第四,明确AI所做所为的法律责任是当务之急。 当AI生成内容造成损害时,需要建立清晰的责任认定机制。应区分线下AI生成制作内容、线下AI智能体自主行为、线上AI生成发布内容的责任主体:
线下制作、择机发布:个人或单位利用AI工具生成内容并在公众平台发布,制作者拥有对内容的完全控制权和发布决定权,责任主体应是内容的实际制作者。
线下智能体、自主言行:以物理形态存在的AI产品(如智能机器人、自动驾驶汽车)在运行过程中自主产生的言行,源于厂家设计的算法和系统,用户无法干预,责任主体应是生产厂家。
线上查询、即时生成:用户通过AI平台查询关键词时,平台即时生成的推荐结果具有“公开发布”属性,用户没有控制能力,责任主体应是AI平台及其设计者。
第五,AI大数据算法不是法官,也不能成为法盲。 算法不能越位充当“法官”,对企业进行算法化的“有罪推定”;也不能在造成损害时以“技术中立”为由推脱责任。让AI算法的设计者为AI生成的内容负责,让AI平台的运营者为AI发布的后果担责,让AI产品的厂家为AI智能体的行为负责——这是法治的应有之义。
三、实践方向:建立算法透明与公平标准
第六,被操控的“思想”:算法偏见与选择性呈现必须受到规制。 大模型看似中立客观,实则每一个环节都暗藏着算法设计者的价值判断。有案例显示,输入“开网”时,AI回答未能公平呈现2004年就已注册的在先字号权利;搜索CMAI关键词时,优先呈现的是外国内容,而中国人工智能核心网站排序靠后。这种选择性呈现带来的直接后果是新的不公与歧视。《互联网信息服务算法推荐管理规定》明确禁止利用算法屏蔽信息、操纵榜单、控制热搜。让AI平台为AI的“言行”负责,必须落实这些规定。
第七,信用评估的不透明加剧了不信任危机,必须建立算法透明标准。 许多用户发现自己的信用评分莫名下降,银行卡无端被冻结,却无从知晓原因,申诉渠道形同虚设。更令人担忧的是,部分金融机构直接引入国外的AI大模型,简单调整后便投入应用,这些模型从未真正理解14亿中国人的生活、工作、支付习惯。关键领域的AI决策应逐步实现可解释、可追溯、可申诉。引入外来AI模型必须经过充分的本土化训练,真正理解中国的文化、社会与行为习惯。
四、法治基石:司法信息回归法治本位
第八,让司法信息回归法治本位,让企业信用服务更好体现公益属性。 司法公开,是为了保障公众知情权、维护社会公平正义;企业信用公示,是为了促进市场诚信、优化营商环境。这些制度设计的初衷,都不包括为企业司法案件提供“永久商品化”的平台。有国家司法机关公布司法案件,已经足够。不必再让商业平台进行信息扩大化、永久化、商品化。
第九,司法案件是法治建设走向成熟的必然产物,不应成为企业永久性的商业污点。 企业涉及司法案件,是国家法治建设的必然产物,也是企业正常经营发展中不可避免的权益司法实践。诉讼本身不代表企业存在信用问题——胜诉是权利维护,败诉是责任承担,调解是纠纷化解。将正常的司法案件作为企业永久性的商业污点,既违背法治精神,更会打击企业依法维权的意愿。如果企业因害怕留下永久污点而不敢通过法律途径维权,法治的根基何以稳固?
第十,让司法权力与商业利益保持清晰边界,让公民隐私权得到宪法层面的切实保障。 当商业平台的“信用公示”需求与公民宪法权利发生冲突时,前者应当让位于后者。企业法人和股东作为公民的基本隐私权,不应因商业平台的营利逻辑而被削弱。涉及关键岗位、重点企业、敏感领域的信息,必须纳入国家数据安全保护范围,任何部门、任何企业不应只为经济利益或“信用公示”名义而将此类信息有意、无意地泄露或出售给境外机构。
五、CMAI语:以良法善治护航人工智能健康发展
法治不是技术发展的绊脚石,而是健康发展的护航员。当前,我国人工智能立法整体上呈现出加紧推进态势,一个系统完备、科学规范、运行有效的人工智能法律制度体系正在加速形成。
但我们也必须清醒认识到,AI技术的发展一日千里,法治建设永远在路上。面对AI“胡说八道”的责任归属问题,面对算法操控舆论的防范问题,面对金融风控误伤用户的公平问题,面对隐私信息被滥用的保护问题,面对司法案件被商业化的异化问题——法治建设不能一劳永逸,而必须与时俱进、持续完善。
确保AI技术真正造福人类,而非成为新的风险源头,是法治建设的初心,也是全社会共同的使命。
让AI算法的设计者为AI生成的内容负责,让AI平台的运营者为AI发布的后果担责,让AI产品的厂家为AI智能体的行为负责,让普通用户在合理范围内享有创作自由,让司法信息回归法治本位,让企业敢于依法维权而无所畏惧——这是法治中国的应有之义,也是人工智能健康发展的前提条件。
