CMAI观察：AI产品应标明适用范围，像药品一样

你去药店买药，药盒上会清清楚楚写着：适应症、用法用量、禁忌、不良反应。你绝不会用感冒药去治高血压——因为你知道，药不对症，轻则无效，重则致命。

但当你使用一个AI产品时，你看到它的“适用范围”了吗？你知道它擅长什么、不擅长什么吗？你知道它在什么场景下可能出错吗？

答案往往是：不知道。

一、一个正在蔓延的风险：AI的“超范围使用”

当前AI行业存在一个普遍现象：一款AI产品在某个场景下表现出色，就被默认“什么都能干”。一个擅长对话的大模型，被拿来诊断疾病、审批贷款、辅助判案；一个为推荐设计的算法，被用于评估员工绩效、筛选简历、预测犯罪风险。

这不是技术能力的错，而是应用边界的模糊。

一位三甲医院的放射科主任曾对笔者坦言：“有些AI产品在肺结节识别上准确率很高，但厂商没有告诉我们，它在骨质疏松、气胸等其他疾病上表现如何。我们不敢用，因为不知道它的‘能力边界’在哪。”

一家银行的信贷负责人也有类似困惑：“第三方AI评分模型给每个客户打分，但我们完全不知道这个分数是基于哪些特征、在什么数据上训练的、对哪些人群可能存在偏差。万一出了问题，我们无法向监管解释。”

这就是AI产品缺乏“适用范围”标注的现实后果：用户被迫在“盲目信任”和“不敢使用”之间二选一。

二、药品说明书给AI的启示：为什么必须标明“适用范围”

药品必须标明适用范围，原因有三：

第一，安全。 用错药会死人。同样，用错AI——把不适合医疗诊断的模型用在临床上——可能延误治疗、造成误诊，甚至危及生命。

第二，责任。 药品说明书明确了厂商的责任边界：在适应症内出现问题，厂商负责；在适应症外超说明书用药，医生自行承担风险。AI产品如果没有明确的适用范围，一旦出错，责任无法划分。

第三，信任。 药品说明书是患者和医生信任药品的前提。知道“这个药治什么、不治什么”，才能放心使用。AI产品同样需要这种透明度，才能赢得用户的长期信任。

AI不是魔法，它没有通用智能。每一款AI产品都有其能力上限和应用边界。承认这一点，不是示弱，而是负责。

三、当前AI“超范围使用”的典型危害

危害一：医疗领域的误诊风险

一个在标准数据集上表现优异的AI诊断模型，在真实临床环境中可能因为患者人群不同、设备参数差异、疾病谱变化而性能骤降。如果厂商没有标明“本模型仅在XX人群、XX设备、XX疾病范围内验证”，医生就可能在不适用场景中误信AI，导致错误决策。

危害二：金融领域的歧视风险

一个用历史信贷数据训练的AI评分模型，如果训练数据中存在种族、性别、地域等偏见，它就会在不知不觉中放大歧视。如果厂商没有标明“本模型可能存在对XX群体的偏差，建议人工复核”，金融机构就可能将偏见规模化，造成社会不公。

危害三：司法领域的误判风险

一些地方尝试用AI辅助量刑、风险评估。如果这些模型没有明确标明“本模型仅适用于XX类型案件，准确率为XX%，不适用于未成年人、精神障碍者等特殊群体”，法官就可能过度依赖AI，削弱司法公正。

危害四：日常应用中的误导风险

通用大模型被用来回答法律咨询、健康建议、投资理财等问题。用户不知道模型的训练数据截止日期，不知道它在哪些领域知识薄弱，不知道它的回答有多大的“幻觉”概率。这种信息不对称，让用户暴露在误导风险中。

四、AI产品应该标注什么？一个框架建议

参照药品说明书，AI产品至少应标注以下内容：

五、谁来认证？谁来监管？

药品说明书有国家药监局（NMPA）严格审批，AI产品的“适用范围”标注，目前还没有统一的监管框架。但以下力量正在形成：

行业自律：领先的AI企业可以率先发布“模型卡片”，主动公开产品的能力边界。Google的“Model Card”和IBM的“Fact Sheet”是早期探索。

第三方评测：中国信通院、国家人工智能标准化总体组等机构，可以建立AI产品评测体系，对通过评测的产品授予“适用场景认证”。

国家标准：全国信标委人工智能分委会正在制定相关标准，未来可能要求AI产品在上市前提交“适用范围声明”。

法规强制：长远看，应借鉴欧盟AI法案的分级监管思路，对高风险领域的AI产品强制要求标注适用范围，并建立违规处罚机制。

六、实施路径：从“自愿”到“强制”

短期（1-2年）：鼓励行业领先企业自愿发布“模型卡片”，形成示范效应。第三方评测机构开始试点认证。

中期（3-5年）：行业协会发布团体标准，明确AI产品适用范围标注的格式和内容要求。政府采购和大型企业采购中，将“是否标注适用范围”作为准入门槛。

长期（5-10年）：国家标准上升为法规，对医疗、金融、司法等高风险领域的AI产品实施强制标注制度。违规者面临处罚。

七、CMAI语：知道边界，才能建立信任

一个不敢标明适用范围的AI产品，就像一个没有说明书的药品——你敢用吗？

AI的能力再强，也有边界。承认边界，不是技术上的失败，而是商业上的成熟、伦理上的负责。当厂商主动告诉用户“我能做什么、不能做什么”，用户才能真正信任AI、放心使用AI。

药品说明书上那句“请仔细阅读说明书并在医师指导下使用”，救了无数人的命。未来，AI产品的“适用范围”声明，同样会守护无数人的权益和安全。

七星闪耀，交相呼应。标明边界，方得信任。更透明、更负责的AI产品，正在从愿景走向现实。