一、只说优势、不说局限，是AI应用的隐患
I产品的宣传中，存在“重能力、轻边界”的问题。企业对外宣传时，往往突出AI降本增效、智能精准的优势，对模型短板、适用场景限制、结果可能存在的误差和不确定性说明相对不足，容易让用户对AI形成过高预期。
首先，与规则较固定的传统软件相比，人工智能模型的输出具有一定不确定性，技术上把这叫作大模型“幻觉”。它会生成看似合理但与事实不符或缺乏依据的内容[1]，甚至自行编造信息渠道，以证明自己的信息可靠。这一点很容易被忽视，尤其是非专业用户，看到AI的信息都有来源，就认为其输出都是专业可信的，从而不对内容进行核实。这种情况普遍存在，目前还未能有效遏制。AI服务企业应始终如一地提醒用户，而用户也应该始终建立这一认知边界。
其次，场景化AI也有适用范围，面对训练数据不足、与部署环境差异较大的复杂、极端或少见场景，性能可能会下降。比如，医疗AI可以从CT成像中识别出肿瘤的类型、特点和发展阶段。但是，对于一些极少出现的病例，因未曾充分训练学习过，很可能导致误判；更难以像医生那样，结合病人的实际情况，进行综合判断。所以，最终的诊断结果还要由医生来做，AI只能作为辅助。
当企业回避或没有充分说明这些边界问题，又或者用户过于依赖AI的输出，就可能高估AI结果的可靠性与专业程度，造成判断失误、权益受损，甚至引发安全风险与责任纠纷。
二、高影响场景，更需要做好“充分告知”
AI应用治理中，需要关注权责清晰、风险透明和用户知情。尤其在直接关系公众权益的行业场景中，企业应根据具体产品和适用规则，充分说明AI的能力范围、适用条件、已知局限和潜在风险，让用户在知情基础上作出真实选择。
例如，当前AI辅助诊断、AI体检分析、智能问诊工具不断出现，但其出现漏判、误判、片面解读的风险始终存在。如果工具没有清楚说明其适用范围和结果局限，部分用户可能把AI分析误当作确定诊断，导致用户按照AI结论自行用药，可能延误就医，增加健康风险。
而在教育场景中，AI解题、AI作文批改、智能辅导工具广泛普及。AI可以高效梳理知识点、订正基础错误。但AI毕竟不是“知你懂你”的老师，对学生思维误区、真实学习状态的识别仍有限，难以完整覆盖个性化教学所需的信息。而且，过度依赖AI解题、照搬答案，会影响学生独立思考和学习过程。因此，企业需要对用户明确告知以上局限。而用户，尤其是学生本人，需要建立不可过度依赖AI的认知。
总之，在高影响的场景中，充分告知显得尤为重要：不能让用户在信息不对称的情况下盲目使用AI，应帮助使用者区分“AI辅助参考”与专业人员的判断结论，形成理性、审慎的使用认知，帮助用户建立“AI工具只应作为辅助”的理念。从某种程度上来说，这也是企业的责任。
三、披露能力边界，不是自限发展，而是行业规范发展的需要
一些企业可能担心，主动披露AI短板、告知技术局限，会降低产品吸引力、削弱市场竞争力。但从行业长远发展来看，坦诚公开能力边界、主动说明风险局限，有助于AI产业更加规范、健康发展。
对于用户而言，清晰的边界告知能够帮助其建立正确的使用认知，理性看待AI输出结果，降低盲从和误用风险，更好保护自身权益。透明的信息披露，也有助于减少用户对AI的心理落差与使用纠纷，提升大众对智能产品的信任度。
对于企业而言，按照适用规则履行必要的风险告知，是降低合规风险、明确权责边界的重要举措。AI输出存在不确定性，难以保证百分之百准确无误，提前揭示能力局限与适用范围，有助于厘清“技术辅助”与“人工负责”的权责关系，减少因误解或误用引发的纠纷。《生成式人工智能服务管理暂行办法》第十条要求，“提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务”。
AI技术的价值，在于辅助人力、提升效率、服务大众，而非无所不能、全权替代。人工智能产品通常都有相应的技术边界与场景局限，不存在适用于所有任务和场景的“万能模型”。AI技术的落地，不仅是算法与模型的升级，也意味着责任与规则要同步落地。只宣传能力、不说明局限，容易造成不合理预期；既展示优势、也坦诚短板，才更符合科技理性的要求。企业应根据产品性质和适用规则，清楚说明AI能做什么、不能做什么，让用户能够理解其适用范围和风险边界。政府机构也要加强AI能力、风险和边界的科普。唯有能力边界更透明、风险信息更充分、权责关系更清晰，才能让AI技术在可控、可信、可靠的框架下，更安全有序地服务各类应用场景。
文章来源：中国科普作家协会
