让AI生成一个程序员、护士或教授的人物简介，它生成的内容是否会带有职业刻板印象？
2025年，《Scientific Reports》发表了一项针对5款大语言模型的研究。研究人员让模型围绕12种职业生成16,200份人物简介，发现其中存在不同程度的性别、地域、年龄和教育背景方面的刻板印象。例如，在护士这一职业上，所有受测模型都明显更倾向于生成女性形象。
为什么会出现这样的情况？其实，AI需要从大量人类产生的文字、图片和其他数据中学习。如果这些材料里本来就存在某些偏见和刻板印象，AI就可能把它们当成一种统计模式或相关性学进去。
一、现实中有什么，AI就可能学到什么
2025年，某市人力资源和社会保障局公布了一起招聘市场典型案例：当地一家公司在招聘信息中直接写着“电气工程师：限男性”。监管部门认定这一做法存在明显就业性别歧视，并责令企业整改。假如大量招聘信息都把工程师更多地与男性联系在一起，大量图片中的护士又主要是女性，AI反复看到这些内容后，很容易发现一种统计上的“规律”：工程师经常是男性，护士经常是女性。
问题就在这里。AI擅长发现“过去经常是什么样”，却无法判断“这样是否合理”。这就像一个孩子从小看的故事里，科学家几乎都是男性，护士几乎都是女性，时间久了，也可能形成某种固定印象。AI的工作原理当然远比这复杂，但有一点相似：它看到什么，会影响它学到什么。
因此，“数据量大”并不等于“数据没有偏见”。如果某些群体长期较少出现在数据中，或者现实社会过去形成的偏见大量留在文字和图片里，AI完全可能把这些问题一起学进去。
二、AI还可能把原来的小偏差放大
如果一个人带有刻板印象，影响的可能只是身边几个人；一套AI系统一旦被用于招聘、信贷、医疗、教育或者公共服务，可能在很短时间内影响成千上万用户。相应地，一个小的倾向，若仅有个人判断一次，影响可能有限；但若被自动化系统重复上万次，就可能固化为系统性、大规模的不公平。
生成式AI还带来了另一个问题。AI生成的文字、图片越来越多地进入互联网，这些内容未来又可能成为新的数据来源。如果模型不断重复某一种职业、性别或群体的刻板印象，这些内容就可能进一步强化原来的偏见。
三、怎样避免AI把偏见一直学下去？
不可否认，现实中不同人群在某些统计特征上确有差异，但性别、年龄、地域等身份特征与个人能力之间并无必然联系，不应成为AI限制个人机会、权利和待遇的依据。因此，评价一个AI模型不仅要看性能，还需要审查底层训练数据，并建立偏见检测与纠偏机制，避免在使用中放大偏见。
我国已经把这种要求写入人工智能治理制度。2023年7月，《生成式人工智能服务管理暂行办法》出台，明确要求“在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视”。2026年，工业和信息化部等十部门印发的《人工智能科技伦理审查与服务办法（试行）》进一步提出，重点关注“在公平公正方面，训练数据的选择标准，算法、模型、系统的设计是否合理；是否采取措施防止偏见歧视、算法压榨，保障资源分配、机会获取、决策过程的客观性与包容性”。
这些规定背后其实有一个很重要的伦理观念：AI伦理不是在模型开发完成后才附加‘反歧视’要求，而应在选择数据、设计模型、确定目标之初，就将公平纳入考量。
