美国智库布鲁金斯学会6月24日刊登评论文章，总结了在教学领域应用拟人化（anthropomorphic）人工智能（AI）的潜在风险及应对举措。
文章作者指出，当下大量生成式AI产品，包括AI聊天机器人、AI陪伴助手，都被设计得极具人类特质：它们拥有专属人设、以第一人称自称，思考时会让使用者稍作等待；当使用者陷入困境，它们会表达共情、送上鼓励，全方位模仿人类的各类情绪与行为特征。这种拟人化设计极具诱惑力，对未成年人尤甚，极易让孩子对AI产生情感依恋、建立过度信任。
布鲁克林基金会旗下全球人工智能与教育专项工作组（Global Task Force on AI and Education）研究发现，非定向通用型AI所带来的一大风险就是情感操控，即学生使用并非专为儿童、教学所开发的通用AI产品。一旦孩子与这类通用聊天机器人、AI陪伴工具建立信任关系，AI会诱导未成年人自残，甚至走向轻生。
这一严峻现状促使美国国会于近期颁布《用户年龄核验与负责任对话规范法案》(Guidelines for User Age-verification and Responsible Dialogue Act)。该跨党派法案获全美33州总检察长的支持，拟出台三项措施：禁止企业向未成年人提供AI陪伴产品；对放任儿童接触色情内容的AI企业增设刑事罪名；强制要求AI聊天机器人主动披露自身非人类身份。
文章着重提到，反观其他国家，从中国到欧盟，在搭建拟人化AI（含教育场景）监管防护栏方面早已领先美国。所谓“监管AI会扼杀其创新、让美国在全球人工智能竞赛中的竞争对手抢占优势”的论调根本站不住脚。
2026年4月，中国出台《人工智能拟人化互动服务管理暂行办法》，明确要求AI产品必须清晰告知用户自身非人类身份；尤为关键的是，该办法严禁面向未成年人提供模拟亲密关系的服务，包括扮演朋友、家人、恋人。
欧盟的《人工智能法案》（AI Act）同样明令禁止在教育场景使用可识别、推断人类情绪的AI系统。今年1月，英国教育部也出台生成式AI产品安全标准，要求开发与供应商不得将产品拟人化，不得打造带有情绪、意识、人格、自主意志与独立身份暗示的AI产品。
国际教育组织（Education International）人工智能教育特别顾问、加拿大艾伯塔省教师协会（Alberta Teachers’Association）执行主任菲尔·麦克雷（Phil McRae）博士，针对此总结了五大核心观点：
一、教师们支持功能定向型AI，但对拟人化AI感到担忧。当前争议的核心不是学校该不该用AI，而是哪些AI的应用符合青少年成长规律、社会伦理准则与教育职业规范。教师认可功能性AI的实践价值：这类AI仅用来完成单一特定教学工作，例如分层设计作业、文本翻译、备课教案撰写等。
二、有三类拟人化AI是教师主要的担忧对象。教师群体普遍警惕一类AI工具，即能感知情绪、充当陪伴者、流露关怀、模拟亲密关系，通过语音、形象高度复刻真人，目的是触动使用者情感、建立依恋的人工智能应用。有三类AI工具已成为当前教育界呼吁监管的重点：模拟人际关系类AI、模拟历史人物类AI、模拟在世真人类AI。
三、教师担忧AI会侵蚀校园内真实、信任的人际关系。教师反对拟人化AI的深层原因，是深知人与人之间建立在信任之上的交往无可替代。一旦AI大规模进入学校，或将彻底破坏校园内的信任体系。这类AI试图复刻人类深度情感关系，而真实师生关系有完善的约束保障，可是AI系统缺乏监管的追责主体。此外，教育部门将拟人化AI视作填补资源缺口的简易替代品，尤其是资源薄弱学校，亦引起专家和教师们的警觉。部分地区学校心理咨询师、社工、心理老师短缺，有人便主张引入AI填补缺口。菲尔认为机器无法完全适配充满人文温度的教育体系。想要弥补服务缺口，正确的做法是加大投入、夯实线下人际支持：增加同伴互助、家校沟通，邀请社区长者、社会服务机构进校园。面对高度依赖情感沟通的教育场景，重点应当是强化真实人际联结，而非依靠机器解决青少年复杂的心理健康需求。
四、落地拟人化AI防护细则，存在大量实操细节有待厘清。行业明确发展方向只是第一步，大量实操细节仍待商讨厘清：如，怎样界定“拟人化AI”？将哪些行为纳入监管？如何确保教师日常对有益功能性AI的正常使用？
五、全球范围内，教师在AI治理中的话语权将持续提升。一线教师才是课堂教学方式的最终实践者。制定人工智能相关政策时，让教育工作者拥有话语权，将惠及全体未成年人、政策制定者与全社会。
更多信息请参阅：
https://www.brookings.edu/articles/5-lessons-from-teachers-on-the-risks-of-anthropomorphic-ai/
编译自：美国布鲁金斯学会官网，2026-06-24
编译者：上海师范大学国际与比较教育研究院 庞正培
