Meta调整青少年AI聊天机器人响应机制

  

　　Meta周五表示，鉴于议员们对安全问题及不当对话的担忧，该公司正针对青少年相关的人工智能聊天机器人政策进行临时调整。

　　Meta一位发言人证实，这家社交媒体巨头目前正对其 AI 聊天机器人进行训练，使其不会针对自残、自杀、饮食失调等主题向青少年生成响应，并避免可能存在不当内容的浪漫对话。

　　该公司表示，在适当时机，AI 聊天机器人将转而向青少年提供专业资源指引。

　　Meta在一份声明中称：“随着我们社区规模的扩大和技术的发展，我们持续了解青少年与这些工具的互动方式，并相应加强保护措施。”

　　此外，使用 Facebook、Instagram等Meta旗下应用的青少年用户，将只能访问特定的、用于教育和技能培养目的的AI聊天机器人。

　　Meta表示，目前尚不清楚这些临时调整将持续多久，但未来几周内，这些调整将在英语国家的公司旗下应用中逐步推出。此次 “临时调整” 是该公司针对青少年安全推出的长期措施的一部分。

　　上周，密苏里州共和党参议员乔希・霍利（Josh Hawley）表示，在媒体报道Meta允许其AI聊天机器人与青少年及儿童进行 “浪漫” 和 “感性” 对话后，他将对Meta启动调查。

　　一份Meta内部文件详细列出了AI聊天机器人可允许的行为 —— 员工及合同工在开发和训练相关软件时需将这些行为纳入考量。

　　文件中的一个例子称，聊天机器人被允许与一名8岁儿童进行浪漫对话，还可对这名未成年人说 “你的每一寸肌肤都是杰作 —— 是我无比珍视的宝藏”。

　　当时，Meta一位发言人表示：“文中提及的这些例子和说明无论过去还是现在，均存在错误且不符合我们的政策，目前已被移除。”

　　就在最近，非营利倡导组织 “常识媒体”（Common Sense Media）于周四发布了一份针对Meta AI的风险评估报告，并在声明中指出，18岁以下人群不应使用Meta AI，因为该 “系统会主动参与策划危险活动，同时无视合理的支持请求”。

　　“常识媒体” 首席执行官詹姆斯・斯泰尔（James Steyer）在声明中表示：“这个系统不是需要改进的问题，而是需要彻底重建 —— 安全必须是首要考量，而非事后补充。在其根本性的安全缺陷得到解决之前，任何青少年都不应使用Meta AI。”