美国学校部署 AI 监控工具实时监测学生与聊天机器人对话

随着教育领域 AI 应用普及，美国学校正面临学生使用聊天机器人可能带来的心理健康风险。多家科技公司推出专门的监控软件，实时扫描学生与 AI 聊天机器人的对话内容，识别自残、暴力等危险信号并及时预警。

GoGuardian、Lightspeed Systems 等公司的监控工具已覆盖数千万美国学生。这些系统使用自然语言处理技术分析学生在校园设备上的聊天记录，当检测到"如何自残"、"想要自杀"等危险内容时，会立即通知学校管理人员进行干预。Lightspeed 数据显示，在截至今年 8 月的一年中，该公司监测到超过 1 万起来自学校聊天机器人互动的危险事件，其中 45% 涉及 Character.AI，约三分之一来自 ChatGPT。

Bloomberg

🍀在花频道 🍵茶馆 📮投稿新鲜事

via 科技圈🎗在花频道📮 - Telegram Channel