OpenAI推出青少年专属安全护航,学习模式与家长控制全面升级

1 阅读3分钟视野
OpenAI推出青少年专属安全护航,学习模式与家长控制全面升级

背景

随着生成式AI深入校园,近九成青少年已在一周内使用ChatGPT进行学习、信息检索和技能提升。OpenAI认为,让这一代人提前接触AI并配以专属安全防线,比限制使用更能提升其数字素养。

关键安全功能

  • 自动年龄预测:系统在检测到用户可能未满18岁时自动切换为青少年模式,限制暴力、色情、危险角色扮演等高风险内容。
  • 强化提醒:长时间使用后弹出休息提示,帮助青少年养成健康的使用习惯。
  • 家长控制中心:家长可为关联的青少年账号开启或关闭学习模式、设置安静时段、限制图像生成、接收高风险行为通知。
  • 跨机构合作:与防暴组织Moonshot、美国心理学会等专家共同审议安全策略,确保干预措施既及时又尊重隐私。

学习模式亮点

OpenAI推出的 Study Mode 与教育科研团队联合设计,采用分步提问、结构化解释和反思提示,帮助学生自行思考而非直接给出答案。早期实验表明,启用该模式的学生在标准化测试中的表现提升约5%。家长可通过家长控制面板一键为青少年账号默认开启。

家长控制与合作伙伴

  • 通知机制:当系统检测到青少年账号因违规(如暴力威胁)被停用时,家长会收到详细说明,以便及时介入。
  • 资源共享:OpenAI发布《帮助青少年安全使用AI的家庭指南》、多语言教学手册以及与Common Sense Media合作的最佳实践。
  • 行业联盟:加入Family Online Safety Institute (FOSI),共同推动全球青少年AI安全标准的制定与落地。

未来展望

OpenAI承诺在未来几个月继续迭代年龄适配的安全防线,扩展学习交互体验,深化与教育机构和心理健康组织的合作,并通过开放源码工具让其他开发者也能在自家产品中嵌入类似的青少年保护机制。

“家长在关键时刻收到风险提醒,是帮助青少年安全使用AI的第一步。”——Moonshot创始人Vidhya Ramalingam

本文是对第三方新闻源的主观解读。消息可能出现过时、不准确、歧义或错误的地方,仅供参考使用。点击此处查看消息源。