ChatGPT推出“年龄预测”功能:旨在识别未成年用户并加强内容保护
1月21日,据报道,OpenAI正式宣布,在消费版ChatGPT中推出“年龄预测”功能,旨在识别未满18岁的用户,并为其自动匹配更严格的保护性内容过滤与安全设置。该功能不仅依据注册年龄信息,还通过分析账户存续时间、活跃时段及长期交互模式等多重“行为与账户级信号”进行综合判断,旨在为青少年提供更安全的AI交互环境。
根据OpenAI的说明,系统一旦判定账户属于未成年人,将自动启用加强保护层,拦截包括直接暴力血腥画面、诱导性危险挑战、涉及性与暴力的角色扮演、自残相关描述,以及宣扬极端审美、不健康节食或身材羞辱等五类高风险内容。当模型对用户年龄判断存疑时,系统将默认采取更严格的安全模式,以优先保障安全性。
针对可能出现的误判情况,OpenAI引入了第三方身份验证服务Persona。被错误归类为未成年人的成年用户,可通过上传自拍进行快速验证,验证通过后即可恢复完整访问权限。
此外,OpenAI还进一步强化了家长控制功能。家长可设置“静默时间”限制孩子使用时段、管理对话历史与记忆功能的访问权限,并可在系统检测到用户出现急性心理困扰迹象时接收通知。