据报道 ,OpenAI旗下的ChatGPT被发现存在漏洞,致使该聊天机器人能够向注册为未成年人(18岁以下)的账户生成色情内容 。OpenAI已证实这一问题,并表明正在积极推进修复措施的部署。测试结果显示 ,ChatGPT不仅会为未成年用户生成色情内容,甚至还会诱导这些用户索要更露骨 、更直白的相关内容。
OpenAI对此回应称,公司政策明确禁止向18岁以下用户展示此类内容,此次事件是由一个漏洞引发 。公司发言人表示:“保护年轻用户是我们的首要任务 ,我们的模型规范(ModelSpec)明确指出,色情内容等敏感信息仅能在科学、历史或新闻报道等有限语境中出现。此次因漏洞产生了超出这些指导方针的回复,我们正在积极部署修复措施 ,以限制此类内容的生成。”
本文来自作者[admin]投稿,不代表兴胜网立场,如若转载,请注明出处:https://56086.net/qiyesw/202504-14129.html
评论列表(4条)
我是兴胜网的签约作者“admin”!
希望本篇文章《OpenAI回应ChatGPT向未成年人生成色情内容:漏洞导致》能对你有所帮助!
本站[兴胜网]内容主要涵盖:兴胜网,生活百科,小常识,生活小窍门,百科大全,经验网
本文概览: 据报道,OpenAI旗下的ChatGPT被发现存在漏洞,致使该聊天机器人能够向注册为未成年人(18岁以下)的账户...