更多
APP下载
合作
商城
签到
AI也能“告密”?OpenAI开启对威胁内容监控机制
2025-8-31 15:34
头条新闻
3563

伯乐头条专讯:全球用户量最大的AI应用ChatGPT近日引发关注。OpenAI在官网发文承认,公司已开始监测用户对话中涉及“危害他人”的内容,一旦判定存在严重威胁,将由内部专门小组进行人工审查,并可能直接转交执法部门。


换句话说,用户若在ChatGPT中讨论伤害他人的计划,不仅账号可能被封禁,甚至有可能被警方介入。OpenAI强调,这套机制仅针对“威胁他人”的内容,而涉及自残或自杀的对话则不会主动报警,而是提供心理援助资源,力求在保护公共安全与尊重个人隐私之间取得平衡。


此举一经披露,即刻引发网友热议:有人认为这是保障社会安全的必要措施,但也有人担忧,AI聊天的“私密性”正在逐渐消失,未来在平台上的言论自由可能受到限制。业内专家提醒,用户在使用AI工具时需提高警觉,避免触及敏感或危险话题,以免带来不必要的麻烦。

社区好帖更多帖子
返回顶部