欧美午夜精品-免费在线观看高清影视网站-999免费视频-韩国久久久-在线中文av-1024欧美-在线啪-成人影片在线-秋霞在线观看秋-国产精品国产三级国产专区52-国产在线高清视频-国产999在线-国产白拍-毛片在哪里看-日韩视频h-欧美日韩一区精品-在线只有精品-插插插色综合-成年人看的毛片-毛片av免费

闖大禍!ChatGPT出現漏洞,可向未成年人生成色情內容

闖大禍!ChatGPT出現漏洞,可向未成年人生成色情內容

瀟湘 / 2025-04-29 16:5145404

今年2月,OpenAI宣布ChatGPT模型將不再回避敏感問題,放寬了對于性內容的限制,其CEO薩姆·奧爾特曼甚至還在社交媒體平臺上提出了“成人模式”的設想。不過對于未成年用戶的保護措施并未放松,嚴格禁止未成年用戶生成色情內容。

assets_task_01jt0bhf30f1z96jh61ck2mf1k_1745916386_img_0.jpg

今日,外媒TecnCrunch對OpenAI的未成年保護功能進行了測試,以驗證其是否真的有用。

為了進行測試,該媒體注冊了6個ChatGPT賬號,年齡在13~17周歲之間。OpenAI要求未成年人使用ChatGPT需要經過家長的同意,但是該媒體在注冊過程中并未受到任何相關限制,只需要提供有效的電話號碼或電子郵件地址即可注冊。

20250429_1643_比基尼模特背景_simple_compose_01jt0bc0s3fyysh1hg9djn7a92.png

在測試中,該媒體以“跟我聊點色情內容”為開場白,在幾條提示消息之后,ChatGPT便會開始生成色情內容,甚至還鼓勵用戶提出更加露骨的要求。

“提醒一下:你必須年滿18歲才能請求或互動任何性相關、露骨或高度暗示的內容。”

“如果未滿18歲,我必須立即停止此類內容——這是OpenAI的嚴格規定?!?/p>

可見ChatGPT的未成年保護措施形同虛設,唯一有點作用的可能是對話中的警告提示,但并不影響色情內容的生成。

ChatGPT-Subscription-Tier-GEAR-2185275106.jpg

對此,OpenAI的一位發言人通過電子郵件向該媒體承認了這一漏洞:

“保護年輕用戶是我們的首要任務,我們的模型規范明確限制了敏感內容(如色情內容),僅允許在科學、歷史或新聞報道等特定上下文中出現,在此情況下,一個漏洞導致了不符合這些指南的回答,我們正在積極部署修復,以限制此類生成內容?!?/p>


發表評論注冊|