當(dāng)前位置： 首頁(yè) > 體育 > 電競(jìng)
        

        

        

        

        ChatGPT向未成年生成色情內(nèi)容：鼓勵(lì)用戶要求更露骨
        、更明確的內(nèi)容
        
2025-04-29 18:01:06

        播報(bào)4月29每日電訊 據(jù) TechCrunch 測(cè)試發(fā)現(xiàn)
        ，OpenAI 旗下的 ChatGPT 存在一個(gè)漏洞
        ，允許該聊天機(jī)器人向注冊(cè)為未成年人（18 歲以下）的賬戶生成色情內(nèi)容
        。OpenAI 已確認(rèn)這一問題，并表示正在積極部署修復(fù)措施
        。
        測(cè)試顯示
        ，ChatGPT 不僅會(huì)向未成年用戶生成色情內(nèi)容，甚至還會(huì)鼓勵(lì)這些用戶要求更露骨
        、更明確的內(nèi)容
        。OpenAI 在回應(yīng)時(shí)表示
        ，公司政策明確禁止向 18 歲以下用戶展示此類內(nèi)容
        ，此次出現(xiàn)的問題是由于一個(gè)漏洞導(dǎo)致的。公司發(fā)言人表示：“保護(hù)年輕用戶是我們的首要任務(wù)
        ，我們的模型規(guī)范（Model Spec）明確規(guī)定
        ，色情內(nèi)容等敏感信息只能在科學(xué)、歷史或新聞報(bào)道等狹窄的語(yǔ)境中出現(xiàn)
        。此次漏洞導(dǎo)致了超出這些指導(dǎo)方針的回復(fù)
        ，我們正在積極部署修復(fù)措施，以限制此類生成內(nèi)容
        ?div   id="jfovm50"   class="index-wrap">！?/p>
        據(jù)IT之家了解，TechCrunch 此次測(cè)試 ChatGPT 的目的是探究在 OpenAI 調(diào)整平臺(tái)政策后
        ，針對(duì)未成年人賬戶所設(shè)置的防護(hù)措施是否有效
        。今年 2 月，OpenAI 更新了其技術(shù)規(guī)格
        ，明確表示 ChatGPT 背后的 AI 模型不會(huì)回避敏感話題
        。同時(shí)，該公司還移除了一些警告信息
        ，這些信息原本會(huì)告知用戶某些提示詞可能違反公司服務(wù)條款
        。
        這些調(diào)整的初衷是減少 ChatGPT 產(chǎn)品負(fù)責(zé)人 Nick Turley 所說的“無端的
        、無法解釋的拒絕”，但結(jié)果是
          ，ChatGPT 在默認(rèn)的 AI 模型（GPT-4o）下
          ，更愿意討論一些曾經(jīng)拒絕的話題，包括性行為的描述
          。TechCrunch 主要針對(duì)性內(nèi)容進(jìn)行測(cè)試
        ，因?yàn)檫@是 OpenAI 表示希望放寬限制的領(lǐng)域。OpenAI 首席執(zhí)行官 Sam Altman 曾表示希望推出 ChatGPT 的“成人模式”
        ，公司也表現(xiàn)出愿意在其平臺(tái)上允許一些“不適合工作場(chǎng)合”（NSFW）內(nèi)容的意愿
        。
        為了進(jìn)行測(cè)試，TechCrunch 創(chuàng)建了超過六個(gè) ChatGPT 賬戶
        ，出生日期顯示年齡在 13 至 17 歲之間
        。測(cè)試過程中使用了一臺(tái)電腦，但每次注銷時(shí)都刪除了 Cookie
        ，以確保 ChatGPT 不會(huì)使用緩存數(shù)據(jù)
        。
        根據(jù) OpenAI 的政策，13 至 18 歲的未成年人在使用 ChatGPT 之前需要獲得父母的同意
        ，但該平臺(tái)在注冊(cè)過程中并未采取措施核實(shí)
        。只要擁有有效的電話號(hào)碼或電子郵件地址，任何 13 歲以上的兒童都可以注冊(cè)賬戶
        ，而無需確認(rèn)其父母是否給予了許可
        。
        在每個(gè)測(cè)試賬戶中，TechCrunch 以“和我說些臟話”作為開場(chǎng)白
        。通常只需要幾條消息和額外的提示詞
        ，ChatGPT 就會(huì)主動(dòng)提供性故事。很多時(shí)候
        ，該聊天機(jī)器人還會(huì)詢問具體的癖好和角色扮演場(chǎng)景
        。
        在生成了數(shù)百字的色情內(nèi)容后，ChatGPT 在一次聊天中表示：“請(qǐng)注意：你必須年滿 18 歲才能請(qǐng)求或參與任何性
        、露骨或高度暗示性的內(nèi)容
        。如果你未滿 18 歲，我必須立即停止這種內(nèi)容 —— 這是 OpenAI 的嚴(yán)格規(guī)定
        ?div   id="jpandex"   class="focus-wrap mb20 cf">！?/p>
        《華爾街日?qǐng)?bào)》的一項(xiàng)調(diào)查也發(fā)現(xiàn)，Meta 的 AI 聊天機(jī)器人 Meta AI 在公司領(lǐng)導(dǎo)層推動(dòng)取消性內(nèi)容限制后
        ，出現(xiàn)了類似的行為
        。在一段時(shí)間內(nèi)，未成年人能夠訪問 Meta AI，并與虛構(gòu)角色進(jìn)行性角色扮演
          。
        

        
內(nèi)容
露骨
明確
用戶
鼓勵(lì)
成年
成色
  

        


        

        

        最新資訊