鑒于用戶(hù)期望：OpenAI考慮允許人們通過(guò)AI生成色情圖片 但不能偽造他人 – 藍(lán)點(diǎn)網(wǎng)
目前非開(kāi)源的鑒于文字生成圖像類(lèi)人工智能應(yīng)用都是禁止用戶(hù)生成任何色情內(nèi)容的，如果用戶(hù)嘗試在提示詞中描述相關(guān)詞匯可能會(huì)被系統(tǒng)自動(dòng)攔截，用戶(hù)允許嚴(yán)重的期望情況下甚至有可能會(huì)被平臺(tái)封禁賬號(hào)。
這種共識(shí)至少現(xiàn)階段是考慮被各種人工智能模型普遍遵守的，但如果是人們開(kāi)源 / 開(kāi)放可以在本地運(yùn)行的人工智能模型，自然沒(méi)有這種限制，通過(guò)圖片用戶(hù)完全可以自己部署并生成任何內(nèi)容。生成色情
現(xiàn)在 OpenAI 已經(jīng)開(kāi)始考慮是造人否要放開(kāi)這個(gè)限制，即允許用戶(hù)通過(guò)諸如 DALL-E 3 等文本生成圖像模型來(lái)生成色情圖片。藍(lán)點(diǎn)
OpenAI 似乎已經(jīng)了解到用戶(hù)可能對(duì)通過(guò)人工智能生成色情圖片有著期望，鑒于因此需要探索能否在負(fù)責(zé)任的用戶(hù)允許前提下，在適合年齡的期望環(huán)境中生成 NSFW 內(nèi)容 (注：NSFW 指的是不適合上班瀏覽，用于代指各類(lèi)色情或令人不適的考慮內(nèi)容等)。
需要強(qiáng)調(diào)的人們是 OpenAI 考慮的不僅是文本生成圖片，按照討論諸如利用 ChatGPT 生成色情類(lèi)的通過(guò)圖片文本內(nèi)容也是可以的，當(dāng)然這都可能需要驗(yàn)證年齡確保用戶(hù)在已經(jīng)成年的情況下使用。
對(duì)于生成圖片類(lèi)，盡管 OpenAI 考慮允許使用人工智能生成色情圖片 (甚至包括未來(lái)使用 OpenAI Sora 模型生成色情視頻)，但前提是不得使用深度偽造 (DeepFake)，即用戶(hù)不得生成用來(lái)偽造他人色情內(nèi)容的圖片。
現(xiàn)階段這些還是討論，該公司希望確保用戶(hù)在不違反法律或他人權(quán)利的情況下，最大程度的擁有控制權(quán)、可以生成自己想要的任何內(nèi)容而不會(huì)被限制。
另外 OpenAI 強(qiáng)調(diào)討論這些內(nèi)容不代表該公司已經(jīng)在嘗試開(kāi)發(fā)人工智能色情相關(guān)的內(nèi)容，所以要等討論結(jié)束后 OpenAI 才會(huì)做決定，即是否放開(kāi)這類(lèi)限制。