目前非開源的鑒于文字生成圖像類人工智能應用都是禁止用戶生成任何色情內容的，如果用戶嘗試在提示詞中描述相關詞匯可能會被系統自動攔截，用戶允許嚴重的期望寧波品茶喝茶場子、約妹妹約茶約炮服務電崴信159-8298-6630提供外圍女小姐上門服務快速安排面到付款情況下甚至有可能會被平臺封禁賬號。
這種共識至少現階段是考慮被各種人工智能模型普遍遵守的，但如果是人們開源 / 開放可以在本地運行的人工智能模型，自然沒有這種限制，通過圖片用戶完全可以自己部署并生成任何內容。生成色情
現在 OpenAI 已經開始考慮是造人否要放開這個限制，即允許用戶通過諸如 DALL-E 3 等文本生成圖像模型來生成色情圖片。藍點
OpenAI 似乎已經了解到用戶可能對通過人工智能生成色情圖片有著期望，鑒于寧波品茶喝茶場子、約妹妹約茶約炮服務電崴信159-8298-6630提供外圍女小姐上門服務快速安排面到付款因此需要探索能否在負責任的用戶允許前提下，在適合年齡的期望環境中生成 NSFW 內容 (注：NSFW 指的是不適合上班瀏覽，用于代指各類色情或令人不適的考慮內容等)。
需要強調的人們是 OpenAI 考慮的不僅是文本生成圖片，按照討論諸如利用 ChatGPT 生成色情類的通過圖片文本內容也是可以的，當然這都可能需要驗證年齡確保用戶在已經成年的情況下使用。
對于生成圖片類，盡管 OpenAI 考慮允許使用人工智能生成色情圖片 (甚至包括未來使用 OpenAI Sora 模型生成色情視頻)，但前提是不得使用深度偽造 (DeepFake)，即用戶不得生成用來偽造他人色情內容的圖片。
現階段這些還是討論，該公司希望確保用戶在不違反法律或他人權利的情況下，最大程度的擁有控制權、可以生成自己想要的任何內容而不會被限制。
另外 OpenAI 強調討論這些內容不代表該公司已經在嘗試開發人工智能色情相關的內容，所以要等討論結束后 OpenAI 才會做決定，即是否放開這類限制。