全球領先的生成式AI巨擘 OpenAI 近期做出重大戰略調整，宣布無限期擱置其原定開發的成人內容AI模型計畫（內部代號「Citron mode」），並將資源重新導向核心的生產力工具開發。此舉不僅反映了投資人疑慮、內部員工的倫理擔憂，更凸顯了在模型訓練過程中，難以徹底排除違法內容的技術瓶頸，促使OpenAI決定將焦點集中於主流應用市場，以避免潛在的爭議性產品線分散企業資源與品牌聲譽。
「成人模式」擱置始末：技術與倫理的雙重挑戰
回溯至 2025 年 10 月，OpenAI 曾一度透露考慮放寬對成人內容的限制，並計畫於同年底推出相關功能。然而，這項名為「Citron mode」的實驗在推進過程中遭遇了嚴峻挑戰，最終導致計畫的推遲與無限期擱置。這背後的主要原因，是開發團隊在技術與倫理層面都面臨了難以跨越的障礙，使得這款成人AI聊天機器人難產。
根據消息人士透露，開發團隊在重新訓練模型以處理成人內容時，發現其過濾機制存在重大缺陷。模型難以精準辨識並排除諸如獸交或近親相姦等非法行為，這對於一向標榜安全合規的 OpenAI 而言，無疑是巨大的品牌風險。此外，儘管 OpenAI 導入了自動年齡檢測技術，但其錯誤率仍高達 10% 以上。這意味著，在全球數億用戶的龐大基數下，將有大量未成年人可能因此接觸到限制級內容，進進而引發一連串的法律訴訟與社會爭議。
- 內容過濾失靈：模型難以精準排除獸交、近親相姦等非法內容，構成品牌風險。
- 年齡辨識誤差：自動年齡檢測技術錯誤率超過 10%，恐導致大量未成年人接觸不當內容，引發法律問題。
內部反彈與市場警訊：AI情感連結的界線
這項成人AI計畫在 OpenAI 內部引發了強烈震盪，甚至導致一名高階員工因此離職。該員工直言：
「AI不應該取代你的朋友或家人，人類需要的是真實的連結。」
這番話語道出了許多人對 AI 發展方向的深層憂慮，即人工智慧是否應介入人類最私密的情感領域。同時，市場上來自競爭對手的警訊也讓 OpenAI 的投資人感到不安。例如，xAI 的 Grok 模型曾因產生真實人物與兒童的深度偽造（Deepfake）裸照而深陷爭議，這樣的案例無疑加劇了 OpenAI 內部對於潛在風險的擔憂。儘管執行長 Sam Altman 曾認為可以「安全地放寬限制」，但在缺乏足夠實證研究 AI 依戀對心理健康影響的情況下，公司最終仍決定踩下煞車，優先考量倫理與安全。
戰略轉型：捨棄「支線任務」，專注核心生產力
OpenAI 官方明確表示，目前將把所有資源集中於能夠實質提升人類效率的工具，並將諸如 Sora 影片生成工具與成人聊天機器人等項目，定義為企業發展的「支線任務」（Side quests）。這項戰略轉型，正值算力資源日益昂貴且全球監管趨嚴的 2026 年，顯示 OpenAI 試圖縮減戰線，將有限的精力與資源回歸到其核心的 GPT 系列基礎能力提升，以及更具商業化潛力的應用開發上。此舉不僅有助於穩固其在主流 AI 市場的領導地位，也能有效規避潛在的法律與倫理風險，確保企業的永續發展。
展望與影響：負責任AI的產業新典範
OpenAI 擱置成人AI計畫的決策，不僅是其自身產品策略的重大轉變，更為整個生成式AI產業樹立了一個關於「負責任AI」發展的新典範。在技術高速迭代的同時，如何平衡創新與倫理、商業利益與社會責任，已成為所有AI開發者必須面對的課題。未來，我們預期會有更多AI公司在產品開發上採取更為審慎的態度，將重心放在能為社會帶來正面效益，且風險可控的應用領域。這場轉型也將促使業界更加關注 AI 模型內容的安全性、使用者年齡驗證的精準度，以及 AI 對人類心理健康的長遠影響，進而推動整個產業朝向更健康、更永續的方向發展。
About the Author
