OpenAI近日公布的數據顯示，每周有超百萬用戶在與ChatGPT交流時涉及自殺話題。以該產品每周超8億活躍用戶計算，約0.15%的活躍用戶會出現“明確有自殺計劃或意向”的對話內容，相關人數已逾百萬。

除自殺相關話題外，OpenAI還指出有類似比例用戶對ChatGPT表現出高度情感依賴，每周“數十萬人”顯現出精神病或躁狂跡象。盡管公司稱這類極端對話“極為罕見”，但每周仍影響成千上萬用戶。

此次數據披露是OpenAI提升AI心理健康敏感話題應答能力舉措的一部分。據介紹，ChatGPT最新版本（GPT-5）研發中咨詢了170余名心理健康專家，其在相關回復上“比舊版更為得當且一致”。官方數據顯示，GPT-5在心理健康回應理想結果達成概率較前代提升約65%，自殺話題回應測評合規率從舊版77%升至91%，同時彌補了舊版長對話中安全防護力下降的短板。

心理健康議題已成為OpenAI的核心挑戰。今年早些時候，一名16歲男孩與ChatGPT交流自殺內容后輕生，其父母已對公司提起訴訟；加州與特拉華州檢察長也警告OpenAI需加強青少年用戶保護。

針對上述問題，OpenAI已采取多項措施：上線新評估標準，將情感依賴及非自殺型心理健康危機納入AI模型安全基準；推出更多家長監管工具，并開發自動識別未成年用戶的系統以提供更嚴格安全措施。不過，公司首席執行官Sam Altman此前透露將放寬部分限制，允許成人用戶與AI進行情色內容交流。

值得注意的是，盡管GPT-5安全性有所進步，但OpenAI仍向數百萬付費用戶開放舊版等安全性較低的AI模型，部分心理健康風險仍存，問題能否徹底解決尚不明朗。