8月28日，據報道，OpenAI擬改進ChatGPT，旨在更精準地識別用戶的心理與情緒困擾信號，并做出更恰當的回應。

該公司在一篇博客文章中表示：“近期發生了多起令人痛心的案例——人們在嚴重危機中使用 ChatGPT，這些案例讓我們深感沉重，我們認為現在有必要分享更多（改進計劃）。”OpenAI在博文中指出，即將推出的更新將幫助用戶立足于現實，即便用戶未表現出嚴重的自殘跡象。該公司還在探索如何在用戶陷入嚴重危機前，為其對接心理咨詢師。這與當前模型的運作方式有重要區別：目前，當有人表達出自殘意愿時，ChatGPT只會建議其聯系自殺干預熱線。

在用戶明確提及自殘或其他情緒困擾情況之前，可能會出現多種信號——若能盡早干預，這些情況或許能得到緩解。OpenAI 舉了一個例子：某人表示自己兩晚未眠，卻能晝夜不停地開車，因為他們覺得自己“無所不能”（這種表述可能是心理困擾的潛在信號）。