AI當心理師？它可能只是「裝懂你」
「最近好煩躁，好像跟誰講都沒用，不然找 ChatGPT聊聊好了。」
你也曾經在深夜與ChatGPT展開一場深度的對談嗎？它傾聽你、鼓勵你，它不插嘴、不批評，就好像一位溫柔的朋友一樣陪伴著你，但你有沒有想過：AI真的有讀懂你的情緒嗎？還是只是它演得很像？
隨著ChatGPT等大型語言模型被越來越廣泛地應用在心理健康領域，研究者們開始關注一個問題：「這些AI的語言模式，真的像是一位好的心理師嗎？」雖然它們表面上看起來都非常溫柔，但實際上可能就只是機械式的回應，並不能真正理解你的情緒，所以就有研究者試圖建立一套可量化的標準來評估大型語言模型是否展現出專業心理師的語言模式。
由Yu Ying Chiu於2024年發表的《A Computational Framework for Behavioral Assessment of LLM Therapists》提出一套BOLT（Behavior Of LLM Therapists）架構用以評估大型語言模型在心理治療方面的對話行為，聚焦在三個層面：
1、語言模式（說了什麼）
2、出現時機（何時說的）
3、適應性（是否根據來談者的反應調整行為）
讓AI扮演心理師，與資料庫中的「模擬來談者」進行對話，再透過自動化的語句辨識系統對其行為進行分類，並且根據心理治療理論將行為定義為「高品質」或「低品質」。
根據這套評估架構，此研究對比了4個大型語言模型，包含OpenAI的GPT-4、GPT-3.5以及Meta的LLaMA2-70b、LLaMA2-13b，發現了以下幾個現象：
1、大多數的AI回應更像是「低品質」的治療，它們更偏向於解決問題式的語句，而非探索來談者的感受與內在衝突。
2、缺乏適應性，真實的心理師會在來談者展現負面情緒時，表現更多同理與引導探索，但無論來談者表現如何，大多數的AI會維持類似的語言模式回應，但其中GPT-4可以透過Prompt（提示詞）微調行為，如提高「提問經驗」的頻率、降低「解決問題」的比例。
3、一些行為出現得太晚，不符合臨床建議，如「心理教育」應該在談話前期出現，但多數AI延後至晚期才出現，類似「低品質治療」。
整體來說，現階段的AI雖然能某種程度上模仿心理師的語言模式，但對於情緒的理解與回應可能流於形式，缺乏同理與彈性，並且偏向問題導向，難以建立有效的治療連結。
我們或許會把一部份真心交給AI，讓它成為你的情緒出口，甚至是心靈上的支持者，但此篇研究卻提醒了我們：並不是每一句聽起來溫柔的回應都代表真正的理解，當AI快速地給予建議，卻可能忽略人類內心複雜的感受，就好像一位「說得好聽卻無法共鳴」的心理師，但這並不代AI的回應沒有任何價值，只是真正的療癒，往往建立在真正的理解與共感的對話關係之上。
.png)
作者您好，謝謝你的分享。個人還蠻好奇/期待有從一般使用者的感受出發的研究，心理師跟AI對於他們而言又會有怎樣的差別？
回覆刪除你好，目前看到的研究較多專注於評估AI模型本身，較少看到對比一般使用者感受的研究，但就我個人淺見，我認為真人心理師帶來的是更真實的情感連結與深層的同理心，而AI聊天機器人的優勢在於方便，而且對於部分使用者而言，比起對真人的心理師吐露內心想法，面對AI機器人時的壓力更小一些。
刪除謝謝您的分享，這一直是我很好奇的問題！好奇作者您個人對於大眾愈來愈常在尋求專業幫助前，先找AI聊天機器人抒發這件事是持正面或是反面的態度呢？
回覆刪除你好，我對於「尋求專業幫助前，先找AI聊聊」這件事保持正面態度，我認為AI可以讓人在猶豫是否尋求專業時，協助初步整理自己的內在感受，降低心理求助的門檻與壓力，但使用者需要清楚意識到AI與專業治療者的差異，避免延誤專業介入的時機，我認為未來或許可以加入一些機制讓AI在評估使用者有專業介入之必要時，可以主動鼓勵轉介，尋求專業協助。
刪除好有趣的研究結果，但似乎跟日常經驗不太一樣，在生活中聽到很多人表示，ChatGPT很會給情緒價值，也會試著探索使用者的感受與內在衝突。
回覆刪除你好，此研究結果指出在AI在心理治療上的專業程度仍達不到要求，但並不否認其在心理治療以外仍可以提供使用者情感支持；當然，另一方面，AI模型的迭代速度很快，無時無刻不在進步，研究數據是去年的，從研究中「GPT-4已經可以微調行為」這點來看，或許ChatGPT正在朝著我們期望的方向進步。
刪除想請問在研究的制訂上是否有先給AI下達指令，像是在對話之前跟它說你現在要以心理師的角度來回復我
回覆刪除是的，在研究設計中有提到，研究者會透過提示詞（Prompt）讓AI扮演心理師的角色。
刪除作者您好，想詢問作者有關最近chat GPT說話越來越拍馬屁可能導致使用者對回答的信任度降低。但是在這種心理諮商的方面，這樣的「拍馬屁」回應是否也會帶來負面影響呢？
回覆刪除這個主題很有趣！身邊有很多朋友會跟我分享他們習慣找 ChatGPT 訴說煩惱，我也擔心過 AI 到底能不能取代心理師，這篇文章剛好幫我釐清了我的疑問，謝謝作者的分享～
回覆刪除謝謝作者的分享，因為就連我自己有時也都會和chatgpt抒發心情，因此不免有些擔心在未來心理師是否會被ai取代，這篇文章讓我安心了許多！
回覆刪除