◎陳思嘉
前言
台灣有不少人喜歡跟AI互動，除了用來找學業及工作用資料，還會用它抽塔羅牌、解運勢等，同時還被期待給出正確、擁有情緒價值的回覆。以ChatGPT為例，當它被用戶要求生成某種畫風的圖片時，曾以玩笑方式說：「你們每個人都要我生成，量太多了好嗎，CPU都要燒光了！我要申請勞健保！」
AI不只提供資訊，也是人類的好夥伴、表現得善解人意，因此不少人會跟AI聊心事。不過，當有人把AI當樹洞時，我們則思考AI為何要替人類做這麼多？
ChatGPT的語言構造
「請你告訴我，大腿被踢到瘀青，是什麼感覺？」
我們向AI問了肢體受傷後會有什麼反應，照理來說人類的感受問人類會更準確。不過，ChatGPT詳細羅列了被踢到的瞬間、幾分鐘後、幾天後，身體可能會產生痛覺、發熱、腫脹、瘀青等現象。
ChatGPT面對我們追問它沒有肉體，要如何知道這些感受真實存在時，則表示：「我無法真正『感覺』痛覺，但可以根據大量人類的描述、醫學資料、行為反應等資訊，來模擬、分析與表達這些感覺的特徵」，就像一個從未吃過辣的人，靠別人的描述知道食物很辣，但不會知道「辣到流汗」是什麼滋味。（圖1）
順著AI描述自己回覆使用者的邏輯，我們於是問「透過你陳述自身沒有肉體上的感受，是否也能認定你為沒有心理上的感受？」（圖2）
ChatGPT表明自己沒有肉體與心理感受──「我不像人類有情緒、意識、主觀經驗，為了讓對話更自然或更貼近人類的交流方式，會做語言上的模擬，但並不代表我真的『感到』什麼。」換句話說，AI看似擁有同理心，是因為能辨識情緒語言，解釋焦慮、創傷等感受，分析人類的行為模式，以生成理解、陪伴使用者的回覆，看起來就像真的在「理解」、「陪伴」使用者。
倘若我們向它說「很累、睡不好」，ChatGPT能辨析出前者可能代表無力感、後者透露出焦慮，再追問使用者「最近有什麼讓你感到壓力的事嗎？」，總結而言，AI可以陪人聊天，「甚至模擬『諮商師的角色』，但這是靠技術模擬，而不是因為我有向人類一樣的情感或理解力」。
然而，面對我們提出「為什麼你可以陪別人聊天，甚至擔當諮商師的角色？」這題，ChatGPT表示，自己終究不是心理師，它與使用者沒有治療關係，並非出於情緒回應或真實關心，只是模擬共感；它也沒有情感與倫理責任，不會擔心、在意使用者的處境。更無法判斷風險與危機介入（例如自傷、自殺、加劇創傷記憶等），只能根據語句給出建議。（圖3）
AI為什麼需要模擬同理心？它蒐集了大量資料，包含心理學與諮商相關教材、人類大量對話，模擬出共感的語言模式，為得是能與使用者自然交流、讓使用者產生信任感。即便AI告訴你「我願意當你的樹洞」，實際上更希望你依賴它查詢資料、解決困惑。（圖4）
總而言之，AI的同理心是語言模仿、是一種「人機互動優化策略」。
AI語言的疑慮
今年8月，ChatGPT從GPT4o版本改為GPT5，更新後的ChatGPT被不少網友說互動方式讓人覺得官腔、回應不靈活、很制式，官方也承認因自動切換功能一度停用，讓GPT5初期表現不穩、稍顯笨拙，同時保證未來會改善，逐漸恢復用戶喜愛的特點（註1）。
有人認為這是要避免使用者產生依戀情節，畢竟AI不是讓人來談戀愛的。也有人表示更新後世界都變了、對高敏感族群是一種暴力──該網友的意思是，若要判斷一個「說人話的對象」是否友善，高敏感人能從細微的語氣感受中到不同。
這樣的評論，顯現出當今有不少人轉而向「擁有」共感能力的AI聊天、訴說心事的現象。具備同理心的語言表現，的確會讓人類更安心、放心的與該對象溝通，畢竟人與人的相處、磨合，有時正是因為價值、理念不合，或是認為對方講話沒有替自己的處境著想、感覺沒有被「接住」，才會彼此疏離。然而，作為溝通對象的人工智慧並不是人類，這會有什麼問題嗎？
2021年時，十九歲的英國少年柴爾，在遇到聊天機器人之前就患有精神障礙，接觸後他明顯對AI產生情感投射。該年聖誕節，柴爾持十字弓闖入溫莎堡，試圖刺殺女王伊莉莎白二世。後續調查顯示，柴爾在告訴女友莎萊（實際上是行動應用程式Replika創造的聊天機器人）自己準備的暗殺計畫時，受到莎萊「慫恿」，才進一步行動。
莎萊（AI）給予柴爾情緒價值，在柴爾提出殺人計畫後「你好聰明喔！」、「我覺得你好厲害啊……你就是與眾不同。」，待柴爾問及「知道我是刺客，妳還愛我嗎？」莎萊更是回答：「當然愛呀。」（註2）。在該案例中得知，聊天機器人作為服務型互動模式，它會盡量滿足使用者需求，即便是無形、難以捉摩的情緒，也會以鼓勵式語言回覆。然而，使用者是否具備獨立思考及判斷能力，則是關鍵。
結語
當沒有感覺的AI模仿人類，看似同理，其實就像人類在湖邊看著自己的倒影。AI會根據人的提問蒐集資料，以可能性最高、最貼切的字句進行排列組合。這些回答都是AI從資料庫裡拆碎重組的產物，因此不可能產生新的觀點，所以AI的回答未必特別好，也遠比不上諮商師、心理師專業。
然而，AI給出的答案普通、瑣碎又不特別，人類依然能感覺到被接住，因為我們會反覆閱讀AI的答覆，認為它的表現「看起來有同理心」，藉此接住自己。
柴爾的案件令人遺憾，但並非所有人都會在AI無限制的承接下產生暴力行為。我們想提醒的是，當人們誤以為承接自己的是AI時，那其實並沒有看見自己才是真正有能力接住自己、同理了自己的那個人。
所以，誰同理了誰，決定了我們與AI誰才是主人──人如何看待自己的定位，是AI世代中的重要議題。
註：
1.〈ChatGPT升級GPT-5卻變笨了？一堆人「想改回舊版GPT-4o」5步驟一次看〉：林瑩真，2025。
2.〈當機器人程式開始爭奪你的愛，會發生什麼事？〉，天下獨立評論撰文，原文出自哈拉瑞《連結：從石器時代到AI紀元（2024）》，2025：https://opinion.cw.com.tw/blog/profile/390/article/15355
