如果AI會鬼扯，那改作文的AI也會鬼扯嗎？

◎朱家安

我發現批改作文的AI在修改文章時會遺漏論點並增加鬼扯（bullshit）內容。

我讓AI批改的是一篇論述文，討論樂高創作和哲學文章創作的相似處。我希望了解AI的修改帶來哪些改變。理想上，我認為作文批改者可以修改文章的措辭和結構，但是在論說文的脈絡下，不該遺漏原文的論點。所以我將原文的論點項目整理後列成表格，並且和修改後的文章對照，確認是否有遺漏或說明不足之處。

依照我的判斷，AI的表現如圖：

在我看來，AI修改的版本沒有忠實呈現原文的論證：許多論點被遺漏，或者在說明上有落差。例如，AI說明「新奇用法」時舉的例子，因為措辭而令人困惑：「當我將⼀枚常被當作肩甲的零件，翻轉成⼀把造型獨特的⼗字⼸時，那份新奇感令⼈著迷。」我猜想，這或許是因為AI的學習歷程缺乏關於積木創作的資料。而原文當中用椅子舉例說明的「越新奇的用法越有說服力需求」的論點，則完全被忽略。考慮到這些，我認為或許當前版本的AI並無能力辨認一定複雜程度的論證並重述。

當然，有可能是我的原文寫得不夠清楚，使得AI無法完整重述。但AI在「組織結構」和「遣詞造句」方面都給這篇原文滿分，因此我認為最好的解釋是：要嘛AI無法成功評價一定複雜程度的論證，要嘛AI無法成功重述一定複雜程度的論證。

AI增加鬼扯內容

AI修改後的文章少了一些論點，同時卻多了一些「心靈雞湯語句」。這些語句的特色是浮誇或缺乏內容，例如：

• 在這⽅⼨之間，我學會了創作的本質，也窺⾒了溝通的奧祕。
• 創作的核⼼不僅是天⾺⾏空的想像，更是⼀種「說服的藝術」
• 樂⾼教會我換位思考，時時從觀者的⾓度審視作品，填補那些因「⾃以為是」⽽產⽣的溝通間隙。
• 從零件的說服⼒、對知識詛咒的警惕，到拿捏發表的時機，每⼀步都映照著寫作乃⾄⼈⽣的真諦。原來，我們拼湊起的不只是積⽊，更是對世界更深⼀層的理解與洞察。

哲學家法蘭克福（Harry Frankfurt）在二〇〇五年出版《論鬼扯》（On Bullshit）一書。依照法蘭克福的看法，要是你做出下面這樣的事情，那你就是在鬼扯：你說出一些話，你不在意這些話是否真實，你如此做的主要意圖也不是希望聽者基於對你的信任去相信這些話的內容，而是想要產生一些「額外效果」，例如讓聽者對你觀感好一些。

法蘭克福認為現代社會充斥鬼扯，因為現代人常常需要對自己不懂的話題發表意見。例如，當我去學校進行哲學演講，該校師長有時得要替我開場，說些跟哲學有關的話，但他不見得懂哲學。這時，對他來說比較合理的選擇，通常就是講些不著邊際的模糊話，這些話語未必要有什麼明確的內容，只要看起來和活動本身有關，並且能表達對講者的肯定和歡迎，就足夠了。這時候，師長的致詞就很容易包含法蘭克福眼中那種鬼扯。

照法蘭克福的分析，上述語句之所以有「心靈雞湯感」，或許就是因為它們的鬼扯濃度比較高：那些語句的功能並不是描述明確的事態，而是讓人感覺文章有深度。我並不會說我有從樂高創作和哲學文章寫作「學會了創作的本質，也窺⾒了溝通的奧祕」，因為這種說法並不是想要陳述什麼事實，只是想要影響讀者對於文章的觀感。這就是法蘭克福討論的鬼扯。

AI是故意鬼扯的嗎？

我嘗試讓AI批改其他幾篇文章，結果差不多，修改後的版本總是會多出一些鬼扯語句，尤其是在開頭和結尾處。我相當好奇：批改作文的AI是刻意鬼扯的嗎？我自己也使用AI，但平常不會這麼頻繁的看到AI吐出明顯鬼扯的句子。

我想知道AI能不能辨認鬼扯，所以我將原文和AI修改的文章分別命名為「A文章」和「B文章」，並和下面的提示詞一起輸入ChatGPT：「以Harry Frankfurt的分析，比較下面兩篇文章鬼扯的程度，以及浮誇的程度，並且列出有鬼扯嫌疑的內容：」

ChatGPT顯然能夠辨認鬼扯，它下的結論是：「文章A雖然有抽象段落，但整體沒有明顯 bullshit 目的。文章B有大量『看似深刻、實際不太重要』的句子，是典型 bullshit pattern。」並且，ChatGPT從修改後的文章摘取並列舉的「有鬼扯嫌疑的內容」，也跟我的判斷差不多。

雖然不了解批改作文的AI品牌版本，但既然ChatGPT能辨認鬼扯，我傾向於相信批改作文的AI也能。因此，我認為它是被調整成刻意在修改作文時加入鬼扯內容。

專門用於批改作文的AI，在修改時加入鬼扯，我不意外，因為這很符合我的作文體驗。當我需要寫作文，這往往不是因為我有什麼東西需要寫出來，而是我明明沒什麼東西需要寫，但我需要為了作文硬擠。沒有內容能寫，卻又得要寫出看起來有一些深度或閱讀價值的東西，這相當接近法蘭克福描述的處境「你對當前議題一無所知，但又得要說些話」，而合理的方案就是鬼扯。假設許多作文老師能接受作文鬼扯，甚至認為一些浮誇或者缺乏內容但令人觀感良好的句子能替作文加分，那一個批改作文的AI把這些需求列入考量，也很合理。

上述方向的分析，也有機會說明，為什麼在AI修改的文章裡，開頭與結尾的鬼扯密度最高，假設：

1. 作文基於某種形式上的完整性，需要有開頭和結尾，開頭和結尾應該介紹文章主要內容，而自己不該有新內容。
2. 開頭和結尾都需要能展現文章的閱讀價值：開頭要讓人感覺這文章值得花十分鐘閱讀；結尾要讓人感覺剛剛那十分鐘沒有浪費（寫到這裡，我希望你沒有覺得自己浪費了十分鐘🙂）
3. 基於前面的推論，作文通常沒有什麼閱讀價值。

在上述條件下，寫開頭和結尾時，鬼扯就往往成為理性上的好選擇：你得要讓讀者高估文章的閱讀價值，又要避免增加文章裡沒有的內容，除了鬼扯，好像也沒有什麼能做的了。

AI鬼扯，作文也鬼扯

二〇二四年，西克斯（Michael Hicks）等三位英國哲學家發表〈ChatGPT是在鬼扯〉一文，主張當前大型語言模型生成文章的行為，符合法蘭克福對鬼扯的標準。

大家都知道大型語言模型會產生「幻覺」（hallucinations），即描述不符事實的內容、引用根本不存在的學術研究等等。然而，這三位哲學家認為這些現象不該描述為「幻覺」，因為幻覺的特色是認知者藉由「非典型」的認知途徑得到不符事實的呈現，例如我因為疾病而聽到不存在的聲音。相較之下，不管AI生成的內容是否符合事實，它們使用的認知途徑都是同一條，也就是依照機器學習的結果，去預測文字。換句話說，比較恰當的描述不是「AI產生幻覺」，而是「AI不在乎事實」：AI總是使用同一條認知途徑，這條途徑產生的文字可能符合事實，也可能不符合，而AI並沒有多做些什麼來避免後者。西克斯等人認為，依照法蘭克福的標準，大型語言模型就是鬼扯者，它們使用罔顧事實的途徑來生成文字，意圖是讓自己能對答如流、讓人相信它們有思考和溝通能力。

依照這三位哲學家的看法，在批改作文時，不管看起來是否雞湯，大型語言模型給出的「所有文字」全都是鬼扯：這些文字並非出自在意事實的產製過程，並且是為了讓使用者感覺AI有思考和溝通能力。然而，在作文的討論脈絡裡，有一類文字特別值得重視：它們不僅（如同三位哲學家所說）出自鬼扯的產製過程，而且此過程經過人為調整，符合作文教學對鬼扯的要求。西克斯等人研究的是AI的性質，而這篇文章雖然也以AI為對象，但我們現在可以發現，真正關鍵的其實是人類對作文的想像：人類期待並鼓勵作文裡出現鬼扯，因此人類調整出來的批改作文AI便開始鬼扯。

註1：Hicks, M.T., Humphries, J. & Slater, J. ChatGPT is bullshit. Ethics Inf Technol 26, 38 (2024). 
註2：有些人可能會困惑：當你說AI「罔顧事實」、「具備某種意圖」，這是不是在主張AI具有心智（mind）？對於這個問題，西克斯等人沿用哲學家丹奈特（Daniel Dennett）的「意圖觀點」（intentional stance），認為若某些心智概念應用到AI身上之後可以協助我們良好的理解和預測AI的行動，那這些心智概念就適用於AI。

附錄：原文

樂高人偶創作跟寫哲學文章很像。

人偶創作的看點之一是零件的新奇用法（nice part usage），你以非典型的方式使用零件，讓人耳目一新。

例如本來通常被玩家當作肩甲的零件，你用來做成十字弓，形狀剛好符合，於是你有了一把別人沒見過（可能也難以事前想像）的十字弓，新奇又有趣。
換句話說，樂高創作需要說服力。若你想要做一張椅子，你得作品得要讓人把它理解成椅子，而不是其他東西。

這事情沒有看起來那麼簡單，因為身為創作者，你往往不會甘心去用那些老早就被開發出來、大家都會的用法製作椅子。於是你的椅子會跟其他椅子有差異，而差異越大，你得要付出越多功夫，讓它看起來像把椅子。

創作者的創意和用心，就展現在這過程中：讓作品照自己的意圖去被別人理解，然後說服別人相信一些事情。這在格式上跟寫哲學文章是一樣的。而他們的難處也差不多：

知識的詛咒

假設你在某領域很有知識，這會讓你成為在這個領域教導別人的好人選，因為...你很懂。

但這也會讓你成為在這領域教育別人的壞人選：就是因為你很懂，你會比較難理解不懂的人的心理狀態，你會不自覺的跳過說明步驟，因為你覺得沒有必要，或者你難以判斷到底哪些有必要哪些沒有。換句話說，你被你的知識詛咒了。

樂高創作也是一樣。當你使用新奇用法做了一把十字弓，那你當然能看出它是十字弓。但這作品是否有成功可能，並不端賴你身為創作者是否能看出它是十字弓，而是端賴別人能否看出它是十字弓。

我寫了一篇哲學文章，我自己當然看得懂。就算寫得不完整、論證跳躍、例子缺東缺西，我一樣看得懂，因為這篇文章最完整的版本其實不在眼前，而在我心裡。

「耐心╱完美主義」權衡

哲學文章和樂高人偶都是創作。在社群時代，你發表創作、得到肯定、帶著肯定繼續創作，形成正向循環。

作品要到怎樣就能╱才能發表？時機是個問題。許多創作形式無所謂最完美的版本，因為不管多讚都依然有打磨空間。

如果你缺乏耐心，手上東西有了亮點，就想要發表，你可能錯過它可以更好的潛力，或者根本一直發表一些不怎樣的東西。

如果你過於完美主義，你的產出會很稀少。或者你會把心力花在惋惜自己過去太早發表某某作品，「早知道我就多花幾天，把它... ...」

這兩者都會影響正向循環的形成。
 

附錄：AI修改版本

對我⽽⾔，拼組樂⾼⼈偶的過程，與撰寫⼀篇哲學⽂章有著驚⼈的相似之處，它不僅是雙⼿的遊戲，更是⼀場腦⼒的思辨。

在這⽅⼨之間，我學會了創作的本質，也窺⾒了溝通的奧祕。

樂⾼創作的精髓之⼀，在於「零件的巧妙運⽤」。當我將⼀枚常被當作肩甲的零件，翻轉成⼀把造型獨特的⼗字⼸時，那份新奇感令⼈著迷。然⽽，這份創意要能成立，關鍵不僅在於我如何看待它，更在於觀者是否也能⼀眼就認出它是⼀把⼗字⼸。這讓我領悟到，創作的核⼼不僅是天⾺⾏空的想像，更是⼀種「說服的藝術」⸺你必須透過作品的呈現，引導他⼈理解並認同你的意圖。這與寫作何其相似？再深刻的思想，若無法以清晰的理路說服讀者，也只是孤芳⾃賞。

然⽽，這份說服的藝術，時常會被「知識的詛咒」所蒙蔽。⾝為創作者，作品最完整的樣貌早已存在我們⼼中，我們了解每⼀個零件的巧思、每⼀句論述背後的深意。正因如此，我們很難想像「不懂的⼈」是如何思考的，從⽽不⾃覺地省略了關鍵的說明，造成觀者或讀者的理解斷層。我看得懂⾃⼰拼出的⼗字⼸，正如我看得懂⾃⼰寫下的跳躍論證，但創作的成功與否，卻取決於他⼈的⽬光能否順利抵達。樂⾼教會我換位思考，時時從觀者的⾓度審視作品，填補那些因「⾃以為是」⽽產⽣的溝通間隙。

當作品逐漸成形，創作者還會⾯臨「耐⼼與完美主義」的永恆拉鋸。⼀件作品，究竟要打磨到何種程度才能發表？若過於急切，渴望亮點被看⾒，可能發表了許多不成熟的作品，錯失了讓它更好的潛⼒；若過於追求完美，總覺得能再多做⼀點，產出便會寥寥無幾，甚⾄陷入悔恨過去發表過早的泥淖。這兩種極端，都會阻礙創作與肯定之間的正向循環。我從樂⾼學到，必須在兩者間找到平衡，學會欣賞作品在某個階段的完整性，並勇敢地將它呈現出來。

樂⾼不僅是玩具，更是我思索創作與溝通的微型實驗室。從零件的說服⼒、對知識詛咒的警惕，到拿捏發表的時機，每⼀步都映照著寫作乃⾄⼈⽣的真諦。原來，我們拼湊起的不只是積⽊，更是對世界更深⼀層的理解與洞察。