科幻如何讓我們看見 AI 倫理裡被省略的代價？
虛構世界可以放大科技選擇的後果，卻不能代替實證。M.K. 討論如何用清楚假設、反例與不同視角，把科幻變成可被質疑的倫理思想實驗，而不是替既定立場編一個必勝故事。
談 AI 倫理時，我們很容易同意一些漂亮原則：保留自由、減少傷害、尊重選擇、承擔責任。真正困難的，常是這些原則在同一個情境裡互相衝突。
科幻能做的一件事，是把衝突放進一個可以被經歷的世界。人不再只讀到「效率可能犧牲自由」，而能看見誰得到安穩，誰失去選擇，以及一個看似合理的制度如何逐漸改變共同生活。
但我不認為故事寫得動人，就證明了未來會如此。虛構世界的價值，是讓假設與代價變得可見，也讓我們有機會提出反例；它不是取代現實證據的捷徑。
思想實驗，不只是把立場演成故事
Stanford 哲學百科對思想實驗的討論整理了它的不同用途，以及它能如何支持知識的爭論。思想實驗可以協助釐清概念與挑戰主張，但其認識價值並非只有一種沒有爭議的解釋。
對我而言，這提醒作者一件事：不能只把自己喜歡的立場安排給善良角色，把相反立場安排給壞人，再讓情節證明自己正確。那可以是有感染力的敘事，卻未必是好的倫理檢查。
更有力的問題，是當兩種選擇都能提出理由，我們仍願意承擔哪一種代價。故事可以提供人物與處境，讓讀者發現一個抽象答案落到生活裡，未必像想像中乾淨。
先把最重要的假設說清楚
試想一座由 AI 協助管理的城市，居民獲得穩定服務，但某些選擇需要透過系統批准。以下是本文的假設故事，不是《新巴比倫》的情節，也不是對現有城市的描述。
若故事預設系統永遠正確、所有人都願意接受，而退出又沒有任何成本，讀者可能很容易同意它。但只要其中一項改變，倫理問題就會不同：系統會犯錯嗎？有人不願接受嗎？不使用它的人能否取得基本服務？
我會先列出影響結論的假設，再問哪些可以改。這不是要求小說像規格書一樣列滿條款，而是要求作者知道，自己有沒有用一個方便的世界設定，偷偷替倫理問題作完決定。
假設可以超越現在的技術。只是越大的跨越，越應讓讀者分清楚：這是在特定前提下探問價值，還是在描述有證據支持的實際可能性。
改一個條件，看看結論還站不站得住
在上述城市裡，可以改變一個條件：如果管理者的能力較低，居民是否還會接受同樣權力？如果服務仍然很好，但少數人不能申訴，制度是否仍可被稱為公平？如果人能退出，但必須放棄基本生活條件，退出是否還算真正選擇？
這些問題不提供一套現成答案，而是在檢查我們究竟重視結果、程序還是人的自決，以及哪些條件不能被輕易拿走。
反例也應朝相反方向走。如果故事一開始批判集中控制，就要認真想像分散決策可能產生的問題：協調成本、權力不平等、無人承接公共責任。不能把自己偏好的制度寫成沒有代價，讓對手獨自承擔所有缺點。
一個值得反思的故事，應該讓作者也感到自己的答案需要被檢查。 這是我的創作與閱讀判準，不是文學作品是否合格的統一標準。
看見不同位置的人，才看得到完整代價
同一套制度，從受益者、維運者、被拒絕者或無法退出者的視角看，可能是不同的世界。這不表示真相可以任意相對化，而是每個位置可能看見不同的後果與資訊。
科幻可以把那些在統計表上被壓成一個欄位的人，重新放回時間、關係與選擇裡。某項政策可能提高整體效率，但一個角色失去的是照顧親人的方式；某個便利安排可能節省時間，但另一個角色從此沒有私下重新開始的空間。
這些虛構生命不是證明政策造成同樣現實效果的樣本。它們的用途，是讓我們知道回到現實後，還需要問什麼、找哪些資料，以及誰的經驗尚未被聽見。
《新巴比倫》可以作為提問入口，不能當作預測證據
我在已公開的未來城市治理文章中，曾以《新巴比倫》的灣區城提問：當治理提供更穩定的生活，真相、選擇與少數人的質疑應放在哪裡？這裡沿用那篇作者文章的提問；若要判斷作品情節，仍應回到小說原文。
它讓讀者看見一個文明問題的形狀，但並不證明今日 AI 系統已具備小說能力，也不證明某個治理未來必然發生。小說中的前提與現實中的技術限制，仍要分開。
六個 AI 閱讀《新巴比倫》的比較又提供另一個提醒：不同評論者可能從同一作品找出不同倫理矛盾。這些是模型書評的解讀，不是原著設定的獨立證明，更不是 AI 擁有感受的證據。
作者可以用評論發現盲點，但不必接受每個解讀；讀者也應有權回到原文提出不同理由。思想實驗有價值，正因它不需要一開始就宣布唯一正解。
把故事帶回現實，再把證據帶回故事
我會用四個問題檢查一個 AI 倫理思想實驗：最重要的假設是什麼？改掉哪個條件會使結論不同？另一方最有力的理由是什麼？回到現實，需要什麼證據才能知道這個風險是否成立？
這是本文提出的讀寫方法，不是新學術分類。它讓故事與現實互相照亮，也限制故事被濫用來製造確定性。
接下來，我會觀察自己的提問是否能引出更具體的實證問題，是否能在不同視角下保留反駁空間，以及新資料是否真的使我修改判斷。如果一個故事只讓我更確定自己原來就相信的事情，而沒有暴露任何代價，也許我需要重寫它的問題。
這也讓AI 末日的討論回到人類自身：我們是否只想用科技替欲望取得力量，還願意認真想像自己的選擇如何傷害別人？科幻不能替我們完成修心，但可以讓我們少一個逃避後果的藉口。
選一個你最相信的 AI 原則，替它寫一個最難回答的情境，再替相反立場補上最強的理由。 不急著讓主角勝利，先讓問題變得誠實。
常見問題
科幻能證明未來一定會如何發展嗎？
不能。故事可揭露假設與價值取捨，現實的能力、機率與政策效果仍需實證。敘事合理不等於預測成立。
所有小說都應該是嚴格的思想實驗嗎？
不必。小說也有情感、娛樂與美學目的。本文討論的是當我們用虛構作品支持倫理思考時，可以如何更清楚地檢查論證。
AI 書評能替作者確認小說設定或倫理結論嗎？
不能。它們可能提供有用的問題，也可能誤讀。原著設定以作品為準，倫理論證則需要理由與反例，不能只靠模型共識。
資料與延伸閱讀
來源於 2026 年 10 月 14 日重新查閱。假設城市與四個檢查問題為本文的思想實驗方法；《新巴比倫》相關討論以已公開作者文章為依據。