AI 會帶來世界末日嗎？其實答案不是你想的那樣
當我們擔心 AI 屠殺人類，可能忽略了更貼近現實的危機：財富集中、工作失衡、政治對立，以及人類主動交出的權力。M.K. 從核武類比追問災難的責任，主張唯有自省、修心，並把責任落實為制度，才有能力駕馭強大的 AI。
談到 AI 會不會終結人類，我們很容易想到一幅畫面：機器取得自主意識，開始屠殺，發射核武，製造生化災難，或者癱瘓電力、通訊與供水。人類還來不及反應，世界便走向末日。
這些風險不能排除，也值得認真研究。但我更擔心另一條路：AI 不必先決定毀滅人類，人類就可能在使用 AI 的過程中，把自己的社會推向失衡。
財富愈來愈集中，愈來愈多人失去穩定的工作與生活；經濟壓力變成政治憤怒，政治對立再變成國際衝突。到最後，即使按下武器按鈕的是 AI，那場災難的起點，會不會仍然是人的貪、懶、自私與愚昧？
我的判斷是：比起只盯著「AI 何時反叛」，我們更應優先處理這條由人類選擇推動的危機路徑。我認為它更可能先侵蝕文明；但這是我的風險判斷，並不是已有研究算出各種末日情境的可靠機率。
世界還在，人的世界卻可能先崩塌
「世界末日」可以指全人類滅絕，也可以指文明大規模崩潰。對一個失去收入、住所與社會支持的人而言，地球即使照常運轉，他熟悉的世界也可能已經瓦解。這幾種尺度不能混為一談，卻都值得關心。
假設 AI 讓企業用更少的人完成更多工作，這本來可以是好事。人可以少做重複勞動，社會可以提供更好的醫療、教育與公共服務。但如果效率收益大多流向少數資本與平台，轉型成本卻由勞工、家庭和地方社區承擔，生產力進步就未必等於共同生活進步。
這不是說 AI 必然造成大規模失業。國際勞工組織 2025 年的研究摘要估計，全球約四分之一的勞工處於某種程度受生成式 AI 影響的職業；它同時指出，由於仍需要人類投入，多數工作更可能改變，而非直接消失。職業暴露程度不是失業預測。
IMF 在 2024 年的分析則提醒，AI 帶來的生產力與資本收益，可能擴大所得和財富差距；社會安全網、再培訓與政策選擇，會影響成果如何分配。
這些研究支持我們關心工作轉型與分配，卻沒有證明「AI 一定導致經濟崩潰」。我的追問是：如果企業只計算減少多少薪資成本，政府只讚嘆產值增加，誰負責讓被擠出原有位置的人重新站穩？如果這個問題長期沒有答案，再高的效率也可能和更深的不安一起成長。
從經濟壓力到衝突，中間都是人的選擇
我擔心的路徑是：AI 加速某些工作的重組，收益分配跟不上，社會失去安全感；政治人物與利益團體再把焦慮轉成敵我對立，國家把競爭轉成對抗，最後讓武器替我們處理本來應由政治解決的問題。
這是一條可能的因果鏈，不是歷史必然。工作改變不必然導致貧困，貧困不必然導致戰爭；產業投資、公共服務、勞動協商與外交，都可能切斷其中的連結。經濟衰退與國際衝突也有許多其他原因，不能看見它們與 AI 同時出現，就宣布 AI 是元凶。
但若 AI 確實加速了失衡，後續傷亡該不該算在 AI 頭上？
我的答案是：可以把 AI 納入因果分析，卻不能用「都是 AI 造成的」結束責任追查。 我們應該追問誰決定部署、誰獲得利益、誰知道風險仍繼續擴張，以及誰有能力減少傷害卻選擇不做。
這裡說的「人類責任」，也不是讓受害者一起分攤罪名。失去工作的人，與掌握部署權、資源和政策的人，並沒有相同的決定能力。權力愈大、能預見和阻止傷害的能力愈強，就愈應接受檢驗。不能一句「人類本來就貪婪」，便把具體責任沖淡。
核武早已存在，為什麼我們只在 AI 面前追問末日？
在 AI 之前，人類早已創造出足以造成全球性災難的核武。若有一天大規模核戰重創文明，我們會只說「核彈做錯了」，還是追問誰製造、部署、升高對立，並下令使用？
核武當然是造成傷害的技術條件，但引導它走向使用的，是人類的權力結構、恐懼與決策。不能把武器從責任鏈裡拿掉，也不能把責任全部塞進武器裡。
而且，核戰的災難不只發生在爆炸的一瞬間。Rutgers 研究團隊在 2022 年介紹的核戰與糧食研究，分析煙塵引發的氣候變化與糧食衝擊。這是有假設條件的情境模型，提醒我們注意間接傷害；它不是「一顆核彈瞬間消滅全人類」的證據，也不是地球會被炸碎的預言。
AI 的類比在此成立：一項技術能造成多大的傷害，與我們把它放在什麼位置、交給它什麼權力密切相關。但類比也有界線。AI 可以生成計畫、選擇行動，並在接入工具後執行任務；它可能犯錯，也可能以人類未預期的方式運作。核彈和 AI 不是相同的系統，承認人類責任，不能取代 AI 本身的安全研究。
《International AI Safety Report 2026》指出，專家對失去控制情境的機率與嚴重程度仍有分歧。不能因為人類有責任，就推論自主失控不存在；也不能因為存在失控風險，就忘記人在部署與授權上的責任。
真正危險的，是把方便一路變成無限授權
讓 AI 整理行程、搜尋資料、草擬文件，和讓它自行支配資金、控制關鍵設施、決定生死，差別不只是「功能更強」。後者交出去的是權力。
我所說的「懶」，不是反對省力或自動化，而是連理解、核對、拒絕與承擔後果都想一起省掉。一個人可以善用 AI 減少瑣事，同時保留重要判斷；也可以因為「它以前都做得很好」，逐步取消限制，直到自己已經不懂系統在做什麼。
「貪」則使人只想取得更快的成長、更低的成本、更大的控制力，把他人的處境與長期風險留給未來處理。「自私」讓我們把收益視為自己的，把傷害視為社會的。「愚昧」讓我們把流暢當成正確，把能力當成智慧，把有權執行誤認為有資格決定。
這些弱點不是 AI 發明的。但 AI 可能讓它們作用得更快、更廣，而且更難被及時察覺。
在武器化上也是如此：即使沒有一個想毀滅世界的 AI，人類仍可能因為恐懼落後、渴望壓倒對手，而把更難理解的系統接入武力決策。紅十字國際委員會對自主武器的立場，就把失去人類控制與判斷視為重要問題，主張限制用途並確保有效監督、干預與停用。
如果最後真的是 AI 按下按鈕，我仍認為我們必須先追問：誰讓它能按？誰讓它有機會繞過限制？誰明知監督不足，仍把系統放進這個位置？不能只檢查最後一秒的動作，卻跳過之前多年累積的選擇。
自省與修心，要能改變我們實際做出的決定
我的結論是：人類必須先提升自身，才能駕馭如此強大的工具。
這不是要求每個人先成為聖人，才有資格使用 AI。我說的修心，是願意看見自己的欲望，承認自己的無知，練習克制，並把他人的生命與尊嚴放進決策裡。
對個人而言，可以從一次具體授權開始：我希望 AI 替我做什麼？哪些決定必須由我確認？如果結果傷害別人，我是否還願意承認這是我選擇使用的系統，而不是推給一句「AI 說的」？
對企業而言，要問的不只有效率，也包括轉型成本由誰承擔、員工是否有協商與學習機會、出錯時是否有人能介入，以及績效獎勵是否鼓勵把風險轉嫁出去。
對公共制度而言，自省必須留下可執行的安排：明確的責任人、受限的權限、真正能拒絕的審查、可追查的紀錄，以及受影響的人提出異議與申訴的管道。個人善意很重要，但安全不能建立在人人永遠善良的假設上。
未來一兩年，我會觀察三件事：AI 的效率收益是否改善一般人的生活；重要系統的人類覆核是否真的有時間、資訊與否決權；事故後的追查是否能找到決策與授權的責任人。如果這些方面持續改善，我對社會失衡的擔心也應隨證據調整。
我們可以同時投資技術安全、改善制度，也要求自己少一點貪念、少一點逃避、多一點清醒。這些努力不互相排斥。
我並不認為 AI 必然帶來末日。我相信它有可能讓人類文明走向下一個巔峰。但讓這個可能成真，需要我們在能力變強的同時，也讓判斷、節制與承擔變得更成熟。
今天就選一件你準備交給 AI 的重要事務，寫下它能做的範圍、必須停下來的時刻，以及最後負責的人。 修心不是停留在口號裡；它可以從我們如何使用權力開始。
常見問題
M.K. 認為 AI 不可能毀滅人類嗎？
不是。我不排除直接攻擊、濫用或自主失控的嚴重風險。我更重視社會失衡與過度授權的路徑，但沒有把這個判斷寫成已獲證實的機率排名。
AI 帶來財富不均，就一定會造成戰爭嗎？
不會。工作轉型、分配失衡、政治對立與戰爭之間，每一步都受到制度與人類決策影響。這是一條需要預防的可能路徑，不能當成必然結局。
若 AI 自己做出有害行動，為什麼仍要追究人的責任？
因為系統的設計、部署、授權與監督同樣影響後果。但不能因此宣稱每個動作都有人直接下令；仍要調查模型與系統如何失效，並依具體控制能力與證據辨認責任。
自省、修心能取代監管與技術安全嗎？
不能。自省應促使我們建立更好的制度和安全措施，而不是要求受害者相信掌權者的善意。個人的節制、組織的責任與可驗證的安全，需要一起前進。
資料與延伸閱讀
上述來源於 2026 年 10 月 14 日重新查閱。研究結果與作者的風險判斷已在正文分別說明。