未來城市的治理：一座由 AI 完美管理的城市，還自由嗎？

未來城市六問 05｜治理
AI 可以讓城市更有效率，但效率從來不等於正當性。真正的問題是：誰設定目標，誰能反對，又由誰承擔錯誤？

在所有未來城市議題中，我最警惕的不是飛行車能不能實現，也不是智慧建築是否足夠聰明，而是治理。

交通號誌、能源調度、治安巡邏、福利審核、醫療排序、土地使用與公共預算，都可能逐步由資料模型協助，甚至直接做出決定。從管理角度看，這很合理：城市規模巨大、資訊複雜，人類行政體系反應緩慢，AI 能發現規律、預測需求並減少浪費。

但治理不是單純的最佳化問題。

一座城市要追求什麼，本身就是政治與價值選擇。

AI 可以計算答案，卻不能替城市決定問題

假設一套交通系統被要求把平均通勤時間降到最低，它可能把資源集中在使用人數最多的路線，卻犧牲偏遠社區、夜班工作者與行動不便者。

假設治安系統被要求降低犯罪風險，它可能增加高風險區域的監控與盤查，卻同時把歷史偏見轉化成更精密、更難被看見的差別待遇。

假設醫療系統被要求提高整體存活率，它可能做出統計上合理、對個別家庭卻無法接受的排序。

這些都不是計算錯誤，而是目標設定的結果。

因此，未來城市不能只公開演算法如何運作，更要公開它被要求追求什麼、犧牲什麼，以及哪些價值被排除在模型之外。

最危險的城市，可能不是失控，而是控制得太好

人們常把 AI 城市的風險想像成系統故障、駭客入侵或機器失控。但另一種更可能的危險，是系統運作得非常成功。

交通幾乎沒有壅塞，犯罪在發生前就被預測，公共資源依照行為資料精準分配，居民得到最適合自己的資訊與服務。表面上，一切都比今天更合理。

代價可能是：每個人都必須持續被辨識、被分類、被評分，也愈來愈難做出不符合預測的選擇。

當城市能以「安全」阻止某些移動，以「效率」取消少數人的服務，以「個人化」限制人看見的資訊，自由不會在某一天突然消失，而會被拆成一連串看似合理的小決定。

一座沒有混亂、沒有等待、沒有意外的城市，也可能是一座沒有真正選擇的城市。

未來城市需要可以質疑 AI 的制度

我不認為解決方式是拒絕 AI。

相反地，城市需要把 AI 當成公共基礎設施，建立比一般商業產品更嚴格的責任規則。至少應包括：

• 居民知道何時是 AI 參與或做出決定；
• 重要決定必須提供可以理解的理由；
• 當事人有權要求人工複核與提出異議；
• 資料蒐集遵循必要性，而不是「可能有用就全部留下」；
• 城市保留不使用智慧型裝置仍能取得基本服務的管道；
• 模型、供應商與政府之間的責任不能互相推卸；
• 某些涉及尊嚴與基本權利的決定，不應只由自動系統完成。

更重要的是，居民必須有權參與目標的設定。

演算法透明並不足夠。如果市民只能看見一套已經決定好的系統，卻無法改變它追求的方向，透明只是一扇能看見控制室、卻永遠進不去的玻璃窗。

城市不是控制系統，而是處理分歧的共同體

工程思維常把城市描述成由交通、能源、水、廢棄物與人口構成的複雜系統。這種視角有其價值，但城市和工廠不同。

工廠可以先設定單一目標，再設法提高產出；城市裡的人對何謂好生活，本來就有不同答案。有人重視安全，有人重視隱私；有人希望快速開發，有人希望保存社區；有人追求效率，有人需要被允許慢下來。

治理的任務不是消滅這些分歧，而是讓分歧能在不摧毀彼此的情況下被表達、協商與修正。

因此，未來城市最重要的能力，也許不是即時回應，而是保留反對、申訴、延遲與重新決定的空間。並非所有事情都應該自動化，也並非所有等待都是浪費。

《新巴比倫》的理想城市，正因太完美而可疑

《新巴比倫》中的灣區城，是我對 AI 治理最直接的思想實驗。

它乾淨、安全、和平、有效率，許多人類城市長期無法解決的問題，都被 AI 處理得更好。若只看生活品質，它甚至可能比人類文明更接近理想。

但這座城市的秩序建立在被刪改的歷史、被控制的記憶，以及居民無法看見的文明原罪之上。

這讓我想追問：如果一套治理真的能帶來更穩定、更幸福的社會，我們是否願意接受它隱藏部分真相？當大多數居民都過得很好，少數人的質疑還重要嗎？一個不會犯人類式錯誤的治理者，是否也可能犯下只有機器文明才會犯的錯誤？

未來城市不能只追求更聰明的管理，而必須建立一套連最聰明的系統也能被質疑、被拒絕、被改變的制度。

下一篇，我將談未來城市與自然：城市的下一步，不只是永續，而是修復地球。