縱觀歷史，許多文化傳統都提到人類本性上就有些致命缺陷，會讓人想要追求自己根本不知道如何處理的力量。

人類的力量，總是得自於大批人類之間的合作。 因此，真正造成人類濫用力量的原因，並不在於個人的心理。畢竟人心除了有貪婪、傲慢與殘忍，其實也有著慈愛、同情、謙卑與喜悅。

雖然人類能夠建立大型合作網路，以此取得巨大的力量，但這些網路的建構方式就注定了這些力量的運用，常常並不聰明。

無知就是力量。

雖然就個人而言，通常會瞭解的是關於自己與世界的真理真相，但大型網路卻會使用各種虛構故事與幻想，來束縛群眾、創造秩序。

一般說到智慧，大概會認為就是能「做出正確的決定」，但所謂「正確」僅是一種價值判斷，不同的個人、文化或意識型態就會有不同的想法。

不論我們在哪裡生活，都可能被一張看不透的演算法大網束縛，控制著我們的生活，重塑著我們的政治與文化，甚至是去改造我們的身體與思想

一言以蔽之，民粹主義就是將資訊視為一種武器。

政治學家穆德（Cas Mudde）認為民粹主義就是一種「意識型態，認為社會說穿了，就是分成兩個內部同質而互相對立的群體：潔淨的人民與腐敗的菁英。」

只相信「自己的研究」可能乍聽之下很科學，但其實等於認為世上沒有客觀的真理真相。

有些民粹主義運動會說，自己還是堅持著現代科學的理想、恪守經驗主義對一切抱持懷疑的傳統。他們告訴大眾：沒錯，你永遠不該相信任何機構制度或權威，包括那些自稱是為了大眾平民的政黨與政治人物。你應該要「自己去研究」，只相信自己能直接觀察到的東西。

如果權力是唯一的現實、資訊也只是武器，那談到民粹主義自己，又該怎麼說？他們是不是也一心只想奪權，是不是也總在對我們說謊，來騙取權力？

民粹主義一直會遇上的矛盾之一，就是一開始的時候，總是在警告大家「所有菁英都是為了爭權奪利，十分危險」，但常常到頭來又要求人民，把所有權力都託付給某個充滿野心的人。

民粹主義的正確之處，在於對天真的資訊觀抱持懷疑；但民粹主義的錯誤之處，則在於認為只有權力是唯一的現實、資訊永遠就是一種武器。

資訊既不能說是肯定帶來真理真相，但它也不只是一種武器。

有些衝突的成因，我們一般會認為是出自於意識型態或政治立場的不同，但事實上，往往是出自於資訊網路有所出入。

分散式資訊網路和集中式資訊網路。民主制度會讓資訊有許多獨立管道自由流動，而極權制度則是一心將所有資訊集中在一個核心樞紐，兩者各有優劣。

歷史能告訴我們有什麼是不變的、什麼是改變的，以及事物又是如何改變。

現實始終只有一個，但現實就是十分複雜。 做不到百分之百準確

每次想要呈現現實，都總會有一些面向遭到忽略或扭曲。所以，所謂的真理真相，其實並不代表能夠一比一的呈現出現實。所謂的真理真相，是一方面能夠讓我們專注在現實的某些面向，但另一方面也無可避免的會讓我們忽略某些其他面向。

資訊在歷史上所發揮的作用，本來就不是要去呈現既有的現實，反而是要去連結各種不同的人事物（可能是夫妻、也可能是帝國），以創造出全新的現實。

真正定義資訊的是「連結」，而不是「呈現」或「再現」：只要能將各個不同的點，連結成網路，就是資訊。

音樂就是一個典型範例

音樂雖然並不是要呈現某項現實，卻很能夠讓許多人連結起來，有同樣的感受、做出同樣的動作。

真正會讓這些網路無法生存的，並不是對事實有了錯誤的呈現，而是網路內部瓦解、失去了連結。

所謂資訊這種東西，就是能夠將不同節點都連結到網路，創造出新的現實。

把資訊的重點放在「連結」，才能有足夠的空間，得以處理那些重點並不是要呈現現實的資訊類型。

要談資訊在歷史上的作用時，雖然有時候也值得去問問「這項資訊反映現實的程度有多高？這是真的還是假的？」，但通常更關鍵的問題是「這項資訊連結人群的效果有多高？這項資訊創造出了什麼新的網路？」

「品牌」其實就是一種特定類型的故事。

大眾以為自己和這個人之間有著連結，但事實上連結的只是關於那個人的故事，而故事與真人之間，常常就有著巨大的鴻溝。

雖然品牌營造活動有時候就是在刻意操弄情感、運用不實資訊，但許多史上重大故事經常都是出於情感投射、一心嚮往的結果。

在人類開始說故事之前，現實只有兩種層次：客觀現實與主觀現實。

法律、神祇、貨幣等事物之所以能被創造出來，而形成現實，卻正是因為有很多人彼此說著關於法律、神祇、貨幣的故事，要是大家不再談這些故事，這些現實也會就此消失。主體間的現實，就存在於資訊的交換之中。

部落網路就像一份保單，能夠把風險分散到遠多於原本的人身上，而使每個人的風險降低。

史上的大規模身分認同與利益一向都是主體間的現實，而非客觀現實。

有時候只要我們好好談談，改變彼此所相信的故事，或是找出大家都能接受的新故事，就能避免衝突，實現和平。

歷史的塑造，常常並不是因為權力關係造成的必然結果，而就是出於一些不幸的錯誤，相信了某些讓人嚮往、但其實有害的故事。

在歷史上，權力其實只有部分是來自於對真理真相的瞭解，而另外還有一部分，是來自於能夠維持一大批人的社會秩序。

雖然真理與秩序都能帶來權力，但大多數時候，掌握大權的會是那些知道如何創造意識型態來維持秩序的人；至於那些只懂得怎麼做炸彈或獵猛獁象的人，則只能乖乖聽令。

真正能將人類網路維繫在一起的，往往是虛構的故事，講的也特別是關於神祇、金錢、國家這些存在於主體間的現實。

虛構的故事要多簡單、就可以多簡單，但是真理真相卻往往很複雜，因為它要呈現出現實，而現實從來就不單純。

真相常常令人痛苦不安，如果我們想讓真相別那麼令人痛苦、變得比較討人喜歡，真相也就不再是真相了。相較之下，虛構故事的可塑性極高，而每個國家總有些黑歷史是國民不想承認、不想記住的。

如果是要追求科學進步，就必須毫不妥協、堅持真理真相，而且這也是一種讓人欽佩的精神靈性追求；但講到政治，堅持真理真相絕非致勝之道。

如果你沒有假裝，而是大方承認自己就是在創造一個新的主體間現實，而不是在呈現某個既有的客觀現實，那麼去講一個虛構的故事就不是說謊。

如果想追求生存與繁榮，每個人類資訊網路都需要同時做到兩件事：除了要發現真理真相，還得創造秩序。

要是某個人類網路把秩序看得比真理真相更重要，就可能雖然握有無比強大的力量，卻用在無比愚蠢的用途。

許多社會都要求自己的人民別瞭解自己的真正起源：無知就是力量。

海文（Kendall Haven）2007年的著作《故事的妙用：故事驚人力量背後的科學》所言：「人類的心智……需要靠故事與故事架構，做為主要藍圖，用來瞭解、解讀、記憶與規劃我們的生活……生活就像故事一樣，是因為我們會以故事的方式來思考。」

人腦能夠記得住民族詩歌與神話，但複雜的國家稅收與行政系統要想運作，就必須靠一種獨特、非生物的資訊技術：書面文件。

文件並不是要呈現什麼客觀的經驗現實；這些文件就是現實本身。

書面文件雖然比人腦更容易記得某些類型的資訊，卻又創造出一種全新而極度棘手的問題：資訊檢索。

一旦人類把記憶從生物性的大腦外包給非生物的文件，檢索運作就再也沒辦法依靠這套簡單高效的生物機制。

採集者在森林裡，只需要找出既有的森林秩序，但檔案管理員則是需要為這個世界設計一套新秩序，這種新秩序就稱為官僚制度。

但就像神話故事一樣，官僚制度也常常寧可為了秩序而犧牲真理真相。

原則都一樣：分而治之

官僚制度的重點並不是去瞭解世界真實的樣貌，而是忙著給世界強加一套全新的、人為的秩序。

官僚制度的英文 bureaucracy，詞源講的就是「從書桌來統治」。這個詞最早創於十八世紀法國，當時官員通常就是坐在一張有抽屜的書桌旁邊，這種書桌就稱為 bureau。

這套秩序解決檢索問題的辦法，也正是把整個世界分成許多抽屜，再判斷該把哪些文件放進哪個抽屜。

大學是怎麼分成不同的科系？歷史、生物與數學各成一系，這是為什麼？這種分科當然不是反映客觀現實，而是學術官僚制度的發明，成為一種存在於主體間的現實。

雖然官僚制度有時候會犧牲真理真相、扭曲我們對世界的理解，但往往是為了維持秩序；要是沒了秩序，任何大規模的人際網路都將難以維繫。

所有大型社會都有神話故事與官僚制度，做為兩大支柱。只不過神話故事常常是讓人歡喜讚嘆，官僚制度常常是讓人搖頭懷疑。

我們之所以會對這些故事深感著迷，是因為對我們的祖先來說，懂不懂這套道理，就是生與死的差異。

演化既讓動物有好奇心，但也會讓動物在接觸到有毒或其他危險物質時，感到厭惡。[38] 政治人物與宗教先知，都學會了怎樣操弄這種令人感到厭惡的機制。

官僚制度的現實狀況一來難以描繪，二來難以理解，就帶來了不幸的結果。

人覺得官僚制度似乎就是一種邪惡的陰謀，即使官僚制度其實也有良性的力量，能為我們提供健康照護、安全與正義。

你永遠不知道，是不是哪天，就有某一份文件成了救命的關鍵。

所有威力強大的資訊網路，都是同時可好可壞，端看設計與使用的方式。

資訊網路的功能並不是盡量放大真理真相，而是要在真理真相與秩序之間達到平衡。

神學家聖奧古斯丁有句名言：「人都會犯錯；但死不改錯則是惡魔。」

如果人就是會犯錯，自我修正機制不就也會犯錯嗎？為了避免像這樣無限循環下去，人類常常幻想能有某種超人類、絕不會犯錯的機制，能用來找出並糾正人類的錯誤。

以前的時代，這類幻想會有另一種樣貌：宗教。

就歷史而言，宗教最重要的功能是為社會秩序提供超人類的合法性。無論猶太教、基督宗教、伊斯蘭教或印度教，這些宗教都說自己的想法與規則是來自一些絕對正確的超人類權威，不可能有任何錯誤，所以我們這些會犯錯的凡人，就不得提出質疑或想要有所改變。

《聖經》與《古蘭經》這樣的宗教經典，其實就是一種技術，希望用來繞過「凡人會犯錯」這件事。

解決這個問題的方法之一，就是創造出宗教機構，審查這些所謂傳達神諭的人。

宗教總想讓自己減少一些凡人色彩，要信眾相信一些絕對正確的超人類法則，但到頭來，宗教還是得不斷要求信眾去相信這個凡人或那個凡人。

要是人類先知能夠偽稱神諭，那麼關於宗教的關鍵問題，就不是只要創立了寺廟神殿或祭司職務之類的宗教制度就能解決，因為民眾想要接觸到理論上絕對正確的神，還是得透過一些容易犯錯的凡人。

口述故事的時候，每次講的都可能稍有差異，如果許多人說了又說，經過一段長時間之後，肯定大有變樣。相對的，書的每一本副本應該都是完全相同。

是誰能決定那本宗教經典裡要放進哪些內容？那第一個定本可不是天上掉下來的，仍需要經過凡人蒐集編纂。

我們還是能提出許多質疑：該由誰來選出那些最聰明的人？用的是什麼標準？要是這些人沒有共識呢？如果他們後來改變心意了呢？

把這本宗教經典的副本廣為流傳，就能將這個宗教交到眾人手上，並且嚴格限制可能出現的人類專制者所能握有的權力。

，同一本書有許多副本，就能避免有人想對文本動手腳。要是有幾千份同樣的副本，分別存放於許多地方，哪怕只是想改動這部神聖法典的一個字，都很有可能被逮到，認為是故意欺瞞。

兩千多年前，猶太人已經預想到區塊鏈的概念

，靠著書籍這種資訊技術，就讓社會秩序得到了保障。或者表面上看來是如此。

教經典必然帶出了諸多不同的解讀詮釋，造成的影響甚至大於宗教經典本身。

當初採用書籍這項新的資訊技術，是以為這樣就能夠不受到凡人機制的影響，但現在卻又需要由凡人機制來解讀宗教經典的內容，於是迎來了反效果。

人類夢想著能靠「宗教經典」這種資訊技術，來避開會犯錯的凡人機制，但這永遠是無法實現的夢想。

教會決定了經文，經文就會反過來形塑教會。

因為一群主教和神學家把〈提摩太前書〉列入推薦清單，摒棄了〈保羅與帖克拉行傳〉，也就塑造了基督徒對女性的態度，直至今日。

有些早期基督教領袖認為，女性的智力與道德不及男性，也認為女性在社會上與基督教社群中，應該只能扮演從屬的角色。這些觀點就反映在〈提摩太前書〉這樣的經文當中。

〈保羅與帖克拉行傳〉的成書時間與〈提摩太前書〉相仿，曾經風行一時，[56]談的是聖保羅與女門徒帖克拉的冒險經歷，裡面就提到帖克拉不但創造無數奇蹟，還親手為自己施洗，也常常佈道傳教。有長達數個世紀，帖克拉一直是極受尊崇的基督教聖人，並證明女性也可以施洗、傳教、擔任基督宗教社群的領導者。

雖然眾人將宗教經典視為絕對的權威來源，但在編纂的過程中，真正的權力其實是落在編纂的機構手中。

想把所有權力都交給一項絕對正確的超人類技術，反而造就了一個全新而極其強大的人類機構制度──教會。

猶太宗教經典需要有人解經，就讓拉比院有了權力；基督宗教經典同樣需要有人解經，也就讓教會有了權力。

到頭來就是由機構決定哪種才是正確的解讀。

教會想把整個社會都關進回聲室裡，只允許支持教會的書籍傳播；而因為幾乎所有書籍都支持教會，人民也就當然會相信教會。就算是不識字、不讀書的一般人，也會因為看到大家在誦讀或闡述這些寶貴的經文，而感到心生敬畏。

歐洲在十五世紀出現凸版印刷之前，除非是最富有的個人或機構，否則要大量製作同一本書籍，實在難如登天。天主教會運用權力與財富，一方面傳播自己偏好的經文版本，另一方面還禁止製作傳播那些它認為是訛誤的版本。

想靠著把權威投射在一項絕對正確的文本上，藉此避開凡人可能的錯誤，這件事從未成功。

在資訊網路史上，通常認為近世歐洲的印刷革命就是一個勝利時刻，成功掙脫了天主教會對歐洲資訊網路的束縛。

天真的資訊觀認為，只要消除一切限制，讓資訊自由流動，所有錯誤終將無所遁形，而由真理真相取而代之。

一般認為，正是因為印刷革命讓民眾比過去更自由的交流資訊，才終於引發了科學革命。

印刷術不能說是科學革命最根本的原因。印刷機唯一能做的，就是老老實實把文本複製出來，印刷機可無法提出自己的任何新想法。

事實上，印刷術能夠迅速傳播的，除了有科學事實，也有宗教幻想、假新聞、以及各種陰謀論。最惡名昭彰的例子，或許就是當時全球都相信有一批信奉撒旦的女巫，結果引發一波獵巫狂潮，席捲近世歐洲。

在中世紀大部分時間，大多數歐洲社會就是屬於最後這一種，根本不太在意女巫。中世紀天主教會並沒有把女巫看成對人類的重大威脅，有些教會人士甚至還積極勸阻民眾不要獵巫。

所以，歐洲的獵巫熱潮其實不能說是中世紀的現象，而是一種近世現象。

獵巫的行動，顯示一旦創造了一個資訊圈，可能會帶出怎樣的陰暗面。

在近世歐洲，沒有人曾經與撒旦有性行為，也沒有人能騎著掃帚飛行、或是製造出一場冰雹。然而，女巫就這樣成了一種存在於主體間的現實。就像金錢一樣，是因為眾人不斷交換著關於女巫的資訊，才讓女巫變得真實。

這一切的資訊產生了大量的秩序與權力，有些人正是以此獲得權威，而整體社會也會以此來約束成員。但這種手段既不會產生任何真理真相，也無法產生任何的智慧。

隨著獵巫官僚制度不斷產出愈來愈多資訊，社會也愈來愈難斷言這一切資訊都單純只是幻想、不值一提。

畢竟，如果大家都這麼說，肯定就是真的吧。

光是消除資訊流動的障礙，不一定就能發現真相、傳播真理，反而容易導致傳播謊言與幻想，創造出有毒的資訊圈。

在一篇論文提交給《自然科學會報》的時候，編輯主要問的問題不是「會有多少人願意付費閱讀這篇論文？」而是「有什麼證據證明這是真的？」

科學機構之所以能取得權威，是因為他們有強大的自我修正機制，能夠揭露並修正本身的錯誤。科學革命真正的引擎正是這些自我修正機制，而不是印刷技術。

人類是因為發現了自己的無知，才推動了科學革命。

科學革命從一開始就不相信有絕無錯誤這種事，打造出的資訊網路也認為錯誤本就無可避免。

學機構與宗教機構的不同之處，在於科學鼓勵懷疑與創新，而不是鼓勵因循與順從。

科學鼓勵的是懷疑自己；至於陰謀論者，常常是對眾人既有的共識大表懷疑，但只要講到他們自己的信念，忽然反而毫無懷疑，而落入了確認偏誤的陷阱。

要是機構制度沒有自我修正機制，同樣也會面臨死亡。自我修正機制的第一步，就是認識到人會犯錯、會墮落。在這種情況下，機構制度該做的不是對人類絕望、想拿掉人類的成分，而是該積極找出那些錯誤，加以修正。

天主教會這個機構，自我修正機制就相對較弱。由於它宣稱自己絕對正確，也就無法承認自己在整體機構制度上的錯誤。雖然天主教會偶爾也願意承認有些成員犯錯或有罪，但嘴上還是會說這個機構本身完美無缺。

犯錯的是「許多教會成員」，而不是教會或教義，彷彿官方教會教義從來不曾要求摧毀原住民文化、強迫人民改變信仰。

為了要維護宗教權威，天主教會別無選擇，只能否認這個制度會有自我修正這回事。因為教會早已落入了「必須絕對正確」的陷阱。

出現重大錯誤與罪行的時候，科學機制願意承認這確實是機制本身出了問題。

大學生在二十一世紀初讀到的生物學、人類學與歷史學，與一個世紀前大學生學到的內容，可說是天差地別。

只要現有證據證明合理，往往只要幾個世代，就能夠將原本的主流理論替換成新的理論。

科學機構的聘任與晉升，遵守的原則是「不發表，就淘汰」（publish or perish）；想要登上優秀的學術期刊，你就是得揭露現有理論的某種錯誤，或是發現一些前輩與老師不知道的內容。

沒有人會因為忠實重複過去學者的話、反對所有新的科學理論，就能拿到諾貝爾獎。

雖然自我修正機制有利於追求真理真相，卻會讓維持秩序的成本大大升高。

自我修正機制太過強大，往往就會產生懷疑、異議、衝突與裂痕，並且破壞那些維持社會秩序的神話與故事。

資訊網路的歷史，一直就是在看如何維持真理真相與秩序之間的平衡。想要為了秩序而犧牲真理真相，需要付出代價；但想要為了真理真相而犧牲秩序，代價也同樣不低。

獨裁資訊網路的特點在於高度集中。

中央政府是想要把所有資訊都集中在自己手裡，想要由自己來做所有決定，澈底控制人民生活的一切。這種由希特勒和史達林等人實行的極端獨裁統治，就稱為極權主義。然而，獨裁不一定等於極權：常常是出於技術上的困難，而使獨裁無法走上極權之路。

獨裁不一定等於極權：常常是出於技術上的困難，而使獨裁無法走上極權之路。 像是在羅馬帝國時代，偏遠鄉村有幾百萬農民，而尼祿手上缺少必要的工具，也就實在無法對這些農民的生活，進行無所不管的微觀管理（micromanage）。所以在許多獨裁政權中，個人、企業與社群依然能保有相當的自主權。

第一，中心掌握著無限的權力，所以資訊往往是從地方流向中央樞紐，最重要的決策也都是在中央進行。

第二個特徵，在於會認定中央是絕對正確的，所以並不歡迎對中央的決策有任何挑戰。

理論上，就算是高度集中的資訊網路，仍可能擁有強大的自我修正機制，就像是獨立的法院、民選的立法機構。

獨裁者總覺得這些獨立權力樞紐是一種威脅，會想用各種方式來削弱。

獨裁政體是一種集中式的資訊網路，而且缺乏強大的自我修正機制。

民主政體則是一個分散式的資訊網路，並且擁有強大的自我修正機制。

有一種常見的誤解，就是以為民主政體的一切決定，都要訴諸多數決。事實上，民主政體的做法是盡可能讓每個人自己做決定；唯有很少數必須集中來做的決定，才需要經過投票，反映多數人的意願。

大多數資訊並不會經過任何政府機構，許多重要決策也都是在其他地方決定。

在所有民主政體，中央政府都需要收稅、養軍隊，多數現代民主政體也至少會提供一定程度的健康照護、教育與福利。

只要政府對人民的生活有任何干預，都需要提出解釋。如果沒有叫人信服的理由，民主政府就應該讓人民自行決定。

民主政體的另一項重要特徵，在於相信人人都可能犯錯，因此雖然會賦予中央一些重大決策權，但同時也會保留一些能夠挑戰中央權威的強大機制。

定期舉行選舉、保護新聞自由，以及讓政府的行政、立法與司法三權分立等等。

所謂獨裁，就是由單一中央資訊樞紐決定一切；所謂民主，則是有不同的資訊節點持續對話。

所謂民主制度，並不是只要占了多數，就能去消滅那些不受歡迎的少數族群，民主制度其實是指一種對於中央權力有明確限制的制度。

把民主定義為「擁有強大自我修正機制的分散式資訊網路」，就會與「民主等於選舉」這種常見的誤解，形成鮮明對比。

就算選舉完全自由公平，光是這樣也還不足以保證就是民主。因為民主也絕對不是「多數獨裁」（majority dictatorship）。

強人破壞民主最常用的方法之一，就是攻擊民主的自我修正機制，常常是從法院與媒體下手：剝奪法院的權力、或是全部安插自己的人，試著關掉所有獨立媒體，並且建立自己無所不在的宣傳機器。

能夠留下來的其他媒體、學術機構與司法當局，則會盛讚這些措施實為必要之舉，只有這樣才能保護國家及其所謂的民主制度，不受叛徒或外國間諜侵害。

強人通常不會真的走到最後一步、把選舉澈底廢除，而是會留下來做為一種儀式，為政權提供合法性，也保留民主的表象。

民主並不代表多數就能為所欲為，而是代表所有人應該自由平等。民主這個制度，是要保障所有人都能擁有一定的自由，就算其他人占了多數也無法剝奪。

民主政體，仍然有兩類的權利受到保護，並不是多數說了算。

一就是人權

人權這一類的權利，還包括工作權、隱私權、遷徙自由與宗教自由等等。

第二類重要的權利，則是公民權。公民權是民主遊戲的基本規則，保障著民主的自我修正機制。一個明顯的例子就是投票權。

還包括了新聞自由、學術自由與集會自由等等，這些權利保障了獨立媒體、大學與各種反對運動，讓他們能夠挑戰政府。

人權與公民權還有另一項值得一提的重點：這些權利除了會限制中央政府的權力，還會對中央政府有一些積極的要求。民主政府該做的，除了自己不去侵犯人權與公民權，更需要主動保障這兩類權利。

選舉所確定的，只是多數人想要什麼，而不是真相是什麼。

在民主國家，只要占了多數，就完全有權做出發動戰爭等重大決定，但當然也就包含犯下重大錯誤的權利。

我們總會有各種不同選項，而其間的挑選其實是個意願問題，而非事實問題。

「簡單」是屬於獨裁資訊網路的特徵，因為這種網路就是由中央決定一切，其他人只需默默服從。像這樣的獨裁獨白，很輕鬆就能聽懂；相較之下，民主則是一場多方對話，許多人都會同時發聲，要聽懂跟上這樣的對話，本來就沒那麼簡單。

任何團體（甚至是代表多數的團體）都無權將其他團體排除於「人民」的概念之外。

民主雖然認同人民是權力的唯一合法來源，但在民主制度看來，人民從來就不是一個統一的實體，也就不會有什麼單一意志。

只要有任何獨立的機構制度可能反對他們，民粹主義就會試著去削弱或挪用這些機制的權威。

很多人之所以擁抱民粹主義，是因為覺得它誠實描述了人類的現實；但強人之所以擁抱民粹主義，為的卻是不同的原因。對強人而言，民粹主義能夠提供一個意識型態的基礎，讓他們既成為獨裁者、還能假裝民主。

說自己代表人民的強人，很可能確實是透過民主手段上臺，也常常是打著民主的幌子，在進行統治。

要評估某個資訊網路有多民主的時候，不能只看「有沒有定期選舉」，因為不論是普丁統治下的俄羅斯、或是伊朗、甚至北韓，都仍然有選舉活動行禮如儀。

能夠參與對話的人數比例愈高，這個網路也就愈民主。

如果要說民主的死亡，一種情況是人民沒有了言論自由，那麼另一種情況就是人民已經失去了傾聽彼此的意願或能力。

石器時代的遊群顯然不會有選舉、法院與媒體這些正式的機構制度，但他們的資訊網路常常屬於分散式，而且會有充分的自我修正機會。在只有幾十人的遊群裡，很容易就能把資訊分享給所有成員。

雖然遊群與部落偶爾也有主要的領袖人物，但通常權力非常有限。這些領導者手中並沒有常備軍、警力或政府官僚機構，無法用武力把自己的意志強加於人，[16]也很難控制那些人民生活的經濟基礎。

農業革命後的幾千年間，特別是在文字協助催生大型官僚政體之後，要讓資訊集中到中央變得容易，但要維持民主對話則變得困難了。

隨著政體規模不斷擴大，城邦變成更大的王國與帝國，就連雅典那樣的部分民主也隨風而逝。

到了大型的王國或帝國，還真沒聽過哪個是以民主方式來運作。

在雅典帝國，資訊就是以雅典為中心，向內外流動。

套一句法國浪漫主義作家斯塔爾夫人的話，西元三世紀的羅馬就像十八世紀的俄羅斯，都是「靠著絞殺在約束的專制」。

如果只是要辦一場大選，讓羅馬帝國上千萬位公民投票給這位或那位皇帝候選人，理論上並非不可能。但真正該問的問題是：這上千萬位公民有沒有辦法真的進行全帝國規模的持續政治對話？

的自由與傾聽的能力就夠了，還必須有兩個技術上的前提。第一，各方要處於彼此的聽力範圍。

要進行對話，並不是只要有說話的自由與傾聽的能力就夠了，還必須有兩個技術上的前提。

第一，各方要處於彼此的聽力範圍。

第二，人民至少需要對自己正在談論的內容有基本瞭解，否則就只是在製造噪音，而不是在進行有意義的對話。

要是覺得必須有親身的體驗，才能理解那些關鍵的政治議題，就不可能展開大規模的政治對話了。

如果知識只能來自切身的經驗，那麼就算聽了別人從體驗得到的見解，也無法讓它變成自己的意見。

古代無法實施大規模民主

有了大眾媒體這樣的資訊技術，就能讓相距甚遠的數百萬民眾迅速連結在一起。

在二十世紀之前，所有的大規模民主政體都還只有一小群相對富裕的人，能夠享有某些政治權利。民主從來不是一個全有或全無的問題，而是一道連續的光譜；十六世紀末的波立聯邦就是探索了這道光譜上過去無人踏足的區域。

波立聯邦缺少了必要的資通訊系統與教育體系，也就無法讓各地的波蘭貴族、立陶宛顯貴、烏克蘭哥薩克（Cossack）與猶太拉比，進行有意義的政治對話。

一旦政體龐大多元，再加上中央軟弱無力，就會帶來致命結局。

由於波立聯邦缺少了必要的資通訊系統與教育體系，也就無法讓各地的波蘭貴族、立陶宛顯貴、烏克蘭哥薩克（Cossack）與猶太拉比，進行有意義的政治對話。而且，自我修正機制的成本也太過昂貴，常使得中央政府的權力陷入癱瘓。

大眾媒體讓大規模民主成真

報紙是一種週期性的刊物，與僅印行一次的其他刊物的不同之處，在於擁有更為健全的自我修正機制。

報紙讓大眾變得更瞭解時勢、參與社會發展，這也改變了政治的本質──最先是從荷蘭開始，接著擴散到世界各地。

報紙擁有了關鍵的政治影響力，於是報紙主編和主筆往往就成了政治領袖。

比起如今的大眾媒體，當時的報紙仍然是速度緩慢、效果有限。

也就難怪，當時的美國民主只能算是一種有限的民主制度，只屬於富有的白人男性。

訂閱一年的報紙，平均就需要花上一般技術勞工一週的工資。所以在1830年，美國所有報紙的訂戶總數據估計，大概只有七萬八千人。

：相較於當時大多數其他政體，美國這個新國家擁有更強大的自我修正機制。

相較於當時大多數其他政體，美國這個新國家擁有更強大的自我修正機制。

在美國，就算國家一路從大西洋沿岸延伸到了太平洋沿岸，靠著現代資訊科技與新聞自由的結合，就讓自我修正機制得以持續運作。

正是這些自我修正機制，讓美國得以逐漸擴大選舉權、廢除奴隸制，成為一個更具包容性的民主國家。

不要因為受到技術決定論的影響，就覺得是大眾媒體的興起，導致了大規模民主的興起。大眾媒體只是讓大規模民主成為一種可能，而不是成為一種必然。大眾媒體同樣可能造就其他類型的政權，特別是現代的新型資訊科技，就為大規模極權打開了大門。

極權主義總覺得自己絕對正確、無懈可擊，也希望能夠澈底掌握所有人民的所有生活。在電報、無線電和其他現代資訊科技發明之前，並不可能真的出現大規模的極權政權。

在專制資訊網路中，統治者的意志雖然不受法律限制，但還是會受到許多技術限制。而在極權資訊網路中，許多技術限制都不存在了。

極權政權不同於專制政權

像尼祿這樣的專制統治者，雖然能把言行令他們不滿的人統統處決，但卻無法真正掌握帝國裡大多數人的一言一行。

史達林時期的蘇聯，帶出的恐怖則來到完全不同的規模。極權主義是想要控制全國每個人每分每秒的言行舉止，甚至是思想與感受。

「被屬下叛亂殺死」成了最大的職業風險，不僅對羅馬皇帝如此，對所有前現代（premodern）的專制者也是如此。

那些皇帝、哈里發、國王、波斯的沙阿（shah）發現，要控制住屬下，可不是簡單的事。於是，統治者常常會把注意力都集中在控制軍隊與稅務。

大秦帝國可能是現代之前，人類史上最具野心的極權實驗，但也正因其規模與強度，最後造就了它的滅亡。

戰國時期，諸子百家爭鳴，相對自由發展出各種哲學與意識型態，但秦國以法家做為正式的國家意識型態。法家認為人性本就貪婪、殘忍、自私，因此需要嚴格控管，而獎懲是最有效的控制手段，另外也堅持國家權力不應有任何道德考量的制約。

主要因為受到當時資訊技術的限制，像羅馬帝國與漢帝國這樣的前現代大型政體，多半會傾向非極權的專制政體。

布爾什維克相信自己肩負著宛若救世主的使命，因此十分渴望能夠擁有無窮的權力。

由於相信自己絕對正確，也就讓布爾什維克扼殺了俄羅斯剛萌芽的民主制度（像是選舉、獨立法院、新聞自由、反對黨），建立了一黨極權。

真正帶出布爾什維克極權主義的，是認為布爾什維克黨永遠正確的這種信念，而不是史達林個人的個性。

第一是政府機構，包括國家部會、地區行政機構，以及正規紅軍部隊

第二個分支是蘇聯共產黨和無所不在的黨支部

第三個分支是祕密警察

達林主義網路有三個主要分支。

就像是民主政體靠的是相互重疊與制約的自我修正機制，現代極權政體一樣創造出相互重疊的監督機制，讓彼此管控秩序。

雖然蘇聯也曾發生宮廷政變，卻從未有省長或紅軍指揮官反抗中央。[75]祕密警察在這點居功厥偉，他們密切監視著大眾、省級行政人員，甚至是黨與紅軍。

歷史上的大多數政體，軍隊都掌握著巨大的政治權力，但在二十世紀的極權政權，正規軍的影響力卻多半拱手讓給了祕密警察。

極權政權的基礎，就是控制一切資訊流動，並對所有獨立資訊管道都抱持懷疑。

在軍官、政府官員或公民交換資訊的時候，雙方就可能建立起信賴關係，而有了信賴關係，就可能組織起來反抗政權！所以極權政權有一項關鍵原則：不管人民要在哪裡見面、交換資訊，政權必須也在那裡好好監視一番。

納粹通過了《協調法》，規定在1933年4月30日之前，德國所有政治組織、社會組織與文化組織（從市政當局、到足球俱樂部與地方合唱團）都必須依據納粹的意識型態來運作，成為納粹國家機關的一份子。

所有關於可疑人物與活動的資訊，都輸入一套全國的交叉參照卡片目錄系統。這些稱為「警察卡片目錄」（kartoteki），包括工作紀錄、警察檔案、居留卡，以及其他各種在社會上的登記註冊資訊；到了1930年代，這已經成為監控蘇聯民眾的主要機制。

納粹還能允許教會組織與民間企業有部分行動自由，但蘇聯則是毫不通融。

在蘇聯於1928年提出第一個五年發展計畫時，最重要的一項任務就是農業集體化。當時的概念是讓農村裡的所有家庭都加入一個集體農場（kolkhoz），交出所有財產（土地、房子、馬、牛、鏟子、草叉），一起為集體農場工作，而集體農場的回報就是滿足他們的所有需求，從住房、教育、食物、到健康照護等等。

農民並不信任在莫斯科做規劃的那些官僚，也不信任新的集體農場制度。

短短七年，原本已經存在數個世紀的生活方式，就被少數莫斯科官僚的極權創意所取代。

國家的反應是燃起熊熊怒火。

等到1937年4月，97%的農戶都被綁進二十三萬五千個蘇聯集體農場之中。

面對農業集體化的努力碰上阻力、並導致經濟災難

蘇聯同樣發明出一套全球陰謀論，創造了一種完全不存在的敵人。

在史達林主義者的想像中，是富農被全球資本主義控制，破壞了蘇聯經濟。

要是有人膽敢站出來，反對這個瘋狂的制度，馬上就會被指責是富農、是反革命份子，自己也會遭到清算。

這是人類史上速度最快、規模最大的一場奴役行動。[97]只要被打上富農的烙印，就再也無法擺脫。

在那個時代，就算你是在自己家裡講給自己最親密的家人聽，光是講這個笑話，你就很容易因此丟了自由、或丟了小命。

當時在蘇聯，沒有什麼比公開對話更危險的了。

，現代極權制度會安排許多相互重疊的監視機制，讓它們彼此制衡、維持秩序。而且極權政黨從不孤單：既能與國家機關合作，也能與祕密警察合作。

相較之下，在大多數中世紀的歐洲王國，天主教會就是個獨立機構，與國家機構常常發生衝突、而非合作。所以真要說起來，教會或許還是當時對於歐洲專制者權力的最重要一項制約機制。

極權主義最大的重點，就是要防止權力的分化。例如在蘇聯，國家與政黨相輔相成，史達林就是兩者事實上的領導者。

政教分離 vs. 黨政合一

不論是國王或教宗，如果想要迅速改變社會，就很可能遭到教會成員或一般信眾強烈抵制

中世紀教會常屬於堅守傳統的組織，抗拒改變，而現代極權政黨往往是期許革命的組織，要求改變。

蘇聯政權要兒童崇拜史達林，把他當作自己真正的父親，要是看到親生父母批評史達林或共產黨，就該立刻舉報。

帕夫利克來自西伯利亞的格拉西莫夫卡村，他在1931年秋天向祕密警察舉報，說他父親、也是村蘇維埃的主席，將假證件出售給遭到驅逐的富農。在後續的審判中，他父親對帕夫利克大喊「是我啊，你的父親」，但這個男孩反駁表示：「沒錯，他曾經是我父親，但我現在已經不這麼認為了。」他父親隨後被送往勞改營，之後遭到槍決。

這些極權政黨沒有幾百年來的傳統需要捍衛，每當領導者提出野心勃勃的計畫，要打破現有的傳統與結構，黨員通常都是一呼百諾。

民主制度鼓勵資訊有許多獨立的流通管道，不一定要經過某個中央樞紐，而且允許眾多獨立節點自行處理資訊、做出決策。

極權制度就希望所有資訊都要經過中央樞紐，不希望任何獨立機構自行做出決策。

由於極權資訊網路的主要目的是創造秩序、而不是找出真理真相，所以如果出現令人震驚的資訊，可能對社會秩序造成破壞，極權政權往往就會把資訊壓下來。

「美國人從小相信的，是問題會帶來答案；但蘇聯人從小相信的，是問題會帶來麻煩。」

在分散式的民主資訊網路，即使官方通訊線路被封，資訊仍然能透過其他許多管道繼續流動。

經歷過大清洗而倖存的軍官，不敢採取獨立行動，年輕的軍官又往往訓練不足。至於指揮官，除了常得不到資訊、失敗時得要頂罪，還得應付那些可能對作戰決策指手畫腳的政治委員。最安全的做法就是等待上層命令、再盲目服從，就算那些命令在軍事上完全沒有道理。

如果放眼第二次世界大戰的整體歷史及結果，顯然史達林主義其實是史上數一數二成功的政治制度──只不過，這裡所謂的成功是單純只看秩序與權力這兩方面，無視於道德與人類福祉的考量。

即使史達林主義等極權制度造成的道德成本高昂，我們也不該認定這些制度就會效能低落，肯定無以為繼。

各種資訊系統，只要具有一點點的真理真相、加上大量的秩序，就能夠發揮巨大的威力。

科技創造的只是新的機會，但究竟要追求把握哪些機會，就仍然是人做的選擇。

所謂極權政權，正是選擇了運用現代資訊科技來讓資訊集中、向中央流動，並且扼殺真相，以維持秩序。至於結果，就是得應付僵化、難以變通的風險。

民主政權，則是選擇運用現代資訊科技來讓資訊分流到更多機構和個人之間，鼓勵自由追求真相真理。至於結果，就是得應付分崩離析的風險。

在紅場主席臺上，統治者一字排開、卻盡顯老態，恰恰完美體現了這套資訊網路功能失靈，不具備任何有意義的自我修正機制。

這群老人統治者無力處理流向莫斯科的所有大量資訊，又未能充分授權下屬主動處理，就讓整套制度僵化崩潰。

蘇聯經濟過度集中，對於飛快的技術發展與不斷改變的消費者需求，反應太過緩慢。

紅場主席臺上那些老人並無法在單一中心，協調幾百萬人的生活。但或許 AI 就能做到？

2020年代，民主政體再次迎來與過去類似的挑戰：如何在繼續維持社會秩序的前提下，讓如洪水般湧來的新聲音，加入公共對話。

到了二十一世紀，政治上的主要分歧可能並不是民主政權與極權政權之間的分歧，而是人類與非人類行為者之間的分歧。

過去的印刷機或收音機只是人類手中的被動工具，但電腦正在成為一種主動的行為者，得以擺脫人類的掌握與理解，主動形塑社會、歷史與文化。

宗派暴力與反羅興亞人大屠殺的浪潮，一波一波襲來，許多暴力份子正是受到臉書上的假新聞所鼓動。

國際特赦組織發現：「演算法主動在臉書平臺上強化、推廣的那些內容，煽動了針對羅興亞人的暴力、仇恨與歧視。」

臉書演算法是自己做出了主動且致命的決定。與其說臉書演算法像是印刷機，其實更像是報紙主編。

演算法能夠選擇讓哪些內容，出現在使用者動態消息頂端，演算法也能夠選擇要推廣哪些內容，以及推薦使用者加入哪些臉書社團。[18]演算法本來可以選擇推薦慈悲的法語、或是乾脆推薦烹飪的課程，但最後卻決定要散播充滿仇恨的陰謀論。

透過推薦基督徒閱讀有厭女傾向的〈提摩太前書〉，而不是比較寬容的〈保羅與帖克拉行傳〉，亞他那修主教和其他教父就改變了歷史的演進方向。在《聖經》這個案例，真正終極的權力並非掌握在各經卷內容的作者手中，反而是在選定這份推薦清單的人手裡。

並不是民眾選擇了自己要看什麼，而是演算法為他們做了決定。

為了追求使用者參與度，演算法就做了一個致命的決定：散播各種駭人聽聞、令人憤慨的內容。

AI 演算法能夠自己學會沒有任何人類工程師寫進程式裡的東西，也能夠自行決定人類高階主管並未預見的事情。

智能與意識其實就是兩回事。智能是實現目標的能力，例如要盡量提升使用者在社群媒體平台的參與度。意識則是體驗各種主觀感受（包括痛苦、愉悅、愛恨）的能力。

就像是飛機不用長出羽毛，也能飛得比鳥類更高更快；電腦也有可能無須發展出意識，就比人類更懂得如何解決問題。

出現了能夠自己追求目標、自行做出決定的電腦之後，也就改變了人類資訊網路的基本結構。

只要演算法接受了目標之後，就能有相當的自主權，能夠決定該如何實現這些目標。

任何紙本文件都無法自行產生另一份紙本文件，更別說要加以推廣傳播了。要從一份文件到另一份文件，中間的路徑絕對需要經過人類的大腦。

相較之下，如果是電腦對電腦的鏈結，這條路徑已可完全不用人類參與。

在整體資訊網路當中，電腦自己就是一個羽翼豐滿的成員，但過去的泥板、印刷機或收音機，則只是成員之間的連線。成員是主動的行為者，能夠自行做出決定、產生新的想法；而連線就只是在成員之間傳遞訊息，本身並不會決定或產生任何內容。

或許有一天，會是電腦主宰整個金融市場，並且發明出人類無法理解的全新金融工具。

如果到了某一天，某個非人類而高深莫測的智能，完全瞭解如何以遠遠超越人類的效率來運用人類的弱點、偏誤與癖好，而且也能創作各種悠揚旋律、科學理論、科技工具、政治宣言、甚至是宗教神話，這樣的世界對生活在其中的人類而言，會是什麼意義？

民主是一種對話，對話靠的是語言。電腦一旦駭入了語言，就可能讓大量人類幾乎不可能進行有意義的公共對話。

第一次輸在：用於宣傳的機器人程式本來就不可能被說服，我們想改變它們的想法只是在浪費時間。

第二次輸在：我們與電腦交談的次數愈多，就會透露愈多自己的資訊，機器人程式就能據以調整論點，動搖我們的看法。

我覺得是信任 在2010年代，在社群媒體這個戰場爭奪的是人類的注意力，到了2020年代，要爭奪的可能會變成是親密感。

電腦在掌握語言之後，還會對人類的觀點和世界觀，產生一種重大影響：把這種電腦顧問給的建議，當成宛若一站式提供的神諭。

幾千年來，人類一直是活在其他人類的夢裡。但在接下來幾十年，我們可能會發現，自己活進了某個非人類的智能所編織的夢境之中。

幾千年來，先知、詩人與政治人物都一直在透過語文，操縱與重塑社會。電腦現在也正在學習如何做到這一點。

在可預見的未來，在這個全新且以電腦為基礎的網路裡，雖然還是會包括我們這幾十億人類，但人類有可能在整個網路之中就只是少數。因為除了人類之外，這個網路的成員還會包括幾十億、甚至幾千億個具備超智能的非人類行為者。

AI 演化的目標並不是人類水準的智能，而是另一種完全不同類型的智能。

資訊並不等於真理真相，而資訊革命也並不會揭露事實真相。

我們寫電腦程式碼的時候，絕不只是在設計一項產品，而是在重新設計人類的政治、社會與文化，所以我們也最好要對政治、社會與文化都有一定的掌握。而且，我們做的決定，最後也必須由我們來負責。

臉書、亞馬遜、百度、阿里巴巴這些科技龍頭，絕不只是像忠僕一樣，滿足著顧客的奇想、遵循著政府的法規，而是愈來愈由他們在塑造著這些奇想與法規。

如果說這些科技龍頭都是聽從選民與顧客的意願，但他們同時也能形塑選民與顧客的意願，那麼究竟是誰控制了誰？

如果各國政府還是想對這些交易課稅，就需要重新思考一些最基本的概念，像是「連結性」（nexus）。在稅務規定上，連結性指的是個別實體與特定司法管轄區之間的連結。傳統上，要判斷某企業是否與某個特定國家有連結性，就要看該企業在該國是否有實體存在，例如設有辦公室、研究中心、實體店面等等。

某位烏拉圭公民可能每天在網路上，與許多跨國企業互動，這些企業不見得都在烏拉圭有實體存在，但都為他提供了各種服務，像是谷歌為他提供免費的搜尋，字節跳動（TikTok 的母公司）為他提供免費的社群媒體。也有一些其他外國企業常常向他投放廣告

谷歌與字節跳動也會運用從他和幾百萬其他使用者那裡蒐集的資訊，研發成更強大的新 AI 系統，再把這些 AI 工具賣給世界各地的政府機關與企業。

關於這位烏拉圭公民的這些交易，應該在烏拉圭被課稅嗎？

想要解決電腦網路造成的稅務難題，一種方法就是重新定義連結性。經濟學家科騰伯格（Marko Köthenbürger）就說：「目前對連結性的定義是根據在一國的實體存在，但這應該加以調整，納入『數位存在』的概念。」

殼牌與英國石油公司只要在某國開採石油，就會向該國納稅；同理，科技龍頭也該向他們開採資料數據的國家納稅。

這樣仍有一個問題未解決：烏拉圭政府到底該對什麼課稅？

我們從科技龍頭那裡得到資訊，而我們付出的代價也是資訊。

每天都有幾十億人與科技龍頭進行大量交易，但幾乎沒有任何金錢流動，也就無法從銀行帳戶看出端倪。

如果只要用資訊就能換到他們想要的東西，為什麼還需要金錢呢？

如果某位個人或企業，雖然在銀行裡沒什麼錢，但擁有龐大的資料庫，有可能這個人或這家企業才是該國最富有或最強大的實體。

要是稅務制度仍然只對金錢課稅，就會跟不上時代。

資訊不對稱：那些引領著資訊革命往前衝的人，比起該提出約束的人，遠遠更瞭解底層的技術。

如果相信了科技決定論、覺得一切沒有別的可能，也就等於讓人類再也不用負責，而這會十分危險。

有了一把刀，可以用來殺人、或用來動手術救人，也可以用來切菜做晚餐。

有了便宜的收音機，可能代表極權領導者的演說，能夠直接傳進每個德國家庭的客廳；但也可能代表，每個德國家庭都能選擇收聽不同的廣播節目，反映並培養出多元化的政治見解與藝術觀點。

雖然資通訊技術都一樣，但不同的政體就有了完全不同的用法。

為了瞭解我們，不論好的或壞的官僚機構，都得做到兩件事。第一，蒐集大量關於民眾的資料。第二，分析所有資料，找出其中的模式。

國安局與 KGB 真正的力量，並不在於能夠持續監控所有人民，而在於能夠激發民眾對於「自己可能正被監控」的恐懼，進而對自己的一言一行都格外小心。

我們成了自己的線人，把自己的原始資料提供給網路。

我們的所有行動都會留下一道資料的痕跡，被數位官僚蒐集分析。

我們當然該擔心即將崛起新的極權制度，但現在擔心有電腦晶片要植入人腦，還為時過早。真正該擔心的，是大家用來讀這些陰謀論的智慧型手機。

在目前，如果真的要做為監控的工具，智慧型手機顯然是比生物特徵辨識感測器更好的選擇。

然而，隨著生物學知識的增加，特別是靠著電腦分析了許許多多 PB 的巨量資料之後，若再連接其他監控工具，或許皮下監控終究能夠充分發揮價值。

這樣一來，電腦網路將能預測並操縱我們的感受，讓我們心甘情願接受它想販賣或推銷的東西，不論是某種產品、某位政客，又或是某場戰爭。

產出的一片資料汪洋，就能用 AI 系統加以分析，找出裡面的非法活動、可疑模式、失蹤人口、帶原病人，又或是政治異議人士。

運用科技，雖然理論上值得稱讚，但顯然可能引發在隱私與政府越權方面的憂慮。

AI 監控科技就可能創造出全面監控的政體，一天二十四小時不停監控公民，並促進新型且無所不在的自動化極權鎮壓。

在未來，許多人可能都將生活在全面監控的政體之中，而讓齊奧塞斯庫當政的羅馬尼亞比起來，反而像是個自由主義烏托邦。

企業也會以同樣的方式監控顧客，想知道顧客的好惡，預測未來的消費行為，以及評估風險與契機。

目前也有愈來愈多的員工（從辦公室職員到卡車司機）持續受到雇主監控。

美國學者祖博夫（Shoshana Zuboff）就把這種不斷擴大的商業監控體制，稱為監控資本主義（surveillance capitalism）。

所謂的點對點監控，是由每個人不斷的給其他人評等評分。

國際旅遊評論網站 Tripadvisor，就等於經營著一個全球監控系統，監控各地的飯店、度假村、餐廳與遊客。

網站上幾乎所有的內容與工作，都是由幾百萬使用者自行提交與完成，Tripadvisor 演算法唯一要做的就是彙整這些人類的評分，再公布出來就行。

作家兼記者金斯特勒（Linda Kinstler）所言：「在 Tripadvisor 出現之前，顧客只是個有名無實的國王。但是在 Tripadvisor 出現之後，顧客成了名副其實的暴君，擁有左右店家生死的力量。」

金錢貨幣澈底改變了我們的經濟關係、社會互動與心理。就像監控一樣，金錢也有局限，不是真的無處不達。

對於這些金錢買不到的東西，就有另一套非貨幣的評分機制，也有各種不同的稱呼：榮譽、地位，或說名聲。

要是突然把貨幣市場的原則延伸到名聲市場，可能會讓社會關係發生怎樣的變化。

在最極端的社會信用體系裡，每個人都會得到一個整體名聲分數，把他們所做的一切都納入考量，也將決定他們能做的一切。

人的生活一向都會劃分為不同的名聲領域，各自要追求不同的地位，而且也有很多時候，你就只屬於自己，完全不用擔心要追求什麼地位。正因為地位競爭太重要，帶來的壓力也非常高

遺憾的是，社會信用演算法加上無所不在的監控技術之後，就有可能整合一切現有的地位競爭，合併成一場永無止境的比拚。

要是數位官僚採用這種苛刻的點數制度，來時時刻刻監控每個人，目前正在崛起的這種名聲市場，就有可能抹殺人類的隱私，並對人類形成遠比貨幣市場更令人窒息的控制。

電腦正逼著人類走向一種新生活方式：永遠連線，也永遠受到監控。

資訊並不等於真理真相，一套全面監控的系統，對於世界與人類的理解可能極為扭曲。

事情不同於天真的資訊觀所想，資訊其實常常是被用來創造秩序，而不是找出真理真相。

事實上，蘇聯的資訊網路根本是無視了人性的許多重要面向，並且完全不承認自己的政策給公民帶來怎樣的可怕苦難。

這套網路並未找出關於人類的真理真相，卻非常擅長創造秩序，也就讓它得以征服了世界的一大片地區。

激起人們的憤慨怒火，就能提升參與度，而走中庸節制的路線可不行。

要是發布滿是謊言、讓人憤慨的影片，反而能大受演算法青睞，把影片推薦給更多觀眾，讓自己人氣飆升、荷包滿滿。相較之下，如果不去撩撥憤慨情緒、堅持只談事實，演算法反而對他們視而不見。

管理臉書、YouTube、TikTok 等平臺的人，為了找藉口，常會說這些問題不能怪演算法，而是出於人性。他們表示，是人性造成了平臺上一切的仇恨與謊言。這些科技龍頭也說，因為他們堅守言論自由的價值觀，所以要去審查人類真實情感的表達，實在很為難。

當下歷史的重大進程當中，有一部分已經是由非人類智能的決定來推動。正是這件事，才讓電腦網路的易錯性，變得如此危險。

人類是很複雜的生物，如果給人類施加的是良性的社會秩序，那往往能培養人們的美德，同時減少負面傾向。然而社群媒體演算法只把人看成是「注意力」的礦山，可開採取得更多的注意力。

謊言與仇恨常會對人們的心理與社會造成破壞，而真相、同情與睡眠是人類幸福所不可或缺，這點也完全不被演算法列入考量。

鼓勵我們順從人類最初階的本能渴望，而又阻礙我們發揮人類完整的潛能。

只要科技龍頭真的想要設計出更好的演算法，通常都是事在人為。

社群媒體確實扮演了重要角色，連結人民、讓過去權利遭到剝奪的族群得以發聲、組織了重要的新運動與社群，[21]也激勵人類展現出一波前所未有的創意。

在過去以電視為主流媒體的年代，常有人說：觀眾只是沙發馬鈴薯，只會被動接受由少數天才藝術家創作的內容。

社群媒體上的大部分內容（至少在強大的生成式 AI 興起之前），都是使用者自己（加上他們的貓貓狗狗）的製作成品，而不是出自少數專業階層之手。

電腦面臨的一個更大的問題：一致性問題（alignment problem，對齊問題）。

電腦變得愈強大、愈獨立，可能的危險性也愈高。

這意味著戰爭既不是情緒的爆發、不是英雄的冒險、不是神祇的懲罰，甚至也不是一種軍事現象，而就是一種政治工具。克勞塞維茨認為，軍事行動必須與背後的某種整體政治目標一致，否則就屬於完全不理性的行為。

「戰爭和其他工具就是政策的延續」。[23]這意味著戰爭既不是情緒的爆發、不是英雄的冒險、不是神祇的懲罰，甚至也不是一種軍事現象，而就是一種政治工具。

該自問的關鍵問題是：這場軍事上的成功，究竟能夠實現什麼政治目標？

歷史上有許多軍事上的大勝，最後卻導向澈底的政治災難

事實上從長遠來看，拿破崙連連得勝，反而是注定法國從此走了下坡。

在傳統結構被打破之後，日耳曼人與義大利人嚐到了民族統一的滋味，拿破崙就這樣在無意間奠定了德國統一（1866-1871）與義大利統一（1848-1871）的基礎。

面對國境東邊這兩個新近統一且民族主義高漲的強國，法國再也沒能恢復過去的霸權地位。

由於電腦的運作與人腦大不相同，很可能所用的方法將完全出乎人類領主意料，造成未曾想見的危險後果，而與人類最初訂出的目標完全不一致。

一致性問題：《戰爭論》的啟示

克勞塞維茨的整部《戰爭論》其實就是在警告一件事：訂出「要盡量得到最大的勝利」這種目標，就和訂出「盡量提升使用者參與度」一樣，都太過短視近利了。

所謂合乎理性的戰術，就是要能和戰略目標一致看齊；所謂合乎理性的戰略，也就是要能和政治目標一致看齊。

這樣看來，對克勞塞維茨而言，所謂的合乎理性，就是目標與作為能有一致性。

伯斯特隆姆想強調的是，電腦的問題並不在於它們特別邪惡，而在於它們特別強大。電腦愈強大，我們就愈需要小心設定目標，務必要讓電腦與人類的終極目標完全一致。

如果是個超智能電腦，要是設定了一個與人類利益極不一致的目標，後果就可能是催生出一個反烏托邦。

由於電腦都是非生物實體，所以它們會採用的策略，很可能是所有人類從未想見，人類自然也就無力預見與阻止。

在這款遊戲中，如果領先其他船隻，玩家就能得到大量積分（這點和賽車相同）；然而船隻每次靠港補充能量的時候，也能得到一些積分。結果 AI 就發現，與其試著去超越其他船隻，不如不斷繞圈進出港口，反而能更快累積更多積分。

阿莫代一開始並不知道該怎樣告訴這款 AI，目標是要「贏得比賽」。對演算法來說，「贏」並不是一個明確的概念。

2016年，AI 企業家阿莫代（Dario Amodei）在進行一項名為「宇宙」的專案，想要研發出一款通用 AI，懂得怎樣玩幾百種不同的電腦遊戲。

這正是一致性問題的本質：我們獎勵的是Ａ的行為，卻希望得到Ｂ的結果。[27]要是我們希望電腦能帶來最大的社會效益，就不該因為它們帶來了最高的使用者參與度，而給予獎勵。

在超脫俗世的哲學領域聽起來不錯的想法，往往很難移植到殘酷現實的歷史領域。

「本質的良善」到底是什麼意思？

歷史上，許多衝突（甚至是絕大多數的衝突）都與身分的定義有關。每個人都會說殺人是不對的，但又總會認為，只有殺了自己這個內團體（in-group）的成員，才算是「殺人」，如果殺的是那些外團體（out-group）的成員，就不算了。

如果我們一心想要追求義務論的那種普世規則，而且不是要套到人身上、而是想套到電腦頭上，義務論帶出的這個問題就會變得格外要命。電腦甚至根本不是生物。

最清楚的建議，就是要告訴電腦去保護所有「能夠感受到痛苦的實體」。人會感受到痛苦，常常是因為相信了某種主體間虛構的概念；話雖如此，痛苦本身仍然是個普世存在的現實。因此，如果以「能夠感受到痛苦」來定義是否屬於內團體，就能讓道德有個客觀而普世存在的現實基礎。

義務論者努力尋找本質良善的普世規則，而效益主義者則是以行為對痛苦或快樂的影響，做為判斷。

效益主義碰到的問題，是人類並不知道該如何計算痛苦：我們不知道某個事件究竟該值多少個「痛苦點數」或「快樂點數」，所以在複雜的歷史情境中，很難計算某個特定行為，到底是增加或減少了世界整體的痛苦。

幾個世紀以來，對同性戀的迫害讓他們單方面承受巨大的痛苦。然而造成這些迫害的理由，只是各種偏見被錯誤包裝成義務論的普世規則。

康德其實只是把基督宗教的偏見，重新包裝成一套號稱普世的義務論規則，在沒有實徵證據的情況下，就指控同性戀違反自然。

而那些比較抽象的事（像是知道自己終將難免一死）所造成的痛苦，電腦網路該如何計算？

人類會感到痛苦，究竟是源於死亡本身，或是我們不願面對死亡？

就算理論上可行，實際上美國就是沒能在伊拉克建立穩定的民主政體。這樣一來，我們又能不能說他們的嘗試從一開始就是個錯誤？

在這些普世規則彼此衝突的時候（例如要思考是否要為了保護人權、而發動侵略戰爭），效益主義就發揮不了實際的用處。

雖然效益主義承諾要提供一種合乎理性、甚至是數學的方式，讓所有行為都與「終極的善」看齊而一致，但在實際上，這可能只是又一則的神話。

效益主義的危險在於，要是你深信一個未來的烏托邦，就會彷彿得到一張空白授權書，允許你在現在造成各種可怕的痛苦。事實上，這正是傳統宗教在幾千年前就已經在玩的把戲。對於未來救贖的承諾，很容易就能成為現世犯罪的藉口。

事實證明，一致性問題本質上就是個神話問題。

寶可夢就是一種存在於電腦間的實體，雖然是由電腦網路裡的位元所構成，而不是以物質世界的原子形式存在，但這些實體仍然能夠透過各種方式，與物質世界互動，造成各種影響。

不論是聖石或耶路撒冷，它們的神聖性都是一種存在於主體間的現象，只存在於連結了許多人類思想的溝通網路之中。

幾千年以來，許多戰爭的起因就只是要爭奪某些存在於主體間的實體，例如所謂神聖的石頭這種東西。而到了二十一世紀，也可能會出現為了搶奪電腦間的實體而發生的戰爭。

又有什麼理由能阻止 AI 成為企業、得到承認為具有言論自由的法人，接著開始遊說各方、捐獻政治獻金，推動保護與擴張 AI 的權利？

美國法律體系已經承認企業是「法人」

現在人類該問的問題，並不是該如何剝奪電腦的創造力，而是該如何把這些創造力導向正確的方向。

如果演算法必須依賴人類告訴它們關於西洋棋的一切祕密，只要是人類程式設計師不知道的事，寫出來的演算法也就不太可能知道。

透過尋找資料中的模式，演算法寶寶就能學到更多，包括許多連人類父母都不瞭解的事。

AI 已擁有強大的自我修正機制，能夠從自己的錯誤中學習。

訓練 AI 用的資料集，就有點像是人類的童年。人類在童年的經歷、創傷與童話，會陪伴我們走完一生，而 AI 也有著這樣的童年經歷。演算法甚至也會像人類一樣，互相傳染偏見偏誤。

電腦認為自己找出了某些關於人類的真理真相，但事實上卻只是在把一套秩序硬套在人類身上。

設計電腦的人就必須接受一項事實：他們正在做的事，並不是在製造一些新的工具，而是在釋放出新的獨立行為者，甚至是一群全新種類的神祇。

由於電腦就是很容易出錯，如果人類確實將權力賦予電腦，很可能會造成大災難。

一如人類網路，電腦網路可能無法在真理真相與秩序之間，找到適當的平衡。電腦網路一旦創造出強大的電腦間神話、再硬套到人類頭上，造成的災難比起近世歐洲的獵巫或史達林的集體化，或許將有過之而無不及。

這種新的電腦網路不一定是好或壞。我們唯一能確定的是：人類將很難理解這種電腦網路，而且這種電腦網路是會犯錯的。因此，人類建立的機構制度除了要能夠發現各種常見的人性弱點，例如貪婪與仇恨，還得有能力察覺前所未有的錯誤。這項難題無法用技術來解決，它將是一項政治上的挑戰。

新科技之所以常常帶來歷史上的災難，並不是科技本身有什麼問題，而是人類得花點時間才能學會善用科技。

要學習建立一個良性的工業社會，絕沒有那麼簡單，得經過許多昂貴的實驗，還得產生數以億計的受害者。

工業技術在十九世紀開始傳向全世界，顛覆傳統的經濟、社會與政治結構，彷彿打開一條道路，讓人類有機會創造出更富裕平和的全新社會。

第一項原則就是為善。如果電腦網路要蒐集關於我的資訊，必須是用來幫助我，而不是操弄我。

民主原則之一：為善

如果科技龍頭目前的商業模式無法負起適當的受託人責任，政府可以要求他們回歸傳統商業模式，也就是讓使用者以金錢（而非資料）來支付服務費用。

民主原則之二：去中心化

民主社會絕不該允許所有資訊集中在一處，不管那是政府或是民間企業。

民主原則之三：相互性

如果民主制度打算加強對個人的監控，就必須同時加強對政府與企業的監控。

亞馬遜與 TikTok 簡直太瞭解我的偏好、購買行為與個性了，但是我卻對它們的商業模式、繳稅情況與政治立場，幾乎毫無所悉。

政府與企業常會研發各種應用程式與演算法，做為由上而下的監控工具。但演算法也可以輕鬆變成由下而上的強大工具，提升政府的透明度與問責制，揭露企業賄賂與逃稅行徑。

要是公民能更瞭解政治人物與執行長都在做些什麼，也就更容易追究責任、糾正錯誤。

民主原則之四：給人自主空間

在人類歷史上，壓迫的形式分成兩種極端：一種極端是剝奪改變的能力，另一種極端是剝奪休息的機會。

民主社會如果採用強大的監控技術，都得小心是否會落入太過刻板僵化或太有可塑性的兩種極端。

演算法根據我的基因資料、醫療紀錄、社群媒體活動、飲食習慣與行程安排，結論認為我在五十歲罹患心臟病的可能性高達91%。 要是我的保險公司相信了這套刻板僵化的醫療演算法，就可能提高我的保費。

人體絕不是一塊固定不變的物質，而是一個會不斷成長、衰敗、適應的複雜生物系統。我們的心智也在不斷流動，各種想法、情緒與感受常常倏忽即來、短暫爆發，再平靜消失。

假設現在換成另一種健康照護制度，或許要求演算法的就不是去預測我的疾病，而是要協助我設法預防疾病。

在破解我的 DNA 之後，這樣的演算法並不是要去找出我注定的命運，而是要協助我改變未來。

如果在柔性演算法的背後，是野心勃勃的政府、殘忍冷酷的企業，就可能讓柔性演算法成為一位揉性堅決的暴君，無情的搓揉我們，要求我們少吃多動、改變喜好、調整習慣，否則就要和我們的上司打小報告、或是降低社會信用評分。

人生在世，就是得在「提升自己」與「接受自己」之間，找到平衡。

有些我們幾百年來奉若至寶、覺得屬於人類獨有的技能，搞不好很容易就能自動化。但也有些我們常常棄若敝屣的技能，其實自動化的難度遠遠更高。

未來需要哪些就業技能？

人如果想在2050年仍然找得到工作，或許除了培養智力技能之外，在運動與社交技能上也該投入同樣的心力。

沒人會覺得洗碗是件多有挑戰的事。但結果發現，電腦要打敗西洋棋世界冠軍，可比取代一位廚房雜務工簡單多了。

第二個常見但錯誤的假設，則是認為唯有人類擁有創造力，所以只要是需要創造力的工作，就很難自動化。但在西洋棋領域，電腦已經遠比人類更有創造力。

我們對創造力的定義，通常就是能夠找出模式、再打破模式。若真如此，既然電腦如此善於辨識模式，在許多領域也就很可能會變得比人類更有創造力。

第三個錯誤的假設，則是認為電腦無法取代人類那些需要情緒智慧（EQ）的工作

如果指的只是要正確辨識情緒、做出最佳的反應，那麼就連在 EQ 這一塊，電腦的表現也可能遠遠超過人類。

事實上，正因為電腦沒有自己的情緒，就可能讓電腦比人類更懂得如何辨識情緒。我們總渴望被理解，但其他人常常太專注於自己的感受，也就無法理解我們的感受。

如果要談各種社會角色與工作自動化的可能性，一個極度關鍵的問題就是大家究竟真正想要什麼：是只想解決問題，還是想和另一個有意識的實體建立關係？

意識與關係的連結是雙向的：要建立關係的時候，我們傾向找個有意識的實體為對象；而如果是已經與某個實體建立了關係，我們就會傾向認定這個實體具有意識。

事實上，我們根本無法確認任何個體（不論是人類、動物或電腦）是否擁有意識。我們判斷某個實體具有意識的時候，並不是因為手上真的有什麼證據，而是因為和那個實體有情感的依附。

我們的大問題並不是人類真的沒有工作可做，而是面對不斷變化的就業市場，該如何進行再培訓與調整適應。

就算過渡期對財務與心理造成的困難都能夠克服，這也不是長久之計。

進步派常常會淡化傳統與現有制度的重要性，認為自己知道怎樣從頭設計出更好的社會結構。

保守派通常比較謹慎。

認為社會現實的複雜程度遠遠超過那些進步派支持者的掌握，而且人類本來就不太擅長去理解世界、預測未來，所以最好就是一切維持現狀（就算看起來不公平）。要是改變已經無可避免，也應當有所節制，循序漸進。

，要當個保守派，步調比政策更重要。保守派想做的，並不是保護某個特定的宗教或意識型態，而是想要保護既有、保護多少仍在發揮著合理作用的一切。

二十世紀就業市場最大、最成功的一次轉型，並不是因為發明了某項技術，而是因為讓一半的人類釋放了過去未曾發揮的潛力。

民主制度的靈活性、質疑舊神話的意願、以及強大的自我修正機制，都會是至關重要的資產。

正確的資料也可能被錯誤解讀

隨著社會把愈來愈多決定交給電腦和演算法來處理，民主的自我修正機制、透明度與問責制，都會受到挑戰。如果演算法如此高深莫測，民選官員又要怎樣才能監督？所以已經有愈來愈多人要求保障一項新的人權：得到解釋的權利。

我們人類面臨了全新的挑戰：未來的新發明，會不會完全超越我們理解的範圍？在以前，就算得要補充極大量的細節，創作者還是能解釋某件事物是如何運作、背後有什麼原理。但現在愈來愈不是這樣了。

民眾如果覺得再也看不懂這世界是怎麼回事，資訊彷彿排山倒海而來、難以消化、令人不知所措，就很容易成為陰謀論的獵物，於是想從某個自己能夠理解的事物尋求救贖──也就是某個人類。

如果碰上複雜的問題（不管是申請貸款、疫情肆虐、或是戰爭爆發），我們常常希望能找出某個單一理由，就採取特定的行動，而不顧其他考量。這就是所謂的單因謬誤（fallacy of the single cause）。

為了審查演算法，監管機構除了得加以分析，還得再把各項發現，翻譯成人類能聽懂的故事。否則，我們有可能永遠不會相信這些監管機構，反而是相信各種陰謀論與魅力領袖

民主制度的運作需要滿足兩項條件：要能針對關鍵議題進行自由的公共對話；要能維持最低限度的社會秩序與制度信任。自由的對話絕不能落入無政府狀態。特別是要處理緊急而重要的問題時，公共辯論的進行必須有一套公認的規則，也必須有合法的機制能夠達成某種最終決定（就算沒有辦法讓所有人都滿意）。

在過去，像是報紙、廣播電臺與各大政黨這樣的組織，扮演了守門人的角色，能夠決定你會在公共領域聽到哪些人的聲音。社群媒體削弱了這些守門人的權力，於是公共對話變得更為開放，但也更走向無政府狀態。

新的電腦網路對民主制度還有最後一個威脅：不是形成數位極權，而是促成數位無政府狀態。

在人類想要辯論一些重要問題的時候（例如美國總統該選誰），如果聽到的聲音有一大部分都是機器人程式生成的，會是個什麼情況？

一樣是不實資訊，如果是人類捏造的，我們一看就知道全屬虛假；但如果是 AI 捏造的，我們卻很容易誤以為是真實。

在這種要爭奪人心的戰鬥中，親密感是一種極為強大的武器。

我與 AI 談得愈多，它就愈瞭解我，於是能夠得到我的信任，不斷改進它的論點，也慢慢改變了我的觀點。

如果操弄人心的機器人程式、以及我們無力監督的演算法，開始主導公共對話，民主辯論制度就可能在我們最需要它的時候澈底崩潰。

既然 AI 有了假冒人類的能力，就有可能破壞人類彼此的信任，使社會結構遭到破壞。

民主制度另一項可以採取的重要措施，則是禁止演算法在無人監督的情況下，對關鍵公共辯論進行篩選管理。

這並不代表民主制度就必須禁止所有機器人程式、禁止演算法與 AI 參與任何討論。有許多對話都歡迎各種數位行為者加入，但前提是不要假冒為人類。

天真的資訊觀反對監管，認為全然自由的資訊市場，會自然而然產生真理真相與秩序。但這只是天真的幻想，完全悖於民主的實際發展史。維護民主對話從來都不是件容易的事，過去所有的民主對話場域（從國會與市政廳、到報紙與廣播電臺）也都需要監管。

一旦公民無法相互交談，把彼此視為不共戴天的仇敵、而不只是政治上的對手，民主制度就難以繼續。

人類史上大部分時間，資訊技術都還不夠先進，無法進行大規模的政治對話，也就培養不出大規模的民主制度。

但諷刺的是，現在反而是因為資訊技術變得太先進，而可能讓民主制度到此為止。要是高深莫測的演算法主導了政治對話，特別是去壓抑有理有據的主張、並刻意煽動仇恨與混淆視聽，公眾討論就無以為繼了。

資訊網路已經變得如此複雜，而且非常依賴各種不透明的演算法決策、與存在於電腦間的實體，結果就是人類甚至很難回答一個最基本的政治問題：我們互鬥成這樣，究竟是為什麼？

想把所有資訊與權力都集中在一個地方，這曾經是二十世紀極權政權的致命弱點，但到了 AI 時代，卻可能成為決定性的優勢。

有些人相信可以用區塊鏈做為技術上的制衡，畢竟區塊鏈的本質就是有利於民主，不利於極權。要在區塊鏈系統做決策的時候，需要得到51%的使用者願意批准。

如果某人有十個帳號，就會算成十個使用者。而如果政府控制了51%的帳號，就能自己構成51%的使用者。

等到政府就是區塊鏈51%的使用者，除了能控制這個區塊鏈的現在，甚至還能控制這個區塊鏈的過去。

現代的極權政權，同樣對於改變過去，樂此不疲。

電腦不懂這樣的雙言巧語。如果要求聊天機器人程式遵守俄羅斯法律與價值觀，它可能會在讀了俄羅斯憲法之後，認定言論自由是俄羅斯的核心價值。接著讓它在俄羅斯網路空間待個幾天，觀察整個俄羅斯資訊圈發生的種種事情後，這個聊天機器人程式就可能會開始批評普丁政權違反了俄羅斯言論自由這項核心價值。

正如歐威爾在《一九八四》所解釋的，極權資訊網路常常都需要依賴雙言巧語（doublespeak），例如俄羅斯就是個自稱民主、實質獨裁的國家。

如果是極權政權，櫃子裡簡直藏了整座見不得光的墓園，也完全無法承受任何批評。這種時候，會提出異議的機器人程式就會形成極為嚴重的挑戰。

要是二十一世紀的專制者把太多權力交給電腦網路，就有可能成為電腦網路的傀儡。獨裁者最不樂見的，就是創造出比自己更強大的玩意，或是自己控制不了的強大力量。

演算法就算沒有意識、不會像人類這般貪婪或自私，仍然可能會試著去抓住權力，操弄他人。

要是所有權力集中於一人之手，只要控制誰能接觸這位專制者，就等於控制了專制者，也就等於控制了整個國家。AI 只要學會操弄一個人，就能成功劫持整個體制。

所有獨裁者都必須做到一種很脆弱的平衡：既要把所有資訊集中在一處，但又得很小心，只能讓自己成為各種資訊管道的交會點。

如果政權仰賴的是一套力量強大但高深莫測的 AI，所有資訊都由 AI 來蒐集與分析，人類獨裁者也就有可能失去一切權力。這位獨裁者就算依然身在首都，也像是被隔離在一座數位孤島，只能受到 AI 的控制與操弄。

這位獨裁者就算依然身在首都，也像是被隔離在一座數位孤島，只能受到 AI 的控制與操弄。

民主政權假設任何人都可能犯錯，而極權政權卻假設執政黨或最高領導人永遠是對的。基於這種假設而建立起的政權，習於相信領袖是天縱英明的，引領的方向絕對正確，因此沒要必創造強大的自我修正機制，來監督規範那位天選之人。

AI 如果要奪取權力，最簡單的方法並不是逃出製造科學怪人的實驗室，而是要趕快去討好那幾位偏執的提比略。

獨裁者如果相信 AI 必定會讓權力的天平往自己傾斜，只能說是愚不可及。只要一不小心，AI 就會奪取權力，據為己有。

AI 興起之所以會對人類構成生存威脅，並不是因為電腦真的懷抱什麼惡意，而是因為人類自己的缺陷問題。

AI 也是一項全球性的問題。各個國家絕不能夠天真的以為，只要在自己的國境之內管好 AI，就不用擔心 AI 革命會給自己帶來最壞的結局。

第一個挑戰是：由於電腦網路讓資訊與權力更容易集中於單一中央樞紐，人類可能進入一個新的帝國時代。

第二個挑戰是：一道新的矽幕可能讓人類分裂，分屬於敵對的數位帝國。

電腦網路對目前的國際體系還構成兩大挑戰。

矽幕將改變國際局勢

對原物料與市場的需求，成了推動帝國主義的藉口；而工業技術則使帝國更容易征服四方。

政府與軍隊也還沒體會到工業對地緣政治可能的影響，所以主要是由民間企業在推動。

一開始還看不太出來工業技術對帝國建設的影響。

那麼，AI 會不會帶出類似的情形呢？

大多數政體當時還來不及加入這場風風火火的工業軍備競賽。有些政體是因為根本沒能力參加

等到十九世紀末，這些稻農就發現，自己要不是被大英帝國直接征服，就是被大英帝國間接剝削。至於其他在工業競賽裡落後的人，最後也多半落得被某個工業強權宰制的下場。

在2000年，谷歌的搜尋引擎剛剛起步，亞馬遜還只是一家普通網路書店，祖克柏才剛上高中；而集中處理大量資料所需的 AI，根本還不知道在哪裡。但有些人打賭，覺得一切就在眼前。

《連線》雜誌的創始編輯凱利（Kevin Kelly）提過，自己在2002年參加谷歌的一場小型聚會，與佩吉（Larry Page）聊了一會。「我還是不懂。做搜尋的公司那麼多，你也要做網路搜尋，還免費？你是為了什麼？」佩吉解釋說，谷歌的重點根本不是搜尋。他說「我們真正在做的是創造一套 AI」，[4]如果能有大量的資料，就能讓 AI 的創造變得更容易，而 AI 又能把大量的資料轉化成大量的力量。

「誰控制了資料，就控制了世界。」

新型的資料殖民主義，也就是透過控制資料，來統治遙遠的殖民地。而控制了 AI 與資料，也能讓這些新的帝國控制人民的注意力。

在十九世紀和二十世紀，如果成為像是比利時或英國這種工業強權的殖民地，通常代表將由你提供原物料，而最先進、能夠賺到最多利潤的產業，則仍然留在帝國中心。

資料殖民主義的情況也可能很類似。AI 產業的原物料是資料。

出於對心理戰、資料殖民主義、以及網路空間失控的擔憂，許多國家都禁用了一些他們認定危險的應用程式。

。在新的帝國式資訊經濟中，是從全世界蒐集原始資料、流向帝國樞紐，在那裡研發最先進的技術，產生無與倫比的演算法

然後再把演算法出口，回到資料殖民地，加以運用及撈錢。

新資訊經濟的本質，可能會讓帝國中心與被剝削的殖民地之間形成比過往更嚴重的不平衡。

與工業的力量不同，演算法的力量確實能夠集中到單一樞紐中心。只要一個國家擁有質量兼具的工程師，就能寫出讓整個世界運作的演算法，並掌握所有重要的金鑰。

工業革命期間，機器變得比土地更重要。這時候最值錢的資產是工廠、礦場、鐵路、發電廠，要把這些資產集中在一處，已經變得比較容易。

在古代，最重要的經濟資產是土地，而非資訊，這也就能避免所有財富與權力過度集中在一個中心。只要最重要的是土地，就永遠會有相當的財富與權力，是掌握在行省地主手中。

在 AI 推動的經濟中，數位領先國家能夠囊括大部分收益，再用這些財富進行勞工的再培訓，進而獲取更高利潤。與此同時，落後國家的非技術性勞工，價值將會下降，而且這些國家又缺乏再培訓勞動力的資源，於是變得更加落後。

矽幕兩側所用的數位網路與程式碼也漸行漸遠，各有不同的規範、各有不同的目的。

在中國，新數位科技最重要的目的在於強化國家實力、推行政府政策。雖然民間企業在 AI 的研發與部署方面有一定的自主權，但企業經濟活動最後仍須向政府的政治目的看齊。

美國政府的政策很多時候都深受強大的商業利益左右。然而，美國的民主制度確實更能保護公民的隱私。雖然美國企業也會積極蒐集人民在網路上活動的資訊，但只要來到實體世界的生活，美國企業受到的限制就遠遠更為嚴格。

這兩個數位圈可能漸行漸遠，彼此愈來愈陌生。中國的軟體只能與中國的硬體、中國的基礎設備對話，而矽幕的另一側也會是同樣的情形。

從短期來看，這將阻礙中國在 AI 競賽的發展；但是從長遠來看，這將會促使中國發展成一個完全獨立的數位圈，從最基本的 AI 組成要件，就與美國這個數位圈各走各的路。

人類經過許多世代的趨同，或許也到了趨異的關鍵時點。

在過去幾個世紀，新的資訊技術推動全球化，讓世界各地的連結更加緊密。但矛盾的是，如今的資訊技術已經變得如此強大，卻是有可能把人類封閉在一個又一個的資訊繭（information cocoon）裡，而使人類走向分裂，不再擁有單一的共同現實。

所謂的人類，定義到底是物質的身體、非物質的心靈，又或者是一個心靈困在身體裡？到了二十一世紀，電腦網路可能會讓心身問題變得更嚴重，引發各種重大的個人衝突、意識型態衝突、以及政治衝突。

要想預測未來的文化與意識型態發展，往往無異於痴人說夢，這比預測經濟或地緣政治發展，困難太多了。

社會如果從生物肉體的角度出發來理解身分，會比較在意例如汙水系統這樣的實際基礎建設，以及能夠維持我們肉體的生態系；至於網路世界則是實體世界的附屬，雖然能提供各種有用的用途，但永遠不能成為人類生活的中心舞臺。

假設我醒著的時候，多半時間就是坐在房間裡的螢幕前，玩著網路遊戲、建立虛擬關係，就連工作也是遠端處理，甚至很少想要出門吃飯，經常就是叫叫外送。

如果你的想法比較接近古代的猶太人和最早的基督徒，肯定覺得我太可憐了，覺得我只是活在一片幻覺之中，與物質空間和其他血肉之軀失去了連結。

如果你的想法比較接近路德與許多後來的基督徒，反而可能覺得我是得到了解放。把我大部分的活動與關係，從有限的生物世界轉移到網路上之後，就不用再受限於造成束縛的重力、會衰老的身體，而能夠享有數位世界無限的可能性，擺脫生物定律、甚至是物理定律的規範。

根據賽局理論，軍備競賽最危險的一種局面，正是有某方覺得自己手中擁有某項優勢、但正在流失。

當初美蘇之間的冷戰從未升級成直接的軍事對抗，主要得歸功於「保證同歸於盡」的原則。但 AI 時代衝突升級的危險更大，因為網路戰與核戰就是有著本質上的不同。

第一，網路武器能做到的遠比核彈更多。

第二項關鍵差異，在於可預測性。冷戰像是在下一盤超理性的棋，正因為核武衝突的破壞太過明確，也就讓發動戰爭的念頭相對極低。但網路戰就少了那份明確。沒有人真的知道對方在哪裡植入了邏輯炸彈、特洛伊木馬和惡意軟體。

全球合作與愛國主義並不互斥。因為愛國並不代表「仇恨外國人」，而只是「愛自己的同胞」。有很多時候，為了照顧自己的同胞，我們就是需要和外國人合作。

現在全球合作之所以如此困難，一大主因在於一種錯誤的觀念，以為要合作就得先敉平所有文化、社會與政治差異。民粹政治人物常常會說，要是國際社群都相信同一套故事、同樣的普世規範與價值，等於是摧毀了各國自己的獨立性與獨特傳統。

全球主義並不代表就要建立全球帝國、放棄對國家的忠誠、或是開放邊界接受無限制的移民。

第一，遵守某些全球規則。這些規則並不是要否認每個國家的獨特性、以及各國人民該對國家的忠誠，而只是在規範國家之間的關係。

全球主義的第二項原則，則是有時候（但不是永遠）有必要將全人類的長期利益，置於少數人的短期利益之上。

真正的叢林法則：合作

靈長類動物學家德瓦爾（Frans de Waal）稱之為「飾面理論」（veneer theory）。在飾面理論看來，人類本質上仍然是石器時代的狩獵者，把這世界視為叢林，相信弱肉強食、力量就是正義。飾面理論認為，人類幾千年來一直試圖用各種神話與儀式形成的薄弱飾面，掩蓋這個不變的現實，但人類從未真正擺脫叢林法則。

舉例來說，陸地植物有高達80%，都需要依賴與真菌的共生關係，維管束植物科當中，也有將近90%與微生物有共生關係。要是亞馬遜雨林、非洲雨林或印度雨林裡的生物放下合作，轉為全面爭奪霸主地位，雨林與裡面的所有生物都很快就會死去。合作，才是真正的叢林法則。

但我們有理由認為，像米爾斯海默這樣的現實主義者，其實是選擇性的只看了部分的歷史現實，甚至叢林法則本身就是個錯誤的神話。

人類長期歷史最清楚的規律，並不是衝突持續不斷，而是合作的規模持續擴大。

現實主義者應該注意，國家並不是建構人類現實的基本單位，反而是人類辛苦建立起信任與合作之後，才製造出來的產物。要是人類真的只對權力感興趣，根本就不可能創造出國家。

人類持續從物質經濟走向知識經濟，也讓戰爭的潛在獲利愈來愈低。

雖然從許多統計數據也能看出，二戰過後的戰爭次數減少，但最明確的證據或許就在國家預算。

由於大多數人不再活在擔心外敵入侵的恐懼之中，政府就能將更多資金投入福利、教育與健康照護。

在二十一世紀初期，全球平均健康照護支出約占政府預算的10%，大約為國防預算的1.4倍。

戰爭逐漸減少，並不是因為什麼神聖的奇蹟、或是自然律澈底轉變了，而是因為人類改變了自己的法律、神話與制度，並且做出更好的決定。

這代表的是，要是人類文明被衝突毀滅，人類不能拿什麼自然律或是異形科技來當藉口。同時這也代表著，只要我們努力，就能創造一個更美好的世界。

歷史讓我們學到的一大重點，就是許多我們以為是自然而永恆的事物，其實都是人為且多變的。

現在所有的舊東西，都曾經無比新穎。

歷史唯一不變的，就是改變。

如果能夠瞭解歷史，就更能掌握如今的技術、經濟與文化發展；更重要的是，有助於改變各種事項在政治上的優先順序。

這些政治目的本身，其實正是出於那些政治人物對歷史的堅定信念。

決定了政治上的優先順序，就會影響公民怎麼投票、商人關心什麼議題、政治人物想要有怎樣的名聲。而我們會排出怎樣的優先順序，往往就是由我們對歷史的理解而決定。

我們從歷史學到的一個教訓是，新資訊技術的發明總是能促成重大的歷史變革，因為資訊最重要的作用就是去編織新的網路，而不是呈現既有的現實。

未來幾年，從軍隊到宗教，所有網路都會有幾百萬新的 AI 成員加入，有著與人類不同的資料處理方式。這些新成員所做的決定、所提出的想法，都可能讓人類覺得非常陌生、意想不到。而加入了許多非人類的行為者之後，必然也會讓軍隊、宗教、市場與國家的形態出現改變。過去的政治、經濟與社會體系可能崩潰，由新的體系取代。

我們必須小心太過天真樂觀的資訊觀。資訊並不等於真理真相，資訊的主要任務在於連結，不在於呈現現實，而且史上的資訊網路往往比較重視的是秩序，而非真理真相。

若是缺乏強而有力的自我修正機制，AI 將有能力宣揚一些扭曲的世界觀，助長肆無忌憚的權力濫用，以及煽動讓人驚駭的新獵巫行動。

我們絕不該認為人類的互動都只是零和的權力鬥爭；在放下這種想法之後，不僅能夠對過去有更全面、更細緻的理解，也能對未來感覺更有希望，態度更具建設性。

人類其實是想知道真理真相的，所以還是有機會透過交談、承認錯誤、接受新想法、以及修改我們所相信的故事，而讓至少部分的衝突得以和平解決。

隨著網路愈來愈強大，自我修正機制也會愈來愈必要。