歷史學者、哲學家暨暢銷作者，出生于以色列海法，2002年在牛津大學取得博士學位，目前是耶路撒冷希伯來大學歷史系講師，也是劍橋大學「存在風險研究中心」（CSER）特聘研究員。著有《人類大歷史》、《人類大命運》、《21世紀的21堂課》等書，為世上具影響力之公共知識份子之一。
?
許多專家警告，AI正對人類生存造成威脅。但也有其他專家認為，這種警告是杞人憂天。如果今天講的是核武，大家都很清楚危險所在；但講到AI，就很難看懂這究竟是危險在哪？從工業(yè)革命的歷史，就能幫助我們了解這場新的「AI革命」與生俱來的危險。
?
許多專家警告，AI崛起可能使人類文明崩潰，甚至是人類物種滅絕。一項2023年的研究調(diào)查了2,778名AI研究者，結果也顯示有超過三分之一認為，先進的AI有至少10%的機率會造成等同于人類滅絕一樣可怕的結果。2023年有將近三十個國家政府簽署了關于AI的《布萊切利宣言》，其中就承認：「從這些AI模型最重要的功能，可能有意或無意地造成嚴重、甚至災難性的傷害?！?/p>
?
對某些人來說，可能覺得這些警告就是杞人憂天。每當出現(xiàn)強大的新科技，都有人焦慮世界末日就要來臨。舉例來說，當初隨著工業(yè)革命進展，許多人都擔心蒸汽機和電報會摧毀人類社會、毀滅人類的幸福。但到頭來，這些機器生產(chǎn)出了史上最富足的社會。時至今日，大多數(shù)人的生活狀況都比十八世紀的祖先好多了。許多熱情擁抱AI的專家都保證，各種智能機器絕對會比過去的所有機器帶來更大的好處。他們說，有了AI，人類就能享有更好的健康照護、教育與其他服務，甚至還能協(xié)助拯救生態(tài)系統(tǒng)免于崩潰。
首先學會善用科技
遺憾的是，只要看歷史看得仔細一點，就會發(fā)現(xiàn)人類確實有充分的理由，該對強大的新科技抱持幾分畏懼。就算這些科技到了最后是利大于弊，但在那個快樂結局之前，往往得先經(jīng)歷百般磨難與考驗。新科技之所以常常帶來歷史上的災難，并不是科技本身有什麼問題，而是人類得花點時間，才能學會善用科技。
?
工業(yè)革命就是個很好的例子。工業(yè)技術在十九世紀開始傳向全球，顛覆傳統(tǒng)的經(jīng)濟、社會與政治結構，彷佛打開一條道路，讓人類有機會創(chuàng)造出更富裕平和的全新社會。然而，要學習建立一個良性的工業(yè)社會，絕沒有那麼簡單，得經(jīng)過許多昂貴的實驗，還得產(chǎn)生數(shù)以億計的受害者。
?
正因為各方對于「如何建立工業(yè)社會」的看法不一，就造成了代價高昂的沖突。兩次世界大戰(zhàn)與冷戰(zhàn)就像是一連串關于誰是誰非的辯論，各方都能互相學習，嘗試用新的工業(yè)方法來發(fā)動戰(zhàn)爭。但在辯論的過程中，就造成數(shù)千萬人死亡，人類差點自我毀滅。
?
除了以上這些災難，工業(yè)革命也破壞了全球生態(tài)平衡，導致一波物種滅絕。在二十一世紀初，據(jù)信每年有高達58,000種物種滅絕；從1970年至2014年，脊椎動物族群總數(shù)減少了60%。人類文明的生存也受到威脅。直到現(xiàn)在，我們似乎還是沒能建立起一個生態(tài)永續(xù)的工業(yè)社會，我們這個世代得意洋洋的繁榮景象，背后恐怖的代價都得留給眾生與人類的子子孫孫來承擔?；蛟S人類總有一天會找到辦法（也許正是透過AI的協(xié)助），打造出能夠生態(tài)永續(xù)的工業(yè)社會，但在那之前，工業(yè)革命的成敗仍難有定論。
透過AI做出決策
即便如此，這給二十一世紀傳達的訊息依然并不樂觀。要是人類得經(jīng)過這麼多可怕的教訓，才學會如何管理蒸汽動力與電報技術，現(xiàn)在還得再付出多少代價，才能再學會管理AI？比起蒸汽機、電報和所有過去的科技，AI不但可能遠遠更為強大，也遠遠更加難以管理，因為AI正是史上第一個能夠自行做決策、創(chuàng)造新想法的科技。AI不是個工具，而是能夠做出決定的行為者。
?
就智能而言，AI不但遠遠超越了原子彈，更超越了像是泥板、印刷機、收音機這些所有過去的資訊技術。泥板能夠儲存關于稅務的資訊，但無法自行決定要收多少稅，也無法發(fā)明某種全新的稅目。印刷機能夠復制《圣經(jīng)》這樣的資訊，但無法決定《圣經(jīng)》要收錄哪些文本，也無法對這本宗教經(jīng)典加上新的注釋。收音機能夠傳播政治演講與交響樂等資訊，但無法決定要播放哪些演講或交響樂，也無法創(chuàng)作演講或交響樂。AI則是能夠做到這所有一切，甚至是創(chuàng)造出新的大規(guī)模毀滅性武器，到無比要命的傳染疾病。過去的印刷機或收音機只是人類手中的被動工具，但AI正在成為一種主動的行為者，可能得以擺脫人類的掌握與理解，主動形塑社會、歷史與文化。
?
或許人類總有一天能夠找到辦法，讓AI不至于失控，真正為人類帶來福利。然而，人類在這之前，是不是又得再次經(jīng)歷全球帝國、極權政體與世界大戰(zhàn)的循環(huán)，才能搞清楚如何善用AI？而且，比起二十世紀的科技，這些二十一世紀的科技更具威力，我們能犯錯的空間也更受限制。在二十世紀，人類在「工業(yè)技術運用」這門課上，可以說只拿了個60分，勉強低空飛過。但在二十一世紀，過關的門檻高得多，這次可得表現(xiàn)得更好才行。
?
出自：《連結：從石器時代到AI紀元》／天下文化出版社
