尤瓦爾·赫拉利

文/《環球》雜誌記者 樂艷娜

編輯/馬琼

　　“人工智能不是工具，而是能夠作出決策的行為者。”

　　“人工智能的力量可能會大幅加劇人類既有的衝突，讓人類形成內鬥。”

　　“硅幕所分隔的或許不是彼此敵對的人類，而是一方代表着所有人類，另一方則是我們新的人工智能霸主。”

　　“人工智能不但可能改變人類這個物種的歷史進程，還可能改變所有生命形式的演化歷程。”

　　歷史學家尤瓦爾·赫拉利在其新書《智人之上》裏，通過探討信息網絡如何塑造我們和我們的世界，講述了在過去10萬年裏積累了巨大能量的智人，如何一頭扎進可能毀滅我們自身的、由新型信息網絡組成的人工智能時代。以上就是他在書中分享的一些觀點。

　　他還在書裏提出了諸多哲學和現實問題，比如：人類如此智慧，為什麼卻總傾向於自我毀滅？我們為什麼走到了生態和技術自殺的邊緣？當非人類智能威脅到人類的生存時，人類如何作出明智的選擇？

尤瓦爾·赫拉利作品《智人之上》

　　《智人之上》中文版日前由中信出版集團出版，借此契機，赫拉利接受了中信出版集團安排的相關採訪，他以該書為起點，分享他對人工智能時代的理解。

防止人工智能失控

　　記者：談到人工智能，手機就是其中一個代表，現在很多人都已經成為手機的“奴隸”。你對此有何看法？你覺得是否有方法可以擺脫這種被“奴役”的狀態？

　　赫拉利：有一點非常重要，那就是，我們才剛剛開始人工智能革命。近年來我們所看到的只是最原始的人工智能，人工智能的進化過程可能會持續幾個世紀、幾千年、幾百萬年。

　　人工智能不同於歷史上的任何一項技術，它是第一項獨立於人的技術，而不只是人類的工具。以前的每項技術都是我們手中的工具，由我們決定如何使用、何時使用，無論是錘子、飛機還是原子彈，都由我們來決定。但人工智能可以做到這一點，即它可以自己做決定，自己發明新事物，包括新的武器和藥物。它也具有巨大的積極潛力。

　　關鍵是要意識到，人工智能並非我們手中的另一種工具，它是一個可能會超出我們控制的“代理”。它已經在替我們做很多決定了。比如，你向銀行申請貸款，決定是否給你發放貸款的也許就是人工智能；你申請留學或者找工作，也許是人工智能在做關於你的決定。隨着人工智能日益掌控全球越來越多的系統，並為我們做出決定，它可能會開始迫使我們採取行動，以可能對人工智能有利，但對人類不利的方式行事。

　　記者：你曾説人工智能的崛起是人類所面臨的一大挑戰。但另一方面，我們也常聽到關於如何通過推廣人工智能以造福人類的聲音。那麼，在一個可持續發展的社會中，人工智能應該扮演什麼角色？

　　赫拉利：如果我們能防止人工智能失控，確保人工智能符合人類的價值觀，那麼它可能會成為人類歷史上最好的發明。因為到那時，它的巨大能量將服務於人類社會，而不是危害人類社會。

2024年11月4日，在新加坡，中國智能無人車製造商九識智能的無人物流車參與新加坡FairPrice集團運營車隊物流運輸

　　在許多領域，比如醫療保健，我們沒有足夠的醫生為世界上的所有人服務，而人工智能醫生可以在這方面提供巨大幫助。在車禍問題上，情況也一樣。每年有100多萬人死於車禍，其中大多數事故都是人為失誤造成的。如果我們改用由人工智能控制的自動駕駛汽車，每年可能就會拯救100萬人。雖然人工智能也可能會導致事故，但總數會少很多，因為人工智能永遠不會酒駕，也不會睡着。同樣，在氣候變化方面，人工智能可以幫助我們找到新的能源來源，找到更好的可持續的管理經濟的方法。

　　但最大的問題是，如何在享受這些好處的同時，防止技術帶來的巨大危險。

　　記者：如果人工智能失控，人類可能走向自我毀滅。我們如何才能在這條不停將我們推向自我毀滅的道路上拯救自己？

　　赫拉利：有些事情，我們個人可以做，但最終卻只能通過社會層面的共同努力完成。整個社會都需要了解我們所面臨的問題，加強對新技術監管，確保其適應人類的需求，而不會脫離我們的控制，更不能開始操縱我們，給我們施加過多壓力。

　　現在，我們面對任何問題時，第一件要做的就是要放慢腳步，真正了解問題所在。要知道，當人們面臨危險情況時，往往會急於去解決問題，但結果往往因為誤判，選擇了錯誤的解決方案。

　　我不知道解決辦法是什麼，但首先應該讓更多的人意識到這個問題，並參與討論，一起探討該怎麼做。目前的情況是，幾乎所有關於人工智能的知識都集中在極少數開發這項技術的工程師和企業家手中，他們開發技術，但往往體會不到技術帶來的影響。

　　很多時候，最先體會到技術全面影響的不是工程師，也不是大企業的管理者，而可能是生活在遙遠村鎮的普通人。因此，我們首先需要與他們建立&&，開展更具包容性的辯論，如果只給極少數開發技術的人賦予權力，讓他們決定所有問題的解決方案，將意味着我們對自身所面臨的挑戰的理解非常狹隘和膚淺。

擺脫算法與堅持冥想

　　記者：現在，&&在某種意義上控制了所有信息。社交媒體為王的時代到來了嗎？算法是不是抓住了人類的弱點？

　　赫拉利：現在在社交媒體上，誰來控制、誰來決定推送什麼內容？你在抖音上看到的下一個視頻會是什麼？這些都是由算法在做決定。這些算法在很多情況下並不關心真相。許多社交媒體的商業模式就是讓用戶在&&上花更多時間，因為時間越長，&&就能向他們展示更多廣告，收集更多數據，這樣就能賺到更多錢。因此，算法的主要激勵因素是如何讓人們在&&上停留更長時間。

　　不幸的是，算法發現，想讓人們在&&上停留更長時間，最簡單的方法就是按下人們心中的貪婪、仇恨或恐懼按鈕，因為這樣可以抓住人們的注意力。就像黑客攻擊人類一樣，比如，想入侵計算機，需要仔細研究計算機的代碼，直到找到代碼中的某個漏洞。

　　人類也是如此，作為非常複雜的動物有很多美德，也有惡習。算法會一直觀察你，直到發現你的弱點，然後利用它對付你。美好的社會培養人類的美德，努力抑制惡習。糟糕的社會則恰恰相反，它鼓勵惡習。這就是算法現在正在做的事情，基本上是發現並助長我們的惡習。

　　當然，個人也可以採取一些措施來解決這個問題，比如，進行信息斷食，就像我冥想時所做的事情一樣，我去努力了解自己的弱點。如果你知道自己的弱點，他人就更難操縱和控制你。我不認為冥想對每個人都有效，因為每個人都不同。對我來説這很有效，但對其他人來説也許是出門走走，也許是運動，也許是在樹林裏徒步一個星期，也許是做治療。總之不管用何種方法，只要能幫助你更好地了解自己的弱點和惡習，就有助於讓你擺脫這些算法的操縱。

　　記者：你每天堅持冥想兩小時，進行信息“斷食”，為什麼要形成這樣的習慣？

　　赫拉利：如果沒有冥想的習慣，我不可能寫出《人類簡史》或《智人之上》這樣的書。我也無法應付忙碌的日程安排，比如採訪、上電視等等，因為思緒會變得不穩定。冥想能幫助我的頭腦保持平衡和清醒。冥想的真正目的在於它讓我更好地了解自身，了解自己的想法。

　　我從24年前開始冥想，那時我正在牛津大學攻讀博士學位。當時我讀了很多書和文章，但並不快樂，也不明白痛苦的根源是什麼。有一個朋友跟我説，你為什麼不試試冥想？我想，算了，冥想不適合我。我是非常理性的人，對科學更感興趣。但冥想就像神秘主義，像是某種宗教活動，這不適合我。

　　一年後，我説，好吧，我試試看。結果令我大吃一驚，因為冥想太科學了，沒有一點神秘主義的色彩。沒有人要求我信仰哪個神，它的基本指令就是閉上眼睛，打坐，將全部注意力集中在鼻息上，甚至不需要去試圖控制呼吸，只需試着感受氣息何時進入、何時呼出。這是唯一需要做的。

　　我想，這件事非常簡單，我可以輕鬆做到。這有什麼難的呢？於是試着去做。但僅10秒鐘，我就無法專注於自己的呼吸，思緒開始飄散，進入一些記憶、幻想和思考中。我會沉浸在這些想法中，1分鐘、5分鐘，直到意識到我必須感受呼吸，而不是思考。

　　於是我讓注意力回到呼吸，但過了一兩秒，我又失去了對呼吸的專注。我震驚地發現，我無法控制自己的思維，即使是感知呼吸這麼簡單的事情，我的注意力也會被頭腦中産生的幻想、故事和記憶“劫持”。

　　這些年，隨着我練習冥想，我意識到這種情況無時無刻不在發生。比如，我們幾乎從未觀察過我們的生活和世界的真實情況，因為我們的頭腦在不斷地製造幻想、錯覺和故事，我們被困在這些頭腦産生的故事中，與現實脫節。對我來説，冥想是一種接觸現實的練習。冥想的關鍵在於感受當下發生了什麼，讓頭腦更加清晰，保持平衡，不被外界的噪聲和內心的雜念所干擾。

　　過去信息稀缺，人們會消費所有能獲取到的信息。現在，我們被太多的信息淹沒了。其中很多都是垃圾信息，就像垃圾食品一樣。為了讓人更容易上癮，它被人為地添加了貪婪、憤怒和恐懼。我們需要節食。我們以為信息越多越好，其實不然。我們需要一些高質量的信息，還需要更多時間來消化信息，並清除之前攝入的垃圾信息。

　　因此，對我來説冥想就像一種“信息斷食”。我每年都會去參加為期30天或60天的長期冥想靜修，其間我不再獲取任何信息，不上網，不用電子郵件，不上社交媒體，不用智能手機。我甚至不看書，也不再寫新的信息，只把時間留給（信息）消化和排毒。

可持續發展社會的關鍵要素

　　記者：你目前在經營一家名為“智慧之船”的企業，希望促使人們就人類所面臨的緊迫問題進行對話。有哪些議題是非常緊迫的？

　　赫拉利：“智慧之船”的主要使命是幫助全世界的人將對話的焦點集中在人類所面臨的最重要的挑戰上，因為很多時候，人們關注的問題是錯誤的。我們認為，對人類社會最重要的挑戰有三個。第一個是生態挑戰，整個生態系統正因氣候變化、眾多動植物的滅絕而變得不穩定，而人類也是生態系統的一部分。如果生態系統崩潰，人類會深受其害。

　　第二個挑戰就是人工智能。我們對自己創造出的這種新的高智能外星物種，目前還具有控制能力，但它們很快就會脫離控制。要如何防止它們脫離控制、危害人類？

　　第三個挑戰是戰爭。面臨着生態崩潰和人工智能崛起這兩大挑戰，本以為全世界的人會團結起來，共同應對這些威脅，但事實卻恰恰相反。過去十多年裏，世界各地的國際緊張局勢日益加劇，戰爭和衝突越來越多。一旦爆發真正的大規模戰爭，不需要人工智能或氣候變化來毀滅人類，我們就可以毀滅自己。

　　這是“智慧之船”試圖提醒人們關注的三大挑戰。是的，每個國家都會有自己的特殊問題，但作為人類整體，我們需要合作應對這三大全球性挑戰。

　　記者：那麼，從更廣闊的視野來看，可持續發展社會的關鍵要素是什麼？

　　赫拉利：關鍵是要更好地了解人類。社會發展最終的目標不是生産人工智能，也不是生産其他東西，而是為了讓人類過上美好、幸福的生活。為此，你需要真正了解，什麼是人們生活痛苦的根源，以及什麼是人類的幸福之源。

　　我認為，將如此多的資金、精力和時間用於發展技術和人工智能固然重要，但不應忽視對人類自身的了解和發展。如果我們在開發人工智能方面每投入1美元或1分鐘的同時，也能在了解和發展人類和人類思維方面也投入1美元和1分鐘，我想一切都會變好起來。

　　（採訪內容由中信出版集團授權發布）