AI世代與我們的未來：人類智慧和人工智慧正在互相認識

人工智慧與國際秩序

全球有無數問題需要答案。人工智慧網路平臺要如何監管，才不會讓國家擔心安全受到影響，而引發國際間的緊張？這樣的網路平臺會不會侵蝕傳統的國家主權觀念？網路平臺帶來的改變會不會分化這個世界，比蘇聯垮臺時更嚴重？小國會反對嗎？若想要調節這些後果，能成功嗎？有成功的希望嗎？

人工智慧的能力愈來愈強，界定人類與人工智慧的夥伴關係就愈來愈重要、愈來愈複雜。大家可以設想這樣的一個世界：在許多重要的問題上，人類愈來愈服從人工智慧。若對手成功地部署了人工智慧，為了抵禦人工智慧的攻擊，領導者能夠負責任地決定不部署自己的人工智慧嗎？即使他們不確定部署之後會有什麼變化。如果人工智慧擁有卓越的能力，可以推薦行動方案，即使這個行動方案會需要付出某種程度的犧牲，政策制定者可以合理地拒絕嗎？哪個人類能知道這樣的犧牲是不是致勝的關鍵？如果真的是，政策制定者真的會想要拒絕嗎？換句話說，我們可能別無選擇，只能栽培人工智慧，但我們也有責任要用一種和人類未來兼容的方式來塑造人工智慧。

不完美是人類體驗中持續最久的特質之一，尤其是領導方式的不完美。政策制定者的顧慮往往都很狹隘，注意力一下子就分散掉了。有時，他們根據有瑕疵的假設來行動。其他時候，他們完全根據情緒來行動；還有些時候，意識型態扭曲了他們的視野。不管用什麼策略來建構人類與人工智慧的夥伴關係，領導階層都必須適應。如果人工智慧在某些領域展現出超人的能力，人工智慧的用途一定要能融入不完美的人類環境。

在安全領域裡，人工智慧系統反應敏捷，所以對手可能會在這個國家的系統可以開始營運之前便發動攻擊，結果造成一種本質上非常不穩定的局勢，堪比核武所帶來的影響。不過，核武在一個由各國政府、科學家、戰略家和倫理學家，花費數十年所發展出來的安全與軍備控制國際框架中改進、辯論和談判，而人工智慧和網路武器都沒有類似的框架。事實上，政府可能不願意承認人工智慧和網路武器的存在。各國——或許還包括科技公司——需要針對人工智慧成為武器後要如何共存，達成共識。

人工智慧通過政府國防擴散，會改變國際平衡，這個均衡態勢是經過計算，才能在我們的年代撐下來。核武造價高昂，不過因為其大小和結構，很難隱藏；可是人工智慧是在電腦上運作，而電腦已經隨手可得了。訓練機器學習模型需要經驗和演算資源，創造人工智慧則需要大公司或大國家的資源。由於人工智慧的應用程式可以在比較小型的電腦上運行，所以人工智慧可以被我們料想不到的方式廣泛應用。最終，只要有筆記型電腦、連上網際網路，可以在暗網裡通行的人，就可以使用人工智慧武器嗎？政府會不會授權和政府只有一點點關聯或完全不隸屬於政府的行為者，運用人工智慧騷擾對手？恐怖分子會以資訊工程發動人工智慧攻擊嗎？他們能把這些攻擊嫁禍給其他國家和行為者嗎？

外交過去只發生在有組織、可預期的領域裡，需要大量資訊和行動。以前由地理和語言所劃出來的尖銳界線會持續消失。人工智慧翻譯會促進對話，不受到語言學習帶來的文化熟悉感影響。人工智慧網路平臺會促進跨境交流。此外，駭客攻擊和不實資訊會繼續扭曲人們的看法和評價。複雜性提高了，要制定可執行的協議，來獲得可預期的結果就更難了。

把人工智慧功能移植到網路武器上，會讓這困境更深刻。人類當初是把傳統武力（可和傳統策略協調的武器）和核武（傳統戰略不適用）生硬地區隔開來，迴避了核武的矛盾。核武會造成大規模的無差別破壞，而常規軍力則是有針對性的。然而，網路武器既有針對性，又能造成大規模毀滅，消除了其間的差異。搭配人工智慧之後，這些武器就更無法預測，而且毀滅力更強。同時，人工智慧網路武器在網路中移動時，屬性就更不明確了，也不會被偵測出來。網路武器和核武不同，只需要一個隨身碟就行了，還很容易擴散。在某些情況下，一旦完成部署，就很難控制，因為人工智慧的本質恆動，還可以隨機應變。

這種情況挑戰了以規則為基礎的世界秩序，而且還提出一個急迫的難題：要發展出對人工智慧進行軍備管制的概念。在人工智慧時代，無法依照歷史規則來運作嚇阻力，甚至可說根本不可能。在核子時代剛開始的時候，哈佛大學、麻省理工學院、加州理工學院領頭的教授（有政府經驗），一起發展出管制核武軍備的概念框架，經過討論得出實情，建立了架構（由美國和其他國家來實踐）。儘管學者的想法很重要，但這個架構是和美國國防部的常規作戰分開進行的，是在原本的觀念上新增，不是去調整原本的觀念。可是人工智慧的潛在軍事用途比核武更廣泛，而且至少目前攻擊和防守還無法明確劃分開來。

在這樣複雜且根本無法計算的世界裡，人工智慧還會造成另一種誤解和犯錯的機會。遲早，擁有高科技能力的大國必須進行持久的對話，這樣的對話應該集中在根本問題上：如何避免災難，並且活下來？