聯(lián)合國裁軍研究所3月28日在瑞士日內(nèi)瓦舉辦“全球人工智能（AI）安全與倫理”國際研討會。在會上，中國裁軍大使沈健表示，主要大國在人工智能領(lǐng)域互信缺失，個別大國泛化國家安全概念，量身定制芯片出口管制政策措施，打擊所謂戰(zhàn)略競爭對手的人工智能產(chǎn)業(yè)發(fā)展。如果國際社會放任這一趨勢發(fā)展，將嚴(yán)重阻礙加強人工智能全球治理、應(yīng)對人工智能安全挑戰(zhàn)的努力。確實如此，我們還需要清楚認(rèn)識到，全球人工智能治理的復(fù)雜性遠(yuǎn)超預(yù)期，它存在三個困境。
一是治理理念的分歧。在全球AI治理的理論層面，存在“超級對齊派”和“有效加速派”兩種截然不同的觀點。以AI科學(xué)家為代表的“超級對齊派”認(rèn)為，AI的發(fā)展必須與人類價值觀和倫理相一致。他們強調(diào)，AI的快速發(fā)展可能對人類社會造成不可逆轉(zhuǎn)的負(fù)面影響，因此必須加強治理。“有效加速派”則認(rèn)為，AI帶來的問題應(yīng)由技術(shù)自身解決。他們強調(diào)創(chuàng)新的重要性，認(rèn)為過度治理可能會扼殺技術(shù)的潛力。
在實踐層面，國際社會對于AI發(fā)展所制定的規(guī)章制度存在明顯差異。歐盟作為全球首個出臺《人工智能法案》的司法管轄區(qū)，其政策導(dǎo)向傾向于對AI引發(fā)的各種問題進行有效治理，以防止其對社會成員造成傷害。相比之下，美國政府，尤其是特朗普上臺后，持截然相反的態(tài)度。他們認(rèn)為，不應(yīng)過度監(jiān)管AI的發(fā)展。可見，無論是理論探討還是實踐操作，AI治理都面臨著諸多不同的觀點和立場。
二是治理主體的困境。全球AI治理還面臨由誰治理、誰來治理更有力的不確定性。AI作為一種通用技術(shù)，其應(yīng)用范圍廣泛，涉及每個國家、企業(yè)和行業(yè)。單一國家的治理顯然不足以應(yīng)對全球性問題，因此需要建立一個全球性的治理平臺。然而，聯(lián)合國等國際機構(gòu)在以往的全球治理實踐中，如氣候治理和生物多樣性保護，已暴露出諸多問題。
盡管聯(lián)合國在AI治理方面做了大量工作，但成果仍有限。之后有了在英國、韓國、法國分別舉辦的AI行動峰會。不過，由于不同國家對AI治理的態(tài)度不同，這種由各個國家輪流坐莊的自發(fā)性治理模式，顯然難以滿足全球AI治理的需求。美國和英國在法國AI行動峰會上的拒絕簽署行為，更是凸顯了全球治理在協(xié)調(diào)各國立場上的巨大挑戰(zhàn)。原本各國應(yīng)攜手合作，共同應(yīng)對AI帶來的挑戰(zhàn)。然而，美國卻對其他國家的AI發(fā)展進行打壓，試圖通過“斷鏈”“脫鉤”等手段來限制AI國際合作，對全球AI治理造成明顯障礙。
三是全球治理速度的滯后。自2016年AlphaGo戰(zhàn)勝韓國知名圍棋選手、2017年擊敗世界排名第一的圍棋選手以來，AI的發(fā)展速度令人矚目。此后，新一代AI技術(shù)的崛起更是推動了行業(yè)的飛速發(fā)展，特別是2022年11月，美國OpenAI公司推出GPT。之后短短2年多時間里，我們見證了多個優(yōu)秀AI大模型的問世。中國近期推出的DeepSeek等AI大模型也展現(xiàn)了大語言模型高效、強大的功能。這些模型不僅在技術(shù)上取得了突破，更在實際應(yīng)用中展現(xiàn)出巨大的潛力。然而，隨著AI大模型的不斷強大，它們對人類就業(yè)、信息安全和社會倫理的挑戰(zhàn)也日益凸顯。
多年前，科學(xué)家霍金曾發(fā)出警告：人工智能的崛起，要么是人類有史以來最好的事情，要么是人類有史以來最糟糕的事情，我們現(xiàn)在還不知道是哪種情況。因此，霍金呼吁，在這一領(lǐng)域進行更多研究，以學(xué)會如何避免風(fēng)險。
2023年3月，馬斯克聯(lián)合眾多AI專家和行業(yè)高管，發(fā)布了一封公開信，呼吁暫停開發(fā)比GPT-4更強大的AI系統(tǒng)，為期至少6個月。然而，這一呼吁并未得到廣泛響應(yīng)。全球范圍內(nèi)，AI的發(fā)展仍在快速推進，而治理進程卻因各方利益分歧和目標(biāo)不一致而進展緩慢。
全球AI治理是一個復(fù)雜而艱巨的任務(wù)，需要各國政府、國際組織和企業(yè)共同努力來應(yīng)對挑戰(zhàn)。聯(lián)合國秘書長古特雷斯在巴黎人工智能行動峰會上說，AI已經(jīng)在改變我們的世界，但它的技術(shù)力量目前仍掌握在少數(shù)人手里。他呼吁各國共同利用這項革命性技術(shù)，“彌合而非擴大發(fā)達(dá)國家和發(fā)展中國家之間的差距”，人工智能能力的日益集中“甚至有可能加劇全球地緣政治分歧”，必須通過各國政府、技術(shù)界、學(xué)術(shù)界的共同參與構(gòu)建 “全球護欄”。（作者是中國發(fā)展戰(zhàn)略學(xué)研究會副理事長、北京交通大學(xué)科技與戰(zhàn)略研究中心主任）
