當?shù)貢r間4月1日，美國和英國簽署了一項具有里程碑意義的人工智能協(xié)議備忘錄，宣布達成“人工智能安全科學合作伙伴關系”，對英美兩國政府將如何匯集有關人工智能安全的技術知識、信息和人才作出規(guī)劃。英美也成為首個就如何測試和評估新興人工智能模型風險開展正式合作的兩個國家。該協(xié)議是世界上首個關于人工智能安全的雙邊安排，也是在各國政府紛紛推動加強對新技術帶來的生存風險的監(jiān)管之際達成的。

此前，聯(lián)合國大會在3月21日通過了首個關于人工智能的全球決議，呼吁推動開發(fā)“安全、可靠和值得信賴的”人工智能系統(tǒng)，以促進可持續(xù)發(fā)展。歐洲議會也在3月通過了《人工智能法案》。

清華大學計算機系長聘教授，清華大學人工智能研究院視覺智能研究中心主任鄧志東告訴第一財經(jīng)記者，要加大AI領域重大方向性的全球安全監(jiān)管力度，特別是對AGI的安全風險進行分級管控。

趕在下一代模型問世之前合作

去年11月，英國新成立了人工智能安全研究所（AISI），美國也在同期表示要設立同類機構，以評估前沿人工智能模型的風險，目前美國已經(jīng)表示要同200家公司和實體合作。

此次英美的人工智能合作協(xié)議將使英美在未來可以相互借調(diào)研究人員交流專業(yè)知識。兩家機構還將共同研究如何獨立評估由OpenAI和谷歌等公司建立的私人人工智能模型。據(jù)悉雙方的合作關系是以英國情報機構英國政府通信總部（GCHQ）和美國國家安全局在情報和安全相關事務上的合作為藍本的。

英國科學、創(chuàng)新與技術內(nèi)閣大臣唐蘭（Michelle Donelan）和美國商務部長雷蒙多（GinaRaimondo）在華盛頓共同簽署了上述協(xié)議。唐蘭表示："美國作為人工智能強國，與英國簽署這項協(xié)議，充分說明了我們在人工智能安全方面的領先地位?！彼a充道，由于許多最先進的人工智能公司目前都在美國，美國政府的專業(yè)知識對于了解人工智能的風險和要求公司履行承諾至關重要。

唐蘭并說："明年是我們真正需要迅速采取行動的時候，因為下一代（人工智能）模型即將問世，它們可能會徹底改變游戲規(guī)則，而我們還不知道它們將提供的全部能力?！?/p>

不過，唐蘭堅持認為，盡管英國對人工智能的安全性進行了研究，并確保設置了防護欄，但由于該技術的發(fā)展速度太快，英國并不打算在短期內(nèi)對其進行更廣泛的監(jiān)管。

唐蘭和雷蒙多均表示，需要緊急采取聯(lián)合行動來應對人工智能風險?！?/p>

雷蒙多則表示：”人工智能是我們這一代的決定性技術，拜登政府計劃很快宣布其人工智能團隊新成員，美方目前正在動用政府全部資源（促成此事）。我們的合作關系表明，我們不是在逃避這些問題，而是在應對它們。由于我們的合作，我們的研究所將對人工智能系統(tǒng)有更好了解，并對人工智能進行更有力評估，發(fā)布更嚴格指導?！?/p>

據(jù)悉，英國政府支持的AISI由科技投資人和企業(yè)家霍加斯（IanHogarth）擔任主席，已經(jīng)聘請了谷歌DeepMind和牛津大學的精英研究人員，開始測試現(xiàn)有的和未發(fā)布的人工智能模型。

OpenAI、谷歌DeepMind、微軟和Meta等科技企業(yè)則簽署了自愿承諾書，將開放其最新的生成式人工智能模型供英國人工智能研究所（AISI）審查。

多納蘭還表示，她和雷蒙多計劃討論共同面臨的挑戰(zhàn)，如人工智能對今年即將舉行的選舉的影響、人工智能計算基礎設施的需求等，"分享我們的技能組合，以及我們?nèi)绾卧诳傮w上深化合作，為公眾謀福利"。

羅蘭貝格全球管理委員會聯(lián)席總裁戴璞（DenisDepoux）接受第一財經(jīng)記者采訪時表示：“美國雖然沒有相應的聯(lián)邦法律，但一些州已經(jīng)實施了自己的規(guī)定。這凸顯了監(jiān)管機構重視保護消費者隱私、防止技術濫用的趨勢?！贝麒闭f，這種監(jiān)管轉變是積極的，不僅為消費者提供保護，也通過保護數(shù)據(jù)為公司自身提供了安全，AI領域也將如此。

聯(lián)大通過全球人工智能監(jiān)管協(xié)議

如前所述，除了英美兩國的人工智能合作協(xié)議之外，美國也在聯(lián)合國積極推進該領域規(guī)則設立。

聯(lián)合國大會在3月21日通過的首個關于人工智能的全球決議，是該組織首次就監(jiān)管人工智能這一新興領域通過決議。決議草案由美國提交，同時還有120多個會員國成為“共同提案國”或表示支持。

大會強調(diào)，就該決議而言，“安全、可靠和值得信賴的人工智能系統(tǒng)”是指非軍事領域的人工智能系統(tǒng)，必須在其整個生命周期內(nèi)“尊重、保護和增進人權和基本自由”。

決議同樣提出“人們在線下享有的權利也必須在線上得到保護，包括在人工智能系統(tǒng)的整個生命周期內(nèi)”。

決議表示，各國還認識到，“目前存在人工智能和其他數(shù)字方面的鴻溝，國家之間和國家內(nèi)部的技術發(fā)展水平參差不齊，發(fā)展中國家在跟上這一迅速加速的步伐方面面臨獨特挑戰(zhàn)，這對可持續(xù)發(fā)展造成障礙”。

大會因此“決心彌合國家之間和國家內(nèi)部的人工智能鴻溝和其他數(shù)字鴻溝”，同時“促請會員國并邀請其他利益攸關方采取行動，與發(fā)展中國家合作并向其提供援助，以實現(xiàn)包容和公平地獲得數(shù)字化轉型以及安全、可靠和值得信賴的人工智能系統(tǒng)所帶來的惠益”。

不過，意大利經(jīng)濟發(fā)展部前副部長杰拉奇（Michele Geraci）對第一財經(jīng)記者表示，他對全球AI治理并不樂觀?！皩崿F(xiàn)創(chuàng)新與監(jiān)管之間的平衡是一項重大挑戰(zhàn)，尤其是歐盟經(jīng)常被認為容易過度監(jiān)管。目前試圖通過立法解決問題的方法可能不是最有效的策略。人工智能未來五年的影響和發(fā)展軌跡在很大程度上仍無法預測，因此很難設想其潛在應用。這種不確定性使制定法律來管理一項仍在發(fā)展的技術的任務變得更加復雜。對尚未完全實現(xiàn)的事物進行監(jiān)管，有可能進入不斷修訂法律的循環(huán)，從而無意中阻礙進步?！苯芾嬲f。

鄧志東對記者表示，既不要妨礙AI的探索與創(chuàng)新活力，以期其蓬勃發(fā)展加快增進人類福祉，但也必須考慮人類的整體安全利益，處理好各個發(fā)展階段的安全優(yōu)先級別，在實踐中把握好最佳AI風險管控時機。