全球首個！英美就人工智能安全達成雙邊協議

當地時間4月1日，美國和英國簽署了一項具有里程碑意義的人工智能協議備忘錄，宣布達成“人工智能安全科學合作伙伴關系”，對英美兩國政府將如何匯集有關人工智能安全的技術知識、信息和人才作出規劃。英美也成為首個就如何測試和評估新興人工智能模型風險開展正式合作的兩個國家。該協議是世界上首個關于人工智能安全的雙邊安排，也是在各國政府紛紛推動加強對新技術帶來的生存風險的監管之際達成的。

此前，聯合國大會在3月21日通過了首個關于人工智能的全球決議，呼吁推動開發“安全、可靠和值得信賴的”人工智能系統，以促進可持續發展。歐洲議會也在3月通過了《人工智能法案》。

清華大學計算機系長聘教授，清華大學人工智能研究院視覺智能研究中心主任鄧志東告訴第一財經記者，要加大AI領域重大方向性的全球安全監管力度，特別是對AGI的安全風險進行分級管控。

趕在下一代模型問世之前合作

去年11月，英國新成立了人工智能安全研究所（AISI），美國也在同期表示要設立同類機構，以評估前沿人工智能模型的風險，目前美國已經表示要同200家公司和實體合作。

此次英美的人工智能合作協議將使英美在未來可以相互借調研究人員交流專業知識。兩家機構還將共同研究如何獨立評估由OpenAI和谷歌等公司建立的私人人工智能模型。據悉雙方的合作關系是以英國情報機構英國政府通信總部（GCHQ）和美國國家安全局在情報和安全相關事務上的合作為藍本的。

英國科學、創新與技術內閣大臣唐蘭（Michelle Donelan）和美國商務部長雷蒙多（GinaRaimondo）在華盛頓共同簽署了上述協議。唐蘭表示："美國作為人工智能強國，與英國簽署這項協議，充分說明了我們在人工智能安全方面的領先地位?！彼a充道，由于許多最先進的人工智能公司目前都在美國，美國政府的專業知識對于了解人工智能的風險和要求公司履行承諾至關重要。

唐蘭并說："明年是我們真正需要迅速采取行動的時候，因為下一代（人工智能）模型即將問世，它們可能會徹底改變游戲規則，而我們還不知道它們將提供的全部能力?！?/p>

不過，唐蘭堅持認為，盡管英國對人工智能的安全性進行了研究，并確保設置了防護欄，但由于該技術的發展速度太快，英國并不打算在短期內對其進行更廣泛的監管。

唐蘭和雷蒙多均表示，需要緊急采取聯合行動來應對人工智能風險?！?/p>

雷蒙多則表示：”人工智能是我們這一代的決定性技術，拜登政府計劃很快宣布其人工智能團隊新成員，美方目前正在動用政府全部資源（促成此事）。我們的合作關系表明，我們不是在逃避這些問題，而是在應對它們。由于我們的合作，我們的研究所將對人工智能系統有更好了解，并對人工智能進行更有力評估，發布更嚴格指導?！?/p>

據悉，英國政府支持的AISI由科技投資人和企業家霍加斯（IanHogarth）擔任主席，已經聘請了谷歌DeepMind和牛津大學的精英研究人員，開始測試現有的和未發布的人工智能模型。

OpenAI、谷歌DeepMind、微軟和Meta等科技企業則簽署了自愿承諾書，將開放其最新的生成式人工智能模型供英國人工智能研究所（AISI）審查。

多納蘭還表示，她和雷蒙多計劃討論共同面臨的挑戰，如人工智能對今年即將舉行的選舉的影響、人工智能計算基礎設施的需求等，"分享我們的技能組合，以及我們如何在總體上深化合作，為公眾謀福利"。

羅蘭貝格全球管理委員會聯席總裁戴璞（DenisDepoux）接受第一財經記者采訪時表示：“美國雖然沒有相應的聯邦法律，但一些州已經實施了自己的規定。這凸顯了監管機構重視保護消費者隱私、防止技術濫用的趨勢?！贝麒闭f，這種監管轉變是積極的，不僅為消費者提供保護，也通過保護數據為公司自身提供了安全，AI領域也將如此。

聯大通過全球人工智能監管協議

如前所述，除了英美兩國的人工智能合作協議之外，美國也在聯合國積極推進該領域規則設立。

聯合國大會在3月21日通過的首個關于人工智能的全球決議，是該組織首次就監管人工智能這一新興領域通過決議。決議草案由美國提交，同時還有120多個會員國成為“共同提案國”或表示支持。

大會強調，就該決議而言，“安全、可靠和值得信賴的人工智能系統”是指非軍事領域的人工智能系統，必須在其整個生命周期內“尊重、保護和增進人權和基本自由”。

決議同樣提出“人們在線下享有的權利也必須在線上得到保護，包括在人工智能系統的整個生命周期內”。

決議表示，各國還認識到，“目前存在人工智能和其他數字方面的鴻溝，國家之間和國家內部的技術發展水平參差不齊，發展中國家在跟上這一迅速加速的步伐方面面臨獨特挑戰，這對可持續發展造成障礙”。

大會因此“決心彌合國家之間和國家內部的人工智能鴻溝和其他數字鴻溝”，同時“促請會員國并邀請其他利益攸關方采取行動，與發展中國家合作并向其提供援助，以實現包容和公平地獲得數字化轉型以及安全、可靠和值得信賴的人工智能系統所帶來的惠益”。

不過，意大利經濟發展部前副部長杰拉奇（Michele Geraci）對第一財經記者表示，他對全球AI治理并不樂觀?！皩崿F創新與監管之間的平衡是一項重大挑戰，尤其是歐盟經常被認為容易過度監管。目前試圖通過立法解決問題的方法可能不是最有效的策略。人工智能未來五年的影響和發展軌跡在很大程度上仍無法預測，因此很難設想其潛在應用。這種不確定性使制定法律來管理一項仍在發展的技術的任務變得更加復雜。對尚未完全實現的事物進行監管，有可能進入不斷修訂法律的循環，從而無意中阻礙進步?！苯芾嬲f。

鄧志東對記者表示，既不要妨礙AI的探索與創新活力，以期其蓬勃發展加快增進人類福祉，但也必須考慮人類的整體安全利益，處理好各個發展階段的安全優先級別，在實踐中把握好最佳AI風險管控時機。