透視“軍事領域負責任使用人工智能峰會”

2023-04-04 10:58:19

來源:軍事高科技在線

導 讀
隨著人工智能在軍事領域應用價值日益凸顯,各軍事大國紛紛推進人工智能的軍事應用,同時也引發了諸多安全風險和挑戰。美國前國務卿基辛格曾警告稱,人工智能的潛在破壞力可能“遠超核彈”。也有人預言,人工智能武器將是繼火藥、核武器之后“戰爭領域的第三次革命”,恐將觸發新一輪的軍備競賽,降低戰爭門檻。如何才能既有效推進軍事智能化發展同時最大限度地減少其帶來的風險?這是當前困擾世界各國的一個難題。2023年2月15日至16日,由荷蘭和韓國在海牙共同主辦了“軍事領域負責任使用人工智能”峰會。這是國際上圍繞“軍事領域負責任使用人工智能”議題舉辦的第一屆峰會,引發國際社會高度關注。此次峰會發布了成果文件《軍事領域負責任使用人工智能行動倡議》(REAIM Call to Action),呼吁國際社會應就軍事領域人工智能應用所帶來的安全風險挑戰加強多利益攸關方的討論合作。本文梳理總結了這一峰會中具有代表性的各方觀點及主要成果,并做簡要評析,供讀者參考。
圖1:在海牙舉辦的“軍事領域負責任使用人工智能峰會”
一、具有代表性的各方觀點
2023年2月15日至16日,由荷蘭和韓國在海牙共同主辦了“軍事領域負責任使用人工智能”峰會。中國、美國等80多國及聯合國等國際組織應邀參加,來自政府、智庫、企業、科研機構等1700余人與會。各方代表圍繞人工智能軍事應用相關問題發表了重要的觀點,代表了這一領域國際上的最新觀點動態,總結梳理如下。
在這場“軍事領域負責任使用人工智能”峰會上,中國駐荷蘭大使兼常駐禁化武組織代表談踐率團與會,主要闡述了以下觀點。
圖2:中國駐荷蘭大使兼常駐禁化武組織代表談踐發表講話
談踐大使在高級別會議中表示,中國始終高度重視人工智能安全治理,不斷加強法律、軍事、技術、倫理等層面研究,改善相關安全治理,并就規范人工智能軍事應用、加強人工智能倫理治理向聯合國提交兩份立場文件。談踐大使強調,人工智能軍事應用問題事關全人類安全和福祉,需要各國團結應對。中方主張堅持智能向善,反對借助人工智能謀求絕對軍事優勢和霸權;堅持以人為本,遵守國際法和倫理道德,切實尊重和保障人類尊嚴和人權;堅持多邊主義,發揮聯合國主渠道作用,增加發展中國家代表性和發言權。中方反對人為制造科技壁壘,確保各國充分享有技術發展與和平利用的權利。
談踐大使表示,人工智能是人類共同的智慧結晶,它不是地緣政治的博弈工具,所以不應該被政治化、武器化和意識形態化。中方愿同國際社會一道,推動跨國家、跨領域、跨文化的人工智能合作交流,我們反對構建排他性集團、惡意阻撓他國技術發展的行徑。我們認為,應該堅持多邊主義、開放包容的原則,致力于共同規范人工智能軍事應用并建立普遍參與的國際機制,推動形成具有廣泛共識的人工智能治理框架和標準規范。近年來,美英等軍事大國一方面大舉推進智能化軍事體系建設,加快人工智能軍事應用研發;另一方面,在多邊領域,反對采取任何限制人工智能軍事應用的舉措,甚至拼湊“人工智能防務伙伴計劃”“人工智能全球合作組織”等小集團,兜售以所謂“基本自由和民主價值”為基礎的人工智能治理規則。對此,談踐大使明確指出,在對人工智能軍事應用領域加強監管治理的同時,應避免采取以意識形態劃線、泛化國家安全概念的做法。
談踐大使還強調,作為人工智能大國,中國始終以高度負責任的態度積極參與人工智能領域全球治理體系建設和改革。2021年以來,中方在聯合國場合相繼發布了《中國關于規范人工智能軍事應用的立場文件》《中國關于加強人工智能倫理治理的立場文件》,為推進人工智能全球治理貢獻了“中國智慧”與“中國方案”。此外,中方還積極參與聯合國“致命性自主武器系統”問題討論,未來,中方將繼續以建設性姿態參與人工智能全球治理。
圖3:2021年12月,中國特命全權裁軍事務大使李松率團出席在日內瓦召開的聯合國《特定常規武器公約》第六次審議大會,并向大會提交了《中國關于規范人工智能軍事應用的立場文件》
美國代表邦尼·丹尼斯·詹金斯大使(Bonnie Denise Jenkins)也在會上闡述了美國對于人工智能軍事應用的立場觀點,認為人工智能是一種變革性的通用技術,?利用這種新技術為經濟社會和軍事領域帶來了機遇和風險,將以未知的方式改變歷史的進程。例如,人工智能的應用可以幫助應對解決復雜的核查挑戰,增強對各國承諾的信心,從而加強軍備控制。越來越多的國家正在發展軍事人工智能能力,其中可能包括使用人工智能來實現自主系統。美國從負責任的角度將人工智能用于軍事目的,這意味著在利用人工智能的好處的同時,必須關注安全和負責任的行為,這與戰爭法和國際人道主義法是一致的。人工智能的軍事使用可以而且應該是合乎倫理的、負責任的,并增強國際安全,在武裝沖突中使用人工智能必須符合國際人道主義法。人工智能能力的軍事使用需要進行有效問責,包括在負責任的指揮和控制鏈內的軍事行動中應用人工智能。軍事使用人工智能的原則方法應該包括仔細考慮風險和收益,還應該最大限度地減少意外偏見和事故。各國應采取適當措施,確保負責任地開發、部署和使用其軍事人工智能能力,包括那些實現自主系統的能力。這些措施應該覆蓋到軍事人工智能能力的整個生命周期。
圖4:美軍不斷推動人工智能軍事應用
美國代表強調,人工智能將深刻變革后勤管理、軍事訓練、作戰方式等軍隊各領域。負責任的軍隊應當使用人工智能能力來改善決策和態勢感知,幫助避免意外交戰。人工智能能力將提高使用武力的準確性和精確性,這也將有助于加強執行國際人道主義法對平民的保護。人工智能的軍事用途可以讓世界更安全。然而,由于許多人工智能系統的脆弱性,急于利用人工智能而不采取謹慎、有原則的方法的國家可能會部署具有不可預測后果的系統——無論是因為系統設計不當、測試不足,還是因為指揮官和操作人員對這些系統的能力和局限性沒有充分了解。
美國代表表示,目前美國防部已經發布軍用人工智能倫理原則和負責任的人工智能戰略和實施途徑,闡釋了指導美軍在軍事領域應用人工智能的基本原則和實踐路徑。美國致力于開發可靠的人工智能系統,確保操作者能夠適當謹慎地并根據適用的國內法和國際法使用基于人工智能技術的武器系統,并確保保留人類的責任,確保在軍事行動中人工智能技術的使用始終在負責任的指揮和控制人力鏈中。此外,美國和英法兩國已經作出聯合承諾,對所有執行有關使用核武器的主權決定至關重要的行動保持人類控制和參與,旨在確保這種最危險的軍事技術受到人類的嚴格監督。
同時,美國代表還指出,在開發、部署和使用軍事人工智能能力時應采取下列舉措。
1.各國應采取法律審查等有效步驟,確保其軍事人工智能能力僅在符合其國際法特別是國際人道主義法義務的情況下使用;
2.各國應保持對所有行動的人類控制和參與,這些行動對通報和執行有關使用核武器的主權決定至關重要;
3.各國應確保高級官員監督所有具有重大應用的軍事人工智能能力的開發和部署,包括但不限于武器系統;
4.各國應通過、發布和實施其軍事組織負責任的設計、開發、部署和使用人工智能能力的原則;
5.各國應確保相關人員在開發、部署和使用軍事人工智能能力(包括具備這種能力的武器系統)時給予適當的照顧,包括適當水平的人類判斷;
6.各國應確保采取深思熟慮的步驟,盡量減少軍事人工智能能力方面的意外偏見;
7.各國應確保利用可審計的方法、數據源、設計程序和文件開發軍事人工智能能力;
8. 各國應確保使用或批準使用軍事人工智能能力的人員經過培訓,以便充分了解其能力和限制,并能夠對其使用做出基于背景的判斷;
9.各國應確保軍事人工智能能力具有定義明確的用途,并確保其設計用于實現這些預期功能;
10.各國應確保軍事人工智能能力的安全性和有效性在其明確定義的用途和整個生命周期內接受適當和嚴格的測試和保證。自我學習或不斷更新軍事人工智能能力也應受到監測過程的制約,以確保關鍵的安全功能沒有退化;
11. 各國應使軍事人工智能具備避免出現意外后果的能力。各國還應實施其他適當的保障措施,以減輕嚴重故障的風險;
12.各國應繼續討論如何以負責任的方式開發、部署和使用軍事人工智能能力,以促進這些做法的有效實施。
尤為值得注意的是,美國在此次峰會上還發表了一份關于負責任使用人工智能與自主技術的政治宣言,具體內容如下:
1. 確保相關人員在開發、部署和使用軍事人工智能時要維持適當水平的人類判斷;
2. 開發軍事人工智能系統具備避免意外后果的能力;
3. 確保使用可審計的方法、數據源、設計程序和文檔開發軍事人工智能能力;
4. 最小化軍事人工智能能力的意外偏差;
5. 確保國際法,特別是國際人道主義法得到遵守。
二、主要成果
在此次峰會上,包括中國、美國在內的60多個國家簽署了一項“行動倡議”,支持“軍事領域負責任使用人工智能”的立場,在世界上產生了重要影響。具體內容如下:
圖5:軍事領域負責任使用人工智能行動倡議
倡議指出,人工智能正在從根本上影響和改變我們的世界。人工智能將極大地影響未來的軍事行動,就像它影響我們的工作和生活方式一樣。各國軍隊正在不斷推進人工智能的軍事應用。人工智能作為一種使能技術具有非凡的潛力,使人類能夠有力地利用以前無法想象的數據量并改善決策。然而,應當認識到其中也有風險,其中許多是迄今無法預見的。全世界都在關注人工智能在軍事領域應用存在的風險挑戰,包括人工智能系統潛在的不可靠問題、人類參與的問題、問責困難和潛在的意外后果,以及在武裝力量范圍內意外升級的風險等。
倡議強調,各國應當在軍事領域負責任地使用人工智能,按照國際法律義務,以不損害國際安全、穩定和問責制的方式使用人工智能,是至關重要的。這一行動倡議邀請各國政府、工業界、知識機構、國際組織和其他方面支持以下工作。
1. 承認在軍事領域迅速運用人工智能對國際安全和穩定產生的潛在影響,包括機遇和挑戰;
2. 人工智能在軍事領域的應用應當減少對平民和民用物體傷害的風險;
3. 當前沒有也不可能完全理解和預見在軍事領域廣泛應用人工智能所帶來的影響和挑戰;
4. 提高對在軍事領域運用人工智能的影響的理解。這包括破除神話,以及提高關于人工智能在軍事領域基于風險和限制的知識和素養;
5. 贊賞許多行為體在負責任地開發、部署和使用軍事人工智能方面所做的工作,包括相關的國家戰略、人工智能原則和國際倡議,以及不同利益攸關方群體為有效應對將人工智能嵌入軍事領域所帶來的挑戰而積累的專業知識;
6. 人工智能可以用來塑造和影響決策,需要努力確保在軍事領域使用人工智能時,人類仍然要對決策負責和問責;
7. 有必要評估目前和未來在軍事領域應用各種人工智能技術的各種類型以及應用人工智能的不同軍事背景所涉及的風險;
8. 不及時采用人工智能可能會導致軍事上的劣勢,而在沒有充分研究、測試和保證的情況下過早采用人工智能可能會導致意外傷害。有必要加強有關減少風險的做法和程序方面經驗教訓的國際交流;
9. 在應對軍事領域使用人工智能可能產生的影響、機會和挑戰方面,必須采取整體、包容和全面的方法,所有利益攸關方,包括國家、私營部門、民間社會和學術界,都需要就軍事領域負責任的人工智能開展合作和交流;
10.人工智能系統數據的收集、使用、共享、歸檔和刪除應符合國際法以及相關的國家、區域和國際法律框架和數據標準。從早期設計階段開始就應建立和確保適當的數據保護和數據質量治理機制,包括在獲得和使用人工智能訓練數據方面;
11. 由于軍事決策的分散性和人工智能系統的復雜性,需要密切關注人工智能在軍事領域的開發、部署和使用的各個階段。鼓勵公共和私營部門之間的合作,并努力擴散軍事領域開發、部署和使用人工智能的多利益攸關方之間的接觸;
12. 必須確保對人工智能系統的使用采取適當的保障措施和人員監督,同時考慮到由于時間和能力的限制而造成的人員限制;
13. 使用人工智能的軍事人員應充分了解人工智能系統的特點、使用這些系統的潛在后果,包括任何限制造成的后果,如數據中的潛在偏見,因此需要對用戶互動的方式和對人工智能系統的依賴進行研究、教育和培訓,以避免不良影響;
14. 應當促進各國之間交流良好做法和經驗教訓,以提高各國對在軍事領域使用人工智能的國家框架和政策的相互理解。私營部門分享規范、政策、原則和技術專長方面的良好做法和經驗教訓是十分重要的;
15. 在軍事領域應用人工智能的情況因國家而異。在軍事領域負責任地使用人工智能需要多邊和多利益攸關方的相互交流,以使所有國家,特別是發展中國家從機會中受益,并應對挑戰和風險;
16. 有必要繼續就人工智能在軍事領域的使用所帶來的好處、困境、風險和挑戰進行國際和多方利益攸關方討論。邀請國際私營部門、學術界、民間社會和其他相關利益攸關方積極推動多邊層面的討論,促進軍事領域負責任使用人工智能;
17. 人工智能領域的技術發展主要發生在民用領域。因此,在軍事領域引入人工智能是一個多利益攸關方的挑戰。應當致力于以多方利益攸關方和包容的方式繼續開展關于軍事領域負責任的人工智能的全球對話,并呼吁所有利益相關者根據國際法承擔其責任,為國際安全和穩定作出貢獻;
18. 各國應當制定關于軍事領域負責任的人工智能的國家框架、戰略和原則;
19. 歡迎各國、學術界、民間社會、工業界和其他利益攸關方采取舉措,促進軍事領域負責任的人工智能;
20. 支持全球學術界、知識機構和智庫開展更多的研究,以便更好地理解在軍事領域迅速采用人工智能的影響、機遇和挑戰,特別是在人機協作領域,同時認識到不同的人工智能系統在不同軍事背景下的多方面使用情況;
21. 邀請學術界、知識機構和智庫就人工智能在軍事領域的使用所帶來的挑戰提出方法,并為實際解決方案作出貢獻,以促進國際安全和穩定;
22. 呼吁私營部門支持和促進在軍事領域負責任地使用人工智能。鼓勵公司與其他利益攸關方分享關于負責任地使用人工智能的良好做法和政策,特別是那些可能與在軍事領域使用人工智能有關的良好做法和政策,同時注重國家安全考慮和對商業專有信息的限制;
23. 鼓勵多利益攸關方就最佳做法進行對話,以指導在軍事領域開發、部署和使用人工智能,確保在整個軍事領域負責任地使用人工智能的良好做法和政策方面進行跨學科討論;
24. 邀請全世界所有利益攸關方加入這一行動倡議。
三、簡要評價
應當看到,作為“后疫情時代”首個人工智能軍事應用領域的國際會議,此次在荷蘭舉辦的“軍事領域負責任使用人工智能峰會”具有重要的國際影響和意義。這一方面表明,在俄烏沖突加速智能化戰爭形態來臨的背景下,國際社會愈加重視為人工智能軍事應用領域制定規則規范,以維護人工智能時代的軍事安全與全球戰略穩定。該峰會“行動倡議”的簽署方表明,他們將致力于根據“國際法律義務”并“以不損害國際安全、穩定和責任的方式”開發和使用軍事領域的人工智能。另一方面,此次會議也折射出各方在這一領域存在的嚴重分歧和制定國際條約的困難性。例如,一些積極推進人工智能軍事應用的國家(如以色列)雖然參與了會議,但沒有簽署有關聲明。雖然部分國家通過了一項“軍事領域負責任使用人工智能”行動倡議,但是并不具有法律約束力。對于人工智能對戰略穩定性的威脅以及致命性自主武器系統問題,此次會議也沒有提出相應的解決方案??梢灶A見,未來要在世界范圍內達成共識,有效管控人工智能軍事應用帶來的國際安全風險,仍然任重道遠。
以上文章來源于軍事高科技在線 ,作者秦風
參考文獻
[1]  新華網,“中美等國呼吁:監管人工智能軍事應用迫在眉睫”,2023年2月20日,http://www.xinhuanet.com/mil/2023-02/20/c_1211730565.htm
[2] REAIM 2023 Call to Action,https://www.government.nl/documents/publications/2023/02/16/reaim-2023-call-to-action;https://www.government.nl/ministries/ministry-of-foreign-affairs/activiteiten/reaim
索取“此產品”的詳細資料,請留言
  • *姓名:
  • *手機:
  • *郵寄地址:
相關閱讀
色欲午夜无码久久久久久