五角大廈聯合人工智慧中心(JAIC)的領導人葛羅恩(Michael Groen)，22日出席國防產業協會(National Defense Industrial Association, NDIA)會議時表示，隨著北京加快「2025中國製造」的步伐，最快2030年就能超越美國、執人工智慧(AI)領域之牛耳；美國防部如果想要維持AI科技超越大陸，有必要加快包括數據標準化、雲端服務與將AI與作戰整合。
葛羅恩強調，目前五角大廈已編列5年期的計畫目標備忘錄(Program Objective Memorandum)，計畫直到2027年為止。他強調，藉由整合整個五角大廈的網路，採用新企業等級的雲端服務功能，以及共同資料標準，美軍可持續維持領先地位。
他警告，如果美軍不進行組織整合，將走入失敗之路。如果美軍還只因比較有效率，而過度倚賴硬碟而捨棄網路，勢必無法滿足未來需求。
話鋒一轉，他也談到五角大廈對於AI使用的道德規範。相較於其他產業行為者而言，五角大廈對於AI使用的道德規範無疑更詳細、限制也更多；當然，也比中國大陸軍方的規範嚴格許多。他認為，多如牛毛的規範並不會減緩AI技術的研發與部署，反而唯有道德規範的系統才能贏得戰場指揮官的信賴。
他表示，建立在道德基礎的AI系統，將能贏得使用著的信賴。其產自受信賴、經驗證與測試的環境，讓人確信該系統能正常運作，而這些AI產品也會在部署的區域運作，甚至與其他系統一同合作，進而完成使用者嘗試達成的作戰效果。「如果指揮官不信任AI，就不會使用，是吧？」
葛羅恩此番AI道德論，獲得JAIC、中央情報局、國防情報局(DIA)與國家情報總監辦公室的認同。官員不約而同地提到，政府引進AI工具的評斷關鍵就是道德規範。
報導中指出，AI研發的最大挑戰，莫過於找出並避免AI偏見。造成這種問題的原因很多，但通常是因為程式設計師用於訓練AI的數據不夠廣泛且多元所導致。以谷歌為例，2018年該公司的一款照片應用軟體(app)，僅能辨識白裔族群而無法判定其他族裔並將之視為非人類。
官員指出，AI偏見不僅是政治問題，還可能導致演算法失靈，進而無法在戰鬥中發揮決定性作用。其解釋，由於AI系統問世前就已使用先天不良的數據庫進行訓練，導致中毒的資料集植入並產生各種潛在的漏洞。官員表示，想要防範此一問題，除可在研發的早期過程引入假想敵中隊來抓出漏洞外，還可引進多元編碼團隊。
從 APP 打開
X