近日，美國國防部宣布成立生成式人工智能工作組，又稱利馬工作組。美國防部稱，該工作組將以戰(zhàn)略性方式對人工智能技術(shù)加以利用，以確保美國防部在維護國家安全的同時，在這一技術(shù)領域保持領先優(yōu)勢。
據(jù)悉，生成式人工智能是一種人工智能算法。該算法可針對用戶需求，利用前期輸入的數(shù)據(jù)和用戶提供的相關資料，生成新的輸出數(shù)據(jù)提供給用戶。最近很受關注的ChatGPT聊天機器人程序就是該技術(shù)的典型應用。美國防部認為，大型語言模型等生成式人工智能技術(shù)，在全球范圍內(nèi)的影響力正不斷擴大，美軍迫切需要提高生成式人工智能模型的速度和交互能力等，以提高任務效率。
據(jù)悉，利馬工作組主要職責是評估、利用和提升生成式人工智能技術(shù)能力，并通過生成式人工智能模型，幫助美軍提升在作戰(zhàn)能力、軍事管理、衛(wèi)生健康、戰(zhàn)備及政策等領域的行動能力。
負責指導利馬工作組建立的美國防部副部長凱瑟琳·希克斯稱：“利馬工作組的成立凸顯了國防部對引領人工智能創(chuàng)新的決心。我們將在確保國家安全、盡量降低風險的前提下，整合生成式人工智能技術(shù)。”
生成式人工智能技術(shù)可根據(jù)已有數(shù)據(jù)生成新的數(shù)據(jù)。由于大型語言模型的數(shù)據(jù)來源主要基于互聯(lián)網(wǎng)的數(shù)據(jù)語料庫，因此，它們有時會使用虛假信息。對此，美國防部官員表示擔憂。美國防部數(shù)字和人工智能負責人克雷格·馬泰爾稱：“生成式人工智能技術(shù)應用于軍事領域的風險過高。如果它在幫助士兵處理緊急情況時使用虛假信息，那將是致命的。我們需要輸出的數(shù)據(jù)信息至少達到99.999%的準確率。”
基于上述原因，馬泰爾表示，美國防部必須盡力尋求更優(yōu)的生成式人工智能模型，同時制定適當?shù)谋Ｗo措施，以減少可能因數(shù)據(jù)來源、數(shù)據(jù)管理等問題而產(chǎn)生的國家安全風險。利馬工作組任務指揮官曼紐爾·澤維爾·盧戈對此表示認同，稱謹慎選擇模型并完善管理是減少相關風險的關鍵。
馬泰爾建議，想要最大限度防止生成式人工智能技術(shù)在應用過程中使用虛假信息，應進行大量測試，同時為大型語言模型在不同場合的應用提供可靠保證。他強調(diào)，無論何時，生成式人工智能的應用都必須置于人類的監(jiān)管之下。
希克斯稱：“美國防部的當務之急，是探索這項技術(shù)的運用前景和潛力。這些能力不僅將開啟新的機遇，也將帶來新的風險，我們要找到適當?shù)谋Ｗo措施，將各種風險降至最低。”
關于該技術(shù)應用于軍事領域可能引發(fā)的風險問題，引起了諸多關注。目前的生成式人工智能技術(shù)主要用于高效查找目標資料、回答常見提問等，且技術(shù)本身存在嚴重漏洞，有可能被潛在對手利用，借以發(fā)動虛假信息戰(zhàn)，進行欺騙或網(wǎng)絡攻擊。當前，包括美國在內(nèi)的60多個國家簽署了一份《行動呼吁書》，倡導在軍事領域負責任地使用人工智能技術(shù)。
此外，在戰(zhàn)略層面上，生成式人工智能技術(shù)的軍事應用，很可能加劇大國間的競爭，增加戰(zhàn)略風險。美國“新美國安全中心”智庫在報告中指出：“從短期和中期來看，人工智能技術(shù)帶來的大部分變化將是漸進、小范圍的，但從長期來看，有些變化可能是革命性的、普遍的。為此，一些國家不得不投入大量精力進行研發(fā)和探索。”（李學華）