新聞（wén）中心（xīn）

　　近年來，人工智能（néng）(AI)技（jì）術的更迭讓人目不暇接（jiē）。語言模型領域取得重大突（tū）破的2023年剛剛過去，2024年，人們又迎來了視頻和物理世界虛擬生成方麵的（de）突破。然而，在人工智能技術被廣泛應（yīng）用於科（kē）創、文化、教育、醫藥、交通等各行各業，甚至進入日常生活的當下，其被濫用（yòng）的風險已開始引（yǐn）發擔憂。

　　“深度偽（wěi）造”真假（jiǎ）難辨

　　使用人工智能算法（fǎ）生成的高度逼真的虛假圖像、音頻和視頻等，被（bèi）稱為（wéi）“深度偽造”內容。自這一概念於2017年（nián）首次出現以來，借（jiè）助該技術詐騙或操縱輿論的事（shì）件在全（quán）球愈加頻發。以美國（guó）為例，過去一年裏人工（gōng）智（zhì）能詐騙事件（jiàn）同比增幅超過了50%。

　　然而時至今日，人們仍未能有效解決該問題。這是因為，人工（gōng）智能造假能力的進步速（sù）度遠（yuǎn）遠超過了信（xìn）息識偽技術的開發速度（dù）。如今，任何人都可以快速地、低成本地生成（chéng）難辨真假的圖（tú）像、音頻甚（shèn）至視頻，而且難以追蹤。與之（zhī）相反，識偽技術則因在主題和（hé）軟件（jiàn）方麵具有特異性，難以（yǐ）得到普及。此外，核查事實需要花費更多時間精力（lì）。據日本瑞穗研究所及技（jì）術公司的調查，70%的日本受訪者認為互聯網上的信息很難（nán）判斷真假，但隻有26%的受訪（fǎng）者表示在（zài）接觸可疑信（xìn）息後會進行某種程度（dù）的驗證。

　　今年年初，世界經濟論壇發布《2024年全球風險報告》，將（jiāng）人工智能生成的錯誤信息和虛假信息列為（wéi）“未來兩年全球十大風險”之首，擔心其會使本就兩極分化、衝突頻發的全球（qiú）形勢進一步惡化。考慮到2024年是全球“大（dà）選年”，70多個國家或地區將舉行重要選舉，人們擔憂人工智能會被武器化，被用來誤導選民、誹謗（bàng）候選人，甚至（zhì）煽動暴力、仇恨和（hé）恐怖主義。

　　“2024年的美國大選將（jiāng）出現人工智能生成（chéng）的虛假信息海嘯。”正如美國布魯金斯學會技術創新中心高級研究員達雷爾·韋斯特（tè）所言，美國大選剛剛迎來初選階段，就已經有人試圖利用（yòng）“深度偽造”操控選民了。今年1月，美國民主黨初（chū）選在新罕（hǎn）布什爾州舉行，很多選民表示在初選前接到了“來自美國總統拜登的電話”，電話裏“拜登”建議選（xuǎn）民不要參與初選（xuǎn），應該把選（xuǎn）票（piào）留到11月大選時（shí）投給民（mín）主（zhǔ）黨。這則電話實際上是拜登競爭對手迪安·菲利普斯的（de）政（zhèng）治顧問克雷默安排的。他利用人工智能模擬了拜登（dēng）的聲音，並撥給了最有可能受影響的選民。克（kè）雷（léi）默甚至直言：“隻需要500美元，任何人都可以再現我的行為。”

　　業（yè）內人士擔心，“深度偽造”內容的泛濫會讓（ràng）公（gōng）眾完全失去對自身感官的信任，真實信息也同（tóng）樣會遭到更多質（zhì）疑。比（bǐ）如2016年，特朗普曾極力宣稱（chēng）與（yǔ）其有關的一份醜聞錄音是捏造的。若此（cǐ）事發生在（zài）當下，他的詭辯可能更具說服力。

　　類（lèi）似的問題已在全（quán）球多（duō）國出現，然而技術的發展走在（zài）了各國的法律和行業規範之前，目前不得不更多依賴科技公司的“自我（wǒ）監管”來解決問題。在2月舉行的第60屆慕尼（ní）黑安全會（huì）議期間，全（quán）球多家科技企業簽署（shǔ）協議，承諾將（jiāng）共同努力打擊旨在幹（gàn）擾選舉的人工智能濫用（yòng）行為，包（bāo）括開發識（shí）偽工具，同時在生成圖像上添加“非現實內容”標簽及電子（zǐ）水印以明確其來源。部分企業還在考慮禁止政治候選人圖像的生成。然而，有媒體認為上述協議僅（jǐn）勾勒出一些最基本（běn）的原則，並沒有寫明（míng）企業履行承（chéng）諾的具體措施及時間表，空洞的集體表態更像是一場公關活（huó）動。更何況，科技公司對其人工智能產品進行主觀調控，是否意味著會將公司的價值（zhí）觀強加給用戶（hù），這也是一個問題（tí）。

　　此外（wài），電子水印技術尚存在（zài）不足。比如，“內容來（lái）源和真實性聯盟”提（tí）供的水印隻能被用於靜止圖像，而且“很容易被（bèi）意外或故意刪除”。因此，從源頭控製虛（xū）假信息生（shēng）成的難度、限製虛假信息（xī）在社交媒體的傳播以及培養（yǎng）公眾的批判性（xìng）思維等，仍（réng）是各國解決“深度偽造”問題時不得不麵對的難點。

　　“AI戰爭”的（de）陰影

　　盡管公眾對人工智能興趣大（dà）增主要是由於生成式人工智（zhì）能的發展，但多國軍方早已將注意力投向了人工智能技術在（zài）戰場上（shàng）的應用，尤其是能夠進行深度（dù）學習的自主武器係統（tǒng）。美國戰略界把人工智能的發展與曆史上核（hé）武器的出現相類比，美知名科技企業家埃隆·馬斯克也認為，人工智（zhì）能技術（shù）的（de）擴（kuò）散已讓各國企業可以“在自家後院製造核彈”。

　　在當（dāng）前全球最受關注的兩場衝突中都能看（kàn）到人工智能的應用。美《時代》周刊近日刊文將俄烏衝突稱為“第一場（chǎng）人工智（zhì）能戰爭”，披露美國科技公司帕蘭蒂爾向烏克蘭提供人工智能軟件，通過分析衛星圖像、無人機畫麵等情報提供打擊敵軍的最有效目標（biāo），並根據每次打（dǎ）擊（jī）進行學習和（hé）改進。報道稱，這些“人工智能軍火商”儼然把烏克蘭當作了其最新科技的最佳（jiā）實驗場（chǎng）。

　　在巴以衝突（tū）中，以（yǐ）色列軍隊已將（jiāng）人工智能技術用於摧毀無人機、繪製（zhì）隧道網絡地圖，以及推薦打擊目標。據報道，名為“福音”的人工（gōng）智能係統讓以軍尋找攻擊目標的效率提（tí）升（shēng）了幾（jǐ）百倍。不少媒體（tǐ）擔心這可能意（yì）味（wèi）著（zhe）係（xì）統不僅鎖定了軍事設施，也在轟炸平（píng）民住所，“人工智能可能（néng）正被用於決定加沙居（jū）民的生死”。

　　而早在2020年（nián）就首次實驗人工智能目標識（shí）別（bié）的美國，最近也廣泛（fàn）利用該技術定位也門的火（huǒ）箭（jiàn）發射裝（zhuāng）置、紅海的水麵艦艇，以及伊（yī）拉克和敘利亞（yà）的打擊目標。

　　據美媒報道，美國軍方還不斷加強與OpenAI等領先企業（yè）的合作。2023年8月，生成（chéng）式人工智能的浪潮掀起不久，美國防（fáng）部（bù）數字和人工智能首席辦公室便（biàn）迅速成立（lì）“生成式人工智能（néng）工（gōng）作組”。今年（nián）1月，OpenAI悄無聲息地更新了其“使用政策（cè）”頁麵，刪除了其中對“軍事和戰爭”應用的限製，將條款（kuǎn）改為更模糊的“禁止利用產品開發或使用武（wǔ）器”。不久後，該（gāi）公司承認正與五角大樓合作開展包括研發網（wǎng）絡安全工具在內的多（duō）個項目（mù）。近日，美國防部（bù）高級官員再次邀（yāo）請美科（kē）技企業參加秘密會議（yì），希望加速探（tàn）索和實（shí）施人工智能的軍事應用。

　　相關專家認（rèn）為，人類在幾（jǐ）十年間成功（gōng）遏止核武器使用（yòng），靠（kào）的是各國間的戰略協調。目前全球缺乏人工智能軍（jun1）事應用的國（guó）際治理（lǐ）框（kuàng）架，極易因技術失控導致衝突升級或引（yǐn）發軍備競賽，迫（pò）切需要盡快達成（chéng）多邊共識。聯合國秘書長古特雷（léi）斯（sī）此前強調，聯合國必須在2026年前達成具有法律約束力的協議，禁（jìn）止在自動化戰爭武器中使用人工智能（néng）。

　　國際協調合作不（bú）可或缺

　　人工智（zhì）能同時（shí）具有正（zhèng）反兩方麵的（de）巨大潛能，需及時采取措施防範風險。2016年以來，各（gè）國陸（lù）續（xù）發（fā）布相關政（zhèng）策法規，但進展仍趕不上技（jì）術的進步（bù）。去年10月，拜登簽署美國首項人工智能監管行（háng）政令，為人工（gōng）智能建立（lì）安全和隱私保護標準，但被指（zhǐ）缺乏強製執行效能。歐盟方麵（miàn），雖然歐洲議會於3月13日通過《人工智能法案》，但是法案中的相關條款將分階段實施，部分規（guī）則要到2025年才生效。日本執政黨自民黨直到最近才宣布計劃在年內提議政府引入生成式人工智能立法。

　　無論是生成式人工智能帶來的虛假信息問題，還是人工智能軍事應（yīng）用（yòng）的風險，其影響都是（shì）跨越國界的。因此，人工智能的監管和治理應通過國際（jì）合作來解決，各國應共同做好風險防範，攜手共（gòng）建具有廣泛（fàn）共識的人工智能（néng）治理框（kuàng）架（jià）和標（biāo）準規（guī）範。

　　然而遺憾的是，美（měi）國不僅從一（yī）開始就把中國（guó）的人工智能發展計劃當作敵對行為，在布局人工智能軍事應用時（shí）把中國視為假想敵（dí），而且為了（le）維持技術優勢，長期（qī）阻（zǔ）礙中國技術進步。據報道，美政府不僅禁止美國企業對華出口處（chù）理能力最強的人工智能芯片，還（hái）要求美國雲計算公司披露在（zài）其平台上開（kāi）發人工智能應（yīng）用程序的外國客戶姓名，試圖借此阻斷中國企業訪問數據中心和（hé）服務器。

　　人工智能的發展治理攸關全人類（lèi）命（mìng）運，需要群策群（qún）力、協調應對（duì）。在人工（gōng）智能領域搞（gǎo）“小院高牆（qiáng）”隻會削弱人類共同應對風險挑（tiāo）戰的能力。美國應切實尊重科技發展的（de）客觀規律，尊重市場經濟和公平競爭原（yuán）則，停止惡意（yì）阻撓他國技術發展，為加強人工智能領域的國際協調合作（zuò）創（chuàng）造良好條件。

記者：楊逸夫
編輯：盧岩（yán）
來（lái）源：光明日報