新聞中心

　　近年（nián）來，人工智能(AI)技術的（de）更迭讓人目（mù）不暇接。語言模型領域取得重大突破的2023年剛（gāng）剛過去，2024年，人們又（yòu）迎來了視頻和物理世界（jiè）虛擬生成方麵（miàn）的突破。然而，在人工智（zhì）能技術被廣泛（fàn）應（yīng）用於科創、文化、教育（yù）、醫藥、交通等各行各業，甚至進入日常生活的當下（xià），其被濫用的風險已（yǐ）開始引發擔憂。

　　“深度偽造”真假難辨

　　使用人工智能算法生成的高度逼（bī）真的虛假圖像、音頻（pín）和視頻等，被稱為“深（shēn）度偽造”內容。自這一概念於2017年首次（cì）出（chū）現以來，借助該（gāi）技術詐騙或操縱輿論的事件在全球愈加頻發（fā）。以美國為（wéi）例，過去一年裏人工（gōng）智能詐騙（piàn）事（shì）件同比增幅（fú）超過了50%。

　　然而時至今日，人們仍未能有效（xiào）解決該問題。這是因（yīn）為，人（rén）工智能造假能力的進步速度遠遠超過了信息識偽技術的開發速度。如今，任何人都可以快速地、低（dī）成本地生成難辨真假的圖像、音頻甚至視頻，而且難（nán）以追蹤。與之相反，識偽技術則因在主題（tí）和軟件（jiàn）方麵具（jù）有（yǒu）特異（yì）性，難以得到普及。此外，核查事實需要花費更多時間精力。據日本（běn）瑞穗（suì）研究所（suǒ）及技術公（gōng）司的調查，70%的日本（běn）受訪者認為互聯網上的信息很難判（pàn）斷真假，但隻有26%的受訪者表示在接（jiē）觸可疑信息（xī）後會進行（háng）某種（zhǒng）程度的驗證。

　　今年年初，世界經濟論（lùn）壇發布《2024年全球風險報告》，將（jiāng）人工智能生成（chéng）的錯誤信息和虛假信息（xī）列為“未來兩年全球十大風險”之首，擔心其會使本就兩極分化、衝（chōng）突頻發的全球形勢進一（yī）步惡化。考（kǎo）慮到（dào）2024年是全球“大選年（nián）”，70多個國家或地區將舉行重（chóng）要選舉，人們擔憂人工智能會被武器化，被用來誤導選民（mín）、誹謗候選人，甚至煽動暴力、仇恨和恐怖主（zhǔ）義。

　　“2024年的美國大選將出現人工智能生成的（de）虛假（jiǎ）信息海嘯。”正如美國布魯金斯學會（huì）技（jì）術創新中心高級研究員達雷（léi）爾·韋（wéi）斯特所言，美國大選剛剛迎來初選階段（duàn），就已經有人試圖利用（yòng）“深度（dù）偽造”操控選民了（le）。今年1月（yuè），美國民主黨初選在新罕布什爾州舉行，很多選民表示在初選前接到了（le）“來自美國（guó）總統拜登的電話”，電話裏“拜（bài）登”建議選民不要參與初選，應該把選票留到11月大選時投給（gěi）民主黨。這則電話實際上是拜登競爭對手迪安·菲利普斯的政治顧問克雷默安（ān）排的。他利用人工智能模擬了拜登的聲音，並撥（bō）給了最有可能受影響的選民。克雷默甚至直言：“隻需要500美元，任何人都可以（yǐ）再（zài）現我的行為。”

　　業內人士擔心，“深（shēn）度（dù）偽造”內容的泛（fàn）濫會讓（ràng）公（gōng）眾完全失去對自身感官的信任，真（zhēn）實信息也同（tóng）樣會遭到更多質疑。比如2016年，特朗普（pǔ）曾極（jí）力宣稱與其有關（guān）的一份醜聞錄音是捏造的（de）。若此事發生在當下，他（tā）的詭辯可能（néng）更具說服力。

　　類似的（de）問題已在全球多國出現，然（rán）而技術的發展走在了各國的法律和（hé）行業規範之前，目（mù）前不得不更（gèng）多依賴科技公司的“自我監管（guǎn）”來解決問題。在2月舉行的第60屆慕尼黑安全（quán）會議期間，全球多家科技企業簽署協（xié）議（yì），承諾將共同（tóng）努（nǔ）力打擊旨在幹擾選舉的人工智能濫（làn）用行為，包括開發識偽工具（jù），同（tóng）時在（zài）生成圖像上（shàng）添加“非現實內容”標簽及電子水印（yìn）以明確（què）其來源。部分（fèn）企（qǐ）業還在考慮禁止政治候選人圖像的生成。然而，有媒體認為上述協議僅勾勒出一（yī）些最基本的原則，並沒有寫明企業履行承諾的具體措施（shī）及（jí）時間表，空洞的集體表態更像是一場公（gōng）關活動。更何況，科技（jì）公司對其人工智能產品進行主觀調控（kòng），是否意味著會將公司的價值觀強（qiáng）加給用戶，這也是一個（gè）問題。

　　此外，電子水印技（jì）術尚存在（zài）不足。比如，“內（nèi）容來源和（hé）真實性聯盟（méng）”提供的水印隻能被用於靜止圖像，而且“很容易被意外或故（gù）意刪除”。因此（cǐ），從源頭控製虛假信息生成的難度、限製虛假信息在社交媒體的傳播以及培養公眾的批判（pàn）性思維等，仍是各國（guó）解決（jué）“深度偽造”問題時不得（dé）不（bú）麵對的難點。

　　“AI戰爭”的陰影

　　盡管公眾對人工智能興趣大增主要是由於（yú）生成式人（rén）工智能的發展，但多國軍方早已將注（zhù）意力投向了人工智能技術（shù）在戰場上的應用，尤其是能（néng）夠進行深度學習的自（zì）主武器（qì）係統。美國戰略界把人工智能的發展與曆史上核武器的出（chū）現相類比，美（měi）知名科（kē）技企業家埃隆·馬斯克也認為，人工智能技術的擴（kuò）散（sàn）已讓各國企業可以“在自（zì）家（jiā）後院製造核彈”。

　　在當前全球最受關注的兩（liǎng）場衝突中都能看（kàn）到人工智能的應用。美《時（shí）代》周刊近日刊文將（jiāng）俄烏衝（chōng）突稱為“第一場人（rén）工智能戰爭”，披露美國（guó）科（kē）技公司帕蘭蒂爾向烏克蘭提供（gòng）人工智能軟件，通過分析衛星圖像、無（wú）人（rén）機畫麵等情（qíng）報提供打擊敵軍的（de）最有效目標，並根據每次打擊進行學習和（hé）改進。報道稱，這些（xiē）“人（rén）工智能軍火商”儼然把烏克（kè）蘭當作了其最新科（kē）技（jì）的最佳實驗場。

　　在巴以衝突中，以色列軍隊已將人工智能技術用於摧毀無人機、繪製隧（suì）道網絡地圖，以及推薦打擊目標。據報道，名為“福音”的人工智能係統讓以軍尋找攻擊目標的效率提升（shēng）了幾百倍。不少媒體擔心這可能意味著係統不僅鎖定了軍事設施，也在（zài）轟炸平民住（zhù）所，“人工智（zhì）能可能正被用於決定加（jiā）沙居民的生死”。

　　而早在2020年就首次實驗人工智能目標識（shí）別的美國，最近也廣泛利用該技術定位也（yě）門的火箭發射裝置、紅（hóng）海的（de）水麵艦艇，以及伊拉（lā）克（kè）和敘利亞的（de）打（dǎ）擊目標。

　　據美媒報道，美國軍方（fāng）還不斷加強與（yǔ）OpenAI等（děng）領先企業的合作。2023年8月，生成式人工智能的浪潮掀起不久，美國防部數字和人工智能首席（xí）辦公室便（biàn）迅速成（chéng）立“生成式（shì）人工智（zhì）能工作組”。今年1月，OpenAI悄無（wú）聲（shēng）息地更新了其“使用（yòng）政策”頁麵，刪除了其中對“軍事和戰（zhàn）爭”應用的限製，將條款改為更模糊的“禁止利用（yòng）產品開發或使用武器”。不久後，該公司承認正與五角大樓合作開展包括研發（fā）網絡安全工具在內的多個項目。近日，美國防部（bù）高（gāo）級官員再次邀請美科技企業參（cān）加秘密會議，希望加速探索和實施人工智能的軍（jun1）事應用。

　　相關專家認（rèn）為，人類在幾十年間成功遏止核武器使用，靠的是各國間的戰略協調。目前全球（qiú）缺乏人工智能軍事應用的國際治理框架（jià），極易因技術失控導致衝突升級或（huò）引發軍備競賽，迫切需要（yào）盡快達成多（duō）邊共識。聯合（hé）國秘書長古特（tè）雷斯此前強調，聯合（hé）國必（bì）須在2026年前達成具有法律（lǜ）約束力的（de）協議，禁止在自動化戰爭武器中使用人工智能。

　　國際協調合作不可或缺

　　人工智（zhì）能同時（shí）具有正反兩方麵的巨大潛（qián）能，需及時采取（qǔ）措施防範風（fēng）險。2016年以來（lái），各國陸續發布相關政策法規，但進展仍趕不上技術的進步。去年（nián）10月，拜登簽署美國首項人工智（zhì）能監管行政令，為人工智能建立安全和隱私保護標準，但被指缺乏強製執行效能。歐盟方麵，雖然歐洲議會於3月13日通過《人工智能法案》，但是法案中的相關條款將分階段實施，部分（fèn）規則要到2025年（nián）才生效。日本執政黨自民黨直到最近（jìn）才宣布計劃在年內提議政府（fǔ）引入生成式（shì）人工（gōng）智（zhì）能立法。

　　無論是（shì）生成式人工智能帶來的虛假信息問題，還是人工（gōng）智能軍事應用的風險，其影響都是跨越國界的（de）。因此，人工智（zhì）能的（de）監管和治（zhì）理應通過國際合作來（lái）解決，各國應共同做好風險防範，攜手共建具有廣泛共識的人工智能治理框架和標準規範。

　　然而遺憾的（de）是，美國不僅（jǐn）從一開始就把中國的人工智能發展計劃（huá）當作敵對行為，在（zài）布局（jú）人（rén）工智能（néng）軍事應用時（shí）把中國（guó）視為假想敵（dí），而且為了維持技術優勢（shì），長（zhǎng）期（qī）阻礙中國技術進步。據報道，美政府（fǔ）不僅禁止（zhǐ）美國企業對華出口處理（lǐ）能力最（zuì）強的人工智能芯片，還要求美國雲計算公（gōng）司披露在其平台上開發人工智能應用程序的外國客戶姓名，試圖借此阻斷中國企業訪（fǎng）問數據中心和服務器。

　　人工智能的發（fā）展（zhǎn）治理攸關全人類（lèi）命運，需要群策（cè）群力、協調應對。在人工智能領（lǐng）域搞“小院高牆”隻會（huì）削（xuē）弱人類（lèi）共同應對風險挑戰的能力。美國應切實尊重科技發展的客觀規律，尊重市場經濟和公平競爭原則，停止惡意阻撓他（tā）國技術發展，為加強人工智能領域的國際協調合（hé）作創造良好條件。

記者：楊逸夫
編輯：盧岩
來源：光明日報