AI換臉，也能危害國(guó)家安全？

國(guó)家安全 全民有責(zé)

一段時(shí)間以來，“AI換臉”技術(shù)被濫用的新聞持續(xù)引發(fā)人們關(guān)注。AI換臉技術(shù)除了用于影視劇二次創(chuàng)作、趣味視頻，甚至被不法分子用于電信詐騙、操控輿論。從娛樂“玩梗”到違法犯罪，背后是人工智能使用不當(dāng)、深度偽造技術(shù)繆用帶來的網(wǎng)絡(luò)安全問題。

有圖不一定有真相

“AI換臉”利用了人工智能的“深度偽造”技術(shù)，這種技術(shù)可以實(shí)時(shí)偽造面部表情，并生成看似真實(shí)的虛假圖像和聲音，具有很強(qiáng)的偽裝性和誤導(dǎo)性。

據(jù)報(bào)道，2019年印巴局勢(shì)緊張期間，路透社發(fā)現(xiàn)了30起關(guān)于該事件的“深度偽造”視頻，極大刺激了兩國(guó)的民族主義者，導(dǎo)致事態(tài)進(jìn)一步升級(jí)。隨著俄烏沖突持續(xù)，網(wǎng)上出現(xiàn)大量使用了深度偽造技術(shù)的視頻，其中就包括俄羅斯、烏克蘭兩國(guó)領(lǐng)導(dǎo)人宣布投降的“深度偽造”視頻。

除了圖像偽造，由AI驅(qū)動(dòng)的機(jī)器人社交賬戶，還可以根據(jù)算法模仿人類的行為習(xí)慣，在社交媒體上發(fā)布大量評(píng)論、點(diǎn)贊和分享，以此影響和改變公眾對(duì)某個(gè)話題的看法。2011年英國(guó)《衛(wèi)報(bào)》曾披露，美國(guó)軍方正在秘密研發(fā)一種新型軟件，利用偽造的用戶身份在網(wǎng)絡(luò)上發(fā)表有利于美國(guó)的輿論宣傳，“臉譜”和“推特”則是這款新軟件“操縱”的主要目標(biāo)。

人工智能時(shí)代，攻擊一國(guó)人工智能系統(tǒng)或利用人工智能實(shí)施滲透、顛覆、破壞、分裂活動(dòng)，帶來的后果將比以往更為嚴(yán)重，也給國(guó)家主權(quán)、意識(shí)形態(tài)、社會(huì)關(guān)系等帶來沖擊，深度影響國(guó)家安全。

一鍵生成惡意代碼

人工智能技術(shù)的蓬勃發(fā)展，為網(wǎng)絡(luò)安全攻防帶來的不僅有機(jī)遇，也有挑戰(zhàn)，基于人工智能的攻防對(duì)抗不斷發(fā)展演化，既能被用來改進(jìn)和加強(qiáng)網(wǎng)絡(luò)安全解決方案，幫助分析人員更高效地分類威脅和修復(fù)漏洞，也可以被黑客繆用，發(fā)動(dòng)更大規(guī)模、更復(fù)雜的網(wǎng)絡(luò)攻擊。

2022年11月，ChatGPT剛一上線即爆火全球，然而，大量使用 ChatGPT 生成惡意代碼的教程和相關(guān)惡意軟件也隨即出現(xiàn)在暗網(wǎng)論壇中。有網(wǎng)絡(luò)安全公司測(cè)試發(fā)現(xiàn)，通過生成式AI技術(shù)，僅花費(fèi) 4 小時(shí)就生成一款具備文件竊取及隱寫傳輸功能的惡意軟件，并能夠逃避近 70 款檢查引擎的查殺。

人工智能還能夠基于社會(huì)工程學(xué)知識(shí)生成網(wǎng)絡(luò)釣魚等信息。攻擊者可以使用來自社交媒體或其他來源的大量文本數(shù)據(jù)，通過人工智能工具訓(xùn)練社工模型，生成極具說服力的網(wǎng)絡(luò)欺詐郵件或消息，以此來誘騙受害者泄露敏感信息。

人工智能的快速發(fā)展使得網(wǎng)絡(luò)安全的風(fēng)險(xiǎn)點(diǎn)和攻擊方式出現(xiàn)新變化，進(jìn)而引發(fā)更深層次的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，全球網(wǎng)絡(luò)空間也將面臨前所未有的嚴(yán)峻攻擊態(tài)勢(shì)。

美西方打起了“歪心思”

人工智能作為當(dāng)前最尖端最前沿的技術(shù)之一，如何確保其安全性已成為國(guó)際社會(huì)關(guān)注焦點(diǎn)。

如今，全球多個(gè)國(guó)家的政府正在考慮如何減輕生成式人工智能這項(xiàng)新興技術(shù)的危險(xiǎn)。然而，美國(guó)等個(gè)別國(guó)家卻將人工智能視為維護(hù)霸權(quán)和軍事優(yōu)勢(shì)的工具，加速推進(jìn)人工智能軍事應(yīng)用，挑起新的軍事競(jìng)爭(zhēng)。

盡管美國(guó)政府一直警告“深度偽造”所帶來的風(fēng)險(xiǎn)，但美國(guó)美國(guó)國(guó)防部早在2018年的《人工智能戰(zhàn)略》中就提出，美國(guó)及其盟友和伙伴國(guó)家，必須采用人工智能來維持其戰(zhàn)略地位，確立未來戰(zhàn)場(chǎng)的優(yōu)勢(shì)。

2023年，當(dāng)美國(guó)中央情報(bào)局宣布將生成式人工智能技術(shù)用于情報(bào)工作的那一刻，也近乎把利用人工智能技術(shù)對(duì)付其他國(guó)家的歪心思擺上了臺(tái)面。

美國(guó)一方面將人工智能視為維護(hù)霸權(quán)和軍事優(yōu)勢(shì)的工具，另一方面，不斷拉攏盟友搭建歧視性小圈子，大搞封閉排他、沖突對(duì)抗，企圖拼湊所謂“科技民主國(guó)家集團(tuán)”，人為設(shè)置科技壁壘阻撓別國(guó)發(fā)展。這種霸權(quán)主義、唯我獨(dú)尊行徑，只會(huì)把人工智能技術(shù)發(fā)展引向邪路。

免責(zé)聲明：凡本網(wǎng)注明“來源：XXX（非駐馬店廣視網(wǎng)、駐馬店融媒、駐馬店網(wǎng)絡(luò)問政、掌上駐馬店、駐馬店頭條、駐馬店廣播電視臺(tái)）”的作品，均轉(zhuǎn)載自其它媒體，轉(zhuǎn)載目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)，作品版權(quán)歸原作者所有，如有侵犯您的原創(chuàng)版權(quán)請(qǐng)告知，我們將盡快刪除相關(guān)內(nèi)容。凡是本網(wǎng)原創(chuàng)的作品，拒絕任何不保留版權(quán)的轉(zhuǎn)載，如需轉(zhuǎn)載請(qǐng)標(biāo)注來源并添加本文鏈接：http://www.arcworkforce.com/showinfo-815-321931-0.html，否則承擔(dān)相應(yīng)法律后果。