“改頭換面”“語音克隆” 警惕AI帶來便利時暴露出風(fēng)險隱患
記者從國家安全部了解到,,隨著人工智能技術(shù)的飛速發(fā)展,,深度偽造技術(shù)逐漸進(jìn)入我們的生活,在帶來驚喜和便利的同時,,也暴露出一系列風(fēng)險隱患,,如不注意防范,甚至可能危害國家安全,。
眼見未必為實
耳聽未必為真
深度偽造技術(shù)是“深度學(xué)習(xí)”與“偽造”的結(jié)合,,利用人工智能的深度學(xué)習(xí)算法進(jìn)行自動化的數(shù)據(jù)處理,實現(xiàn)圖片,、音頻及視頻的智能模擬和偽造,,包括視頻偽造技術(shù)、音頻偽造技術(shù),、虛假網(wǎng)絡(luò)身份偽造技術(shù)等,。它的出現(xiàn)使得篡改或生成高度逼真且難以甄別的音視頻內(nèi)容成為可能,觀察者很難辨明真?zhèn)巍?/p>
視頻偽造技術(shù),。將提供的人物面部照片特征“轉(zhuǎn)換”到其他人物形象上,,從而實現(xiàn)“改頭換面”的目的。
音頻偽造技術(shù),。利用“語音克隆”技術(shù),,以高仿真度模擬目標(biāo)人物的聲音。
虛假網(wǎng)絡(luò)身份偽造技術(shù),。在創(chuàng)建虛假個人資料時,,通過生成偽造的面孔附加至身份信息中,成為隱藏身份的手段,。
智能改變?yōu)閷?/strong>
風(fēng)險挑戰(zhàn)為真
深度偽造技術(shù)憑借其在圖像,、音頻和視頻生成方面的卓越能力,,迅速成為一種新興技術(shù)工具,。但它又是一把雙刃劍,操作簡易,,應(yīng)用門檻低,,高度欺騙性的視覺和聽覺偽造內(nèi)容難以被發(fā)現(xiàn),潛在的破壞性和安全風(fēng)險日益凸顯,。
深度偽造技術(shù)可能侵害個人權(quán)益,。別有用心之人利用深度偽造技術(shù)可以輕易盜用他人身份,,侵害他人肖像權(quán)、隱私權(quán)等權(quán)利,,部分不法分子甚至可能利用深度偽造技術(shù)進(jìn)行詐騙,,對財產(chǎn)安全造成現(xiàn)實危害。
深度偽造技術(shù)可能引發(fā)社會憂慮和信任危機(jī),。深度偽造技術(shù)可以隨時隨地制造大量假新聞,,影響社會輿論走向,引起民眾恐慌,。隨著公眾意識到“深度偽造”的危害,,他們可能會迷失在真假信息之中,對事實產(chǎn)生懷疑,。
深度偽造技術(shù)可能威脅國家安全和公共安全,。深度偽造技術(shù)不僅會在一般行業(yè)得到應(yīng)用,也有可能成為間諜情報機(jī)關(guān)開展“認(rèn)知戰(zhàn)”的新工具,。隨著深度偽造技術(shù)的橫空出世,,某些境外間諜情報機(jī)關(guān)可能進(jìn)一步利用該技術(shù)迭代情報技術(shù)手段,開展招募策反,、污蔑抹黑,、混淆視聽等活動。
國家安全機(jī)關(guān)提示
面對深度偽造技術(shù)帶來的機(jī)遇和挑戰(zhàn),,要統(tǒng)籌發(fā)展和安全,,提高安全意識,共同維護(hù)國家安全和社會穩(wěn)定,。
使用技術(shù)要注意,。廣大公民應(yīng)注意保護(hù)好個人隱私,特別是核心涉密崗位人員,,切勿將國家秘密,、商業(yè)秘密或個人隱私等敏感信息輸入相關(guān)技術(shù)軟件中,不用網(wǎng)絡(luò)傳播涉密內(nèi)容,。
信息安全要防范,。相關(guān)平臺企業(yè)應(yīng)加強(qiáng)信息安全管理,采取必要的技術(shù)措施保護(hù)相關(guān)信息的安全存儲和傳輸,,防止信息泄露,、丟失或被非法使用。同時,,加強(qiáng)對深度偽造技術(shù)發(fā)布內(nèi)容的甄別,,使其遵守法律“紅線”和道德“底線”。
可疑信息要警惕,。謹(jǐn)慎對待相關(guān)視聽內(nèi)容,,在轉(zhuǎn)發(fā)網(wǎng)絡(luò)信息前先多方驗證信息可靠性,,不做謠言傳播者,以官方渠道發(fā)布的信息為準(zhǔn),。
維護(hù)國家安全是每個公民義不容辭的責(zé)任和義務(wù),,廣大人民群眾如發(fā)現(xiàn)利用深度偽造技術(shù)危害國家安全的問題線索,可通過12339國家安全機(jī)關(guān)舉報受理電話,、網(wǎng)絡(luò)舉報平臺(www.12339.gov.cn),、國家安全部微信公眾號舉報受理渠道或者直接向當(dāng)?shù)貒野踩珯C(jī)關(guān)進(jìn)行舉報。
?。偱_央視記者 李本揚(yáng))
轉(zhuǎn)載請注明來自浙江中液機(jī)械設(shè)備有限公司 ,,本文標(biāo)題:《“改頭換面”“語音克隆” 警惕AI帶來便利時暴露出風(fēng)險隱患》
還沒有評論,,來說兩句吧...