證券時(shí)報(bào)網(wǎng)
嚴(yán)翠
2025-08-12 12:46
證券時(shí)報(bào)記者 郭博昊
作為新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力，近一段時(shí)間人工智能（AI）的技術(shù)積累和應(yīng)用場(chǎng)景取得了重要突破。問(wèn)答對(duì)話(huà)、深度合成等應(yīng)用正成為AI產(chǎn)業(yè)相對(duì)成熟的切入口。在火熱的AI浪潮下，用戶(hù)在享受技術(shù)帶來(lái)便利的同時(shí)，其中可能暗藏的安全風(fēng)險(xiǎn)亟需得到更多關(guān)注。
近日，不法分子通過(guò)AI合成技術(shù)冒充知名經(jīng)濟(jì)學(xué)家，騙取投資者錢(qián)財(cái)?shù)陌讣l發(fā)。中國(guó)銀河證券公告，發(fā)現(xiàn)有不法分子利用AI合成技術(shù)假冒金融機(jī)構(gòu)工作人員，獲取投資者信任，騙取投資者錢(qián)財(cái)。此前，經(jīng)濟(jì)學(xué)家管清友曾遭遇被AI換臉冒名頂替的情況；東北證券首席經(jīng)濟(jì)學(xué)家付鵬表示，也遇到過(guò)類(lèi)似情況，效果“非常逼真”。
AI合成技術(shù)相比傳統(tǒng)圖像視頻技術(shù)，具有“門(mén)檻低、效率高、質(zhì)量好”的特點(diǎn)，網(wǎng)絡(luò)上充斥著大量如何偽造的教程和工具代碼，即便不具備專(zhuān)業(yè)編程能力的普通用戶(hù)，通過(guò)簡(jiǎn)單學(xué)習(xí)也能快速上手。較低的門(mén)檻卻有著可觀的“回報(bào)”，AI合成技術(shù)難免淪為不法分子實(shí)施新型詐騙的工具。特別是，隨著深度合成仿真精度持續(xù)提升，偽造的音視頻幾乎達(dá)到以假亂真的程度，在這種情況下，受害者往往會(huì)放松警惕，最終上當(dāng)受騙而蒙受經(jīng)濟(jì)損失。
值得一提的是，針對(duì)AI數(shù)字技術(shù)犯罪，國(guó)家層面相關(guān)立法研究正在不斷推進(jìn)。今年以來(lái)就有《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》、《生成式人工智能服務(wù)管理辦法(征求意見(jiàn)稿)》等文件相繼發(fā)布，為規(guī)范AI產(chǎn)業(yè)健康發(fā)展做出指引。
在政策引導(dǎo)之余，加強(qiáng)AI領(lǐng)域協(xié)同治理也至關(guān)重要。需要加強(qiáng)監(jiān)管機(jī)構(gòu)能力建設(shè)，及時(shí)識(shí)別出新的違法犯罪手法，并加以打擊整治。同時(shí)，應(yīng)持續(xù)提升技術(shù)創(chuàng)新能力，通過(guò)新技術(shù)的開(kāi)發(fā)與應(yīng)用，提升風(fēng)險(xiǎn)隱患的自主監(jiān)測(cè)、識(shí)別和防范能力。此外，還要加強(qiáng)跨部門(mén)、跨領(lǐng)域的協(xié)同合作，構(gòu)建起應(yīng)對(duì)新技術(shù)、新風(fēng)險(xiǎn)的安全生態(tài)系統(tǒng)。
作為普通的經(jīng)濟(jì)活動(dòng)參與者，我們要加強(qiáng)個(gè)人信息保護(hù)意識(shí)，不要輕易透露自己的身份證、銀行卡、驗(yàn)證碼等信息；特別要防范人臉、指紋等生物信息的泄露。同時(shí)，當(dāng)收到不尋常的請(qǐng)求或交流時(shí)，需要保持警惕，多渠道核實(shí)對(duì)方的身份和信息，避免僅憑借單一溝通渠道就轉(zhuǎn)賬匯款。
技術(shù)本無(wú)罪，發(fā)揮AI技術(shù)賦能新一輪科技革命和產(chǎn)業(yè)變革的能力，降低技術(shù)“陰暗面”對(duì)經(jīng)濟(jì)社會(huì)發(fā)展的影響，還需社會(huì)各界共同發(fā)力、相向而行。
中央網(wǎng)信辦違法和不良信息舉報(bào)中心|證券時(shí)報(bào)網(wǎng)舉報(bào)中心