国产免费无码不卡A片视频喷水_3p一女两男三飞做爰视频_91九色视频在线观看_14小箩洗澡裸体高清视频_影音先锋成人网

從ChatGPT火爆全網(wǎng)，到“AI換臉”新騙局全國頻發(fā)，人工智能作為戰(zhàn)略性新興技術(shù)受到了市場廣泛關(guān)注。如今，在“AI換臉”詐騙多發(fā)的背景下，如何破局AI技術(shù)濫用、如何應(yīng)對AI技術(shù)安全風(fēng)險無疑也引發(fā)業(yè)界深思。5月24日，瑞萊智慧RealAI合伙人、高級副總裁朱萌接受了北京商報記者專訪，從目前的“AI換臉”騙局如何防范、鑒別，到其背后的深度合成技術(shù)，再到推動建立安全可控的AI治理體系，朱萌一一詳談了她的看法。

信息造假難度降低

“張嘴、搖頭，攝像頭捕捉到人的動作后，屏幕上原本靜態(tài)的人像可以動起來，動作幅度和真人一致，還能眨眼和露齒微笑，仿真度頗高，幾分鐘內(nèi)就能生成一段視頻，臉還能被任意替換。”這就是“AI換臉”技術(shù)，成為不少黑產(chǎn)分子新型詐騙的工具。

(資料圖片)

近期，一家公司老板被“AI換臉”10分鐘騙走430萬元引發(fā)市場熱議，“AI換臉”騙局不斷。其中，包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局近日也發(fā)布一起使用智能AI技術(shù)進(jìn)行電信網(wǎng)絡(luò)詐騙案件，不法分子利用“AI換聲”“AI換臉”技術(shù)，偽裝成特定人物，實時與他人進(jìn)行視頻通話。更換后的面部表情自然，以假亂真，能夠冒充他人身份聯(lián)系被害人，博取被害人信任后實施詐騙。

據(jù)了解，“AI換臉”背后采用的是深度合成技術(shù)，利用深度學(xué)習(xí)、虛擬現(xiàn)實等生成合成類算法，制作圖像、音頻、視頻等信息，目前在社交、影視、廣告、醫(yī)療等諸多領(lǐng)域不斷深化應(yīng)用，有較大的技術(shù)價值和商用潛力，不過也存在著一定的安全隱患，“雙刃劍”效應(yīng)明顯。

朱萌在接受北京商報記者專訪時表示，隨著研究的深入，深度合成技術(shù)得到快速發(fā)展，早期的換臉視頻，由于技術(shù)不成熟、不完善，尚存在“微表情不自然”“面部邊緣有鋸齒”等明顯換臉痕跡，可作為參照辨別真假。但近年來在社交媒體上廣泛傳播的換臉視頻，動作的逼真度、自然度，以及視頻整體的清晰度、流暢度都得到大幅提升，足以達(dá)到以假亂真水平，傳統(tǒng)基于生物特征的鑒別方式越來越難以發(fā)揮作用，真假難辨的背后更是危害性的不斷增強(qiáng)。

朱萌進(jìn)而指出，深度合成技術(shù)大大降低了信息造假的難度，只需要拿到一張照片，就能生成非常逼真的偽造視頻，用于捏造虛假信息、偽造不雅視頻、惡搞特定人物等。

5月24日，中國互聯(lián)網(wǎng)協(xié)會也發(fā)文稱，面對利用AI技術(shù)的新型騙局，廣大公眾需提高警惕，加強(qiáng)防范。

一道安全防火墻

針對“AI換臉”等技術(shù)被用于詐騙、誹謗等問題，朱萌對北京商報記者表示，RealAI已開發(fā)配套的治理工具，即深度偽造內(nèi)容檢測平臺DeepReal，為防范大規(guī)模的視頻造假提供技術(shù)支撐。

目前，學(xué)術(shù)界和產(chǎn)業(yè)界均已對深度合成鑒別檢測技術(shù)的研發(fā)進(jìn)行了大量投入。在國內(nèi)，清華大學(xué)、中科大等高校均在深偽檢測方面取得顯著成果。瑞萊智慧RealAI、騰訊優(yōu)圖實驗室等企業(yè)機(jī)構(gòu)也已構(gòu)建人臉合成檢測平臺并發(fā)布針對性的檢測產(chǎn)品，支持對多種換臉方法進(jìn)行檢測。 

據(jù)朱萌介紹，RealAI推出的深度偽造內(nèi)容檢測平臺DeepReal，通過辨識偽造內(nèi)容和真實內(nèi)容的表征差異性、挖掘不同生成途徑的深度偽造內(nèi)容一致性特征，能夠快速、精準(zhǔn)地對圖像、視頻、音頻內(nèi)容進(jìn)行真?zhèn)舞b別，有效打擊財產(chǎn)詐騙、虛假宣傳、證據(jù)造假等違法行為。

據(jù)了解，DeepReal平臺基于千萬級訓(xùn)練數(shù)據(jù)，能夠?qū)崿F(xiàn)毫秒級檢測速率，每幀畫面檢測時間僅需30毫秒，同時在主流數(shù)據(jù)集檢測準(zhǔn)確率達(dá)99%以上，在實際產(chǎn)業(yè)中檢測準(zhǔn)確率也達(dá)到業(yè)界頂尖水平。

深度合成技術(shù)的加速應(yīng)用已成為現(xiàn)實趨勢，據(jù)朱萌介紹，RealAI未來還將進(jìn)一步擴(kuò)展深度合成溯源、深度合成鑒定等方面的能力，全面提升技術(shù)應(yīng)對能力。

目前，瑞萊智慧的產(chǎn)品解決方案主要在政務(wù)、金融、能源、制造、互聯(lián)網(wǎng)等場景落地，致力于以安全、可信、可靠、可擴(kuò)展的第三代人工智能技術(shù)為合作伙伴提供人臉識別系統(tǒng)安全、自動駕駛系統(tǒng)安全、深度合成和偽造檢測、隱私保護(hù)計算、AI攻防靶場等全套產(chǎn)品和解決方案。

北京商報記者了解到，除了瑞萊智慧RealAI之外，部分涉足人臉識別的上市AI公司也已研發(fā)了視頻圖像鑒真相關(guān)產(chǎn)品。

讓AI安全可控

伴隨著“AI換臉”騙局在全國范圍內(nèi)的爆發(fā)，AI技術(shù)的安全問題也受到了廣泛重視。今年以來，有關(guān)推動建立安全可控的AI治理體系也被不斷提及。

行業(yè)調(diào)查上，德勤今年發(fā)布的《2023技術(shù)趨勢》報告顯示，有七成左右的受訪企業(yè)主管表示將看好AI技術(shù)業(yè)務(wù)變革；47%的業(yè)務(wù)主管更關(guān)心AI透明度問題；而41%的技術(shù)專家擔(dān)憂AI會引發(fā)道德風(fēng)險。

朱萌表示，包括人臉識別、深度合成在內(nèi)的人工智能技術(shù)的普遍應(yīng)用，可能引發(fā)諸多治理挑戰(zhàn)。從整個大市場來看，AI治理應(yīng)從法規(guī)與倡議約束、研究計劃與競賽引導(dǎo)、技術(shù)手段發(fā)展的角度全面展開。其中技術(shù)手段發(fā)展方面，應(yīng)對AIGC生成內(nèi)容的不斷演化，對治理技術(shù)也提出了越來越高的挑戰(zhàn)。從數(shù)據(jù)制作、傳播到事后檢測追責(zé)的全鏈條看，需要技術(shù)側(cè)不斷優(yōu)化合成檢測、檢測結(jié)果可解釋等方面的技術(shù)能力。國內(nèi)外相關(guān)機(jī)構(gòu)也均推出和優(yōu)化相應(yīng)的技術(shù)工具。

據(jù)了解，為推動人工智能倫理治理體系的建立，RealAI在2022年6月正式成立AI治理研究院，搭建了由“研究體系”“實踐體系”和“監(jiān)督體系”組成的治理框架，持續(xù)開展人工智能倫理規(guī)則、治理實踐與監(jiān)督體系的研究，著力于倫理規(guī)則與立法貢獻(xiàn)、治理技術(shù)落地與探索倫理安全規(guī)范。

此外，據(jù)朱萌介紹，推動建立負(fù)責(zé)任的AI技術(shù)治理體系，RealAI主要從“算法可靠、數(shù)據(jù)安全、應(yīng)用可控”三個方面著手，提升算法模型的可靠性，解決模型訓(xùn)練與使用過程中的隱私保護(hù)與技術(shù)濫用問題等，還搭建了安全可靠可控的新一代人工智能基礎(chǔ)設(shè)施，且目前已在政務(wù)、金融、工業(yè)互聯(lián)網(wǎng)等高價值場景中發(fā)揮了重大作用，成為AI縱深賦能的堅實基座。    

北京商報記者 馬換換