以AI對抗AI,抵御AI時代欺詐風暴
供稿 / 2024-04-19 17:451711當前,生成式人工智能(AI)正以驚人的創造力和應用潛力在全球范圍內掀起一場革命。在中國,各行各業都在思考如何利用生成式AI技術實現自身行業的自動化和高質量、高效率發展。然而,正如光明與陰影相伴,生成式AI的進一步發展也讓網絡攻擊的潛力達到前所未有的水平。
Jumio發布的《2023年在線身份研究》驗證了這一點,67%的消費者意識到這類生成式AI工具可以制作捏造的內容,包括視頻、圖像和音頻等,將會為身份欺詐帶來更大風險。假冒詐騙已經成為一個全球性問題,其影響深遠且代價巨大。僅在 2022 年,冒名欺詐就給英國消費者造成了 1.07 億英鎊的損失,給美國消費者造成了 26 億美元的損失,給新加坡造成了 1.01 億新元的損失。在中國也有真實的案例發生,去年6月在內蒙古包頭,騙子通過AI換臉和擬聲技術佯裝好友實施詐騙,導致被害人10分鐘內被騙走430萬元。
為什么生成式AI會帶來如此大的欺詐風險?
生成式AI工具如果被欺詐團伙所利用,將為個人和企業帶來嚴重的安全威脅。以網絡釣魚電子郵件為例。以前,大家經過仔細觀察一般很容易發現釣魚郵件的異常之處,因為它們充滿了錯別字和語病。而借助生成式AI工具,欺詐者可以輕松起草一封精美的專業電子郵件,從而更難識別為冒名頂替。
再比如,機器人現在能夠在社交媒體上開設賬戶,并使用生成式AI撰寫看起來很可靠的消息。如果這一消息被自動化地傳播出去,虛假信息的規模將達到前所未有的水平,用戶將很難辨別真實信息和虛假信息。生成式AI也被欺詐者濫用于制造逼真的深度偽造內容。估計市場上有 50 多種工具可以讓人在 10 到 15 分鐘內就制作出一份深度偽造內容。今年2月份,有媒體報道稱,詐騙團伙利用深偽技術在視頻會議中冒充企業高管,導致一家大型跨國公司香港分公司的財務人員被騙取高達2,500萬美金。
對于企業而言,以金融行業為例,盡管很多企業已經意識到KYC(了解您的客戶)流程的重要性并開始部署,但在生成式AI的挑戰下,這一流程正面臨著前所未有的考驗。例如,詐騙團伙利用生成式AI技術偽造身份證件和護照,通過線上銀行進行詐騙活動,往往造成巨大的經濟損失。
應對之策在于永遠保持領先于欺詐技術
面對生成式AI帶來的欺詐風險,我們必須以AI對抗AI驅動的欺詐,保持永遠領先于欺詐技術。例如,AI可用于檢測篡改跡象,如文字和照片篡改。采用基于面部的生物識別技術和先進的活體檢測技術,可以檢測到復雜的欺騙攻擊,如人臉互換和人臉變形等。
事實上,越來越多的企業正在利用基于AI的生物識別和活體檢測技術來加固其欺詐預防系統。Jumio 數字身份調查表明,由于生成式AI的興起和深偽圖像的出現,54% 的全球受訪者認為面部識別技術在身份驗證方面將發揮更大價值。
對于金融行業來說,在擁有強大的eKYC流程之外,結合生物識別認證技術將有助于增強安全性。此外,在注冊過程中加上被動風險信號可提供更多一層保障。例如,驗證用戶的個人身份信息 (PII)、驗證年齡、評估用戶電子郵件和電話號碼的信用級別、通過 IP 地址驗證用戶的位置,評估設備的可信度以評估用戶的風險等級。擁有高度準確和主動化的身份驗證解決方案,將有助于實時攔截可疑交易并迅速采取適當的行動。對于出海企業來說,還需要考慮不同國家和地區的客戶盡調標準和跨境支付工作流程。
基于生物識別的身份驗證變得更加重要
作為全球生物識別和身份驗證解決方案的領導者,Jumio以創新的生物識別、活體檢測、欺詐分析等技術,提供了一種有效的以AI對抗AI的策略。Jumio的流程簡潔而高效,用戶只需拍攝身份證照片,然后自拍,系統便會迅速完成身份驗證。在這一過程中,Jumio運用AI技術進行實時分析,不僅驗證身份證的真實性,還確保了驗證過程的真實性。
在區分機器生成和人類交互越來越具有挑戰性的環境中,基于生物識別的身份驗證變得更加重要。Jumio將繼續致力于推動身份驗證技術的進步,確保在AI時代,安全、便捷的身份驗證不再是奢侈品,而是每一筆交易的標準配置。
以AI對抗AI,抵御AI時代欺詐風暴














滬公網安備 31010702005758號
發表評論注冊|登錄