AI時代

用魔法打敗魔法:AI 假音頻檢測技術 Project Mockingbird 登場!

安全軟件公司McAfee在今年的消費電子展(CES 2024)上,發佈創新AI技術——Project Mockingbird。這項技術能夠檢測出由AI生成的假音頻,旨在保護消費者免受網路犯罪分子利用假冒音頻進行詐騙、網絡欺凌以及操弄公眾人物形象的威脅。

隨著生成式AI工具的進步,網絡犯罪分子可以製作出令人難以分辨的詐騙手段,包括聲音模仿來冒充尋求資金的家庭成員,或是操弄視頻製作的「cheapfakes」。這些手段通過操縱內容來欺騙人,使消費者更難區分真假信息。為了應對這一挑戰,McAfee實驗室開發了AI模型,作為Project Mockingbird技術的一部分,用於檢測AI生成的音頻。該技術利用上下文、行為和類別檢測模型,達到了90%的驚人準確率。McAfee的首席技術官Steve Grobman表示:“就像天氣預報指出有70%的可能會下雨,可以幫助你計劃一天的活動一樣,我們的技術裝備你對內容是否屬實有一個明智的判斷。”Project Mockingbird提供了多種應用,從對抗AI生成的詐騙到對抗不實信息。McAfee希望建立起消費者辨別真實與操縱內容的能力,保護用戶免於陷入欺詐計劃,並確保安全的數字體驗。關於假音頻技術的深切擔憂: 隨著深假技術變得更加精密,消費者對此的擔憂也隨之上升。McAfee於2023年12月進行的深假調查突顯了以下幾點:

  • 84%的美國人擔心2024年深假技術的使用68%的人比一年前更加擔心33%的人經歷過或目睹了深假詐騙,其中18至34歲的年輕人中有40%的比例最主要的擔憂包括選舉影響(52%)、破壞公眾對媒體的信任(48%)、假冒公眾人物(49%)、詐騙的擴散(57%)、網絡欺凌(44%)以及創造色情內容(37%)

隨著美國和英國等國家進入關鍵的選舉年,McAfee Project Mockingbird標誌著對抗AI生成威脅進行的持續戰鬥重要進展。對於消費者來說,在深假技術日益滲透的影響下,如何應對至關重要。

來源參考:https://www.artificialintelligence-news.com/2024/01/08/mcafee-unveils-ai-powered-deepfake-audio-detection/

TechApple.com 編輯部

堅持製作專業科技內容,全員擁有多種不同技術知識的特異科技媒體團隊。 電郵:editor@techapple.com