news-details
(圖/摘自微軟《Protecting the Public from Abusive AI-Generated Content》、shutterstocks)

近日,科技巨擘微軟發布了一份題為《Protecting the Public from Abusive AI-Generated Content》的白皮書,揭示了人工智慧(AI)生成內容在詐騙領域的廣泛應用,引發社會各界的高度關注。

 

白皮書中的驚人統計數據凸顯了AI詐騙的嚴重性,專家呼籲各族群都應提高警惕,學習識別和防範技巧。

根據微軟的白皮書,2023年因深度偽造(Deepfake)技術進行的冒名詐騙,造成的損失高達27億美元,詐騙金額的中位數為1,000美元

 

更令人擔憂的是,據微軟揭示白皮書的統計,全球37%的組織在2023年曾遭遇某種形式的語音深度偽造詐騙。

 

深偽技術的發展歷程

深偽技術的發展可以追溯到2017年,當時一段假冒前美國總統奧巴馬的唇語同步視頻首次引起公眾注意。隨後,這項技術迅速演進:

 

2019年,AI被用於模仿CEO的聲音進行網絡犯罪,開啟了深偽技術在經濟犯罪領域的應用。

2021年,TikTok上出現的深偽Tom Cruise視頻引發廣泛關注,展示了這項技術的驚人進步。

2023年,深偽圖像已被用於政治活動中,進一步凸顯了其對社會的潛在威脅。

 

大眾認知與實際威脅

根據2023年的一項調查,60%的美國人對誤導性視頻和音頻深偽技術的擴散表示非常擔憂,尤其是老年人群體。

 

然而,研究結果顯示,普通成年人辨別深偽視頻的準確率僅為46%,遠低於卡內基梅隆大學學生80%的準確率。這一差距突顯了加強公眾教育的迫切性

 

微軟的白皮書還引用了另一項調查結果,顯示僅有約六成的民眾能夠正確分辨出真實與AI生成的圖片。更令人擔憂的是,微軟的研究顯示,僅有11%的受訪者對自身辨別AI生成內容的能力有信心。

 

具體案例:香港深偽詐騙案

2024年1月,香港發生了一起震驚業界的深偽詐騙案。某公司的一名員工在與深偽模擬的「同事」進行視頻通話後,按指示轉賬了2500萬美元。這一案例生動地展示了深偽技術在金融犯罪中的巨大破壞力。

 

老年群體:主要受害者

特別值得注意的是,老年群體成為AI詐騙的主要受害者。

 

美國退休人員協會(AARP)的調查發現,近75%的美國老年人表示曾被網路犯罪鎖定為目標。其中,19%的人已成為受害者,43%的人認識網路犯罪的受害者。隨著年齡增長,他們遭受的經濟損失也隨之攀升。

  • news-details
  • 微軟整理深偽詐騙的演進歷程。(圖/摘自微軟《Protecting the Public from Abusive AI-Generated Content》)
  • news-details
  • 白皮書所列十大詐騙類型 :1、冒名頂替詐騙;2、線上購物和負面評論;3、獎品、抽獎和彩券;4、投資相關;5、商業和工作機會;6、網際網路服務;7、電話和行動服務;8、醫療保健;9、旅遊、度假和分時度假計畫;10、外匯交易和假支票詐騙。(圖/摘自微軟《Protecting the Public from Abusive AI-Generated Content》)

微軟強調,面對AI詐騙這一複雜挑戰,需要整個社會的共同努力。公眾應提高警惕,學習辨別AI生成內容,並積極參與媒體識讀教育。同時,政府和企業也應加強合作,制定相關政策和技術標準,共同構建一個更安全、更值得信賴的數位環境。

根據微軟白皮書的內容和建議,以下是為您整理,個人避免深偽詐騙的方法:

 

1. 提高警覺性:

對於突如其來的緊急請求保持懷疑態度,特別是涉及金錢轉帳的要求。

不輕易相信陌生來電或網絡訊息,即使聲稱是來自親友或權威機構。

 

2. 建立驗證習慣:

收到可疑訊息時,通過其他獨立管道與聲稱的發送者聯繫核實。

對於重要決策或資金操作,建立多重驗證機制,不僅依賴單一通訊管道。

 

3. 保護個人信息:

謹慎分享個人信息,特別是在社交媒體上。

避免在公共場所使用不安全的網絡連接。

 

4. 學習識別AI生成內容:

參與媒體識讀教育課程,提高對AI生成內容的識別能力。

學習辨別深偽視頻和音頻的技巧,如注意不自然的眨眼嘴唇同步問題等。

 

5. 使用技術工具:

使用支持內容來源技術的平台和工具,如微軟提到的內容憑證(Content Credentials)。

安裝可靠的防毒和防詐騙軟件。

 

6. 保持軟件更新:

確保設備和應用程序始終使用最新版本,以獲得最新的安全保護。

 

7. 參與社區教育:

積極參加社區舉辦的防詐騙講座和培訓。

與家人和朋友分享所學的防詐騙知識。

 

8. 遇可疑情況及時報告:

如遇可疑情況,立即向相關部門或平台舉報。

 

9. 對金融交易保持謹慎:

對於涉及金錢的要求,即使看似來自熟悉的人,也要進行額外的驗證。

不要輕易點擊來路不明的鏈接或下載附件,特別是涉及財務信息的內容。

 

10. 關注最新的詐騙趨勢:

定期了解最新的詐騙手法和防範措施。

關注權威機構發布的安全警告和建議。

 

記住,面對AI技術的快速發展,持續學習和保持警惕是避免成為深偽詐騙受害者的關鍵。如果對某個情況感到不確定,寧可多一份謹慎,也不要輕易相信。

AI人工智能應用教練呂信偉,建議面對AI深偽詐騙,設定通關密碼」是好方法。他表示,他與家人間,會設定一個好記的口頭的通關密鑰,可能是聖經的經文,又或者是生活中的大小事,比如孫子讀幾年級等等。

 

今日報提醒您,當深偽詐騙越來越像真的,難以分辨,唯有與親友、同事、教會肢體之間,建立「真實」的關係,不要落單,才是對抗深偽詐騙最好的辦法。

 

相關閱讀》

穿載《屬靈AI裝備》用手機解鎖無限可能 呂信偉願人人成AI應用教練

巧用「聖經密碼」有機會成功抗詐?免誤以為熟人,免得LINE 帳號被盜

分享
意見反應