Yahoo奇摩財經 
AI偽造你聲音，連你爸媽都能騙？為何語音合成詐騙盛行？
當AI風潮盛行，電話詐騙更可怕！美國一對父母某天接到兒子電話，要求他們轉帳高額金額協助處理車禍，爸媽雖疑惑但確認是親生兒子聲音，因此核准，沒想到竟是AI合成語音。據美國研究，由於AI技術太普遍，現在只要你在抖音上傳超過30秒的影片，就有可能被利用來合成你的人聲。怎麼防？專家指只能這樣應對。
根據《華盛頓郵報》報導，美國聯邦貿易委員會（Federal Trade Commission，簡稱為FTC）的最新統計顯示，2022年的詐騙案之中，以「冒名詐騙」的數量最多，在這3.6萬次舉報中，約有5千件為電話詐騙，損失金額估計超過1.1千萬美元。然而，FTC的助理總監麥克森（Will Maxson）無奈地表示，電話詐騙很難追蹤，因為發話者可能在全世界的任何一個角落，光是要確定哪個單位有管轄權就有一定難度。
AI驅動的電話詐騙
除了成本低廉，只要一支電話就能展開詐騙以外，人工智慧技術的進步，也替詐騙集團的百寶袋添柴加薪。
2019年，詐騙集團利用人工智慧（AI）的技術，合成仿冒了一間英國能源企業母公司主管的聲音，向屬下誆稱公司的供應商需要資金，要求他在一個小時內立刻匯款，藉此詐得24.3萬美元。
這是近年第一起利用合成語音詐騙的案例，此技術被稱為「深度聲音」（deepvoice），和深度偽造（deepfake）類似，都是利用深度學習技術習得人類語言／相片中的特徵，接著再製出相似的內容，以假亂真。
2020年，一位香港的銀行經理接到一通客戶的電話，他認得對方的聲音，客戶表示因為要收購企業，要求他核准一筆高達3.5千萬美元的轉帳。後來經過警方調查才知道，該名客戶的聲音也是合成產生，這起案例是記錄在案的第1起。
隨著技術發展，合成聲音的門檻降低。
數位鑑識學教授法理德（Hany Farid）表示，兩年前還需要長時間的樣本，才能將人聲複製的唯妙唯肖，現在只要簡短30秒的聲音，就能夠捕捉出聲音中的特徵，包含年齡、性別、口音等。「現在如果在抖音上傳一支30秒的影片，人們就可以複製你的聲音。」
執法困難，一場完美風暴就此展開
柏金（Benjamin Perkin）的家庭，就是合成語音詐騙案的受害者。某天，他的雙親接到一通自稱是律師的來電，對方表示因為柏今發生車禍，撞死一位美國外交官，現在正在監獄中，需要柏金的雙親支付費用處理法律事宜。
聽起來很像標準的冒名詐騙，但律師馬上將電話轉交給柏金，柏金告訴父母，自己很愛他們，希望他們可以替自己準備足夠的金錢。
雖然很不尋常，但聽起來毫無疑問就是柏金，所以柏金的父母就這樣匯出了1.5萬美元。直到晚上柏金本人例行地打電話給父母，他們才知道自己受到詐騙。
柏金不確定犯罪者如何取得自己的聲音，不過，他曾經在YouTube上分享關於雪上摩托車的同好影片，裡面就有他的聲音。
要合成他人的聲音，並不是件難事。新創公司ElevenLabs就提供相關服務，使用者只要上傳一段聲音，它就能產出其他合成語音，試用免費，付費版本的月費從5美元到330美元不等。今年（2023），ElevenLabs在pre-seed輪就募得2百萬美元，不過，該公司也受到批評，因為有使用者合成名人的聲音，假裝他們說過某些其實不曾說過的話。
ElevenLabs在官網上有篇幅強調自己重視人工智慧道德（ethical AI），針對上述事件，它在推特上發文表示將會設法阻止濫用，除了限制免費使用者合成語音外，也會開發能夠偵測AI生產聲音的工具。
不只是新創，科技巨頭微軟也開發出相似的模型VALL-E，號稱能夠用3秒鐘的樣本，就能合成出人類的聲音，不過，微軟也開發能夠偵測出是否為人工合成語音的模型，避免先進技術被拿來做壞事。
現有法律無法處罰AI合成語音業者
然而，案件發生當下，受害者不太可能有精力打開偵測系統；對執法者來說，可能沒有足夠資源調查此類案件，而且因為受害者無法提供聲音相似以外的其他線索，不利於破案；現行法律也沒有辦法處罰提供AI合成語音服務的廠商。
面對相關案件，該如何自保？麥克森給出的建議，其實不脫傳統應對電話詐騙的方法：保持冷靜，先放下手機，聯絡當事人，確認對方的現況；認知到撥號來源也可能偽造，不要因此信任對方；若對方要求用難以追蹤的支付方式如禮品卡或是比特幣轉帳，就可以開始懷疑情況是否為真。
技術進步、成本低廉、對於軟體開發商無法可罰、警方沒有辦案著力點，針對此現況，法理德認為，所有的元素將會構成一場完美風暴。
更多精采報導，歡迎加入《遠見》 Line官方帳號！
看更多遠見雜誌文章：
馬斯克被綁架？布魯斯威利講俄文？Deepfake竟成廣告新寵
還在ChatGPT？中國AI等高影響力研究論文數超美居冠
ChatGPT實測被揪愛拜登、討厭川普，OpenAI怎麼修？
