根據《紐約時報》的報導，最近在TikTok和Meta的廣告庫中出現了一系列聲稱泰勒絲（Taylor Swift）贈送Le Creuset炊具套裝的帖子。這些帖子使用了泰勒絲聲音的深度偽造版本，讓人相信她提供免費的Le Creuset產品。騙徒利用這些人工智能生成的聲音來稱呼泰勒絲的粉絲為Swifties，並發布其他相關評論。

這些帖子引導感興趣的用戶前往虛假網站，如The Food Network，其中包含關於Le Creuset的虛構文章和推薦。然後，購物者只需支付9.96美元的運費就能獲得免費產品。然而，當然沒有Le Creuset產品送達，而且顧客的信用卡還被添加了額外的月費。Le Creuset證實並未提供這樣的贈品，這是一個騙局。

除了泰勒絲之外，還有其他名人的聲音被人工智能利用進行類似的詐騙活動，例如室內設計師喬安娜蓋恩斯（Joanna Gaines）。商業改善局在2023年4月對這些由人工智慧生成的名人廣告提出了警告，提醒消費者注意高品質的深度造假廣告。自那時以來，詐騙者利用深度造假讓消費者相信盧克·庫姆斯在銷售減肥軟糖，湯姆·漢克斯在推銷牙科計劃，蓋爾·金在銷售其他減肥產品等等。

目前，對於深度造假產品的監管相對薄弱，並且對製造者的懲罰也不明確。一些平台，如YouTube，已經採取了新的舉措來應對深度造假問題，並與一些音樂家合作，借用他們的聲音，從而引起了對人工智慧生成的真人版本的更大關注。

去年，美國國會提出了兩項針對深度造假問題的法案：《無假貨法案》和《深度造假責任法案》。然而，這兩項立法的命運尚不確定。目前，只有加州和佛羅里達州等一些州制定了一些關於人工智慧的法律規定。

文字：編輯部