26歲的百萬YouTuber「小玉」(朱玉宸)利用AI深度造假換臉技術(Deepfake),將許多網紅、藝人及政治人物的臉與謎片中AV女優的臉做合成,製作出部部色情影片上網販售,遭警方逮捕,而受害者包括脫口秀演員龍龍、網紅白癡公主、民進黨立委高嘉瑜等人。

老司機帶路~別等,快上車!

嘿嘿嘿嘿「車」要開囉~~快來!

移花接木!YouTuber 小玉涉嫌製作奎丁、高嘉瑜等眾多名人「換臉」謎片檢方諭令朱玉宸50萬元交保-- 上報/ 遊戲

圖/shutterstock

小玉通常先透過廣告邀集網友,必須先付費400元進入聊天室,想要成為會員就要再支付400元,而會員可欣賞聊天室中約50部的5分鐘短片,其中包含雞排妹在內的人氣影片,根據警方查扣的雲端及硬碟,發現至少有4500人曾經登陸消費過換臉謎片,以每人平均800元來計算,至少就賺得360萬元,更不用說還有大批願意付1900元成為S VIP(超級貴賓)的會員費。

Deepfake假影片肆虐、未來只會更猖狂!李開復:30年後仍難辨真偽|數位時代BusinessNext

不過根據消息指出,在警方找上門後,小玉竟然一副如釋重負的模樣說到「你們來,我真的鬆了一口氣!」讓人聽了超傻眼,後來小玉表示,製作換臉影片做到非常累,長期陷入後製地獄,每天醒來就是看著電腦學習模組,還要不斷搜集素材,幾乎壓縮到個人時間,令他快喘不過氣。

對此,社群平台《PPT》上就有網友回應「換回小玉的人設了」、「他還是他」、「效果做到最後一刻,太敬業啦」、「笑死,被逮還不忘做效果」。

繼續閱讀