当前位置:正文

现代激情 台灣首例deepfake換臉技術作恶! 「無法律規範」檢警籲修法

发布日期:2024-10-09 20:48    点击次数:160

现代激情 台灣首例deepfake換臉技術作恶! 「無法律規範」檢警籲修法

記者張君豪/台北報導

刑事局偵四大隊18日秘书破獲盛名網紅小玉、笑笑團隊涉嫌运用AI繪圖演算技術「deepfake」後製包含盛名台灣女網紅、明星名东谈主換臉A片,並透過加密通訊軟體Telegram開設群組招收會員販售渔利,短短一年獲利逾千萬元;刑事局證實這亦然台灣顺次史上首例运用繪圖AI演算深偽技術,繁衍的新式作恶行為。

在线ps

▲笑笑、小玉。(圖/翻攝自笑笑Instagram、記者張君豪翻攝)

▲網紅笑笑、小玉捲入販售換臉A片案件遭警方逮捕。(圖/翻攝自笑笑Instagram、記者張君豪翻攝)

加上身為YouTuber的小玉曾在愚东谈主節當天上傳一則韓國瑜誇張言詞搞笑影片,雖然小玉辯稱是向民眾呼籲假新聞風險,但未來deepfake換臉技術若結合政事、作恶运筹帷幄分散假影片資訊,對社會顺次影響退却小覷。

▲警方查扣網紅小玉販售換臉A片所得458萬餘元贓款及所購置賓士GLC高檔休旅車。(圖/記者張君豪攝)

▲警方查扣網紅小玉販售換臉A片所得458萬餘元贓款。(圖/記者張君豪攝)

警方點出,網紅小玉就曾在惡搞韓國瑜影片中示意,「該影片是花东谈主民幣購買AI換臉軟體、独一花30分鐘和一個配音員、我不错讓韓國瑜講出任何我思要他講的話。」但小玉操盤製作女網紅、女模及名东谈主民代換臉A片,不但不是平素影音創作,換臉A片遭移植的當事东谈主形象、聲譽东谈主格形成嚴重貶損。

刑事局說明,deepfake华文翻譯成「深偽」或「深假」是一種透過东谈主工贤惠(AI)技術中的深度學習演算形成的虛假訊息,該技術不错應用於偽冒影像及聲音,只需被仿造對象的宽广照片、影片,透過電腦深度學習(deep learning)就不错製造肉眼很難分别的假影片。

刑事局示意,國外科技威信、国法機關早就開始針對深偽影片的鑑識格局、分析軟體進行開發;肇因像小玉這樣运用deepfake技術開發換臉A片,形成分散猥褻物品及形成受害當事东谈主的困擾;但若將該技術用於仿冒國家元首、政府官長或是政黨領袖的虛假影音,將有可能繁衍社會顺次、選舉公道、以至輿論動盪、民眾對立等社會問題。

警方分析國外案例,旧年英國有歹徒运用深偽技術,掌合手师法某跨國企業執行長的語音技術,撥打電話給該公司出納东谈主員,因此順利騙匯鉅款到跨國帳戶;因此包含歐好意思執法機關,以至Google、微軟等網路科技威信莫不进入開發針對deepfake後製影片的辨識軟體,等同對該類影音技術「資訊戰爭」早已開打。

由於民眾僅需陋劣資訊手段,就能在Github等開源程式碼平台得到相關程式碼,大要下載各類換臉APP,要作念出簡單換臉影片並非難事,社群軟體龍頭包含臉書、推特紛紛開發「換臉影音辨識審核機制」,防堵換臉假影片透過社群軟體流傳。

当今台灣相關法律規定對deepfake換臉影片並無任何規範罰則,網紅小玉販售盛名女網紅、模特兒及名东谈主換臉A片是否引發後續修法效應,有待觀察。

【其他新聞】

►推特驚見2交警下崗「口愛」 臂章號碼查出是他…警政署回應了

►E奶網紅潘緣涉跨境運毒! 操盤進8公斤大麻「只收虛擬幣」

►獨/直擊「左撇子」又被抓了!網售大麻CBD製品 最重可判囚7年现代激情





Powered by 松岛枫作品 @2013-2022 RSS地图 HTML地图

Copyright Powered by站群 © 2013-2024