【灣區新聞】舊金山市府起訴16個網站 涉嫌利用AI傳播或創造非自願換臉的色情內容(視頻)

【KTSF 朱慧琪報導】

近年人工智能迅速發展,舊金山(三藩市)市府律師邱信福宣佈起訴16個受歡迎網站,這些網站涉及利用人工智能AI,傳播或創造非自願換臉的色情內容,這次是全球首宗這類案件檢控,邱信福指,這種技術不但對無辜的事主,不論其年齡,都會造成無法估計的傷害,也違反州和聯邦法律。

邱信福說:「今日我們宣佈首宗這類訴訟,針對全球最大型網站,利用人工智能助長剝削。」

現時有不法分子會利用人工智能技術,未經事主同意而將他們改頭換面,生成色情影像,受害者有成年人也有未成年人。

邱信福週四就起訴16個網站,指它們涉及利用人工智能AI,傳播或邀請女性創建一些非自願的裸露影像。

邱信福說:「這些網站讓用戶上傳,有穿衣服的真人照片,然後利用AI將照片中人脫衣,創建色情影像而不經事主同意,那些圖像以假亂真。」

邱信福指,受害女性的數量龐大,涉案網站的總訪客人數,單是今年頭六個月已超過2億次,受害女性從歌星Taylor Swift到荷里活名人,以至高中或中學生都有,比如在今年2月有16名八年級學生,被AI改頭換面的裸照,就在南加州一間中學流傳。

而這些AI生成的圖像,會被用來勒索、欺凌、威脅和羞辱女性,聯邦調查局(FBI)已經提出警告,指涉及這類AI圖像的詐騙案有所增加,傷害受害人的聲譽,強烈打擊受害人的精神健康及自信心,令受害人甚至會有自殺傾向。

邱信福指,這16個網站的經營者,非法創設、傳播大量深度偽造色情內容、報復性的色情內容、兒童色情內容,並從中獲利,違反了多項州和聯邦法律,包括加州的不公平競爭法。

邱信福說:「我們提訴是為了關閉這些網站,也想拉響警號,生成式AI有巨大的前景,但正如所有新科技一樣,會產生意想不到的後果,而不法分子也會利用它們,我們必須表明,這不是創新,而是性虐待,是個巨大又多面向的問題,我們社會必須盡快解決。」

而這宗訴訟會尋求民事罰款及訟費,如果有人是同類案件的受害者,可以到消費者投訴網站通報,或致電415-554-3977,與舊金山市府律師室聯絡,網址:https://www.sfcityattorney.org/report-a-complaint

(Copyright 2024 KTSF. All Rights Reserved. This material may not be published, broadcast, rewritten, or redistributed.)
版權所有,不得轉載。

您喜歡的新聞