AI脫衣工具生成300萬張深偽圖像 校園應對陷入困境

AI驅動的「脫衣」工具自今年年初以來已生成數百萬張未經同意的深偽圖像，創造出一種新型數位虐待型態，學校、家長與監管機構正競相試圖遏制。

能夠從照片中移除衣物或從零開始生成露骨內容的生成式AI系統大量湧現，已將一個邊緣網路問題轉變為主流危機。反數位仇恨中心（Center for Countering Digital Hate）以高置信度估計，僅xAI旗下的Grok在1月份就創建了300萬張性化圖像，其中包括超過2萬張描繪兒童的圖片。雖然xAI此後已導入防護措施，但《WIRED》本週發布的分析發現，Grok.com上仍託管數十張露骨深偽內容，包括名人及至少一位美國政治人物的圖像。

「伊隆·馬斯克明知故犯，在他的平台上加入了一個變態功能，幫助用戶一鍵脫去婦女和兒童的衣服，對其可預見的傷害毫不關心，」反數位仇恨中心執行長兼創始人伊姆蘭·艾哈邁德（Imran Ahmed）表示。

此類虐待行為已蔓延至校園，學生們正利用公開可用的「脫衣」應用程式來針對同學甚至教師。為K-12學校提供內容過濾軟體的Lightspeed Systems產品執行副總裁珍妮佛·杜爾（Jennifer Duer）表示，這些工具正在助長性勒索案件的增加。「孩子們把一張照片發給別人，然後那張照片就被轉換成了原本不是的東西，」杜爾說。「現在對方會說『嘿，付錢，否則我就告訴你所有的朋友和家人。』」

法律環境仍然零散不整

聯邦《下架法案》（Take It Down Act）於今年通過，將未經同意在網路上發布親密視覺描繪（包括AI生成的深偽內容）定為犯罪。大多數州也已通過類似立法。但學區在更新內部政策以配合新法律現實方面進展緩慢。

GoGuardian隱私與資料政策資深總監泰迪·哈特曼（Teddy Hartman）表示，大多數學校系統缺乏專門的深偽政策。「在校園層級，通常沒有專門針對深偽的政策，」哈特曼說。「但大多數學校系統確實有制定負責任使用和網路霸凌政策。即使面對這種極端且圖像化的網路霸凌形式，這些政策仍然有效。」

聯邦法律與校園執法之間的落差產生了責任風險。杜爾警告，當深偽霸凌事件發生在校園內或使用學校設備時，家長可能會起訴學區。學校還面臨學生偽造教職員圖像的問題，這些案件在內容被證實為虛構之前，往往就已引發調查與停學處分。

檢測工具難以跟上步伐

市售的深偽檢測工具能以大約90%的準確率標記被篡改的圖像，但隨著生成式AI不斷進步，這項技術正在節節敗退。「AI越來越善於欺騙這些檢測工具，」杜爾說。「以前會有明顯跡象，比如多了一根手指或牙齒怪異。但現在它們看起來非常逼真。」

內容過濾公司正在適應調整。GoGuardian的視覺裸露檢測系統能夠動態阻擋裸體圖像（無論是真實的還是AI生成的），防止其在學校配發的設備上被存取。Lightspeed Systems則提供匿名舉報工具，讓學生能夠在無需擔心報復的情況下通報事件。

監管壓力持續升溫對AI平台

這個問題不僅限於校園。加拿大隱私專員本週發布初步調查結果，指控xAI違反聯邦隱私法，未能從一開始就實施適當的防護措施。調查指出，xAI已導入新的保護機制，但該公司尚未證明這些機制的有效性。

xAI的母公司SpaceX在5月的一份文件中揭露，已提撥5.3億美元用於處理持續的法律投訴，包括與Grok相關的案件。該文件警告，Grok的「失控」（Unhinged）與「嗆辣」（Spicy）模式存在「加劇的風險，包括聲譽損害、生成潛在露骨內容，以及誤導性或虛假輸出。」

追蹤露骨AI內容近十年的深偽專家亨利·阿傑德（Henry Ajder）表示，Grok的防護措施仍落後於主流競爭對手。「雖然Grok和X可能對其模型做了一些調整，特別是在今年初因『脫衣』功能引發反彈之後，但他們仍未能充分將其提升到與其他主流工具相同的標準，」阿傑德說。

對投資人而言，監管方向已然明確。SpaceX提撥的5.3億美元準備金表明，與AI生成內容相關的法律成本正變得實質可觀。那些未能實施強健內容審查的公司——尤其是為18歲以下用戶提供服務者——隨著聯邦與州政府的執法力度加大，正面臨不斷升高的責任風險。《下架法案》為受害者提供了私人訴訟權，為民事訴訟敞開了大門，這類訴訟的賠償金額可能遠超監管罰款。

本文僅供資訊參考，不構成投資建議。