社群平台X 8月25日出現一長串韓國學校名單，包含：大學、高中和國中，貼文指出裡頭許多老師和學生的日常照片被製成「深偽」（Deepfake）色情影像，在通訊軟體Telegram 的私密群組傳播。初步估計受影響學校達500家，遍布全韓國。
根據韓國當地媒體指出，受害女性除知名韓國女團BLACKPINK、TWICE等成員，還有一般女性、女學生，包括女軍人（她們的照片被稱為「軍需品」）。甚至還有以女性親屬為對象的「家庭房」、「近親房」。受害者因此被私訊騷擾、性暴力威脅，身心受創。事件曝光後引爆韓國輿論，尤其在女性間引起恐慌。
性犯罪者就在你身邊 韓國女性活在不安中
根據私密群組規定，想要加入必須先提供「身邊女性熟人」的照片，甚至是個人資料。加入後，管理員會先發布幾段免費影像，再誘導會員上傳更多照片、付費，以取得指定女性的合成色情影片。有網友截圖群組聊天室，發現其中一個群組的成員高達22.7萬名。韓國全國有26萬輛計程車，也就是說在韓國遇到一名性罪犯的機會，跟遇到一輛計程車差不多，而且「就在你身邊」。
過去韓國女生都認為N號房這樣的事不會發生在自己身上，但這一次不同，當每個學校、行業都出現深偽色情聊天室，任何人都可能成為受害者。事件爆發後，許多女孩因此關閉個人帳號，或是撤下大頭貼，卻因此引來批評，被素不相識的網友留言「你長太醜了，不可能用在影片上」、「噁心的女權主義者」等霸凌言論。這樣的社會氣氛，讓女性更難公開討論這個話題，也不知道該如何自保，繼續活在不安當中。
這不是韓國爆發的第一起深偽犯罪事件。今年5月，首爾大學、仁荷大學先後捲入深偽犯罪事件，有兩名首爾大學的校友被指控在過去三年間，利用多達61名女性的畢業照、社媒頭像合成色情影像，在Telegram上超過200個直播間傳播。警方說：「主犯並沒有透過非法合成物賺錢，犯罪目的不是為了營利，而是為了滿足自己的慾望。」
N號房事件重演 數位性犯罪年齡有下降趨勢
這起大規模深偽性犯罪事件曝光後，韓國總統尹錫悅下令全力徹查此事，執政黨也同步宣布推動立法，打算將性犯罪影像的最高刑罰從5年提高為7年，並在教育部網站設立舉報中心。韓國警方也立即採取行動，在一週內破獲超過120起深偽影像犯罪，令人驚訝的是，裡頭有超過七成的嫌疑人尚未成年。
2020年「N號房事件」爆發時，主謀迅速被捕並判刑42年，政府也推動《N號房防治法》，提高法律對數位性犯罪的懲罰力度。不幸的是，這三年來，不少調查顯示重罰和新法不僅沒有阻嚇犯罪者，反而隨著技術進步，這些犯罪者能用更簡單的方式繼續剝削、凌辱女性，而犯罪者也越來越年輕。
首爾市青少年文化中心長期為青少年性犯罪者提供輔導，負責人日前接受BBC專訪時指出，「Deepfake」在青少年間早已成為一種「娛樂文化」，「他們傾向於將其視為同儕之間的惡作劇或玩樂。」並藉此獲得同儕認可，認為「沒什麼大不了」、「只是好玩」。
根據美國網路安全公司《Security Hero》發表的《2023年Deepfake報告》，分析網上流傳近10萬條深偽色情影片，有超過一半（53%）受害者來自韓國，其中九成都是歌手和演員。
一名韓國女權主義者受訪時表示，深偽影像比N號房性剝削更可怕的地方在於——N號房是加害者威脅受害者使其成為性奴隸，但這次只要有AI 深偽技術，受害者和加害者不接觸也能犯罪。當性犯罪的物理界限消失了，受害者人數遠遠無法估計，加害者也更難以產生罪疚感。
▲「深偽」技術的出現猶如打開了潘朵拉盒子，帶來科技革新的同時，卻也導致網路犯罪、數位性犯罪持續擴大。Adobe Stock
AI深偽技術 對人類道德的考驗
深偽技術的出現猶如打開了潘朵拉的盒子，帶來科技革新的同時，卻也導致網路犯罪、數位性犯罪持續擴大，這已經成為遍布全球的棘手問題。
今年3月，美國加州比佛利維斯塔中學（Beverly Vista Middle School）被揭發有5名國中生利用深偽技術製造、傳播16名同學的裸照。學校在經過投票後，決定開除所有犯罪學生。當時也引發不少討論，認為這樣的做法是否太過激進。
校長麥可‧布雷吉（Michael Bregy）在聲明中說，這件事觸發了人們對使用人工智慧（AI）等科技的道德討論，在這過程中，使用者必須保持警惕和尊重知情權。他認為，犯錯雖然是學生在學習和成長階段的必經之路，但學會承擔責任也非常重要。
最後，沒有任何家長反對開除所有學生的決定。
數位通訊自由與性剝削犯罪 全球面臨的挑戰
AI技術確實助長了犯罪手法的便利性，但加密通訊軟體的存在，使得公權力在試圖介入管控時遇到更高的門檻。韓國警方表示，近年來常收到數位性犯罪的相關報案，但是在與通訊平台如Telegram提出調查要求時，都會被拒絕。也有韓國警方對記者透露，這些平台很少協助這類調查，只能靠搜查人員一個一個進入聊天室臥底蒐證，不僅費時費力，聊天室還可能隨時被廢群，讓所有努力功虧一簣。
其中Telegram採加密對話，用戶通常是匿名，且私人群組可以快速刪除資訊，不留痕跡，這些特質都讓Telegram成為理想的犯罪地點。但Telegram不僅對韓國，對美國等其他國家搜查機關都拒絕提供用戶帳號情報，「無法可管」的情況下，使得Telegram成為性犯罪快速傳播的溫床。
所幸狀況在日前有所轉圜，法國檢方在8月底正式起訴Telegram創辦人兼執行長帕維爾‧度洛夫（Pavel Durov），指控他涉嫌共謀並縱容平台經營兒童性交易、毒品等行為，被當局在法國逮捕並拘留。
從那時起，Telegram的態度似乎有所轉變，韓國警方也終於硬起來，在9月2日宣布已經對Telegram縱容性犯罪一事開始調查。韓國廣播通信審議委員會也對外表示，已經收到Telegram東亞地區負責人通知，表示會配合刪除韓方要求的25個性剝削影像，並對與韓國當局溝通不良致歉。
即使如此，韓國民間團體對此仍不表希望。女性團體表示，這種數位性犯罪能發展到人數眾多、大規模結構性的狀態，主要還是在於社會文化對女性的歧視所導致。在韓國極端「厭女」的風氣下，加上青少年同儕間的比較、霸凌，恐怕未來這些類似的犯罪手法會變得更加隱晦，難以察覺。
