文 | 李厚辰宿舍 自慰

特朗普与哈里斯的好意思国大选有计划截止，有计划会后，流行天后Taylor Swift在Instagram公开表态救助哈里斯。在她的著述中，她突出说起了一齐AI事件：

“最近我得知，有东说念主在特朗普的网站上发布了由AI模拟的‘我’救助他竞选总统的内容。这件事唤起了我对AI的怯怯，尤其是它在分歧伪善信息方面的危机性。这使我结实到，我需要对我方行为选民在这次选举中的骨子筹谋保握透明。招架伪善信息的最简便方式即是用真相来往话。”

Taylor Swift在我方酬酢平台上的共享

这件事成为最近AI违警领域又一个激发全球热心的事件。在AI时期大踏步改变咱们生计后，AI的暗面也迟缓呈现。时期对试验生计的冲击只怕只是启动。

01.

耸东说念主听闻的韩国Deepfake事件

在AI坐蓐图片领域，最近最严重的事件毫不是Taylor Swift，而是韩国的Deepfake事件，也被称为N号房2.0事件。

前次的N号房事件，是加密女性偷拍群组，而这一次是购买者上传女性像片，有东说念主通过AI时期进行脸部与躯壳的拼贴，制作成Deepfake色情像片或视频。

此事件不错追预料2021年之久，到本年被大畛域曝出。受害者从小学生、中学生、大学生一直到使命主说念主士，遭灾200多所学校，以及多起队列事件。

笔据韩国东说念主权团体统计，仅本年，就有781名Deepfake受害者求援，其中36.9%未成年。这些聊天室畛域之大耸东说念主听闻，其中一个东说念主数高达22万东说念主。

不仅受害者好多触及未成年，最引东说念主瞩指标是加害者居然有更高比例为未成年东说念主。笔据韩国当局数据，在2024年，被指控违警的178东说念主中，131东说念主的年事为10到19岁，青少年嫌疑东说念主的比率高达73.5％。

《女巫》

除了未成年激发烧心外，另一个典型的特征为熟东说念主违警。与偷拍属于目生东说念主骚扰不同，Deepfake的换脸对象集结在同学、共事、队列同侪、师长、以致家东说念主中。这种违警不仅骚扰诡秘与躯壳职权，还会大幅度毁坏东说念主与东说念主的信任关系，冲破一个东说念主日常生计的安全感。让身边的系数东说念主齐具有潜在骚扰的潜能。

这种违警对学生团体、军东说念主团体等男性团体具有集体侵蚀的作用。首尔市青少年文化中心崇拜东说念主Lee Myung-hwa就向《BBC》指出，Deepfake在青少年间早已“像是一种文娱文化般扩张”，“他们倾向于将其视为同侪之间的开顽笑或玩乐。”以致加入与否成为同侪间获取彼此认同和被圈子摄取的一种信号。

这固然不仅是韩国的问题，此前被BBC记录片起底覆盖中日韩的偷拍性骚扰网罗，由中国东说念主“猫咪”经管，其团队大部分红员齐在国内进行偷拍，而其网站的跨越1万名付费会员中，大部分齐是中国男性。

除了这些极点的偷拍与深伪外，男性群体以共享色情内容行为酬酢的恶习，早一经是各个游戏群、畅通群的常态。这种共享到Deepfake与偷拍网罗，不外是一步之遥。

时期领先组成了分发网罗宿舍 自慰，变成在线群组，当前AI进一步与进入坐蓐模范，让性骚扰变得愈加明目张胆。

02.

你手中的暗网

在以上这些事件中，有一款软件一直处于风暴的核心——Telegram，而它的独创东说念主兼CEO Pavel Durov也在8月24日被法国警方逮捕。

这款历久以诡秘息争脱为核心卖点的聊天软件，也成为千般作歹行径的温床，并被戏称为“你手中的暗网”。无论是N号房事件，最近的Deepfake事件，或是台湾的“创意私房”事件，以致上述“猫咪”筹谋的偷拍网罗，齐以Telegram行为主要的平台。这一经是一个在全球领有10亿注册用户的巨型app，其加密特征如实让多样各样的行径在衰退监管的情况下运营。

非英语的使用也让监管愈加费力，Telegram的官方计谋明确辞谢这些违章行径的进行，但知道衰退鼓胀的东说念主手和算法来监管非英语内容。因此韩语和中语的违警行径，在其上以致不错愈加安全地运营。

恰是出于这些原因，Durov在法国被逮捕，其时法国正在探询与该应用模范相关的儿童色情、贩毒和诓骗交往等缺陷。这次逮捕行动源于法国警方对Telegram平台衰退监管的探询。

《东城梦魇》

Durov被逮捕后Telegram启动作出部分改变，Durov默示，Telegram一经删除“隔壁的东说念主”功能，这项功能让使用者不错稽察隔壁的其他使用者，不外他默示，“唯独不到0.1%的Telegram使用者使用这项功能，却存在机器东说念主和诈骗的问题”。

Telegram将推出”隔壁企业”行为代替，不错展示“正当、过程考证的商家”。Telegram还更动了其用户律例，在私东说念主聊天与群组聊天中，用户初次不错“举报作歹内容”以供平台审查。团结页面已被移除的旧版块中写说念，“系数Telegram聊天和群聊齐是参与者之间的巧妙聊天。咱们不处理与它们相关的任何央求。”

但不安的迹象同期出现，在刚刚以前的8月，Telegram的月活跃用户为347万东说念主，与前一个月比拟加多了 31万东说念主。这一增幅是自2021年3月启动统计安卓和苹果应用模范阛阓以来的最大畛域。增长的用户大多来自十几岁的青少年，月活跃用户从7月的41万名加多到了8月的51万名，加多了10万名。占总增幅的 32.1%，占最大比重。

不错设想这10万名青少年是被什么蛊惑到这个平台的，韩国性违警1级公认突出检察官降生的朴贤珠讼师指出：“与因N号房事件而广为东说念主知的作歹拍摄物相关违警比拟，存在违警的紧要性和严重性并不严重的失误结实”，“最近使用者剧增，也惦记会发成效法违警。”

行为一个聊天软件，多数用户在Telegram上进行广阔的互联网行径。它不应该行为违警温床而存在。

03.

措置时期，如故措置东说念主的坏心

引入Telegram的盘考是因为当前这个平台似乎成为了监管和措置问题的核心。这是一个很当然的策略，在网罗违警中，违警者、微型时期提供商、分销网罗齐特殊分歧。其独一集结的核心即是Telegram这么的软件，是以从Telegram启动，似乎不错最有“效果”地措置问题。

但这里际遇两个严重的逆境，领先是监管与摆脱的张力。平台监管的强度与用户不错享受的摆脱之间，如实存在知道的张力，这方面自无谓多言。

另外小数是，违警者从Telegram回荡到另一个更小众的加密信息频说念，并不是一件多空乏的事。堵住了Telegram，未必果真不错措置问题。一朝他们进入更小众的平台，只会让这些违警变得愈加装璜。

这是监管和透明之辩，有时候监管太强力，反而让轻中度违警变得装璜，社会上层纪律看上去井井有条，骨子思潮腾涌。较少的监管，反而容易让问题变得相对透明。

要是无法从平台脱手，措置有盘算似乎即是重办。笔据韩轨则律，制作作歹Deepfake色情影片可处五年以下有期徒刑、韩币5000万元罚款（约东说念主民币26万元）。当前研拟加重刑罚，如比照“作歹拍摄”的模范，将最高刑期晋升至七年。另外，有计划到未成年违警者大增，瞻望也将调理“未成年东说念主”（10～14岁不受刑事处罚）的模范。

但需要对重罚保握警惕和疑虑，要是一味重罚就可措置问题，只怕好多社会逆境就好措置了，重罚如实“解气”，但好多时候欲盖弥彰。轻罪重罚可能激化违警行径，或加重违警行径的归隐，处分过度会加重社会不公的嗅觉。

在好多国度，性别冲突，性骚扰违警同期也与社会公说念失衡有很大关系（并非为其狡辩，社会公说念失衡也可能导致对失衡失误的感受和理解，迁怒社会失衡到女性身上），轻罪重罚可能会加重此种不公的感受，进而产生不服。

《日本之耻》

说到这里，问题从AI，从Telegram再次回到了东说念主。也许如实更应该从这个角度看待问题，在有Telegram和AI之前，这个社会的性别违警并不荒野。从径直的性骚扰，到环球形势的偷拍与痴汉行径，到Deepfake违警，事情莫得变得更轻微，但变得更盘曲和归隐。走到这一步，可能有些问题难以掩盖。

领先是磨真金不怕火，咱们当前的磨真金不怕火中有鼓胀的性磨真金不怕火、两性关系磨真金不怕火、性别对等结实的磨真金不怕火吗？要是这三个问题的谜底齐是狡辩（韩国这方面优于咱们但与其他国度比还有很大差距），出现青少年性别骚扰违警就不可能是无意；

第二方面，当下东说念主们对社会的塑造不单是起首于学校，更起首于互联网，关于互联网极右翼波浪和Incel文化，尤其是男性群体，逾期的良心不雅念在游戏与体育等男性社群特殊泛滥，并嫁接腐臭的“手足文化”在东说念主群中加重，广大男性关于这些文化是弃取拥抱的格调、事不关己，如故明确拒却呢？

要是在学校及互联网，咱们齐无法对社会阐释和不雅念塑造插足鼓胀元气心灵和时候，以致在互联网还强化这种失误的性别结实，只是依靠对平台的监管和重办，这个问题就变成了一种新的依样葫芦。

我明白好多东说念主会以为这两者并不矛盾，咱们不错既监管平台，又对违警者重办，还加强学校磨真金不怕火，还辛勤在互联网塑造文化。四管其下，这个问题才不错措置。

尾声.

三个现成与一个累赘

但上述有盘算之间，并不是平行的关系。有三个齐不需要咱们作念任何事情，平台监管、违警者重办、学校加强磨真金不怕火，咱们齐只用“提条目”，监管、司法、磨真金不怕火部门就应该自动完成这些使命。提议这么的要乞降期待固然是一种职权，也并不是问题。

唯有临了一个，需要每一个东说念主的辛勤。这大致是一个有互联网期间的逆境，多数问题变得盘曲、归隐、跨国、因为时期自动化，且在背后由分歧而数目雄壮的东说念主共同鼓动，这让传统的点对点的行政和司法变得费力。这一切与高度原子化的社会集结，变成一个雄壮的结构性问题。也让传统行政和司法技巧难以快速搪塞。

临了这不得不行为一个拷问社会，也拷问咱们每个东说念主的问题，你是否期待问题在“命令”下由他东说念主帮你快速措置？要是这个预期轻松，你能作念什么？

靠近性别违警，这个问题尤其要问男性，毕竟男性与系数这些互联网社群和文化更接近，也许你就在这么传播色情GIF的游戏群组，在论坛靠近厌女言论，目击Incel表面传播，是守着“归正我一直挺尊重女性，这事儿和我无关”的格调，如故站出来制止这种文化的传播？

《日本之耻》

这可能是一个过高的条目，是以咱们钟情于监管、司法、磨真金不怕火部门不错快速反映、措置问题，如故期待少数媒体或个东说念主以骁雄目标揭露问题？韩国在N号房事件后，在Kpop明星出现性丑闻被打击后，居然还不错有如斯大畛域的Deepfake风潮，也在教导咱们性冲动与厌女文化带来此种需求的鼎沸和强横，这不是一个递次问题，而是严重的社会问题。

以递次的念念路宿舍 自慰，咱们只怕会在这个泥潭中越陷越深。咱们每个东说念主与其是什么关系？这是个严肃问题，在衰退公民参与与公民累赘的社会，这些问题可能将长期无法措置。或只剩一个最终的措置有盘算——因为悲不雅而陷入犬儒，变成我方脑怒的形状，绝望、寒冷话、怨气与仇恨。