In November 2017, a Reddit account called deepfakes posted pornographic clips made with software that pasted the faces of Hollywood actresses over those of the real performers. Nearly two years later, deepfake 500 Internal Server Error

Internal Server Error

The server encountered an internal error and was unable to complete your request. Either the server is overloaded or there is an error in the application.

new report that tracked the deepfakes circulating online finds they mostly remain true to their salacious roots.

启动deeptrace了一种deepfake普查的六月份和七月份以通知检测工具,它希望出售给新闻机构和网络平台的工作。它发现,几乎15000视频公开显示为deepfakes-近两倍多达七个月前。在deepfakes在野外循环的约96%是色情,deeptrace说。

The count is unlikely to be exhaustive, but the findings are a reminder that despite speculation about deepfakes destabilizing elections, the technology is mostly being used very differently, including as a tool for harassment. One worrying trend: Deeptrace says the tools needed to create deepfakes are becoming more sophisticated and more widely available.

启动的报告介绍的网站和论坛里的人分享,讨论,并在色情deepfakes协作利基,但蓬勃发展的生态系统。有些是奔波广告deepfake通过采取在一个人的脸色情剪辑和编辑,而不在于个人的同意制作的影片的商业企业。

所有编辑到色情短片的人deeptrace发现是妇女。最流行的数字西方女演员和韩国流行音乐的剪辑名人,有数百万人观看。非营利组织已经报道,女记者和政治活动家被攻击或deepfakes涂抹。亨利ajder,在deeptrace研究员谁对公司的报告工作,说,有deepfake论坛,在那里用户讨论,或要求他们知道女人如前女友的色情deepfakes,想看看它们编辑成色情片段。

Keep Reading

The latest on artificial intelligence, from machine learning to computer vision and more

丹妮尔香橼,在波士顿大学的法律教授,介绍了无一人同意作出色情deepfakes为“性侵犯隐私。”她约人工智能媒体操纵的工具,美国众议院情报委员会一六月听证会上发言。

The porn industry has helped pioneer new media technologies从VHS和弹出广告到视频流。香橼说,色情deepfakes的优势是技术史上的又一致课的提醒:“在每一个阶段,我们已经看到,人们使用什么准备,并在手折磨的妇女。 deepfakes是,一个说明“。

香橼帮助推动国家立法的复仇色情,这是目前受限于至少46个州的法律和哥伦比亚特区的近期蔓延。加州是其中;上周一周的州长纽森,签署成为法律的法案,允许编辑成色情材料未经同意一个人寻求对谁创造或披露它的人民事赔偿。

法律教授也表示,她目前正与约新的联邦法律,双方众议院和参议院的议员们交谈,惩罚恶意伪造和模仿秀,其中包括deepfakes的分布。 “我们一直在鼓舞的是,摄取是迅速的,”她补充道。

上周,参议员马可·卢比奥,佛罗里达州的共和党,和马克·沃纳,来自弗吉尼亚州的民主党人,两人是参议院情报委员会的成员,写信给Facebook和其他10个社会媒体网站寻求他们计划如何检测更多详情和应对恶意deepfakes。立法者警告说,假的片段可以有一个“关于我们的民主腐蚀性的影响。”

LEARN MORE

The WIRED Guide to Artificial Intelligence

Ajder of Deeptrace plays down fears that a fake clip could significantly affect the 2020 election. But the startup’s report notes that growing awareness of the technology can fuel political deception.

6月,在视频浮出水面据称示意具有该国的经济部长他做爱马来西亚政治助手被逮捕。 (同性恋是马来西亚非法的。)该国的总理说,视频是一个deepfake,但独立专家一直无法确定视频被操纵。 “deepfakes可以提供合理的推诿,” ajder说。

Advertisement

进行其分析,deeptrace使用手动搜索和网页抓取工具和数据分析的混合物从各大色情网站,主流视频服务,如YouTube记录称为deepfakes和deepfake特定的网站和论坛。

该方法是不完善的。它不能说明成功地冒充真正的剪辑或探头每一个隐藏的角落在线deepfakes。杰克·克拉克,在独立的AI实验室openai政策主任说,deeptrace报告仍然是收集有关deepfakes经验证据,一直缺乏其中的欢迎尝试。

Clark predicts that fake videos won’t be the first example of unsavory consequences from the spread of artificial intelligence tools through commercialization and open source. “Individuals will mess around with the technology and some of the ways they mess around will be harmful and offensive,” he notes.


More Great WIRED Stories

Tom Simonite 是旧金山有线电视的资深作家,负责人工智能及其对世界的影响。他以前是麻省理工学院审查的旧金山局局长,并在伦敦的新科学家杂志上撰写和编辑了技术报道。 simonite获得了...的学士学位 Read more