Facebook's Head of AI Says the Field Will Soon ‘Hit the Wall’

杰罗姆·毕赞提是由人工智能进展感到鼓舞,但认为目前的做法深学习的极限。
Illustration: Elena Lacey; Getty Images

Jerome Pesenti leads the development of artificial intelligence at one of the world’s most influential—and controversial—companies. As VP of artificial intelligence at Facebook我有监督数百名科学家和工程师,其作品塑造了公司的发展方向,并在更广阔的世界及其影响。

AI是从根本上重要到Facebook。这算法学会吸引和保持我们的注意力有助于使平台和它的姊妹产品, Instagram and WhatsApp, stickier and more addictive. And, despite some notable AI flops, like the personal assistant M,Facebook的继续使用人工智能来构建新的功能和产品,从Instagram的过滤器,以增强现实应用程序。

Mark Zuckerberg has promised to deploy AI to help solve 一些公司的最大问题,通过宣传仇恨言论,假新闻,或网络欺凌(这种努力已经看到了 limited success so far). More recently, Facebook has been forced to reckon with how to stop AI-powered deception in the form of deepfake videos that could convincingly spread misinformation as well as enable new forms of harassment.

Pesenti joined Facebook in January 2018, inheriting a research lab created by Yann Lecun, one of the biggest names in the field. Before that, he worked on IBM’s Watson AI platform and at Benevolent AI, a company that is applying the technology to medicine.

随着甲基毕赞提意志的骑士,在有线资深作家,接近在纽约的办事处。该会话已被编辑过的长度。

Will Knight: 艾未未,被提出作为解决假新闻和网上的滥用,但可能吹嘘它的力量。什么是你真正取得进展呢?

Jerome Pesenti: 自动放缓,甚至与人类和计算机一起工作,在Facebook的规模是超具有挑战性的问题。但我们已经取得了很大的进步。

Early on, the field made progress on vision—understanding scenes and images。我们已经能够在过去几年来应用年认识裸露,暴力认识和理解正在发生的事情的图像和视频。

Recently there’s been a lot of progress in the field of language,让我们通过人使用该语言的交互更加精细的了解。我们可以理解,如果人们试图欺负,如果它的仇恨言论,或者如果它只是一个玩笑。它是由任何措施一个解决的问题,但有正在取得明显进展。

WK: What about deepfakes?

JP: We’re taking that very seriously. We actually went around and created new deepfake videos,所以人们可能deepfake检验检测技术。真正重要的是,我们正在努力,要成为主动约一个挑战。它不是该平台目前在真正显著,但我们知道这是非常强大。我们正在努力成为领先的游戏,和我们从事的行业和社区。

WK: Let’s talk about AI more generally. Some companies, for instance DeepMind and OpenAI, claim their objective is to develop “artificial general intelligence.” Is that what Facebook is doing?

JP: 作为一个实验,我们的目标是,以配合人类的智慧。我们还是非常非常的那么远,但我们认为这是一个伟大的目标。但我想很多人在实验室中,包括晏,相信那“阿吉”的概念,是不是真的很有趣,并不真正意味着很多。

一方面是,您认为有无人AGI是人类的智慧。但我认为这是一个有点虚伪因为如果你真的认为人的智能的,它不是非常大。然后其他人投射到敏捷的概念临界点,如果你有一个AGI,那么你将有一个情报,可以更好地使自己,不断提高。但有没有为真实模型。人类不能不能让自己更聪明。我认为人是那种把它扔在那里去追求某些议程。

Advertisement

WK: Facebook的人工智能实验室是由lecun建,深度学习图灵谁最近赢得了他在该地区工作的奖励的先驱之一。你怎么做的 critics of the field’s focus on deep learning, who say it won’t bring us real intelligence?

“我们非常来自人类的智慧很远,”杰罗姆·毕赞提,Facebook的人工智能的副总裁。

Courtesy of Facebook

JP: 深度学习和当前的AI,如果你真的说实话,你有很大的局限性。我们非常来自人类的智慧很远,也有一些批评,说是有效的:它可以传播人类的偏见,这并不容易解释,但它有没有意义常见的,它更多的模式匹配的水平比稳健的语义理解。但我们正在解决其中的一些进展情况,并现场仍在进行非常快。您可以应用深度学习数学,对理解蛋白质,有这么多的东西,你可以用它做。

WK: 此外人工智能一些专家谈“重现危机”或重新创建开创性研究的难度。那你认为是一个大问题吗?

JP: 那这件事情的Facebook的AI非常有激情的。当人们不重复性的事情是,它创造了很多的挑战。如果你不能复制,这是一个很大丢失的投资。

我们相信很多重复性的带来价值的领域。它不仅验证结果帮助的人,更多的人它使更要了解正在发生的事情,并建立在这一点。 AI的妙处在于,它最终是由计算机上运行的系统。所以它是一个总理候选人,随着科学的一个分支,是可再生的。我们相信AI的未来将是什么在那里的重复性几乎默认。我们尝试 open source most of the code we are producing in AI, so that other people can build on top of it.

WK: OpenAI recently noted that the compute power required for advanced AI is doubling every 3 and a half months. Are you worried about this?

JP: 这是一个非常好的问题。当您缩放深度学习,它往往表现得更好,并能够以更好的方式来解决更广泛的任务。所以,有一个优势缩放。很明显,但进展速度是不可持续的。如果你看一下上面的实验,它每年涨成本10倍。现在,实验可能会对七位数字可以,但它不会去九个或十个数字,这是不可能的,没有人能负担得起。

这意味着,在某些时候,我们要撞到墙上。在许多方面,我们已经有了。不是每个面积已达比例的限制,但在大多数地方,我们正在向一个地步,我们真的需要考虑在优化方面,在成本效益方面,我们真的需要看看我们如何让大多数从计算的,我们有。这是我们要走向世界。

Advertisement

WK: 你是怎么从IBM沃森商业化艾学?你有什么想复制,并且你有什么话尽量避免,在Facebook的?

JP: 沃森是一个非常有趣的时间,我想IBM称为指出,这是一个商业市场,有卫生组织的应用。我认为这真的很了不起。但有一点过分overhyping。我不认为IBM非常好的服务。

当你有像Facebook的地方,它的使用在企业内部的显着率。使用开发者数量的AI Facebook是超过在现在每年翻一番。所以,我们需要解释说,这是非常有用的,但不要言过其实了。它不会成为我们声称它可以做的事情是不能。我并不需要它言过其实证明我的团队的存在。

WK: Facebook已经有时努力变成人工智能研究到商业上的成功,例如与M.你是如何试图连接科研和工程更有效?

Keep Reading
The latest on artificial intelligence, from machine learning to computer vision and more

JP: 当你开始谈论技术转让,就意味着你已经败了。你不能只挑一些研究,并要求其他人试图把它投入生产。你不能只是把它翻过栅栏。设置它的最好办法是让人们在做基础研究工作的人谁是更接近产品。这真是一个组织的挑战,我要确保有一组随时间而成熟,并带给人们与他们一起,而不是有无边界,你必须在一边科学家的项目,他们只是把他们的研究翻过栅栏。

WK: What kinds of new AI products should we expect from Facebook in the near term, then?

JP: 在Facebook的两个核心使用AI今天都使得平台更安全的用户,并确保我们向用户展示什么是对他们有价值。但一些我们正在做的最令人兴奋的事情正在努力创造新的经验是唯一可能艾。这两种虚拟现实及增强现实只能存在艾。最近我们看到,你可以 interact with VR using your hands,这需要的耳机围绕什么是真正的微妙理解。它仅使用相机,所以你可以用你的那双手控制器解析整个场景。此外,我相信这是在让人们更有创意的巨大潜力。那你看到一些有了这样的TikTok产品的竞争。许多人通过自然互动与介质,而不是一个专家或视频编辑或艺术家创作的视频和内容。

WK: Could the technology behind deepfakes perhaps be put to such creative ends?

JP: 当然可以。我们需要了解两岸。有制作人更富有创造性和使他们有很大的潜力。但是,正如我们在吸取了过去的几年中,我们需要负责任地使用该技术,我们需要了解的意外后果的发生之前。

WK: 500 Internal Server Error

Internal Server Error

The server encountered an internal error and was unable to complete your request. Either the server is overloaded or there is an error in the application.

JP: 这是我的评审人员这似乎非常不切实际的实现。除此之外,虽然,这可能产生负面的影响的研究进展,迫使工作是重复性少,而不是更多。我相信,开放和协作是人工智能驾驶的进步,并限制发布或基础研究成果的开放式采购将放缓风险领域的进步的重要。

这就是说,这种控制是否落实到位,作为负责任的研究者,我们应继续审议潜在误用的风险,以及我们如何能以帮助减轻这些,同时还确保我们的工作,推动人工智能是开放重复性地。


More Great WIRED Stories