对抗深层假浪潮:现实捍卫者保持真实

在康卡斯特nbc环球LIFT实验室生成人工智能加速器之后，这家在打击人工智能产生的虚假信息方面处于领先地位的初创公司正在与nbc环球探索机会。

五角大楼失火的假照片在推特上刷屏。新闻机构报道这是真的。股票市场下跌。恐慌开始了。

虽然对外行人来说很有说服力，但这张照片是由人工智能创造的。通过网络和移动应用程序的人工智能图像创建工具的可访问性为制作令人信服的“深度伪造”铺平了道路，使坏人更容易创建看起来真实的图像，视频和文本信息。

在康卡斯特nbc环球LIFT实验室加速器的第一天，Reality Defender的联合创始人兼首席执行官本·科尔曼(Ben Colman)应邀参加了CNBC与布莱恩·沙利文(Brian Sullivan)的《最后通话》节目，澄清了这个谎言。Reality Defender是一个深度造假检测平台，采用先进的技术来验证音频、视频、图像和文本的真实性。

“今天，任何人都可以使用假脸或假声音发生器，这可能会产生一些非常有趣或非常危险的东西。生成式人工智能的出现使非技术人员能够轻松地创造一种媒体‘病毒’，并在互联网上迅速传播。”

——本·科尔曼

可以把“现实卫士”想象成帮助公司检测深度假货的杀毒软件。在早期，该公司向全球100多家政府机构免费提供技术，帮助他们在网络和暗网中搜索错误信息和虚假信息。如今，他们与Visa、微软、北大西洋公约组织(NATO)等重量级企业合作。它还帮助银行实时检测用于欺诈性交易的伪造声音或文本。

该公司还带头推动保护个人和组织免受深度造假的政府法规。科尔曼帮助成立了深度信任联盟(Deep Trust Alliance)，这是一个501(c)(6)非营利组织，游说美国国会制定深度虚假保护法律，特别是倡导社交媒体和在线平台识别、阻止和报告人工智能生成的内容。

其含义是显而易见的。人们需要知道什么是真，什么是假。

“我们天生相信自己的所见所闻。我们面临的挑战是，我们在网上看到的和在电话里听到的一切都可能是伪造的。我们可以在不到一秒钟的时间内实时标记潜在的假货，从而使组织能够防止潜在的欺诈性内容迅速传播。”

与LIFT实验室合作

Reality Defender最近完成了Comcast NBCUniversal LIFT Labs生成AI加速器。这个为期六周的项目促进了与康卡斯特(Comcast)、nbc环球(NBCUniversal)和天空电视台(Sky)高管之间的联系，以及企业销售、生成式人工智能技术的未来和媒体培训等主题的节目。

科尔曼说:“LIFT实验室加速器提供的丰富经验令我们震惊。“通过LIFT实验室，我们可以接触到更大的康卡斯特nbc环球家族中的众多全球公司。此外，LIFT实验室将长期成为我们的内部冠军，而不仅仅是在加速器项目期间。”

作为加速器的结果，现实卫士正在与nbc环球一起试验他们的技术，以探索在公共空间保护其对外内容的解决方案。

加入加速器推动了现实卫士的使命，为当局和企业提供工具，以跟上快速发展的深度虚假技术的步伐。做好这件事对人类互动的未来至关重要。

科尔曼说:“我们将进行视频通话，并没有意识到那个人、那张脸、那声音完全是假的，因为它与我们进行了完美的实时交流。”“我们现在正试图走在这个问题的前面，建立技术来检测它，并为平台提供商制定要求，以解决可能成为我们这一代在线最大问题的问题。”

展望未来

科尔曼对这项事业特别投入，他渴望确保他的孩子们的安全，因为他们已经在与网络世界互动。

“对他们来说，网络世界就像印刷报纸对我一样有形。我们的目标是让他们了解潜在的欺诈行为和核实的重要性，这样他们就能分清真假。”

尽管科尔曼的公司肩负着这样的使命，但他是一名生成型人工智能爱好者，只要人们能分辨出人工智能产生了什么，他就会欣赏人工智能的变革力量。

科尔曼表示:“在Reality Defender，我们绝对喜欢并拥抱生成式人工智能。我们认为这很有用，很有帮助，这是未来。我们只是认为观众应该意识到一些东西是由人工智能生成的。辨别真假的透明度对每个人都至关重要。”