對抗深層假浪潮:現實捍衛者保持真實

在康卡斯特nbc環球LIFT實驗室生成人工智能加速器之後，這家在打擊人工智能產生的虛假信息方面處於領先地位的初創公司正在與nbc環球探索機會。

五角大樓失火的假照片在推特上刷屏。新聞機構報道這是真的。股票市場下跌。恐慌開始了。

雖然對外行人來說很有說服力，但這張照片是由人工智能創造的。通過網絡和移動應用程序的人工智能圖像創建工具的可訪問性為制作令人信服的“深度偽造”鋪平了道路，使壞人更容易創建看起來真實的圖像，視頻和文本信息。

在康卡斯特nbc環球LIFT實驗室加速器的第壹天，Reality Defender的聯合創始人兼首席執行官本·科爾曼(Ben Colman)應邀參加了CNBC與布萊恩·沙利文(Brian Sullivan)的《最後通話》節目，澄清了這個謊言。Reality Defender是壹個深度造假檢測平臺，采用先進的技術來驗證音頻、視頻、圖像和文本的真實性。

“今天，任何人都可以使用假臉或假聲音發生器，這可能會產生壹些非常有趣或非常危險的東西。生成式人工智能的出現使非技術人員能夠輕松地創造壹種媒體‘病毒’，並在互聯網上迅速傳播。”

——本·科爾曼

可以把“現實衛士”想象成幫助公司檢測深度假貨的殺毒軟件。在早期，該公司向全球100多家政府機構免費提供技術，幫助他們在網絡和暗網中搜索錯誤信息和虛假信息。如今，他們與Visa、微軟、北大西洋公約組織(NATO)等重量級企業合作。它還幫助銀行實時檢測用於欺詐性交易的偽造聲音或文本。

該公司還帶頭推動保護個人和組織免受深度造假的政府法規。科爾曼幫助成立了深度信任聯盟(Deep Trust Alliance)，這是壹個501(c)(6)非營利組織，遊說美國國會制定深度虛假保護法律，特別是倡導社交媒體和在線平臺識別、阻止和報告人工智能生成的內容。

其含義是顯而易見的。人們需要知道什麽是真，什麽是假。

“我們天生相信自己的所見所聞。我們面臨的挑戰是，我們在網上看到的和在電話裏聽到的壹切都可能是偽造的。我們可以在不到壹秒鐘的時間內實時標記潛在的假貨，從而使組織能夠防止潛在的欺詐性內容迅速傳播。”

與LIFT實驗室合作

Reality Defender最近完成了Comcast NBCUniversal LIFT Labs生成AI加速器。這個為期六周的項目促進了與康卡斯特(Comcast)、nbc環球(NBCUniversal)和天空電視臺(Sky)高管之間的聯系，以及企業銷售、生成式人工智能技術的未來和媒體培訓等主題的節目。

科爾曼說:“LIFT實驗室加速器提供的豐富經驗令我們震驚。“通過LIFT實驗室，我們可以接觸到更大的康卡斯特nbc環球家族中的眾多全球公司。此外，LIFT實驗室將長期成為我們的內部冠軍，而不僅僅是在加速器項目期間。”

作為加速器的結果，現實衛士正在與nbc環球壹起試驗他們的技術，以探索在公共空間保護其對外內容的解決方案。

加入加速器推動了現實衛士的使命，為當局和企業提供工具，以跟上快速發展的深度虛假技術的步伐。做好這件事對人類互動的未來至關重要。

科爾曼說:“我們將進行視頻通話，並沒有意識到那個人、那張臉、那聲音完全是假的，因為它與我們進行了完美的實時交流。”“我們現在正試圖走在這個問題的前面，建立技術來檢測它，並為平臺提供商制定要求，以解決可能成為我們這壹代在線最大問題的問題。”

展望未來

科爾曼對這項事業特別投入，他渴望確保他的孩子們的安全，因為他們已經在與網絡世界互動。

“對他們來說，網絡世界就像印刷報紙對我壹樣有形。我們的目標是讓他們了解潛在的欺詐行為和核實的重要性，這樣他們就能分清真假。”

盡管科爾曼的公司肩負著這樣的使命，但他是壹名生成型人工智能愛好者，只要人們能分辨出人工智能產生了什麽，他就會欣賞人工智能的變革力量。

科爾曼表示:“在Reality Defender，我們絕對喜歡並擁抱生成式人工智能。我們認為這很有用，很有幫助，這是未來。我們只是認為觀眾應該意識到壹些東西是由人工智能生成的。辨別真假的透明度對每個人都至關重要。”