Riot Games和育碧合作研究機器學習來檢測有害的遊戲聊天

Riot Games和育碧共享了機器學習數據，這樣他們就可以檢測多人遊戲中的有害聊天。

育碧La Forge執行董事Yves Jacquier和Riot games軟件工程總監Wesley Kerr表示，「零傷害」研究項目旨在構建更好的AI系統，可以檢測遊戲中的有毒行為。它的目的是建立行業間聯盟，以研究危害檢測。這是由跨行業研究計劃組成的第一個項目。兩家公司都有一個深度學習網絡。這些系統使用人工智能自動參與模擬，這樣玩家就可以認識到他們對彼此的態度是憤怒的。

育碧La Forge研發部門執行總監Yves Jacquier表示:「我們無法獨自解決這個問題。「我們想為此建立一個框架，與社區分享結果，看看它是如何發展的，並吸引更多的人。」這個項目的關鍵在於兩人試圖收集的海量數據。有了更多的數據，這些系統理論上可以理解關鍵字以外的細微差別和上下文。

在研究項目中，兩家公司將互相分享非私人玩家的評論，以提高他們的神經網絡的質量，從而更快地獲得更復雜的AI。其他公司也在努力解決這個問題，比如ActiveFence、Spectrum Labs、Roblox、微軟的Two Hat和GGWP。公平競爭聯盟還召集了想要解決毒性問題的遊戲公司。但這是第一個大型遊戲公司彼此共享ML數據的案例。

這是育碧多年來首次使用人工智能來檢測有毒文本。這個數字需要增加。