彌合人工智慧安全鴻溝

彌合人工智慧安全鴻溝：Credal.ai 的安全數據集成解決方案

儘管人工智慧（AI）的迅速採用帶來了顯著的進步，但許多組織正更加密切地關注其採用速度和數據安全。
事實上，80% 的公司都將數據安全列為在擴展人工智慧方面面臨的首要挑戰。對此，27% 的組織完全禁止使用生成式人工智慧工具，61% 的組織控制允許使用哪些人工智慧工具，63% 的組織限制員工可以與這些工具共用的數據類型。解決數據安全方面的擔憂將有助於更多組織採用關鍵的人工智慧技術，並在競爭中保持領先。
解決數據安全難題
Credal.ai 正在直接應對這一問題。Credal 能夠安全地將公司內部數據與大型語言模型（LLM）或 Slack、Notion 或 Salesforce 等熱門應用相連接，同時嵌入相關的隱私、許可權和合規協議。借助 Credal，企業可以利用基於雲的人工智慧工具，同時又不損害隱私。
“我們幫助確保敏感資訊不會發送到 LLM，並在員工與這些模型交互時執行企業 IT 可見性和控制策略，”Credal 聯合創始人兼首席執行官拉文·坦巴皮萊（Ravin Thambapillai）表示。
使用 Credal 的企業可以定義可接受的使用政策，並指定團隊成員在嘗試共用受限數據時收到通知。例如，一家公司可能會限制其人力資源部門使用 AI 審查簡歷，並配置 Credal 對此類情況發出警告，提醒用戶違反了政策。
Credal 還提供了一個平臺，用於創建和部署內置安全、訪問控制和合規功能的 AI 助手。其企業聊天門戶允許員工使用自然語言從公司數據中提取見解。
不同行業有著不同的應用場景。例如，人力資源團隊可以使用 Credal 來充當服務台助手，回答有關福利或帶薪休假的問題。金融機構可以將其用於監控交易以防範欺詐，各類組織都在利用它為銷售團隊提供上下文資訊，使他們能夠即時回答問題，縮短新員工的適應時間，並幫助他們更快地達成交易。
“我們構建 Credal 時將隱私和安全置於核心位置，因為企業，尤其是受監管行業的企業，需要這些保障措施才能成功部署人工智慧，”Thambapillai 補充道。
創始願景
Credal 的旅程始於 Thambapillai 和 Jack Fischer 在 Palantir 共事期間，當時他們在醫療研究中部署人工智慧預測模型。
“原本需要 30 名流行病學家花三天時間完成的工作，我們用生成模型和兩名流行病學家在極短的時間內就完成了，”Thambapillai 回憶道。
在探索了其他機會之後，Fischer 和 Thambapillai 在紐約共進晚餐時重聚，他們討論了由於安全和 IT 方面的擔憂，企業採用人工智慧所面臨的挑戰。他們意識到這將成為處理敏感數據的企業面臨的一個重大障礙。
他們最初開發 Credal 是將其作為決策引擎，整合公司數據以幫助高管制定並實施更優策略。然而，早期客戶對其安全、隱私和數據整合能力最感興趣。到 2023 年，他們已轉向專注於這一核心業務，成功籌集了 480 萬美元的種子資金。
他們以安全為先的方法還解決了人工智慧的一個關鍵問題：不准確的輸出或“幻覺”——這是使用人工智慧工具時經常遇到的一種現象。將內部數據正確連接到大型語言模型（LLM）能顯著減少錯誤。
“如果能很好地整合內部企業數據，使其易於被人工智慧理解，那麼出錯的幾率就會大幅降低，”坦巴皮拉伊解釋道。
加速成功：Credal 如何與康卡斯特 NBC 環球合作
2024 年秋季，Credal 參加了康卡斯特 NBC 環球的 LIFT Labs 企業加速器專案，該專案旨在將初創企業與康卡斯特的業務領導者聯繫起來，探討合作機會。Credal 團隊發現，該專案的前參與者都對其合作經歷讚不絕口。此外，他們還看到了與康卡斯特團隊成員會面的巨大價值，以瞭解他們如何使用人工智慧以及 Credal 如何能提供幫助。
“作為首席執行官，時間是我最寶貴的資源。與康卡斯特團隊會面，瞭解真實的業務挑戰，感覺是一項值得的投資，”坦巴皮拉伊說道。
未來之路Credal 的使命是讓人工智慧的採用從隱私和安全開始，幫助公司充分發揮人工智慧的潛力。
“我一直在思考如何將這項技術交到企業手中，使其產生影響。這就是為什麼我們將監管和隱私方面放在首位——因為這才是最終的關鍵所在。”
——拉文·坦巴皮萊（Ravin Thambapillai），Credal 聯合創始人兼首席執行官
展望未來，Credal 願景是讓人工智慧助手從數據檢索發展到執行諸如啟動法律程式和簡化流程等複雜任務。