弥合人工智能安全鸿沟

弥合人工智能安全鸿沟：Credal.ai 的安全数据集成解决方案

尽管人工智能（AI）的迅速采用带来了显著的进步，但许多组织正更加密切地关注其采用速度和数据安全。
事实上，80% 的公司都将数据安全列为在扩展人工智能方面面临的首要挑战。对此，27% 的组织完全禁止使用生成式人工智能工具，61% 的组织控制允许使用哪些人工智能工具，63% 的组织限制员工可以与这些工具共享的数据类型。解决数据安全方面的担忧将有助于更多组织采用关键的人工智能技术，并在竞争中保持领先。
解决数据安全难题
Credal.ai 正在直接应对这一问题。Credal 能够安全地将公司内部数据与大型语言模型（LLM）或 Slack、Notion 或 Salesforce 等热门应用相连接，同时嵌入相关的隐私、权限和合规协议。借助 Credal，企业可以利用基于云的人工智能工具，同时又不损害隐私。
“我们帮助确保敏感信息不会发送到 LLM，并在员工与这些模型交互时执行企业 IT 可见性和控制策略，”Credal 联合创始人兼首席执行官拉文·坦巴皮莱（Ravin Thambapillai）表示。
使用 Credal 的企业可以定义可接受的使用政策，并指定团队成员在尝试共享受限数据时收到通知。例如，一家公司可能会限制其人力资源部门使用 AI 审查简历，并配置 Credal 对此类情况发出警告，提醒用户违反了政策。
Credal 还提供了一个平台，用于创建和部署内置安全、访问控制和合规功能的 AI 助手。其企业聊天门户允许员工使用自然语言从公司数据中提取见解。
不同行业有着不同的应用场景。例如，人力资源团队可以使用 Credal 来充当服务台助手，回答有关福利或带薪休假的问题。金融机构可以将其用于监控交易以防范欺诈，各类组织都在利用它为销售团队提供上下文信息，使他们能够即时回答问题，缩短新员工的适应时间，并帮助他们更快地达成交易。
“我们构建 Credal 时将隐私和安全置于核心位置，因为企业，尤其是受监管行业的企业，需要这些保障措施才能成功部署人工智能，”Thambapillai 补充道。
创始愿景
Credal 的旅程始于 Thambapillai 和 Jack Fischer 在 Palantir 共事期间，当时他们在医疗研究中部署人工智能预测模型。
“原本需要 30 名流行病学家花三天时间完成的工作，我们用生成模型和两名流行病学家在极短的时间内就完成了，”Thambapillai 回忆道。
在探索了其他机会之后，Fischer 和 Thambapillai 在纽约共进晚餐时重聚，他们讨论了由于安全和 IT 方面的担忧，企业采用人工智能所面临的挑战。他们意识到这将成为处理敏感数据的企业面临的一个重大障碍。
他们最初开发 Credal 是将其作为决策引擎，整合公司数据以帮助高管制定并实施更优策略。然而，早期客户对其安全、隐私和数据整合能力最感兴趣。到 2023 年，他们已转向专注于这一核心业务，成功筹集了 480 万美元的种子资金。
他们以安全为先的方法还解决了人工智能的一个关键问题：不准确的输出或“幻觉”——这是使用人工智能工具时经常遇到的一种现象。将内部数据正确连接到大型语言模型（LLM）能显著减少错误。
“如果能很好地整合内部企业数据，使其易于被人工智能理解，那么出错的几率就会大幅降低，”坦巴皮拉伊解释道。
加速成功：Credal 如何与康卡斯特 NBC 环球合作
2024 年秋季，Credal 参加了康卡斯特 NBC 环球的 LIFT Labs 企业加速器项目，该项目旨在将初创企业与康卡斯特的业务领导者联系起来，探讨合作机会。Credal 团队发现，该项目的前参与者都对其合作经历赞不绝口。此外，他们还看到了与康卡斯特团队成员会面的巨大价值，以了解他们如何使用人工智能以及 Credal 如何能提供帮助。
“作为首席执行官，时间是我最宝贵的资源。与康卡斯特团队会面，了解真实的业务挑战，感觉是一项值得的投资，”坦巴皮拉伊说道。
未来之路Credal 的使命是让人工智能的采用从隐私和安全开始，帮助公司充分发挥人工智能的潜力。
“我一直在思考如何将这项技术交到企业手中，使其产生影响。这就是为什么我们将监管和隐私方面放在首位——因为这才是最终的关键所在。”
——拉文·坦巴皮莱（Ravin Thambapillai），Credal 联合创始人兼首席执行官
展望未来，Credal 愿景是让人工智能助手从数据检索发展到执行诸如启动法律程序和简化流程等复杂任务。