本文来自至顶网（net.zhiding.cn），来源 | Forbes。
随着人工智能在各行各业的应用加速普及，与AI应用相关的安全风险正成为企业的重要关注点。为此，Cisco推出了AI Defense安全解决方案，旨在通过整合企业网络和云环境中的可视性、验证和执行能力，帮助组织确保其AI部署的安全性。
在企业寻求将AI整合到运营中时，AI安全性正成为重中之重。Cisco执行副总裁兼首席产品官Jeetu Patel表示，企业普遍认识到AI安全是企业采用AI的关键因素。
"我们从客户那里听到一个普遍的担忧：如果这些系统出现偏差，不按预期运行怎么办？我们如何防止应用程序被提示注入攻击所破坏或被操纵泄露敏感数据？"Patel说道。
企业AI部署面临的安全挑战
AI模型会随着新数据的训练而不断演变，其运行方式难以预测。这带来了包括模型操纵、提示注入攻击和数据泄露等安全风险。此外，AI安全还缺乏类似网络安全领域常见漏洞和暴露数据库那样的标准化框架。
Cisco AI Defense致力于解决的问题之一是AI模型验证。如果被攻击，AI系统可能会产生意外或有害的输出，因此持续的安全监控至关重要。
"典型的模型提供商需要7-10周时间来手动验证一个AI模型。我们通过运行数万亿次自动化测试查询，在30秒内就能完成验证——比任何人工方法都更快地检测出偏差、漏洞和潜在的攻击点。"Patel解释道。
这种方法类似于网络安全中的模糊测试，旨在在攻击者利用漏洞之前发现它们。
Cisco AI Defense的主要特点
Cisco AI Defense旨在实现AI工作流程的安全整合。该解决方案主要在三个层面运作：
可视性和监控-识别企业中使用的AI应用-绘制AI模型、数据源和应用程序之间的交互图-持续监控异常或未授权使用
验证和AI红队测试-使用算法红队测试——自动化AI测试——识别安全风险-检测偏见、有害内容和潜在攻击向量等问题-相比手动测试方法大幅缩短模型验证时间
执行和防护机制-应用安全策略防止AI滥用-实施自动化控制限制未授权模型访问-扩展到Cisco现有安全架构的安全执行
Cisco表示，AI Defense将与其更广泛的安全平台集成，使组织能够在其网络、云和终端基础设施中应用AI安全策略。
与安全和网络平台的集成
与独立的AI安全工具不同，Cisco AI Defense将作为其现有安全产品组合的一部分运行。该公司表示，该解决方案将扩展到Cisco安全访问、安全防火墙和网络基础设施，以提供多层级的策略执行。
"如果AI安全被构建在网络结构中，执行不仅发生在软件层面，还发生在基础设施层面。这是关键优势，"Patel指出。
据Cisco称，这种方法允许组织在应用程序和网络层面同时应用AI安全，降低管理AI特定安全风险的复杂性。
应对更广泛的AI安全挑战
Cisco的公告突显了一个更广泛的行业挑战：AI安全仍是一个新兴领域，缺乏通用的威胁检测和缓解框架。最近的事件引发了对AI滥用的担忧，比如有人使用生成式AI模型生成有害内容或协助实施现实世界的攻击。
Patel强调，由于AI模型会随时间变化，持续的AI验证是必要的。
"因为模型会随着新数据而演变，它们的行为可能会改变。我们建立了一个持续验证服务，以检测变化并实时更新保护措施。"
这凸显了行业对AI治理和监督的日益关注，因为企业正在寻求标准化方法来确保AI安全。
行业背景和未来影响
Cisco的AI Defense发布之际，企业安全供应商正在扩大对AI安全的关注。Microsoft、Google和OpenAI等公司已推出AI安全计划，而专注于AI模型安全和合规性的初创公司也正在获得发展势头。
AI安全发展的下一阶段可能涉及安全供应商、AI模型提供商和监管机构等行业利益相关者的合作。Patel表示，Cisco的AI安全战略旨在成为这个更广泛生态系统的一部分，而不是独立的解决方案。
"我们希望成为AI生态系统的一部分，而不是各自为政。客户需要了解AI基础设施、安全性和安全性如何协同工作。"
"要建立对AI的信任，其安全性必须与其潜力相匹配，"NetApp高级副总裁兼总经理Krish Vitaldevara表示同意。"科技生态系统必须致力于为企业提供安全、可扩展的解决方案，确保AI的开发、部署和使用既符合创新又符合责任。"
随着AI应用继续扩展，预计企业将优先考虑能够在不减缓创新的同时保护AI应用的安全解决方案。Cisco的AI Defense标志着该公司在这一不断发展的领域中定位自己的最新努力。
