企业和关键基础设施中悄悄蔓延的消费级AI工具如果缺乏有效监管和控制，注定会引发大规模数据安全灾难。“AI安全”，将取代“网络安全”和“数据安全”，成为2025年CISO的头号威胁。
这些趋势受到生成式AI的发展、数字去中心化、供应链相互依赖性、法规变更、长期人才短缺以及不断演变的威胁形势的共同影响。
开发人员的失误在于将这些密钥硬编码到 HTML 表单和 JavaScript 片段中，而未使用服务器端环境变量，这使得攻击者有可能利用这些密钥开展恶意活动，如进行网络钓鱼、品牌冒充，进而导致数据泄露。
随着大模型在各类应用场景中的广泛部署，越来越多的安全问题也逐渐浮出水面。许多大模型在安全架构、漏洞响应、数据合规等方面的“系统性短板”，使得企业级AI在部署和应用过程中不得不面对一系列复杂的风险，亟需从技术到生态进行全面重构。
2024年，生成式人工智能(GenAI)在网络攻击中的作用日益凸显。攻击者使用GenAI来加速网络攻击、窃取钱财和左右公众舆论，从散布虚假信息到制作深度伪造视频，无恶不作。与此同时，信息窃取程序攻击激增58%，这表明网络生态系统日渐成熟。
随着数据传输、存储及信息技术的飞速发展，信息安全保护已成为重中之重。各安全领域对跨网数据交互的需求日益迫切，数据传输的安全可靠性成为不可忽视的关键。为满足业务需求并遵守保密规范，针对于涉及重要秘密信息，需做到安全的物理隔离，同时确保跨网数据高效安全传输。从而在网络安全和效率之间产生了巨大的矛盾，而且矛盾日渐扩大化。
云原生技术已经深入到企业的核心系统中，提供了显著的敏捷性、弹性和可迁移性等优势。然而，这些优势也带来了新的安全挑战，例如镜像漏洞、容器逃逸以及微服务架构下服务间交互的复杂性等问题，这些都对企业的云原生平台和应用构成了潜在威胁。
近年来，云存储功能广泛普及，其以便捷性和大容量深受大众青睐。文档、照片、视频、通讯录纷纷“移居”云端。然而，云存储带来便利的同时，如不当使用或遭受攻击，也可能存在一定失泄密隐患，需要引起重视。
2025年2月21日，黑客声称入侵AI聊天机器人平台OmniGPT后端数据库;导致约3万名用户的电子邮件、电话号码以及超过3400万条聊天记录泄露。
低空经济，是指以民用有人驾驶和无人驾驶航空器的低空飞行活动为牵引，辐射带动相关领域融合发展的综合性经济形态。低空空域，通常指距地面垂直距离1000米以内的空间范围。
传统数据防泄漏（DLP）解决方案已无法适应当今混合云驱动环境下的复杂性和演进速度。新一代云原生DLP解决方案应运而生。
这些应用并非典型的攻击手段，而是员工在无IT和安全监管的情况下私自创建的AI程序。目的是实现从自动化报告到营销自动化、数据分析等多种功能。依赖公司数据，它们正在使用私有数据训练公共模型，由此衍生风险。
