本文来自千家网。
未来几年，人工智能将成为网络威胁和公司应对这些威胁的主要因素。以下是应对这些新威胁以及决定如何将人工智能融入网络安全运营时需要牢记的一些主要趋势。
人工智能极大地加快了网络威胁形势的变化速度。它大大降低了全球网络犯罪分子的进入门槛，从广泛使用的强大社交工程工具（如大型语言模型(LLM)和深度伪造）到人工智能驱动的监控和数据分析。与此同时，企业越来越多地使用人工智能通过漏洞评估、补救和自动化安全任务来加强其网络防御。
趋势一：人工智能将推动新一波社会工程攻击
LLM和深度伪造的出现将使社会工程变得更加有效。根据《2024年数据泄露调查报告》，68%的泄露事件涉及人为因素。这就是为什么网络犯罪分子利用其武器库中的新AI武器来欺骗和操纵员工以渗透网络、窃取敏感信息并窃取资金。
例如，网络犯罪分子正在使用LLM大量制作高度个性化且令人信服的网络钓鱼信息，受害者更有可能点击这些信息。谷歌报告称，公司应该预料到LLM会被“用于网络钓鱼、短信和其他社会工程操作”。与此同时，微软已经观察到全球主要网络犯罪组织广泛使用LLM。
网络犯罪分子还利用深度伪造发起复杂的多层次网络攻击。例如，受害者收到网络钓鱼信息后，可能会打电话确认，最终与深度伪造的对话者交谈。
趋势二：人工智能将迫使企业重新评估现有的网络安全流程
虽然人工智能为企业提供了比以往更广泛的网络安全工具，但该技术的快速发展也引发了一场人工智能军备竞赛——随着防御能力的提高，入侵方法也在不断改进。这意味着首席信息安全官和其他安全领导者将不得不重新评估几种主要的网络安全机制。
例如，深度伪造将使生物特征身份验证变得不那么有效，最新研究发现，到2026年，30%的企业将不再认为这些“身份验证解决方案单独来看是可靠的”。各家企业正在建立支持人工智能的“身份威胁检测和响应”工具，例如根据内容、发件人凭证和电子邮件标头信息分析消息的网络钓鱼防御。但网络犯罪分子也在借助LLM和其他人工智能工具开发变通方法，而网络钓鱼仍然是最常见且成本第二高的初始攻击媒介。
预计到2025年，人工智能将要求企业在应用和数据安全方面的支出至少增加15%。这与其他研究一致，例如普华永道最近的一份报告发现，79%的高管将在2024年增加网络支出，高于2023年的64%。首席信息安全官和其他安全领导者必须确定如何尽可能有效地进行这些投资。
趋势三：人工智能将对供应链网络安全产生重大影响
供应链泄露是最具破坏性的网络攻击之一。SolarWinds黑客攻击是有史以来最大的入侵事件之一，该企业发现“最有可能的攻击媒介是通过第三方应用获取凭证和/或访问。”根据Verizon的最新数据，2023年至2024年间，涉及泄露的“供应链互连”数量增加了68%。
预计到2025年，全球45%的组织将遭受针对其软件供应链的网络攻击，这一数字比2021年增加了三倍。供应链网络攻击的新时代已经到来。IBM报告称，2023年27%的总违规行为可归因于对软件或业务合作伙伴供应链的攻击。
企业可以使用人工智能来运行模拟，以反映潜在的供应链攻击，检测欺诈和恶意网络活动，并帮助企业在发生违规时缩短响应时间。但人工智能也允许网络犯罪分子探测供应链中潜在的薄弱环节，并发起社会工程攻击，让他们立足于关键接入点。这些提醒我们，在整个供应链中实施正确的安全协议至关重要，从人工智能识别和响应系统到高质量的网络安全意识培训。
趋势四：人工智能时代，全面的网络安全至关重要
人工智能军备竞赛愈演愈烈，企业不能再等待最新的网络安全技术发布。在社交工程仍然是大多数网络攻击的首选策略的时代，安全领导者必须确保在企业的各个层面培养网络安全文化，并为员工提供保护组织所需的资源。
IBM表示，员工培训是数据泄露总体成本中最重要的缓解因素之一，其作用超过了保险、加密、人工智能驱动的洞察力和其他资源。人工智能和网络安全培训应该相辅相成。预计到2028年，威胁检测和事件响应中的多智能体人工智能占人工智能实施的比例将从5%上升到70%，主要用于增强员工能力，而不是取代员工。
网络安全意识培训必须不断发展以满足人工智能时代的需求。这不仅仅意味着培训员工识别复杂的LLM生成的网络钓鱼消息和深度伪造。它还意味着利用人工智能生成预测行为档案，通过定制干预措施解决员工的特定弱点，并在员工不再信任自己的眼睛和耳朵的时代赋予员工阻止网络攻击的能力。企业必须优先投资于人工智能增强员工队伍，而不仅仅是任务自动化。为GenAI带来的短期支出增加和长期技能需求变化做好准备。
近90%的组织仍在研究或试用生成式人工智能，因此很难预测哪些技术和应用会随着炒作周期而消退，哪些技术和应用会继续存在。但企业可以通过制定全面的网络安全战略来应对未来的任何情况，该战略既能利用人工智能的力量，又能让员工做好准备，抵御这项革命性技术带来的快速演变的威胁。
