本文来自千家网。
了解攻击者和防御者之间不断变化的动态的方法之一是通过外部因素的视角。在进行此类分析时，我们通常将主要因素缩写为“PESTLE”，这是政治、经济、社会、技术、法律和环境力量的首字母缩写词。毫无疑问，我们看到在网络威胁领域引起最大波澜的技术因素是人工智能的快速发展。
网络犯罪分子越来越多地使用人工智能来提高攻击的有效性和效率。同时，对于防御者来说，人工智能被证明是安全团队的强大盟友，可以改善威胁检测和补救。人工智能自动化安全任务的需求来得正是时候。
预计今年人工智能在网络安全领域的影响将显著增长。它将推动网络钓鱼技术的发展，加速系统中漏洞的发现。人工智能还将加速网络入侵的发展和应对。为了领先于已经开始采用人工智能的对手，安全团队必须了解人工智能带来的威胁，以及它有望改善网络防御的机会。
2024年，各组织应重点关注人工智能有望改变网络安全的三个领域：
1.人工智能增强的社会工程攻击
2024年，人工智能将进一步扩大社交工程攻击的规模和有效性，在短短几分钟内就能创建极具说服力的网络钓鱼诱饵。网络犯罪分子将利用人工智能，利用社交媒体和被入侵的电子邮件账户中的数据，制作个性化的网络钓鱼信息。这些复杂的诱饵将很难被发现，即使是训练有素的员工也难以发现。
此外，生成式人工智能将使网络犯罪分子成为更厉害的骗子。人工智能将帮助攻击者用不同的语言编写出文笔流畅、令人信服的网络钓鱼电子邮件和网站，使他们能够将攻击范围扩大到各个地区。我们期望看到社会工程攻击的质量得到提高，使目标和安全团队更难发现诱饵。因此，我们可能会看到与社会工程相关的风险和危害有所增加——从欺诈到网络入侵。
随着人工智能生成的电子邮件与合法电子邮件几乎难以区分，仅依靠员工培训来保护用户是不够的。相反，安全团队应该考虑隔离技术，如微虚拟化，它不依赖检测来保护员工。这项技术在隔离的虚拟环境中打开危险文件和链接，防止恶意软件和软件漏洞（甚至零日威胁）感染设备。
2.本地大型语言模型（LLM）
随着计算能力的提升，新一代计算机将能够运行本地LLM，而无需依赖强大的外部服务器。这将使计算机和用户能够充分受益于AI，重新定义人们与设备的交互方式。
这些本地LLM承诺提高效率和生产力，同时通过独立于互联网工作提供安全和隐私优势。然而，如果没有得到妥善保护，本地模型及其处理的敏感数据可能会使端点成为攻击者更大的目标。
此外，许多企业正在部署基于LLM的聊天机器人，以提升和扩展其客户服务。但底层的人工智能技术可能会带来新的信息安全和隐私风险，例如可能泄露敏感数据。今年，我们可能会看到网络犯罪分子试图操纵聊天机器人绕过安全措施来获取机密信息。
3.高级固件和硬件攻击
人工智能正在推动技术民主化，帮助技能水平较低的用户更高效地执行更复杂的任务。然而，尽管人工智能提高了组织的防御能力，但它也有可能帮助恶意行为者对较低系统层（即固件和硬件）进行攻击，而近年来，对固件和硬件的攻击力度一直在增加。
从历史上看，此类攻击需要大量的技术专长，但人工智能开始有望降低这些障碍。这可能会导致更多人努力利用较低级别的系统，让攻击者在操作系统和业界最好的软件安全防御之下立足。
随着时间的推移，我们预计针对系统固件的恶意软件的频率会增加。这些攻击依赖于利用操作系统下的弱点。专注于关闭硬件和固件攻击面对于应对这些威胁至关重要。
网络安全的新前沿
人工智能将改变网络安全，为安全团队提供大量机会来改善其威胁检测和响应。例如，人工智能将通过自动检测有针对性的网络钓鱼尝试来帮助保护用户。
2024年推出的计算机也将带来安全优势，让用户可以在设备上安全地使用AI，而无需承担将数据存储在云端的风险。这些设备还将通过自动锁定和隐私屏幕等功能增强数据隐私。
然而，要有效使用人工智能，企业应该首先考虑安全性。这意味着了解数据和环境，建立威胁模型以了解风险，选择预防和检测技术的平衡，并实施零信任原则以确保数据安全。最后，组织应考虑与值得信赖的人工智能安全提供商合作，以充分利用人工智能，同时最大限度地降低其安全和隐私风险。
