本文来自微信公众号“安全牛”。
随着ChatGPT等智能化工具大行其道，企业是时候开始了解如何加强防范基于人工智能（AI）的网络攻击了。AI模型的自然语言生成功能天生适合于网络钓鱼攻击，它能够帮助攻击者大规模生成欺骗性邮件文本及其他内容。为了应对这种日益严峻的威胁，企业应该在加强网络钓鱼防护时参考以下7条准则。
1.全面认知威胁
目前，AI在网络攻击方面最重要的应用就是欺诈性内容生成，凡是能使用ChatGPT的人都可以生成格式规范、以假乱真的文本。对于企业的安全防护者，需要充分认识到，AI技术的这种本领只会变得更加强大。在LLM（自然语言处理模型）工具的帮助下，网络钓鱼内容不仅会变得更加真实，还会更有针对性，能够加入时间、地点和事件的具体信息。员工们再也不能依靠之前的经验来判断电子邮件是否恶意。图像、语音甚至视频都可以通过内容生成技术来伪造。因此，需要让企业中的每个人都充分了解钓鱼活动的威胁发展态势，不断强调对任何突如其来的邮件都保持高度的警惕性。
2.开展网络钓鱼模拟
要企业应对网络钓鱼攻击的实战能力，唯一的方法就是进行测试。模拟使用AI生成的内容进行网络钓鱼活动是对抗威胁的重要部分。模拟钓鱼活动应从设定具体的目标入手，并且利用可以度量的指标来指导测试。模拟网络钓鱼活动还有助于摸清AI工具在生成有效欺骗内容方面实际水平。这将有助于安全人员准确评估实施相关措施的必要性。
3.用AI对付AI
用AI来对付AI是未来网络安全技术发展的重要部分。网络钓鱼攻击检测将是企业整体网络和基础设施安全战略的关键部分，当AI辅助的网络基础设施侦察和攻击检测能力相结合时，对网络钓鱼攻击的检测效率将会大大提升。许多头部安全公司已经开始把这类自动化安全工具整合到产品方案中。基于AI的异常行为检测也将是机器学习研究领域一个重要方面，这项研究将很快被引入到企业实际应用中，作为对付AI网络钓鱼的工具。
4.采取适当的行动
新一代的电子邮件基础设施都会提供内置的基础性安全能力，这在很大程度上保证企业远离邮件攻击威胁。但安全人员应该在采取行动时，清除意识到是针对什么而采取行动。
如果用户在收到网络钓鱼邮件后采取了进一步的操作，这对不法分子来说无异于重大胜利：这样攻击才能得以继续进行。安全专业人员应该培训自己、员工以及任何人，学会在邮件提示输入信息或运行不熟悉的应用程序时保持警惕。此外，为了有效防止深度造假攻击，企业还应该在另一条远离网络钓鱼的渠道中验证涉及隐私和财务数据的重要通信内容。
5.建立高效的报告机制
在处理基于AI的网络钓鱼攻击时，能否第一时间向安全人员发出攻击警报至关重要。因为AI辅助的钓鱼攻击活动可以更快速地大规模展开，及时识别非常重要，这让企业可以迅速通知员工，并为反钓鱼工具和AI检测模型提供重要的事件内容。
因此，企业应该尽可能地简化报告提交流程，并确保该机制能够捕获尽可能多的威胁信息，以提高其价值和可用性。将钓鱼邮件转发到安全运营中心有利于捕获邮件中的所有元数据信息。相关政府监管机构也应该不断鼓励企业组织加入DMARC（基于域的消息验证、报告和一致性）策略。
6.加强身份验证
基于密码的身份验证技术本质上难以应对AI网络钓鱼活动的攻击，因此，企业需要找到有一些可以抵御AI网络钓鱼的新方法。通行密钥被认为是防范AI网络钓鱼的有效验证模式之一，尽管该技术仍需要进一步完善，但其应用正变得越来越主流。此外，多因素身份验证（MFA）也是企业应该具备的身份验证能力，因为如果需要第二道身份验证环节，将会大大增加攻击者实际访问到系统资源的难度。
7.将安全文化作为主要的防御手段
如果每一个企业用户都能掌握一些关键的网络安全知识，90%以上的网络犯罪活动都可以被轻松预防，因为人是网络安全建设中最核心的因素。因此，在企业内部培养安全理念是关键。
员工在日常工作中的安全意识和行为就如同企业的基本免疫系统，持续培训以加强员工安全意识是防护AI网络钓鱼攻击的关键。安全团队需要向员工准确的传达：未来的钓鱼攻击手段不再低级可笑，不能仅凭借电子邮件及其他通信内容的精美程度来判断是否存在威胁，现在要求员工有更高的警惕性。
