本文来自千家网。
从OpenAI的ChatGPT等大型语言模型(LLM)的爆炸性流行，到生成式AI和机器学习的广泛商业应用，AI革命正在加速发展。虽然这些技术进步可以带来前所未有的效率和创造力，但它们也带来了前所未有的风险，即大量人工智能驱动的网络威胁。
最紧迫的威胁之一来自人工智能生成的网络钓鱼。没有比生成人工智能更适合网络钓鱼攻击的技术了，因为它允许网络犯罪分子大规模创建高度针对性和可信的网络钓鱼内容。从LLM组成的网络钓鱼信息到深度造假，我们正在进入一个更难区分欺诈和合法内容的时期。这意味着网络罪犯将更容易通过社会工程攻击来欺骗和操纵员工。
当网络犯罪分子拥有发起网络钓鱼攻击的强大工具时，网络安全意识培训至关重要。然而，培训的性质必须随着网络威胁形势的变化而发展。模拟网络钓鱼等资源已经证明可以帮助员工做好抵御最常见网络攻击之一的准备，但它们必须针对人工智能时代进行更新。
人工智能将使网络钓鱼攻击变得更加危险
网络钓鱼是网络犯罪分子社会工程武器库中的超级武器。网络钓鱼尤其危险，因为它是网络犯罪分子获得初始访问权限的最可靠方式。
人工智能已经开始使网络钓鱼攻击变得更加有效。网络钓鱼就是欺骗受害者点击链接并下载恶意软件或发送帐户凭据，因此黑客希望他们的消息尽可能可信。虽然许多网络钓鱼攻击会发送大量欺诈消息，希望少数攻击能够成功，但人工智能可以极大地提高网络犯罪分子发起鱼叉式网络钓鱼攻击的能力。这些攻击利用人工智能筛选大量数据来制作定制的网络钓鱼消息，其成功率比标准的大规模网络钓鱼攻击高得多。
由于黑客从世界各地发起攻击，员工可以通过语法或拼写错误检测恶意内容。但GPT-4支持26种语言，这使得网络犯罪分子可以为更多的受害者制作引人注目的网络钓鱼内容。人工智能不仅会帮助网络犯罪分子创建更有说服力的网络钓鱼消息。它还将帮助他们通过搜索暗网上公开的信息和数据来识别受害者。
过去一年中，网络钓鱼电子邮件的数量激增，毫无疑问，人工智能已成为一个重要的力量倍增器。这意味着公司必须调整其网络安全意识培训计划，以应对人工智能带来的迅速出现的威胁。
企业如何阻止人工智能驱动的网络钓鱼
近四分之三的数据泄露涉及人为因素。作为最常见的初始攻击媒介，网络钓鱼尤其依赖于诱骗员工共享敏感信息或提供直接访问。这些计划之所以有效，是因为它们利用了一长串的心理弱点，比如恐惧、服从或好奇心。在人工智能的帮助下，网络犯罪分子将能够更有效地利用这些漏洞。
随着人工智能网络钓鱼攻击变得更有针对性，安全领导者需要围绕员工的特定行为概况制定意识培训计划。每个员工都有独特的心理特征，他们的培训必须能够识别这些特征并提供个性化的内容，以增强行为优势，同时解决弱点。成功的网络安全意识培训计划的一个基本要素是适应性。这意味着教育内容和评估必须围绕现实世界的网络攻击和不断发展的策略构建。培训计划还必须适应员工的需求，从员工的心理状况到知识水平和学习方式。
由人工智能驱动的生成式网络钓鱼攻击并不是我们唯一的问题。网络犯罪分子还将使用更多的深度伪造来欺骗人们。要了解深度造假的威力，想象一下接到亲人要求紧急帮助的电话或首席财务官要求立即电汇的电话会是什么样子。这些有力地提醒我们，人工智能时代的意识培训必须发生根本性的改变。旧的检测方法必须被取代，并且应该始终鼓励员工质疑他们正在与谁交谈以及为什么要求他们做某事。
深度伪造和生成人工智能组成的网络钓鱼消息等复杂技术的部署，使得企业需要改进其CSAT平台，以跟上人工智能生成的网络威胁的步伐。
网络钓鱼模拟确保责任感和适应性
问责制是网络安全意识培训的核心方面。随着网络安全投资的增加，首席信息安全官和其他安全领导者必须证明这些资源得到了充分利用。他们可以通过确保员工学习他们需要知道的知识并能够阻止现实世界的网络攻击来做到这一点。
模拟网络钓鱼使企业能够评估员工识别和预防最常见类型网络攻击的能力。这有助于安全领导者跟踪员工的进度，巩固他们所学到的知识，并确定组织最容易受到攻击的地方。员工培训是降低数据泄露总成本的首要缓解因素之一，其速度超过了加密、威胁情报和人工智能驱动的洞察。但培训必须紧跟最新威胁才能保持有效。这就是为什么模拟网络钓鱼应该为所有员工构建自适应行为档案，并根据他们的技能水平和特定漏洞提供个性化指导。
当网络犯罪分子冒充权威人物发起网络钓鱼攻击时，他们是在利用受害者的恐惧、服从和紧迫感。其他受害者更有可能陷入提供奖励的诈骗，例如学生贷款减免或投资计划。模拟网络钓鱼应考虑到使员工面临不同类型社会工程攻击风险的不同性格特征，同时提供有关如何全面抵御人工智能驱动的网络攻击的指导。安全领导者可以使用模拟网络钓鱼来弥补潜在的安全漏洞、让自己承担责任并改善信息保留。
安全领导者必须认识到人工智能可以帮助网络犯罪分子绕过垃圾邮件过滤器并产生更有说服力的消息。它帮助黑客利用受害者的公共和私人信息来攻击他们，并允许不良行为者利用心理漏洞。当员工了解这些策略并在模拟中不断面对它们时，他们就会武装起来保护公司免受最前沿的社会工程攻击。
