基于云的人工智能：对网络安全意味着什么？

2024-02-23 08:00:00 · 飞浪 · Chris Jackson

基于云端的人工智能是网络安全的革命性力量：它为防御者和恶意对手带来了好处，但同时也带来了新的安全问题。

云计算、人工智能和网络安全是技术领域最热门的三个领域。但是，如果将所有这些领域结合在一起，会发生什么？这些领域在 2024 年将日益交叉，为安全专业人员创造了利用基于云的人工智能增强自身能力的机会，同时也带来了一系列需要考虑的新安全原则。

在本文中，我将探讨基于云的 AI 对您作为网络安全专业人士或领导者意味着什么，以及您应该如何适应新的形势。

首先，人工智能和机器学习已被云安全服务使用一段时间

许多云服务已经采用某种形式的机器学习 (ML) 或人工智能 (AI) 来执行安全任务，例如威胁检测或敏感数据发现。以 Amazon GuardDuty 为例，它利用 ML 和威胁情报来检测 AWS 基础设施、账户和数据中的异常和潜在威胁。同时，另一项由 AI 驱动的 AWS 服务 Macie 除了利用模式匹配外，还利用 ML 来发现 S3 存储桶内的敏感信息，例如社会保险号和电话号码。

话虽如此，生成式人工智能尤其有可能彻底改变这一领域，推动安全能力超越威胁检测和数据发现。面对日益扩大的网络安全人才缺口，寻找合格的专业人员，尤其是那些具有专业技能的专业人员，是一项挑战。这就是人工智能发挥作用的地方，它缩小了人才缺口，并为入门级和初级分析师提供人工智能驱动的代码分析、事件响应指导等。

基于云端的人工智能能为防御者带来什么好处？

人工智能不仅在简化威胁检测流程方面发挥着关键作用，而且还能减轻安全团队单调重复任务的负担。通过日志分析等任务的自动化，我们可以将团队从这种运营压力中解放出来，使他们能够将注意力转移到更关键的安全事件和需要专门审查的事件上。这种重点转移增强了我们对新兴威胁的整体响应能力。

此外，自动化功能还扩展到漏洞扫描这一重要领域。通过在此领域实施自动化流程，我们可以加快识别潜在弱点并及时生成综合报告。这不仅提高了我们团队的整体效率，而且还确保在漏洞被利用之前采取主动的方法来解决漏洞。

一个取得重大进展的领域是将生成式人工智能集成到代码生成中。鉴于脚本编写和编码需要专业技能，而初级安全分析师可能缺乏这些技能，因此人工智能可以证明是一种宝贵的资产。通过人工智能驱动的工具，分析师可以快速生成脚本，精确地自动化手动流程。此外，利用人工智能进行代码分析为团队提供了一个强大的工具来评估一段代码是否包含恶意意图，从而加强了我们对潜在安全漏洞的防御。

基于云端的人工智能能为恶意对手带来什么好处？

虽然人工智能可以为安全防御者带来巨大好处，但它也是一把双刃剑，为恶意威胁行为者提供了优势。人工智能工具的普及让新手脚本小子们获得了权力，使他们能够生成恶意代码并执行更复杂的攻击。这种恶意功能的民主化对网络安全构成了重大挑战。

人工智能在语音技术中的发展对社会工程学策略产生了深远的影响。恶意威胁行为者现在利用人工智能驱动的语音合成进行语音模仿和网络钓鱼攻击。这些攻击变得极难检测，因为合成的声音与真实人类的声音非常相似。人工智能和语音技术的融合为社会工程学带来了新的复杂性，对个人和组织都构成了更大的风险。

此外，人工智能使恶意威胁行为者能够策划极具说服力的网络钓鱼电子邮件活动。通过人工智能驱动的内容生成和个性化定位，可以增强制作模仿合法通信的电子邮件的能力。因此，这些网络钓鱼活动变得更具欺骗性，使传统安全措施越来越难以辨别消息的真实性。

人工智能会带来哪些安全隐患？

虽然人工智能带来的能力无疑令人印象深刻，但它们也带来了值得注意的安全问题，尤其是在大型语言模型 (LLM) 的背景下。一个关键问题是容易受到诸如提示注入之类的攻击，这是一种操纵技术，通过精心设计的输入欺骗大型语言模型 (LLM)，导致模型执行意外操作。提示注入攻击可以表现为不同的形式，要么直接覆盖系统提示，要么间接操纵来自外部来源的输入。

另一个重大的安全挑战是不安全的输出处理，当下游组件在未经过彻底审查的情况下接受大型语言模型 (LLM) 输出时，就会出现这种漏洞。当 LLM 输出未经适当验证就直接传递给后端、特权或客户端函数时，这种漏洞尤其令人担忧，可能会为安全漏洞创造途径。

如何解决人工智能安全问题？

为了有效解决这些漏洞并防范潜在攻击，实施输入清理和验证等技术势在必行。这些措施充当了一道强大的防线，确保输入在与下游组件交互之前经过彻底检查和验证。通过这样做，安全态势得到加强，加强了对潜在威胁和漏洞的防御。

此外，组织必须优先保护其 AI 应用程序的数据。这涉及对传输中的数据进行加密、利用传输层安全性 (TLS) 以及通过基于云的加密密钥管理服务保护静态数据。关于 AI 模型训练数据，Google Cloud 的敏感数据保护等服务提供了敏感数据发现、分类和去标识化功能，专门针对数据集中的敏感元素。这些全面的安全措施有助于打造更具弹性和安全性的 AI 生态系统。