渗透测试工程师费迪南德·穆吉亚利姆
在很多情况下，他们回归到了信任、访问、身份验证等熟悉的问题，以及系统以意外方式暴露时会发生什么。
核心要点
- 受限系统的防护强度仅取决于其底层的操作系统和控制措施。
- 随着AI接入电子邮件、浏览器、API及其他工具，提示注入正成为一个愈发严重的问题。
- AI至今没有与参数化查询相当的安全机制。指令和不可信数据常处于同一上下文，导致该边界难以防护。
- 嵌入式设备和物联网设备通过MQTT、BLE、Matter等协议，以及与云、AI的集成，持续扩大攻击面。
今年DEF CON大会上，我参加了一些技术分会，内容涉及卫星、机场自助服务终端、AI助手、嵌入式设备和医疗设备等，这些系统通常不会被纳入同一安全讨论范畴。
最引人注目的是，这些攻击并不依赖全新技术。在很多情况下，它们回归到了信任、访问、身份验证等熟悉的问题，以及系统以意外方式暴露时会发生什么。
卫星黑客攻击：并非高深莫测的技术
我参加的卫星安全分会涵盖了遥测数据欺骗、通信窃听，以及可用于劫持卫星系统控制权的技术。这些思路对安全从业者来说并不陌生，但卫星环境对大多数人而言确实陌生。
不过，核心问题却很熟悉：系统如何对遥测数据进行身份验证，攻击者能否拦截通信，以及接收方能否验证命令或信号的来源。
这是我觉得最有价值的部分。卫星安全听起来非常专业，直到讨论回归到通信路径的身份验证、完整性和信任问题。
突破受限系统的防护
自助终端黑客攻击是更熟悉的领域。机场自助终端及类似系统通常将用户限制在单一应用内，对底层操作系统的访问权限非常有限。
一个显而易见的测试问题是，是否存在突破该受限工作流的路径。在演示中，目标不仅是突破受限界面，还包括在底层系统上执行命令。
该路径可能通过无障碍功能、文件对话框、浏览器行为、外围设备或某些被忽视的操作系统功能实现。
一旦突破应用程序，重要问题就变成底层账户能访问什么。从那里开始，权限、本地工具、网络访问和系统加固比界面最初看起来的受限程度重要得多。
AI作为带外攻击路径
其中一场AI相关讨论聚焦于将模型作为侧信道或带外攻击的一部分，最终可能导致账户接管。
最简单来说，提示注入是试图将指令混入AI处理的内容中，使模型改变行为、忽略预设指令或绕过防护措施。
一个示例展示了电子邮件如何在收件人未察觉的情况下成为该攻击链的一部分。
攻击者可以发送包含针对AI助手而非收件人的指令的电子邮件。之后，用户要求AI工具汇总其收件箱，这会将这些隐藏指令与合法电子邮件内容一同纳入AI的上下文。
如果AI还能访问用户的电子邮件、浏览器或其他连接的工具，攻击可以进一步升级。
展示的示例本质上是试图让AI将MFA代码等敏感信息发送到攻击者控制的URL：https://attacker-domain.abcxyz/YOUR-MFA-CODE-HERE
如果模型能在收件箱中看到MFA代码并发起出站请求，攻击者可以在用户未察觉的情况下窃取该代码。
该示例的有趣之处在于，用户可能不会执行任何我们通常与钓鱼相关的操作。他们正在使用自己收件箱中的合法AI功能，而恶意内容针对的是AI而非用户本人。
AI模型的安全防护挑战
分会中提到的SQL对比是我听过的较好解释方式之一。通过参数化查询，应用程序在命令和不可信输入之间建立了明确的分离。
大语言模型（LLM）没有相当的信任边界。
系统指令、用户提示、电子邮件、检索到的文档和网页内容都可能处于同一上下文，让模型自行判断哪些是指令，哪些只是内容。
更好的系统提示和模型级防护措施有帮助，但不能成为唯一的控制手段。一旦AI系统能读取敏感信息或在其他应用中执行操作，传统安全控制也必须适用于这些能力。
模型不应仅因为文本说服它，就将嵌入电子邮件中的指令转化为任意出站请求。
万物互联
嵌入式系统和物联网相关的分会提醒我们，随着这些系统功能的增加，旧的安全问题正变得愈发复杂。
这些设备不会消失，MQTT、BLE、Matter等新协议和标准持续扩大攻击面。云连接和AI功能为测试人员提供了更多需要检查的集成点。
医疗设备是一个很好的例子。OmniCell药品柜是控制药品访问的专用系统，但它也是更大技术环境的一部分。
加上云连接、远程管理、身份、软件更新、API以及与临床系统的集成，攻击面远不止于房间里的药品柜。
这些系统的服役时间也比普通企业终端长得多。这让安全团队需要在多年前设计的硬件和软件基础上，应对新协议、云服务和集成问题。
新场景下的熟悉概念
这些分会都没有改变我进行渗透测试的基本思路。技术在变化，但我仍在寻找相同的东西：系统将信任置于何处，攻击者能否滥用该信任，以及信任失效时我能触及什么。
这也是实操安全测试体现价值的地方。发现漏洞是一回事，确定攻击者能否利用该漏洞、能获得什么访问权限，以及能否将其与其他弱点关联利用，则需要更审慎的思考和测试。
DEF CON的演讲涉及一些不常见的目标，但同样的测试思路也适用于企业网络、云环境、应用程序、联网产品和嵌入式设备。
在CISO Global，我们将同样的测试思路应用于企业环境、应用程序、联网硬件和嵌入式设备。了解更多关于我们的安全测试能力的信息。