即时注入与越狱 — 它们是不同的攻击 Nisarg Patel 6 分钟阅读 · 刚刚 — 听分享 Rey Patel Amish Patel Hacker4help 🚨 两种技术。
但它们针对的是人工智能系统的完全不同的层面。
安全研究人员不这样做——你也不应该这样做。
如果您一直在关注本系列，那么您已经看到了这两种方法的实际应用： 👉 第 2 天：提示注入 — 通过外部数据和系统上下文劫持 AI 👉 第 3 天：越狱 — 通过对抗性提示拆除 AI 安全机制 今天，我们在它们之间划清界限，更深入地了解每种机制的工作原理，并向您展示为什么在进行真正的 AI 安全评估时这种区别至关重要。
心理模型将法学硕士部署视为一种安全设施。
即时注入——深入探讨 即时注入从根本上来说是一种信任边界违规。
来源：Medium AI
