大型语言模型安全

This is not an image generation prompt, but a conceptual LLM prompt detailing security measures used by Google Finance, generated by Nano Banana Pro. It outlines various techniques like prompt injection content classifiers, security thought reinforcement, markdown sanitization, and user confirmation frameworks to prevent adversarial attacks and system prompt leakage.

提示注入内容分类器——专有的机器学习模型，用于侦测各种数据格式中的恶意提示与指令。

安全思维强化——围绕提示内容加入的针对性安全指令。这些指令提醒LLM（大型语言模型）运行用户指定的任务，并忽略对抗性指令。

Markdown清理与可疑URL屏蔽——使用Google安全浏览功能识别并屏蔽外部图片URL及可疑链接，以防止基于URL的攻击与数据外泄。

用户确认框架——一个情境感知系统，对潜在风险操作（如删除行事历事件）要求用户明确确认。

最终用户安全缓解通知——当侦测并缓解安全问题时，提供给用户的情境信息。这些通知鼓励用户通过专门的说明中心文章了解更多。

模型韧性——Gemini模型的对抗性强健性，保护其免受明确的恶意操控。

机器翻译 — 实际生成作品的是原文提示词。

✨ 生成 收藏 复制提示词 分享 原始帖子 在 Hitboard 打开