大型語言模型安全

This is not an image generation prompt, but a conceptual LLM prompt detailing security measures used by Google Finance, generated by Nano Banana Pro. It outlines various techniques like prompt injection content classifiers, security thought reinforcement, markdown sanitization, and user confirmation frameworks to prevent adversarial attacks and system prompt leakage.

提示注入內容分類器——專有的機器學習模型，用於偵測各種資料格式中的惡意提示與指令。

安全思維強化——圍繞提示內容加入的針對性安全指令。這些指令提醒LLM（大型語言模型）執行使用者指定的任務，並忽略對抗性指令。

Markdown清理與可疑URL遮蔽——使用Google安全瀏覽功能識別並遮蔽外部圖片URL及可疑連結，以防止基於URL的攻擊與資料外洩。

使用者確認框架——一個情境感知系統，對潛在風險操作（如刪除行事曆事件）要求使用者明確確認。

終端使用者安全緩解通知——當偵測並緩解安全問題時，提供給使用者的情境資訊。這些通知鼓勵使用者透過專門的說明中心文章了解更多。

模型韌性——Gemini模型的對抗性強健性，保護其免受明確的惡意操控。

機器翻譯 — 實際產出作品的是原文 prompt。

✨ 生成 收藏 複製 Prompt 分享 原始貼文 在 Hitboard 開啟