Medidas de seguridad para los System Prompts de LLM (Conceptual)

This is not an image generation prompt, but a conceptual LLM prompt detailing security measures used by Google Finance, generated by Nano Banana Pro. It outlines various techniques like prompt injection content classifiers, security thought reinforcement, markdown sanitization, and user confirmation frameworks to prevent adversarial attacks and system prompt leakage.

Clasificadores de contenido de inyección de prompts: modelos de aprendizaje automático patentados que detectan prompts e instrucciones maliciosas en varios formatos de datos.

Refuerzo de seguridad del pensamiento: instrucciones de seguridad específicas que se añaden alrededor del contenido del prompt. Estas instrucciones le recuerdan al LLM (modelo de lenguaje grande) que realice la tarea dirigida por el usuario e ignore las instrucciones adversarias.

Saneamiento de Markdown y redacción de URL sospechosas: identificación y redacción de URL de imágenes externas y enlaces sospechosos mediante Google Safe Browsing para evitar ataques basados en URL y la exfiltración de datos.

Marco de confirmación del usuario: un sistema contextual que requiere la confirmación explícita del usuario para operaciones potencialmente riesgosas, como eliminar eventos del calendario.

Notificaciones de mitigación de seguridad para el usuario final: información contextual proporcionada a los usuarios cuando se detectan y mitigan problemas de seguridad. Estas notificaciones animan a los usuarios a obtener más información a través de artículos dedicados del centro de ayuda.

Resistencia del modelo: la solidez adversaria de los modelos Gemini, que los protege de la manipulación maliciosa explícita.

Traducción automática: el prompt original es el que produjo este resultado.

✨ Generar Guardar Copiar prompt Compartir Publicación original Abrir en Hitboard