Guía práctica para proteger aplicaciones LLM contra prompt injection, data leakage y abuso. Incluye patrones de defensa, testing y arquitecturas seguras.

Practical LLM Security (O'Reilly)

Firewall de IA que detecta y bloquea prompt injection en tiempo real. Protege APIs de LLM, chatbots y aplicaciones RAG contra ataques de inyección.

Robust Intelligence - AI Firewall

Ejecuta modelos LLM localmente (Llama, Mistral) para experimentar con prompt injection y defensas sin depender de APIs externas. Ideal para investigación y aprendizaje.

Raspberry Pi 5 (8GB)

Análisis profundo de las vulnerabilidades de los modelos de lenguaje (LLMs): prompt injection directo e indirecto, jailbreaks, data exfiltration through AI y cómo defender tus aplicaciones basadas en IA.

#prompt-injection

Prompt Injection y Seguridad en LLMs: La Nueva Frontera de la Ciberseguridad