Confesiones de un vibe coder

La otra noche me senté frente a la compu, abrí el editor, le describí a la IA lo que necesitaba y en 20 minutos tenía algo andando. No revisé ni la mitad del código. ¿Saben qué? Funcionaba. Me tomé un mate, lo probé un par de veces, y lo dejé ahí. Satisfecho. Dopamina inyectada directo a la vena.

Ahora, el plot twist: yo soy el mismo tipo que hace una semana les escribió un post entero sobre seguridad en IA, hablando de prompt injection, OWASP Top 10 para LLMs, y la importancia de no confiar ciegamente en los modelos. La ironía no se me escapa. De hecho, me río solo mientras escribo esto.

Todo lo que necesitás saber sobre prompt injection, red teaming, OWASP Top 10 para LLMs, seguridad en turnos simples y múltiples, y cómo Promptfoo está cambiando las reglas del juego.

Introducción

La IA ya no es solo un problema de datos, es un problema de seguridad.

Posiblemente, estemos todos de acuerdo en que la adopción de modelos de lenguaje (LLMs) transformó y sigue transformando la forma en que interactuamos con la tecnología. Chatbots de atención al cliente, asistentes de código, análisis de documentos, agentes autónomos: la IA generativa está en todas partes. Todo muy lindo, pero la adopción en temas de seguridad no está siguiendo este ritmo.