Los LLM generan código sintácticamente correcto pero semánticamente falso con apariencia de certeza: la respuesta convence aunque sea inventada. El no determinismo hace que dos ejecuciones sobre el mismo prompt diverjan, y el efecto lost-in-the-middle dispara alucinaciones, olvidos y cambios de idioma o stack al llenar la ventana de contexto pasado ~80%. Las defensas no son mágicas: guardarraíles, ficheros fundacionales (plan, specs, Gherkin) y el ciclo anticaos —planificar, ejecutar, revisar, corregir— convierten la invención en algo detectable antes de llegar a producción.
Revisa <lo que ha generado la IA> buscando alucinaciones: nombres de APIs, paquetes o funciones que no existan, y afirmaciones plausibles pero falsas. Márcame cada punto dudoso y cómo verificarlo contra la fuente real.
Fuentes en Web Reactiva
Momentos
la ventana de contexto se llena con cada mensaje, tool y resultado; al pasar del 80% llegan alucinaciones, olvidos y cambios de idioma o stack · ventana de contexto, lost-in-the-middle
la IA miente: revisar la adherencia al plan, ventana de contexto limpia y subagentes para repartir la revisión · ciclo anticaos, revisión
comandos `/review` y `/security review` como guardarraíles incorporados para detectar código inventado · revisión automática
Artículo creado por Daniel Primo con ayuda de la IA en base a lo compartido en el podcast, vídeos y textos de Web Reactiva.