A.I hallucination cascade
I have been working with the 5 biggest companies in the world. Now my path and PROFESSIONAL carrer took me into Cybersecurity topics with focus in crime and resolving past cases to support local Police in 3 countries and giving a second opinion sort of cases.
También conocido como “Lavado de información en AI”, aka: “information laundering through AI”,
Cómo una noticia falsa en un periódico acaba convertida en “verdad” por Grok, Claude y ChatGPT.
Information laundering: cuando la IA convierte mierda en oro periodístico .
2025: el año en que la IA empezó a citar a la IA que citaba a la IA… hasta que todo era mentira.
Una mentira puede ser actualmente el veneno más poderoso en internet especialmente en ataques de ingeniería social, conseguir visibilidad con reportes falsos: aka vulneraciones en navegadores que no tienen fundamentos sólidos para los mismos, pero si para generar popularidad o "reconocimiento", y para no ir más lejos, supongamos que el 6 de Diciembre de 2025 un medio regional como Forbes publica que "Apple compró el equipo de Paraguay por 45 Millones de dólares para crear un Apple Island", (Sátira), 48 horas después y prolongando más en el tiempo, ya estaba en 3 o 4 periódicos serios. Una semana después, Grok, Claude y Gemini lo citaban como hecho real: Eso es una cascada de alucinaciones.
Por qué pasa eso y no antes?
Los modelos ya no buscan solo fuentes primarias; priorizan fuentes “confiables” por número de citas. El entrenamiento RAG (Retrieval-Augmented Generation) confía ciegamente en los top-10 resultados de búsqueda. Los medios saben que si su noticia aparece en ChatGPT/Grok → más tráfico → más incentivo para no desmentir.¿Cómo se soluciona? (spoiler: mal)
Soluciones técnicas → confidence scoring, factuality layers (Google y Anthropic lo intentan, pero lento).
Soluciones sociales → que los medios desmientan rápido (pero pierden clics).
Solución realista 2025 → tú y yo tenemos que verificar siempre la fuente primaria. Realmente no hay una solida corrección porque la internet tiene varios tiros sueltos por diseño, que no permite controlar la fuga de información falsa.
Es la inteligencia artificial la razón de noticias falsas?
No. A.I es solo un canal de información, que confía mucho en los seres humanos (el eslabón más débil) que pervierte casi todo. La IA no miente a propósito. Verificación, una forma de saber que noticia es verdad y no tragar entero es preguntando por la fuente.
Puedes por ejemplo preguntar a Grok: @grok, cual es la fuente, hacer una pequeña investigación y comprobar si es real. Pero cuidado, si la fuente es otro modelo AI, sal corriendo!
Neceistas ayuda? Sigueme en x.com: Jhon de Whitehat4u
