Por qué fracasan los proyectos de IA: la lección de un modelo que duró tres días

El 15 de noviembre de 2022, Meta publicó un modelo de lenguaje llamado Galactica. La promesa era enorme: estaba entrenado con 48 millones de papers, libros de texto y apuntes de conferencias, y ofrecía razonar sobre literatura científica, resumir estudios y ayudar a escribir artículos académicos.

El 17 de noviembre —dos días después— Meta lo retiró.

No lo tumbó un competidor ni una filtración. Lo tumbó algo mucho más incómodo: en cuestión de horas, los investigadores que lo probaron descubrieron que producía texto autoritativo pero falso y sesgado — y, de forma especialmente reveladora, que inventaba citas. Producía referencias con formato impecable —autores plausibles, títulos verosímiles, revistas reales— a papers que no existían. Como resumió uno de sus críticos: en todos los casos estaba equivocado o sesgado, pero sonaba correcto y autoritativo.

Vale la pena detenerse en esa escena, porque explica el fracaso de la IA empresarial mejor que cualquier estadística.

El diagnóstico fácil (y equivocado)

La lectura cómoda es «le faltaban datos» o «el modelo era malo». Ninguna de las dos se sostiene.

Datos le sobraban. Cuarenta y ocho millones de papers, libros de texto y apuntes son, probablemente, uno de los corpus más curados a los que un modelo había tenido acceso hasta ese momento. El grueso no eran comentarios de internet: era literatura científica.

Y hay un detalle que hace la historia mucho más interesante: Galactica sí tenía datos de procedencia. Fue entrenado con más de 360 millones de citas en contexto y decenas de millones de referencias normalizadas. Sabía perfectamente qué forma tiene una cita.

Lo que no tenía era un vínculo verificable entre lo que generaba y esa base. Podía producir el aspecto de una cita sin ningún anclaje a una cita real, porque generaba de forma probabilística en lugar de recuperar y citar. Tenía la forma de la procedencia, no la procedencia.

Y esa distinción —entre plausible y verdadero— no la resuelve un modelo más grande. La resuelve poder rastrear cada afirmación hasta su fuente.

No es una anécdota. Es el patrón.

Se podría descartar Galactica como el tropiezo de un modelo experimental de 2022. Los números de 2025 dicen otra cosa.

El informe «The GenAI Divide: State of AI in Business 2025» —un borrador preliminar (v0.1, julio de 2025) firmado por investigadores del proyecto NANDA del MIT, que aclaran expresamente que las conclusiones son de los autores y no de su institución— revisó, según esa versión, más de 300 iniciativas de IA divulgadas públicamente, entrevistas con representantes de 52 organizaciones y encuestas a 153 directivos. Su titular:

«95% of organizations are getting zero return» — el 95% de las organizaciones no obtiene ningún retorno de sus iniciativas de IA generativa, pese a una inversión empresarial estimada entre 30 y 40 mil millones de dólares.

Conviene tomarlo con la cautela que merece: es un preprint, no está revisado por pares y su metodología ha sido cuestionada públicamente. No lo citamos como verdad revelada, sino porque el número resonó en todas las salas de dirección de 2025 — y porque lo interesante del informe no es el 95%.

Lo interesante es dónde dicen los autores que NO está el problema:

«The core barrier to scaling is not infrastructure, regulation, or talent. It is learning. Most GenAI systems do not retain feedback, adapt to context, or improve over time.»

(La barrera principal no es la infraestructura, ni la regulación, ni el talento. Es el aprendizaje. La mayoría de los sistemas de IA generativa no retienen el feedback, no se adaptan al contexto ni mejoran con el tiempo.)

Es un hallazgo honesto y llamativo: el problema no está en el modelo. Está alrededor del modelo.

Nuestra tesis: en una empresa, «contexto» se escribe metadatos

Aquí ponemos nuestra opinión sobre la mesa, y conviene marcarla como tal: los autores documentan una brecha de aprendizaje y contexto; atribuirla a la falta de gobierno de datos es nuestra lectura, no la suya.

Y hay que ser precisos con los mecanismos, porque no son el mismo. Lo que describen los autores es un problema de arquitectura de producto: sistemas sin memoria, sin ciclo de feedback, que no se ajustan al flujo de trabajo de nadie. Lo que Galactica hizo mal fue generar en lugar de recuperar. Y lo que ordena un programa de gobierno es otra cosa: el dato en reposo —quién lo posee, qué significa, de dónde viene—. Son tres capas distintas, y confundirlas sería exactamente el tipo de atajo que este artículo critica.

Nuestra tesis no es que el gobierno de datos arregle las tres. Es que es el piso de las tres: puedes darle memoria a tu sistema y anclarlo a recuperación en vez de a la probabilidad, y aun así te devolverá con total confianza el número equivocado si la tabla que recupera es una copia huérfana que nadie mantiene. Arreglar la arquitectura sin arreglar el dato solo consigue que el error llegue más rápido y mejor citado.

Porque «adaptarse al contexto» suena a propiedad del modelo, y en una empresa no lo es. El contexto de tu negocio no vive en los pesos de una red neuronal. Vive en respuestas mucho más aburridas:

• ¿Quién es el dueño de esta tabla?
• ¿Qué significa exactamente este campo? ¿revenue es antes o después de impuestos?
• ¿De dónde viene este número? ¿Qué proceso lo calculó y con qué fuentes?
• ¿Es esta tabla la fuente de verdad, o una de siete copias que alguien dejó en el camino?
• ¿Se puede confiar en ella hoy, o lleva once meses sin actualizarse?

Eso es exactamente lo que produce un programa de gobierno de datos: dueños, significado, linaje, calidad, fuente única de verdad. Son metadatos. No se puede adaptar al contexto un sistema que opera sobre un contexto que nadie describió.

Por eso decimos Data First, antes que AI First. No como eslogan: como orden de operaciones.

Por qué tu empresa está peor que Galactica

Y ahora la parte incómoda, que es la verdadera lección de esta historia.

Galactica tuvo una suerte que tu empresa no va a tener: falló en un terreno donde el error era verificable de inmediato. Inventó un paper que no existía, y cualquier investigador con treinta segundos y un buscador lo desmintió. Por eso murió en tres días. El sistema falló ruidosamente.

Tu IA empresarial no tiene ese lujo. Cuando le preguntas:

> ¿Cuáles fueron las ventas de Panamá en el Q3?

Las ventas de Panamá en el Q3 de 2026 fueron de US$ 4.2 millones,
un 12% por encima del mismo periodo del año anterior.

…la respuesta suena exactamente igual de autoritativa que una cita falsa de Galactica. Pero nadie la va a desmentir en treinta segundos, porque un número equivocado no parece absurdo. Parece un número.

¿De qué tabla salió? ¿Incluye devoluciones? ¿Es la tabla que usa finanzas o la copia que quedó de una migración? Si no puedes responder eso, tienes una Galactica adentro —con la diferencia de que nadie va a tirar del enchufe al tercer día. Va a alimentar un dashboard, y el dashboard va a alimentar una decisión.

Ese es el fracaso silencioso que hay detrás del 95%. No explota: simplemente nunca entrega valor, y nadie sabe muy bien por qué.

Lo que sí mueve la aguja

La conclusión no es «no hagas IA». Es que el orden importa, y que el trabajo aburrido va primero:

1. Dueños. Cada dato crítico tiene un responsable con nombre. Sin esto, no hay a quién preguntarle nada.
2. Significado. Un glosario donde cliente activo quiere decir una sola cosa, y no cuatro según el área.
3. Linaje. Poder rastrear cualquier número hasta su origen. Es la versión empresarial de la pregunta que Galactica no supo responder.
4. Calidad. Reglas automáticas que avisan cuando algo se rompe, antes de que llegue a un reporte.
5. Fuente única de verdad. Que exista una tabla de clientes, y que todos sepan cuál es.

Sobre ese cimiento, la IA deja de alucinar sobre tu negocio — no porque el modelo sea mejor, sino porque por fin tiene un contexto que alguien se tomó el trabajo de escribir. Es lo que los marcos DAMA-DMBOK y DCAM llevan años ordenando, mucho antes de que la IA generativa estuviera de moda.

Y es un trabajo de programa, no de herramienta. Ninguna plataforma te va a decir quién es el dueño de una tabla: eso es cultura, organización y procesos. La herramienta viene después, y se elige según la arquitectura que ya tienes.

El punto de partida

Galactica tenía 48 millones de papers y 360 millones de citas, y aun así no pudo responder «¿de dónde salió esto?». Fue una advertencia gratuita, en 2022, sobre lo que iba a pasarle a buena parte de las iniciativas de IA de esta década.

La pregunta útil no es si tu empresa debería usar IA. Es si, cuando tu IA dé una respuesta, alguien va a poder rastrearla hasta su fuente.

¿Dónde está tu organización hoy? Una evaluación de madurez de datos de minutos te da el punto de partida honesto — qué tienes gobernado, qué está huérfano y qué tan lejos estás de que la IA sea confiable sobre tus datos.

Fuentes: Galactica: A Large Language Model for Science — arXiv:2211.09085 · Meta's Galactica survived only three days — MIT Technology Review · Incidente Galactica — OECD.AI · The GenAI Divide: State of AI in Business 2025 (v0.1, preliminar) — MIT Project NANDA