Por qué los datos de entrenamiento deciden casi todo

Aprender de ejemplos, no de reglas

Los programas tradicionales siguen reglas escritas por personas: si ocurre esto, haz aquello. El aprendizaje automático funciona al revés. En lugar de reglas, el sistema recibe muchos ejemplos y ajusta millones de parámetros internos hasta que sus predicciones se parecen a lo que aparece en esos ejemplos.

Un sistema que aprende a clasificar correos como deseados o no deseados no recibe una lista de palabras prohibidas, sino miles de mensajes ya clasificados. De ellos extrae patrones. Si los ejemplos son buenos y variados, los patrones serán útiles. Si están desequilibrados o mal etiquetados, el sistema aprenderá también esos defectos, con la misma eficacia.

Este enfoque tiene una ventaja enorme: permite resolver problemas para los que nadie sabría escribir reglas completas, como reconocer una voz o traducir un texto. Su contrapartida es que el comportamiento del sistema queda ligado a los ejemplos que recibió, y no siempre es fácil saber cuáles fueron.

Qué hay realmente en un conjunto de datos

Un conjunto de datos de entrenamiento es una fotografía parcial del mundo tomada en un momento concreto. Refleja quién produjo esos datos, en qué idiomas, en qué lugares y con qué intereses. Los modelos de lenguaje, por ejemplo, se entrenan sobre todo con textos públicos de internet, donde unos idiomas, temas y puntos de vista están mucho más representados que otros.

Además, casi todos los conjuntos de datos tienen una fecha de corte. El sistema no sabe nada de lo que ocurrió después, salvo que se le proporcione información actualizada por otra vía. Un modelo puede describir con soltura una norma que ya ha cambiado, simplemente porque la versión antigua era la que figuraba en sus datos.

Las etiquetas también importan. Muchos sistemas aprenden de ejemplos que alguien ha marcado como correctos o incorrectos. Esas decisiones humanas, tomadas a menudo deprisa y con criterios que no siempre se documentan, pasan a formar parte del comportamiento del sistema.

Cuando los datos repiten desigualdades

Si un sistema de selección de personal se entrena con las contrataciones de una empresa durante veinte años, aprenderá qué perfiles se contrataron, no necesariamente qué perfiles eran los mejores. Si en ese periodo hubo preferencias injustas, el sistema puede reproducirlas con apariencia de objetividad. Este tipo de efecto se conoce como sesgo.

El sesgo no siempre es evidente. A veces una variable aparentemente neutra, como el código postal, está relacionada con otras características, como el nivel de renta o el origen. El sistema no necesita conocer esas características para acabar tratando de forma distinta a grupos diferentes. Detectarlo exige analizar los resultados, no solo revisar qué datos se usaron.

Por eso la normativa europea sobre inteligencia artificial pide a los sistemas de alto riesgo, como los que intervienen en el acceso al crédito o al empleo, una gestión documentada de la calidad de los datos y de los posibles sesgos.

Más datos no siempre significa mejores datos

Durante años, aumentar la cantidad de datos fue una de las formas más fiables de mejorar un modelo. Sigue siendo importante, pero hay límites. Añadir textos repetidos, de baja calidad o generados por otros sistemas puede empeorar el resultado. Por eso los equipos dedican mucho trabajo a filtrar, limpiar y equilibrar los conjuntos de datos.

La procedencia es otra cuestión abierta. Hay debates legales sobre el uso de obras protegidas por derechos de autor y de datos personales para entrenar modelos. En la Unión Europea, el Reglamento General de Protección de Datos y el Reglamento de Inteligencia Artificial establecen obligaciones de transparencia que afectan a cómo se recogen y documentan estos datos.

Una tendencia reciente es el uso de datos sintéticos, es decir, ejemplos generados por otros modelos. Pueden ser útiles para cubrir casos poco frecuentes, pero si se usan sin control pueden amplificar errores y reducir la variedad de lo que el sistema aprende.

Un caso práctico: el reconocimiento de voz

Los sistemas de reconocimiento de voz ilustran bien el peso de los datos. Si se entrenan sobre todo con grabaciones de personas de una región, con un acento concreto y en entornos silenciosos, funcionarán peor con otros acentos, con personas mayores o con ruido de fondo. El fallo no está en el algoritmo en sí, sino en lo que el sistema tuvo ocasión de escuchar.

La solución habitual consiste en ampliar y equilibrar los datos, y en medir el rendimiento por separado para cada grupo, en lugar de dar una única cifra media. Una precisión global alta puede ocultar diferencias importantes entre unos usuarios y otros, y esas diferencias son las que importan a quien recibe un servicio peor.

Preguntas útiles ante cualquier sistema

No hace falta ser especialista para pensar críticamente sobre los datos de un sistema. Basta con algunas preguntas sencillas. ¿De dónde proceden los datos y quién los produjo? ¿Hasta qué fecha llegan? ¿Qué grupos, idiomas o situaciones podrían estar poco representados? ¿Quién decidió qué era una respuesta correcta y con qué criterio?

Muchas empresas publican fichas técnicas de sus modelos con parte de esta información. No siempre responden a todo, pero leerlas ayuda a saber para qué usos se pensó el sistema y para cuáles no. Este artículo es educativo y no valora ningún sistema concreto ni recomienda ninguno.