Ante la creciente preocupación por el poder de la inteligencia artificial en los últimos años, ha surgido el movimiento de la «inteligencia artificial centrada en el ser humano» (IAC) para contrarrestar estas inquietudes. La IAC busca garantizar que la IA se desarrolle priorizando nuestras necesidades y valores, complementando a los humanos en lugar de reemplazarlos. Es un movimiento que se esfuerza por asegurar que la IA mejore a las personas y potencie nuestras capacidades, al tiempo que aborda las implicaciones sociales, culturales y éticas, muy reales, asociadas a esta tecnología.
por Adi Gaskell
Un reciente artículo¹ de la Universidad de Radboud genera ciertas dudas sobre este movimiento de apariencia noble. El artículo sugiere que debemos replantearnos lo que asociamos con las HCAI, ya que la definición actual se centra demasiado en aspectos técnicos .
Una relación sociotécnica
En cambio, el autor argumenta que la IA es fundamentalmente una relación sociotécnica, donde nuestro trabajo cognitivo se ve potenciado, desplazado o reemplazado por la tecnología. Por lo tanto, desde esta perspectiva, es imposible que una IA no esté centrada en el ser humano, ya que no puede funcionar sin la intervención, la cognición y la supervisión humanas, aunque este papel humano no siempre sea evidente.
“La IA está centrada en el ser humano, no porque se comporte como los humanos o esté diseñada para ser como ellos, sino porque requiere un fantasma en la máquina, a menudo literalmente un humano que interviene de forma encubierta, para funcionar correctamente”, argumenta el autor.
El artículo argumenta que cada sistema de IA debe evaluarse según cuál de estas tres formas de relación con los humanos tenga:
- Mejora , mediante la cual la IA es capaz de aumentar nuestras capacidades.
- Sustitución , mediante la cual la IA sustituye en gran medida a los humanos.
- El desplazamiento , mediante el cual la IA aparta a los humanos de trabajos cognitivamente gratificantes, como estamos viendo actualmente, donde la IA realiza gran parte del trabajo intelectual por nosotros.
Determinar la relación
El investigador propone dos pasos para comprender a qué categoría pertenece una tecnología de IA en particular. El primero consiste en intentar discernir la relación. Esta etapa evalúa si la tecnología está relacionada con tareas cognitivas o no. Es razonable suponer que la mayoría de las tecnologías de IA actualmente en el mercado cumplen con este requisito.
El siguiente paso consiste en intentar caracterizar la relación. Es entonces cuando se analiza si la tecnología reemplaza a los humanos, los mejora o los desplaza.
Puede parecer un pequeño paso, pero el artículo argumenta que muchos sistemas de IA modernos implican una enorme cantidad de esfuerzo humano que a menudo permanece oculto para el usuario final. Se refieren a los trabajadores invisibles que operan en la sombra, anotando imágenes por unos pocos centavos. Se refieren a la gran cantidad de personas que desarrollan los modelos en los que se basan los sistemas de aprendizaje automático o que gestionan los conjuntos de datos con los que se entrenan.
El autor argumenta que esto oculta de forma tan exhaustiva la cantidad de esfuerzo humano que hay detrás de los sistemas de IA modernos que muchos caen en el error de pensar que la IA piensa por sí misma.
Evaluación comparativa defectuosa
El artículo también critica los indicadores de rendimiento que se suelen usar para destacar el éxito de la IA en el ámbito laboral. Estos indicadores comparan normalmente al ser humano con la máquina, pero rara vez logran una equivalencia significativa. De hecho, comparar a los humanos con la IA es, desde un punto de vista científico y lógico, completamente erróneo.
En definitiva, es muy improbable que la verdad surja simplemente de los datos . En cambio, se moldea por el pensamiento humano y nuestra interacción con el mundo. Puede que esta idea resulte incómoda en un mundo saturado de bombo publicitario sobre las supuestas capacidades de la IA, pero lo cierto es que ciertas partes de la cognición humana no pueden automatizarse.
No existen sistemas de IA capaces de pensar por nosotros sin nuestra intervención, y probablemente nunca los habrá. Quizás anhelemos una máquina así, pero solo los seres vivos son verdaderamente autosuficientes. Las máquinas no lo son. Un ordenador no decide encenderse y apagarse solo.
Para superar la confusión entre correlación y comprensión, debemos abandonar la creencia de que un mejor desempeño en las pruebas de referencia conduce automáticamente a la comprensión. Ningún conjunto de puntuaciones en las pruebas puede constituir jamás una explicación causal.
Para desmitificar la IA, debemos verla por lo que realmente es: un conjunto de relaciones entre humanos y sus herramientas, en las que parece que el pensamiento se ha delegado. Pero esa apariencia requiere un análisis cuidadoso. La mente humana sigue estando en el centro de todo.
Quizás no podamos eliminar al ser humano de la máquina. Pero podemos dejar de tratar al ser humano como un fantasma y, en cambio, reconocerlo como algo que está, y siempre ha estado, en el corazón mismo de la IA moderna.
Fuente del artículo: La IA ya está centrada en el ser humano, y quizás ese sea el problema .
Imagen de cabecera: Esta obra de arte plasma el esfuerzo colectivo de la humanidad por construir inteligencia artificial, inspirándose en el Negargari persa (pintura en miniatura). Shady Sharify / Better Images of AI / CC BY 4.0 .
Referencia:
- Guest, O. (2025). ¿Qué significa ‘IA centrada en el ser humano’? Preimpresión de arXiv arXiv:2507.19960 .
Fuente: https://realkm.com/2026/03/26/ai-is-already-human-centred-and-maybe-thats-the-problem/