Las alucinaciones de la IA no están frenando su adopción, pero resaltan por qué una sólida gobernanza de datos es esencial para mejorar la precisión y la confianza.
por Dux Raymond Sy
Cuando la inteligencia artificial (IA) irrumpió en la esfera pública, muchos en el mundo empresarial consideraban que las alucinaciones eran un problema menor y temporal, algo que podía solucionarse mediante la resolución de problemas y el desarrollo iterativo.
Sin embargo, varios años después del lanzamiento público de ChatGPT , una nueva investigación de OpenAI muestra que sus modelos generan más información incorrecta que nunca. Su modelo de razonamiento más reciente, o4-mini, presenta alucinaciones casi la mitad (48%) del tiempo , mientras que su modelo o3, ligeramente más antiguo, presenta alucinaciones a una tasa del 33%, según cifras de la propia compañía. Estos modelos, que ofrecen resultados más complejos que las versiones anteriores, presentan alucinaciones a una tasa mucho mayor que sus predecesores. El modelo o1 de OpenAI, por ejemplo, presenta alucinaciones a una tasa del 16%.
A medida que los productos de IA mejoran su razonamiento complejo, ciertos modelos parecen estar perdiendo capacidad para generar información sin errores. Algunos consideran esto un avance nuevo y desestabilizador para el futuro de la IA; sin embargo, los expertos en IA conocen estos problemas desde hace años, y las altas tasas de alucinaciones no han disuadido en absoluto su uso. En lugar de obligarnos a reevaluar el futuro o el propósito de la IA, las altas tasas de alucinaciones en modelos como el o4 de OpenAI refuerzan la importancia de una sólida gobernanza de datos como componente clave del éxito de la IA.
Cómo una gobernanza de datos sólida mejora los resultados de la IA
El uso de la IA ha alcanzado recientemente un máximo histórico, a pesar de la frecuencia con la que los usuarios reciben información inexacta. ChatGPT cuenta actualmente con 800 millones de usuarios semanales y, según McKinsey, más del 78 % de las organizaciones utilizan IA , el porcentaje más alto registrado hasta la fecha. El creciente uso de la IA debería desmentir la idea de que las alucinaciones sean un verdadero impedimento para su uso o adopción, y estos datos demuestran que los inconvenientes relativamente menores que causan las alucinaciones se ven compensados por los beneficios que aportan las mejoras en la capacidad de razonamiento.
Por lo tanto, conviene contar con resultados de IA más precisos y relevantes. Si bien las alucinaciones no han detenido ni ralentizado la rápida expansión de la IA, esta podría ser aún más popular, o podrían facilitarse las aplicaciones empresariales prácticas, si las organizaciones pudieran restringir las alucinaciones y mejorar la precisión y la relevancia de los resultados de IA. Por eso, una sólida gobernanza de datos es un componente fundamental del éxito de la IA.
Desde hace mucho tiempo se entiende que la calidad de los datos afecta los resultados de la IA (esa es la hipótesis de “basura que entra, basura que sale”), pero a medida que el uso de la IA madura, más organizaciones se están dando cuenta de que la calidad de los datos es solo una parte del panorama y que una gobernanza de datos sólida , que va más allá de la calidad de los datos, es la máxima prioridad.
Un informe reciente de Precisely y la Universidad de Drexel, por ejemplo, reveló que la falta de una gobernanza de datos sólida se considera actualmente el principal desafío para la implementación de la IA . Dicho estudio también reveló un aumento notable en la prevalencia de programas de gobernanza de datos: el 71 % de las organizaciones afirmó contar con políticas y tecnología de gobernanza de datos en 2024, frente al 60 % del año anterior. Mejorar la calidad de los datos es un componente importante de cualquier estrategia de gobernanza de datos, pero esta incluye otras consideraciones empresariales y de seguridad relacionadas con la IA, y por eso está en auge hoy en día.
La gobernanza de datos define las políticas, roles y responsabilidades que rigen la gestión, el uso y la protección de los datos en una organización. Si bien mejorar la calidad de los datos es un objetivo de una estrategia de gobernanza, una estrategia de gobernanza sólida también aborda cuestiones como el cumplimiento normativo, la rendición de cuentas y la alineación estratégica con los objetivos del negocio. Garantiza que las prácticas de gestión de datos se ajusten a los objetivos organizacionales y los requisitos regulatorios, lo que no solo mejora el rendimiento de la IA, sino que también garantiza que las herramientas de IA se puedan utilizar de forma eficiente y segura dentro de una organización.
Tres maneras de mejorar la gobernanza de datos y reducir las alucinaciones
La IA ya está muy extendida, pero muchas organizaciones tienen trabajo por hacer para reforzar la gobernanza de datos. Aquí hay algunas cosas que puede empezar a hacer hoy mismo para mejorar la gobernanza de datos y reducir el impacto de las alucinaciones:
- Priorizar la calidad de los datos: Establecer marcos y protocolos sólidos para garantizar que todos los datos recopilados, procesados y almacenados en la organización sean consistentes, precisos y relevantes. Esto incluye la implementación de herramientas de validación automatizadas, auditorías periódicas y la creación de una cultura de responsabilidad entre los usuarios de los datos. Al mejorar la calidad de los datos, las organizaciones reducen las alucinaciones, toman mejores decisiones y aumentan el valor generado por las iniciativas de IA y análisis.
- Desarrollar una clara propiedad y responsabilidad de los datos: Definir explícitamente las funciones y responsabilidades para la gestión de datos en todos los niveles de la organización. Asignar administradores o custodios de datos para supervisar conjuntos de datos específicos, dejando claro quién es responsable del mantenimiento, la seguridad y la actualización de la información. Este enfoque mejora la responsabilidad y evita lagunas o solapamientos en la gobernanza. Además, las organizaciones deben proporcionar formación y recursos a los empleados para ayudarles a comprender sus funciones en el proceso de gobernanza y la importancia de adherirse a las políticas establecidas. Una clara propiedad y responsabilidad de los datos dentro de una organización conduce a una mejor calidad de los datos, lo que reduce las alucinaciones.
- Refinamiento continuo: Asegúrese de que los datos reflejen escenarios reales y las preferencias del usuario mediante un refinamiento continuo. Si bien esto no eliminará las alucinaciones, este enfoque ayuda a los sistemas de IA a generar respuestas no solo precisas, sino también adaptadas eficazmente, mejorando la relevancia y la satisfacción del usuario con el tiempo.
Asegurando el futuro de la IA
Aunque no hemos resuelto el problema de las alucinaciones, la IA sigue siendo más eficaz y ampliamente utilizada que nunca. A medida que la IA madura, es más importante pensar estratégica y ampliamente sobre los datos que impulsan las herramientas de IA. No se trata solo de la calidad de los datos; para mejorar los resultados de la IA, debemos ir mucho más allá y pensar de forma integral sobre cómo regulamos y gobernamos patrimonios enteros.
Nota del editor: Más información sobre IA a continuación:
- El arma de doble filo de la IA : la IA generativa, como todas las herramientas, tiene sus ventajas y desventajas. Para sacarle el máximo provecho, es necesario comprender ambas.
- Las grietas ocultas: Cómo la integración de la IA pone a prueba la resiliencia laboral . La eficacia de la IA depende de su integración con los sistemas empresariales. Sin embargo, cuanto más integrada está la IA, más expone a una organización a posibles problemas.
- La política silenciosa de admitir el uso de la IA : el uso de la IA en el lugar de trabajo está en aumento, pero pocos admiten utilizarla. ¿Qué pueden hacer las organizaciones?
Acerca del autor
Dux Raymond Sy es el Director de Marca de AvePoint y MVP y Director Regional de Microsoft. Con más de 20 años de experiencia en negocios y tecnología, Dux ha impulsado transformaciones organizacionales en todo el mundo gracias a su capacidad para simplificar ideas complejas y ofrecer soluciones relevantes.
Fuente: https://www.reworked.co/digital-workplace/ai-still-hallucinates-heres-how-to-reduce-it/