La información de IA no debería estar aislada. Descubra cómo las empresas pueden gestionar los datos de IA para reducir el riesgo y mejorar el retorno de la inversión (ROI).
por Lori Schafer
A diferencia de los conjuntos de datos tradicionales, el contenido y la información generados por IA suelen vivir en un vacío, creados, utilizados y dados por sentados sin una gobernanza adecuada. Desafortunadamente, las empresas que no proporcionan una supervisión adecuada y gestionan proactivamente los datos de IA son susceptibles a riesgos ocultos.
En otras palabras, los datos de IA no gobernados pueden contaminar el pozo, dejando a las empresas vulnerables a problemas legales o de cumplimiento, problemas de propiedad intelectual, lagunas en el abastecimiento y la rendición de cuentas de los datos y resultados de datos inconsistentes.
Al mismo tiempo, para los líderes de gestión de datos que entienden la importancia de gobernar los datos e información generados por IA, el desafío es hacerlo de manera proactiva en lugar de trabajar continuamente hacia atrás para solucionar o reaccionar ante los problemas de datos a medida que surgen.
IA sin gobierno: ¿Qué puede salir mal?
En lugar de simplemente tomar los datos sintetizados por IA al pie de la letra y extraerlos de un sistema, las empresas deben asegurarse de que todos los datos sintéticos y los conocimientos impulsados por GenAI estén etiquetados, rastreados, localizados, almacenados y gobernados adecuadamente.
Las empresas pueden actuar con demasiada rapidez, extrayendo datos impulsados por IA de un sistema, guardándolos en un recurso compartido de archivos y luego incorporándolos a sus sistemas sin rastrear el historial . Desafortunadamente, las empresas que carecen de una gobernanza adecuada de datos de IA pueden verse expuestas a resultados inesperados, problemas legales y a la toma de decisiones basadas en fuentes sospechosas.
Las situaciones a las que debemos prestar atención incluyen:
- Los marcos regulatorios difieren en todo el mundo, como la Ley de IA de la UE , que exige a las empresas documentar el comportamiento de los sistemas de IA. Las empresas que no etiqueten el contenido generado por IA podrían estar expuestas a incumplimientos.
- Una empresa que utiliza GenAI para desarrollar una infografía que utiliza inteligentemente la imagen de una celebridad o una obra de arte, podría requerir permiso previo, lo que obligaría a la empresa a pagar regalías.
- De manera similar, el texto de marketing generado para una campaña puede experimentar una alucinación , lo que hace que la IA tome prestado directamente un texto o una cita que no se puede usar, lo que genera problemas legales.
- Grandes conjuntos de datos sintéticos generados con IA se utilizan para entrenar modelos, que luego se implementan en producción. Las empresas que no rastrean quién creó esos datos, cuándo y dónde podrían perder ese conocimiento fundamental en el futuro, obligando a los equipos a recrear el conjunto de datos repetidamente.
Recrear continuamente conjuntos de datos mediante IA genera inconsistencias, ya que cada extracción puede ser diferente. Además, recrear constantemente grandes conjuntos de datos sintéticos, solo para que desaparezcan, es como construir y derretir icebergs. La información generada por IA es increíblemente útil y práctica para los equipos empresariales, pero el proceso no tiene por qué ser imprudente ni derrochador.
Gobernanza de resultados de IA: Consejos para una mejor gestión
Desde el principio, antes de generar información, las organizaciones empresariales necesitan implementar las mejores prácticas para gestionar los datos de IA. Esto incluye pasos fundamentales como el etiquetado, el rastreo, el almacenamiento y la rendición de cuentas en torno a los datos de IA.
Otras tácticas clave incluyen:
- Centralizar todas las fuentes de datos. Las empresas necesitan centralizar todas las fuentes de datos (generadas por IA, internas, externas, etc.) en la nube, donde se pueden etiquetar, rastrear y evitar que se filtren a diferentes ubicaciones fuera del centro.
- Eliminar los silos. De igual manera, la forma en que los equipos de negocio usan y crean datos puede variar, lo que naturalmente provoca que trabajen de forma aislada. Todos los equipos necesitan trabajar juntos desde una única fuente de información.
- No des por sentado la IA. Culturalmente, las empresas deben inculcar a sus equipos que no den por sentado la IA. El hecho de que la información, el contenido y las imágenes sean fáciles de generar con IA no significa que deban pasarse por alto las medidas de gobernanza.
- Preste atención a cómo se etiqueta la IA. Asegúrese de que los usuarios registren los resultados de IA según el modelo específico utilizado y su versión, incluyendo la fecha y hora de generación, cada usuario que inicia una solicitud y el contenido extraído (análisis, recomendaciones, resúmenes, contenido) y apliquen los resultados con índices de confianza.
La colaboración interfuncional es clave
Las empresas que implementan un sistema de gestión de datos riguroso dependen de la colaboración total en toda la organización. Los equipos de TI y legal, los responsables de cumplimiento normativo y cada unidad de negocio deben colaborar para desarrollar directrices que les resulten prácticas y fáciles de seguir para proteger a la organización.
La IA funciona con rapidez y los usuarios tienden a aprovechar los modelos para obtener una satisfacción inmediata, pero la falta de gobernanza genera riesgos y problemas de cumplimiento normativo. El rastreo, el seguimiento, el almacenamiento y la correcta creación de datos de IA pueden mejorar la alfabetización general de sus sistemas y acelerar el retorno de la inversión (ROI) en IA al ofrecer resultados fiables y reducir los flujos de trabajo redundantes.
En el futuro, se prevé que la regulación en torno a la IA se intensifique. Las empresas que etiqueten, monitoricen y gestionen los resultados de la IA construirán una infraestructura capaz de adaptarse a los cambios regulatorios y convertirse en un activo escalable y rentable.
Acerca del autor
Lori Schafer es la directora ejecutiva de Digital Wave Technology , una empresa de soluciones de software que transforma los procesos comerciales de los sectores minorista, sanitario y de bienes de consumo mediante IA, flujo de trabajo y automatización. Schafer es una ejecutiva sénior de software y emprendedora con más de 30 años de experiencia en analítica (predictiva, IA, IA generativa), comercio electrónico, branding de productos de consumo, y comercialización y marketing para minoristas.
Fuente: https://www.vktr.com/ai-ethics-law-risk/track-trace-govern-dont-overlook-ai-outputs/