Tu IA es inteligente, pero ¿es segura? Descubre las estrategias de gobernanza imprescindibles para proteger tu negocio y a tus clientes.
por Al Raymond
La esencia
- La gobernanza es fundamental. Sin una gobernanza adecuada de la IA, las empresas se arriesgan a incumplir las normativas y a perder la confianza de los clientes.
- La estrategia es lo primero. Una estrategia de IA bien definida y un marco de gobernanza pueden marcar la diferencia entre la innovación y el caos.
- El cumplimiento normativo genera confianza. Una gobernanza sólida de la IA no solo cumple con los requisitos regulatorios, sino que también mejora la confianza del cliente y la ventaja competitiva.
Una tendencia recurrente en la mayoría de las tecnologías es que, por lo general, se generalizan mucho antes de que se puedan establecer leyes que las regulen. La gobernanza de las tecnologías, especialmente las que se ponen en manos de las masas, es fundamental para proteger a las personas, las empresas y sus datos de cualquier uso indebido.
La IA parece no ser diferente. Pero ¿es un perro nuevo con trucos antiguos, o simplemente un perro viejo con trucos nuevos?
Aunque la IA existe desde hace unos 60 años, sus numerosos altibajos la han mantenido bastante discreta hasta hace poco. Desde la aparición de ChatGPT a finales de 2022, muchas empresas han comenzado a desarrollar modelos de IA para diversas aplicaciones.
El uso de esta tecnología puede conllevar diversos riesgos, como la exposición de datos confidenciales, la violación de las leyes de propiedad intelectual, la producción de resultados manifiestamente erróneos y el incumplimiento de las regulaciones existentes y las que se encuentran en desarrollo. La IA debe aplicarse con cautela.
Por qué es importante la gobernanza de la IA
Hasta hace poco, la IA era utilizada casi exclusivamente por científicos de datos y otros expertos en datos. Dado que los datos solían usarse solo internamente para mejorar productos y servicios, o para analizar el comportamiento general de los clientes, no existía una necesidad apremiante de marcos de gobernanza de datos . Con la omnipresencia de la IA generativa en gran parte del entorno laboral, esto ha cambiado.
Hoy en día, la mayoría de las empresas reconocen que, para mantenerse a la par de sus pares, necesitan algún tipo de IA generativa o modelos de lenguaje extenso (LLM) en sus productos o servicios, y eso conlleva la gobernanza necesaria.
Un problema: los programas de gobernanza de la IA aún no se han formulado, ni mucho menos finalizado. La tecnología subyacente de la IA sigue evolucionando, lo que dificulta que los órganos legislativos establezcan un enfoque de cumplimiento.
Pero las empresas no pueden esperar años para descubrir cómo serán los marcos definitivos. En cambio, deben comenzar de inmediato a implementar un marco viable, defendible, escalable y, en última instancia, flexible para supervisar y gestionar el uso de la IA en sus organizaciones. Antes de implementar un modelo de IA, las empresas deben comprender adecuadamente el ciclo de vida de dichos modelos en el contexto de su negocio y su funcionamiento. Y, por supuesto, todos los proyectos de IA deben pasar por la cadena de revisión habitual de gobernanza por parte de los equipos de cumplimiento, legal y de seguridad de la información.
Establecimiento de un marco de gobernanza de la IA
Una gobernanza de datos adecuada aborda la calidad y la seguridad de los datos, el uso ético y la protección de la privacidad, entre otros aspectos. Dependiendo de su negocio y la naturaleza de los datos que utilice, la gobernanza de la IA podría ser una obligación aún mayor (y que consuma más recursos) que la gobernanza de datos.
Con el análisis de datos, por ejemplo, casi siempre hay una persona que valida los resultados antes de que las personas tomen decisiones y actúen. Pero gracias a la capacidad de la IA para operar a una escala mucho mayor, puede realizar docenas de predicciones en milisegundos sin necesidad de explicación. La IA incluso puede entrenarse para actuar por sí sola, como en los escenarios de toma de decisiones automatizada.
Al pensar en cómo será su modelo de gobernanza de IA, tenga en cuenta algunos aspectos fundamentales:
1. Considere su estrategia de uso de IA
¿Cuál es su plan? ¿Cuáles son sus objetivos? Pregúntese si tiene una justificación comercial real para la IA en su empresa. Es decir, ¿la IA integrada en su producto o servicio marcará una diferencia significativa para sus clientes? Si la respuesta es no, probablemente no merezca la pena el esfuerzo ni el coste del desarrollo.
2. Crear una política de IA para la monitorización del uso
Si la respuesta es afirmativa, la segunda consideración debería ser una política o declaración que determine cómo y quién puede utilizar la IA en su empresa. Este documento fundamental puede adoptar la forma de una política oficial que aborde formalmente el motivo por el que se utiliza la IA, quién la utiliza y con qué fines. Las políticas suelen ser más prescriptivas y específicas sobre cómo debe —no debería— utilizarse una tecnología. Su política también puede mencionar los estándares del sector como referencia.
3. Considere crear pautas de IA
Como alternativa, puede crear directrices, que tradicionalmente indican los usos recomendados y las mejores prácticas de una tecnología. Ambos enfoques tienen sus ventajas y desventajas. Dependiendo de su sector, el grado de regulación al que esté sujeto y el tipo de datos que utilice su empresa (por ejemplo, B2C o B2B), puede optar por directrices para no obstaculizar excesivamente la innovación ni la experimentación.
4. Crea un portafolio de documentos de IA
Independientemente del documento que elija, procure crear un portafolio de documentos que guíe lo más posible a sus empleados sobre cómo usar la nueva tecnología. Esto les ayudará a crear productos y servicios con funciones avanzadas, utilizando los datos de forma ética y responsable.
5. Establecer un marco de cumplimiento legal
A continuación, asegúrese de que la base jurídica de su tratamiento de datos sea sólida. Si trata datos de ciudadanos de la UE, deberá encontrar la base jurídica más adecuada para su situación, según lo estipula el artículo 6 del RGPD .
6. Determine quiénes tomarán las decisiones en materia de IA
Otro gran esfuerzo debería ser la creación de un flujo de trabajo de aprobación de IA, incluida la designación de tomadores de decisiones.
El marco ideal de gobernanza de la IA debería ubicarse entre las etapas de concepción y operacionalización. Esto garantizará que cualquier equipo, comité o foro creado para evaluar ideas y casos de uso pueda adoptar una perspectiva holística e interfuncional. Este enfoque les permite evaluar exhaustivamente los riesgos específicos que la IA representa para su modelo de negocio y decidir qué iniciativas deben avanzar a producción.
Preparación para una amplia supervisión de la IA
Los legisladores de todo el mundo pronto exigirán un sólido modelo de supervisión de la gobernanza de la IA para la mayoría de las empresas. Al adoptar una perspectiva más amplia que combine los derechos humanos y el conocimiento empresarial con la gobernanza de la IA, las empresas pueden obtener una ventaja competitiva al aumentar la confianza de los clientes.
Este enfoque centrado en el negocio y que prioriza la privacidad permite a las compañías desarrollar modelos basados en valor con confianza, al tiempo que garantiza la privacidad de los datos y cumple con los requisitos regulatorios, ofreciendo una ventaja estratégica más allá del mero cumplimiento.
Acerca del autor
Al Raymond es un profesional en privacidad, cumplimiento normativo y gobernanza de datos con un MBA y más de 15 años de experiencia operativa.
Su experiencia se centra en liderar equipos de alto rendimiento para desarrollar e implementar marcos de gobernanza de datos y privacidad, garantizar el cumplimiento normativo de las leyes de privacidad y abordar los riesgos en las operaciones globales.
Fuente: https://www.vktr.com/digital-experience/6-considerations-for-an-ai-governance-strategy/