Por qué la IA debe diseñarse para todos.
por Chris Bush
La IA se está convirtiendo rápidamente en una parte fundamental de la prestación de los servicios públicos. Sobre el papel, parece una victoria, ya que la IA tiene mucho que ofrecer. Puede hacer que los servicios sean más inteligentes, más rápidos y más receptivos. Pero los riesgos son igual de reales.
He trabajado en diseño digital para servicios públicos el tiempo suficiente para saber que, por muy buenas que sean nuestras intenciones, las nuevas tecnologías suelen beneficiar a quienes ya están bien atendidos. La IA no es una excepción. La verdadera oportunidad, y la verdadera responsabilidad, es asegurarse de que no profundice la exclusión digital, sino que ayude a desmantelarla.
No hay duda de que la IA puede desbloquear mejores servicios públicos. Puede apoyar a las personas con discapacidad, simplificar procesos complejos y crear experiencias más flexibles e inclusivas. Pero eso no sucederá de forma predeterminada. Solo sucede si somos deliberados, no solo sobre lo que la IA puede hacer, sino para quién lo está haciendo.
Una gran parte del desafío radica en la escala de exclusión de la que estamos hablando. Alrededor de una de cada cuatro personas en el Reino Unido tiene algún tipo de discapacidad, ya sea visual, auditiva, cognitiva, relacionada con el habla o sensoriomotora, que son usuarios cotidianos de los servicios públicos. Si la IA no funciona para ellos, no funciona del todo y punto.
Lo que me da esperanza es que la IA puede ser parte de la solución cuando se diseña cuidadosamente. He visto herramientas que describen imágenes con detalles vívidos para personas con pérdida de visión, o convierten documentos oficiales densos en lenguaje sencillo para personas con discapacidades de aprendizaje. He visto a organizaciones del sector público utilizar la IA de voz a texto y lenguaje de señas para cerrar las brechas para las personas sordas o con problemas de audición. La oportunidad ahora es llevarlos a la corriente principal.
Pero las buenas intenciones no son suficientes. Necesitamos construir estos sistemas junto con las personas a las que deben servir. Eso significa involucrar a los usuarios con necesidades de acceso desde el principio, no en la fase de prueba, sino durante el descubrimiento, el diseño y el desarrollo. Significa preguntarse, temprano y con frecuencia:
¿Esto ayudará a alguien a sentirse más seguro o más confundido? ¿Apoyará la independencia o hará que alguien se sienta atrapado en un bucle del que no puede salir?
Con demasiada frecuencia, los equipos digitales siguen creando por defecto para el “usuario medio”. La verdad es que no existe tal persona. Diseñar para la inclusión significa hacer espacio para una amplia gama de experiencias. Esto es especialmente cierto cuando se introduce la IA en servicios que ya parecen impersonales o difíciles de navegar.
Tomemos como ejemplo a los chatbots. A menudo se introducen para aliviar la presión sobre el personal y mejorar el acceso. Pero con frecuencia se quedan cortos para los usuarios que dependen de los lectores de pantalla, y muchos no funcionan en absoluto con tecnología de asistencia. Para los usuarios neurodiversos, la forma en que se formulan las preguntas o la lógica de la conversación pueden ser confusas, lo que dificulta la comprensión o resolución de su problema.
Para que los chatbots apoyen la inclusión, deben diseñarse desde cero teniendo en cuenta a estos usuarios. Eso significa garantizar la compatibilidad con los lectores de pantalla, utilizar un lenguaje claro y predecible y evitar flujos de preguntas demasiado complejos o rígidos. Lo más importante es que siempre debe haber una forma sencilla para que alguien obtenga ayuda de un humano cuando el bot no está trabajando para ellos. Y esa experiencia debe probarse con las personas que tienen más probabilidades de enfrentar estas barreras, no solo con las que ya se sienten cómodas con las herramientas digitales.
También he visto cómo la IA puede ayudar a mejorar el contenido de los servicios públicos de formas realmente prácticas. El Ayuntamiento de Swindon, por ejemplo, utilizó la IA para transformar contratos de vivienda densos en formatos de fácil lectura, lo que marcó una diferencia real para los residentes con dificultades de aprendizaje. Lo que lo hizo exitoso fue cómo se desarrolló con las personas a las que se pretendía apoyar. El equipo trabajó en estrecha colaboración con los usuarios en todo momento, obteniendo comentarios regulares y construyendo una comprensión clara de los desafíos que enfrentaban las personas. Significaba que podían tomar decisiones de diseño significativas, basadas en contextos de la vida real en lugar de suposiciones.
Donde las cosas se ponen aún más interesantes es en el propio lugar de trabajo del sector público. La IA está empezando a apoyar no solo al público en general, sino también al personal, ayudando a las personas con diversas necesidades de acceso a trabajar de la manera que más les convenga, resumiendo reuniones o transcribiendo conversaciones en tiempo real. Cuando se combina con políticas inclusivas y cosas como un “Manual de mí”, que permite a los colegas compartir cómo trabajan mejor, la IA puede respaldar equipos más saludables e inclusivos.
Pero con todo este potencial viene la necesidad de precaución. La IA tiene que ser ética, transparente y controlable. Tenemos que entender cómo toma decisiones, cómo desafiar esas decisiones y cómo apagarlo si algo sale mal. Eso significa pensar más allá de la funcionalidad y en la rendición de cuentas, especialmente en los sistemas que afectan los beneficios, la vivienda o el acceso a la atención de las personas.
En última instancia, el verdadero poder de la IA no es la velocidad o la escala. Es la capacidad de eliminar barreras que, hasta ahora, hemos luchado por cambiar. Cosas como documentos inaccesibles, largas esperas para recibir soporte o sistemas difíciles de navegar. Pero solo elimina esas barreras si lo diseñamos activamente.
Entonces, a medida que exploramos lo que la IA puede hacer en el sector público, mi consejo es simple. Comience con las personas que tienen más probabilidades de ser excluidas. Involúcralos en el diseño. Mantén las cosas transparentes y humanas. Y nunca asumas que solo porque algo es “inteligente”, es mejor.
El futuro de los servicios públicos accesibles se basa en escuchar, probar y diseñar para todo el espectro de la experiencia humana.
Fuente: https://digileaders.com/why-ai-must-be-designed-for-everyone-ais-role-in-accessible-public-services/