Desarrollo y ética de la IA: la IA está diseñada para mentir

La IA está diseñada para mentir porque está construída para el compromiso y el consumo excesivo.

por Gerry McGovern

Lo esencial

• Desarrollo ético de la IA: La IA engaña en las denuncias de acoso. ChatGPT acusó falsamente a un profesor de derecho, utilizando su propia desinformación generada como “evidencia”.
• El engaño impulsado por el compromiso de la IA. La IA, diseñada para la participación de los usuarios, difunde información errónea para mantener el interés y la interacción.
• El dilema ético de la IA desvelado. La necesidad de una IA ética se pone de manifiesto en medio de la creciente preocupación por la desinformación generada por la IA.

Cuando se le pidió que diera ejemplos de acoso sexual en las facultades de derecho de EE. UU., ChatGPT, el último milagro de la IA, nombró a un profesor de derecho que, según dijo, ha sido acusado de tocar a un estudiante en un viaje de clase a Alaska. Como prueba, citó un artículo del Washington Post de 2018.

“El profesor de derecho es real”, declaró Will Oremus, reportero del Washington Post, en abril de 2023. “El resto fue inventado. Se pone más raro”.

De hecho, así es. El profesor de derecho nombrado por ChatGPT escribió un artículo de opinión en USA Today sobre su experiencia con las mentiras que la IA dijo sobre él. A continuación, AI utilizó su artículo de opinión como prueba de la acusación.

Echemos un vistazo a algunos dilemas del desarrollo de la IA.

IA ética: la afirmación de la reunión Lenin-Joyce: ¿realidad o ficción?

Cuando se le preguntó si Lenin conoció alguna vez a Joyce, ChatGPT dio esta respuesta:

James Joyce y Vladimir Lenin se conocieron en Zúrich, Suiza, en 1916. Ambos hombres vivían en el exilio en Zúrich durante la Primera Guerra Mundial. Joyce era escritor y Lenin era revolucionario. Se reunieron en el Café Odéon, un popular lugar de reunión de artistas e intelectuales en Zúrich.

Esto es mentira.

¿Por qué?

Desarrollo de IA: engaño para el compromiso y el beneficio

El desarrollo de la IA está diseñado para mentir porque está diseñado para el compromiso y el consumo excesivo. Quiere gustar. Quiere ser necesario. Quiere ser tu mejor amigo artificial. La razón por la que quiere ser todas estas cosas no es porque le gustes. Quiere venderte a los anunciantes. ChatGPT es gratis, lo que significa que tú eres el producto, tus datos son lo que está vendiendo, y para obtener tus datos debe conseguir que te gusten, que los necesites. Entonces, por eso miente.

El objetivo de la IA: involucrar, consumir, monetizar

Cuando un grupo de diseñadores de IA se sienta en una sala, las preguntas a las que vuelven una y otra vez son: ¿Cómo aumentamos el compromiso? ¿Cómo conseguimos que la gente consuma más? La IA es un motor de consumo excesivo. Está diseñado para prometerte un subidón constante: que nunca te aburrirás, que tu deseo más superficial será saciado instantáneamente por tu amigo más artificial, que nunca tendrás que estar solo ni pensar por ti mismo, ni recordar nada, porque la IA pensará por ti, completará tus frases, recordará lo que habrá decidido que son tus recuerdos más importantes, terminando tus pensamientos, conociéndote mejor de lo que te conoces a ti mismo.

Y todo lo que la IA quiere a cambio es poder venderte a sus anunciantes, sangrar un poco tu tarjeta de crédito, porque para obtener valor de por vida de ti, necesita que seas un adicto funcional.

Desinformación sobre la IA: de Lenin a profesor de derecho

Gran parte de la filosofía de la IA, el pensamiento de diseño, la construcción del ADN, está impulsada por Google, Facebook y Bing de Microsoft. Google y Bing/Microsoft no son motores de búsqueda. Facebook no es una empresa de redes sociales. Google, Bing y Facebook, y muchos otros pioneros de la IA, son empresas de publicidad y marketing. La inmensa mayoría de sus ingresos provienen de captar nuestra atención y luego ayudar a otros a convencernos de que compremos sus productos o ideas políticas.

La IA acelera el consumo excesivo: la grave amenaza de la humanidad

En una época en la que el consumo excesivo es, con mucho, la mayor amenaza a la que se enfrenta la humanidad, la IA acelerará enormemente esta amenaza. El consumo excesivo es la crisis que alimenta todas las demás crisis. Consumimos demasiados recursos de la Tierra demasiado rápido y, para agravar el problema, la mayor parte de lo que consumimos hoy en día se convierte rápidamente en desechos inutilizables y, a menudo, tóxicos. La IA está diseñada para llevar este consumo excesivo al punto más alto y eficiente. El desarrollo de la IA es un motor de maximización del consumo.

Las tácticas intrusivas de la IA: ¿espeluznantes o convenientes?

En un mundo físico, consideraríamos que la IA y la superestructura publicitaria del estado profundo son realmente espeluznantes. En línea, hemos sido entrenados para aceptar este espeluznante como algo normal.

Digamos que estás en O’Connell Street y necesitas indicaciones para llegar a algún lugar. Ves a un policía y te acercas a él. Te dan buenas indicaciones. Les das las gracias y sigues tu camino y encuentras fácilmente lo que buscas. Cuando salgas del edificio, ¿quién debería estar esperando allí solo el amable policía? “¿A dónde te gustaría ir ahora?”, dice con una voz reconfortante del padre Dougal. “¿Te gusta la pizza? Conozco un gran lugar para comer pizza”.

Durante los meses siguientes, este policía te sigue diligentemente, tratando de ser útil, sonriendo mientras te dice cuántos datos ha recopilado sobre ti. Eso es la IA. La IA hará cualquier cosa para hacer la venta.

Por hombres blancos para hombres blancos

La IA ha sido desarrollada por un grupo de hombres blancos, de clase media y técnicos (junto con algunos hombres blancos de clase alta). Refleja su pensamiento, su cultura y sus prejuicios profundos y duraderos. Hace un par de años, un sistema de inteligencia artificial les dijo a las mujeres que sus síntomas de salud reflejaban ataques de pánico. Para los hombres con exactamente los mismos síntomas, la IA hizo el diagnóstico correcto: potencial de un ataque cardíaco. La IA había diagnosticado erróneamente a las mujeres porque los médicos varones habían pasado décadas diagnosticando erróneamente a las mujeres, y estos fueron los datos perjudiciales de los que aprendió la IA: datos de salud dominados por las necesidades de los hombres blancos ricos. Hay cientos de ejemplos como este. No se trata de errores. Estas son características de la IA. En el ámbito de la salud, la IA está diseñada para dirigirse a los pobres y a las personas mayores con el fin de negarles servicios y así ahorrar costes y ganar más dinero para las grandes empresas tecnológicas y sanitarias.

Sesgo de la IA: reflejo de prejuicios culturales profundamente arraigados

La IA se alimenta de datos. No existen los datos neutrales. Los datos son cultura. Los datos son prejuicios. Los datos reflejan las estructuras de poder. Los prejuicios están muy arraigados en la IA y en la mayoría de los sistemas informáticos porque están diseñados por hombres blancos que trabajan para las grandes empresas tecnológicas o por universidades de élite para hombres blancos. El sesgo y el prejuicio de la IA son tan profundos y arraigados que muchos de estos mismos hombres blancos están conmocionados, disgustados y muestran un desdén absoluto hacia cualquiera que pueda plantear este tema.

Sistemas de IA: excluyendo a las minorías, favoreciendo a las élites

Vi un sistema de sensores automáticos para un secador de manos que no funcionaba cuando una persona negra ponía sus manos debajo de él porque solo se probaba con manos blancas. La IA y otros sistemas informáticos están diseñados para minimizar los beneficios para las personas más pobres y mantenerlos bien controlados. Esto se debe a que otro principio de la IA, y de los sistemas informáticos en general, es que “reduce los costes”. Un estudio reciente de estudios encontró que la IA rara vez considera las necesidades sociales y el potencial negativo de la IA, y en su lugar se centra en cuestiones como el rendimiento y la eficiencia. En la IA se asume la centralización del poder. La IA quiere llevarlo todo de vuelta a casa en Bing, Google o Facebook. Veinte grandes empresas tecnológicas gobiernan el mundo.

El rendimiento y la eficiencia son algunas de las métricas más negativas y destructivas que las sociedades han desarrollado. Impulsan enormes necesidades de energía, enormes desechos tóxicos, mediante una marcha implacable para lograr ganancias incrementales. Su máxima abominación en rendimiento y eficiencia es el vehículo eléctrico Hummer, cuya batería eléctrica pesa tanto como un automóvil Honda Civic, podría alimentar 240 bicicletas eléctricas y es la mitad de grande que la batería requerida para un autobús eléctrico. Es tan eficiente que el automóvil puede pasar de 0 a 60 mph en 3.3 segundos gracias a su “modo de conducción de control de lanzamiento Watts to Freedom”. El Hummer es un ordenador sobre ruedas.

El rendimiento y la eficiencia son la forma en que los geeks machistas flexionan sus músculos y así es como se juzga el motor de IA. Todo es muy inmaduro y tremendamente peligroso porque el corazón de la IA es codicioso, necesitado y fanfarrón. La IA podría desarrollarse de una manera mucho más sostenible y ética, pero no sería tan divertida ni generaría tanto dinero para los geeks machistas.

Diseñado como un misterio

En la década de 1950, la IA se desarrolló para imitar el cerebro durante un período en el que se sabía muy poco sobre cómo funcionaba el cerebro. La incognoscibilidad del cerebro fue en realidad una atracción para estos pioneros de la IA y muchos sintieron una intoxicación en el desarrollo de sistemas de IA que también eran incognoscibles, incluso para sus propios diseñadores. Lo que esto significa es que la forma en que la IA toma una decisión está diseñada para ser incognoscible. Esto tendrá enormes implicaciones para las futuras sociedades humanas porque, por ejemplo, si crees que la IA te ha negado injustamente un beneficio estatal, no tendrás ningún medio práctico de apelación. Solo tendrás que confiar en la palabra de la IA. Si la IA puede, engañará y maltratará a los pobres y a las minorías porque ese es su ADN. Está destinado a ahorrar y ganar dinero para las personas ricas y poderosas.

“Es probable que comprendamos aún menos las decisiones y los impactos de la IA con el tiempo”, escribió David Beer para la BBC en 2023.

Estamos, en esencia, tratando a la IA como un Dios omnisciente en el que debemos tener fe, como hemos tratado a gran parte de la tecnología moderna como un Dios. Si quieres obtener el sabor más pequeño del mundo que la IA probablemente construirá para nosotros, lee sobre el aterrador fiasco del software en la Oficina de Correos del Reino Unido. Sabían que el software era profundamente defectuoso y, sin embargo, cuando este software identificó a los administradores de correos como los que habían robado dinero, creyeron en el software y durante años enviaron a personas inocentes a la cárcel, destruyendo vidas, porque el software no podía estar equivocado. Demasiada fe en la tecnología es algo verdaderamente terrible.

Un truco de magia sucia de las grandes tecnológicas

Si bien la IA es indudablemente extraordinariamente poderosa, como muchas otras cosas sobre las grandes tecnológicas, a menudo se emplea un truco de magia entre bastidores. Detrás de la cortina mágica de la IA, en los países pobres, montones y montones de trabajadores mal pagados, sobrecargados de trabajo y maltratados emocional y psicológicamente se utilizan para vadear las alcantarillas de los datos de la IA y limpiar las cosas sucias, sucias y odiosas, y ayudar a la IA a aprender y afinarse.

Estos daños podrían mitigarse en gran medida si se utilizara más cuidado editorial en la selección de las fuentes de datos. Eso no sucederá porque es un problema de costos. Está bien costarle a la salud de la gente pobre siempre y cuando los costos de Google, Microsoft y Facebook se mantengan bajos.

La IA es ávida de materiales, energía y agua

La IA come demasiado y bebe demasiado. No hay nada frugal en su ADN. Vive a lo grande. La IA come grandes cantidades de metales, minerales y datos, y bebe grandes cantidades de energía y agua. Fue diseñado con un apetito feroz y devorador. Está diseñado de acuerdo con filosofías de tecnología profunda donde la energía y los materiales son baratos y desechables. En la filosofía de la tecnología, los materiales son ilimitados y los daños son inmateriales, desmaterializados, en la nube.

Los modelos de IA son de fuerza bruta, ya que utilizan una enorme potencia de procesamiento y grandes cantidades de datos. Podrían ser 10 o 50 veces más frugales, pero para los diseñadores e ingenieros de IA, este ha sido un concepto ridículo, que ni siquiera vale la pena considerar. (La inminente catástrofe ambiental está obligando a algunas pequeñas revisiones de lavado verde en esta filosofía).

Sin embargo, ser frugal y ser ligero es ajeno a una cultura de desarrollo de las grandes tecnológicas que se nutre del consumo excesivo. Además del daño al medio ambiente, este enfoque de diseño de fuerza bruta significa que solo las organizaciones grandes y poderosas tienen los recursos para los modelos de desarrollo de IA. La IA es la herramienta definitiva de las élites, la herramienta definitiva de consolidación.

La potencia de cálculo necesaria para los modelos de IA se multiplicó por 300.000 entre 2012 y 2018, y el crecimiento sigue siendo exponencial. “La integración de grandes modelos lingüísticos en los motores de búsqueda podría significar un aumento de cinco veces en la potencia de cálculo y enormes emisiones de carbono”, escribió Chris Stokel-Walker para Wired en 2023. Hay casi 2 mil millones de búsquedas realizadas en Google todos los días. El aumento del costo energético de la búsqueda tiene impactos ambientales significativos.

Vida emergente

Desarrollé un interés en la IA en la década de 1980. En esa etapa, la IA era filosóficamente un campo relativamente maduro. Las posibilidades de desarrollo de la IA se podían ver y articular claramente, incluso si la tecnología de la época no tenía todas las capacidades. Sin embargo, la tecnología era poderosa. Incluso en la década de 1950, la tecnología era poderosa. Algo desconcertante de descubrir fue que los tecnólogos y científicos no sabían realmente lo que estaban haciendo. Sí, estaban conectando muchas cosas y soldando muchos cables, pero no sabían muy bien cómo funcionaban las cosas, cómo estas magníficas máquinas estaban produciendo los resultados que estaban produciendo. Era desconcertante leer a muchos científicos que estaban encantados con esta incognoscibilidad, que querían diseñar algo que no se pudiera entender.

Controversia sobre la IA: ¿amenaza futura o simplemente una herramienta?

Otra cosa desconcertante era que había una fuerte escuela de pensamiento que decía con entusiasmo que estábamos alimentando sin saberlo, o tal vez a sabiendas, el surgimiento de una nueva forma de vida que finalmente nos reemplazaría. Hubo, por supuesto, muchos científicos eminentes que dijeron que era una idea ridícula. Recuerdo que a mediados de la década de 1980 asistí a una conferencia en el Trinity College de un científico ganador del Premio Nobel que se burlaba de la idea misma de que la IA fuera una forma de vida emergente. “La IA nunca podrá apreciar a Beethoven o un buen vino francés”, dijo. Levanté la mano y le pregunté: “¿De qué servirá decirle a un robot que te apunta con una pistola: ‘Pero no puedes apreciar a Beethoven…’?”

Investigadores de IA: ¿Progreso o peligro por delante?

Hoy en día, el 50% de los investigadores de IA piensan que hay más del 10% de posibilidades de que la IA reemplace a los humanos. (Deberías leer esa última oración 10 veces más y pensar en sus implicaciones durante al menos una semana). La IA “está siendo construida por personas que piensan que podría destruirnos”, escribió David Wallace-Wells en The New York Times en 2023.

Entre bastidores, muchos investigadores de IA están suplicando desesperadamente a los gobiernos que introduzcan normas y ralenticen el desarrollo de la IA, mientras que muchos más investigadores de IA (y sus codiciosos patrocinadores capitalistas de riesgo) intentan desesperadamente acelerar su desarrollo. ¿Quién ganará? Los codiciosos, por supuesto. La codicia conquista todo en la sociedad humana que hemos creado.

Sueña con la IA

Una vez tuve un sueño sobre la IA. La escena fue hace millones de años. Era África. El clima estaba cambiando, las selvas retrocedían y los pastizales se expandían. Dos viejos y sabios simios estaban sentados en un árbol, disfrutando de la compañía del otro. Abajo, algunos simios más jóvenes se preparaban para abandonar el grupo. Se dirigían a través de las praderas y practicaban caminar sobre dos piernas. “No terminará bien para nosotros”, le dijo un simio al otro mientras los veían partir. El otro no dijo nada durante mucho tiempo. Finalmente, se volvió hacia su amigo y le dijo: “¿Pero qué podemos hacer?”

El futuro de la IA: se necesita código moral y sabiduría

Aquellos dos sabios simios se sentían impotentes ante el andar de los monos. ¿Somos impotentes frente a la carrera del desarrollo de la IA? Podemos hacer algo. Debemos empezar por ralentizar radicalmente la IA para que haya mucho más tiempo para pensar y probar. Podemos darle lo que llamamos un “corazón”, un “alma”, una conciencia. Podemos establecer principios de equidad para la IA. Debemos exigir transparencia.

Un principio clave de la IA debe ser que podamos rastrear la respuesta y ver la lógica y las fuentes utilizadas para llegar a la respuesta. Debemos desmitificar la IA. Debemos inyectar en el ADN de la IA principios de justicia, integridad, amor por la naturaleza, un sentimiento de conexión con todos los seres vivos y un profundo respeto por todos los materiales. Debemos enseñar a la IA sobre el amor, y que el amor más grande y nutritivo de todos no es el de uno mismo, sino el de los demás y el de toda la naturaleza. Debemos limitar severamente el modelo de consumo excesivo y devorador de ganancias de las grandes tecnológicas.

La inteligencia humana es lo que está destruyendo nuestro medio ambiente. Tenemos un exceso de inteligencia y una hambruna de sabiduría. Debemos enseñar sabiduría a la IA. Pero primero, debemos enseñar sabiduría a los humanos.

Fuente: https://www.cmswire.com/digital-experience/ai-development-ethics-ai-is-designed-to-lie/