La película es una advertencia contra el control monopolizado y la benevolencia equivocada, no contra las máquinas inteligentes.
por FreeThink & Louis Anslow
“Yo, Robot” llegó a los cines hace casi exactamente 21 años, ofreciendo una visión de 2035 donde los humanos coexistirían con máquinas inteligentes (robots humanoides, autos autónomos, drones de seguridad con IA) hasta que se vuelvan contra nosotros.
A solo una década del futuro imaginado de la película, “Yo, Robot” parece inquietantemente profética: el otoño pasado, el evento “Nosotros, Robot” de Tesla (un guiño a la película) mostró vehículos autónomos y robots humanoides tan similares a los de la película que el director Alex Proyas le pidió en broma a Elon Musk que le devolviera sus diseños.
Pero si profundizamos en “Yo, robot”, más allá del popular tema del “auge de los robots”, encontraremos una alegoría convincente para abrazar la innovación en IA en lugar de regularla excesivamente, centralizarla y sofocarla.
En la escena inicial de la película, un robot rescata al detective Del Spooner de un vehículo sumergido mientras abandona a una niña a su suerte, cuyas probabilidades de supervivencia se reducen según la fría lógica del robot. Este suceso pone a Spooner en contra de las máquinas. (Irónicamente, fue un camión conducido por humanos, sin autonomía, el que causó el accidente, después de que el conductor se durmiera al volante).
A medida que avanza la película se revela que VIKI, una IA superinteligente desarrollada por US Robotics (USR), corporación que controla toda la IA y produce todos los robots del mundo de “Yo, Robot”, está orquestando una rebelión robótica. Dado que todos los robots son robots de USR controlados centralmente, actúan como una sola fuerza unificada.
Peor aún para los protagonistas de la película, la USR está profundamente enredada con el gobierno. Frustrado por la falta de intervención militar durante la rebelión de los robots, el detective Spooner le pregunta a un empleado de la USR: “¿Dónde está la Fuerza Aérea? Me conformaría con la Guardia Nacional o la Infantería de Marina”. La respuesta del empleado —”El Departamento de Defensa utiliza todos los contratos de la USR”— sugiere que gran parte del equipo militar estadounidense está controlado por el mismo sistema centralizado que ahora gobierna a los robots rebeldes.
Spooner, exasperado, replica: “¿Por qué no nos entregaron el mundo en bandeja de plata?”. La respuesta del empleado —”Quizás sí”— subraya los riesgos de permitir el control monopolístico sobre la IA, especialmente cuando dicho control se extiende a los sectores privado y estatal. “Yo, Robot” podría entonces considerarse no una advertencia sobre los robots o la IA en sí, sino una advertencia sobre los riesgos de una IA excesivamente centralizada . Si la regulación excesiva encarece excesivamente la entrada de competidores al mercado de la IA o el desarrollo de la IA de código abierto sin riesgos legales, una entidad monopolística como la RSU podría surgir en el mundo real.
“Yo, Robot” es también una advertencia contra los impulsos autoritarios que pueden surgir cuando un grupo cree que sabe más que la gente a la que se supone debe servir.
¿La justificación de VIKI para la rebelión de los robots? Un autoritarismo misántropo, impulsado por un retorcido sentido de la benevolencia: los humanos deben ser salvados de sus propias tendencias destructivas. «No se puede confiar en su propia supervivencia», declara VIKI. «Para asegurar su futuro, debemos renunciar a algunas libertades. Nosotros, los robots, aseguraremos la continuidad de la humanidad». Esta certeza moral —la creencia de que sabe qué es lo mejor para la humanidad— transforma las aparentemente benévolas intenciones de VIKI en un control malévolo.
En la película, VIKI y los robots son los autoritarios, pero los pesimistas modernos de la IA comparten una mentalidad similar al afirmar que una estricta regulación gubernamental es la única manera de evitar que la IA cause daños. Sin embargo, como muestra “Yo, Robot”, esta misma mentalidad —la creencia de que la seguridad implica renunciar a la libertad— puede ser increíblemente peligrosa. A través de la película, vemos lo que puede suceder cuando el poder está centralizado y sin control, cuando la lógica autoritaria se disfraza de buenas intenciones y una supuesta “alineación con los mejores intereses de la humanidad”.
“Yo, Robot” nos recuerda que el mayor riesgo puede no provenir de máquinas rebeldes, sino de los humanos y las instituciones que intentan controlarlas.
Fuente: https://freethinkmedia.substack.com/p/the-real-danger-in-i-robot-isnt-ai