Timnit Gebru

Timnit Gebru, una de las pocas mujeres negras en su campo, había expresado su exasperación por la respuesta de la empresa a los esfuerzos por aumentar la contratación de minorías.

por Cade Metz y Daisuke Wakabayashi

Timnit Gebru
Timnit Gebru, un investigador respetado de Google, cuestionó los sesgos integrados en los sistemas de inteligencia artificial. Crédito: Cody O’Loughlin para The New York Times

Una investigadora de Google muy respetada dijo que la empresa la despidió después de criticar su enfoque sobre la contratación de minorías y los prejuicios incorporados en los sistemas de inteligencia artificial actuales.

Timnit Gebru, quien era codirectora del equipo de IA ética de Google, dijo en un tweet el miércoles por la noche que la despidieron debido a un correo electrónico que envió un día antes a un grupo que incluía empleados de la empresa.

En el correo electrónico, revisado por The New York Times, expresó su exasperación por la respuesta de Google a los esfuerzos de ella y otros empleados para aumentar la contratación de minorías y llamar la atención sobre los prejuicios en la inteligencia artificial.

“Tu vida comienza a empeorar cuando comienzas a defender a personas subrepresentadas. Empieza a molestar a los otros líderes ”, decía el correo electrónico. “No hay forma de que más documentos o más conversaciones logren algo”.

Su salida de Google pone de relieve la creciente tensión entre la fuerza laboral franca de Google y su alta gerencia, al mismo tiempo que genera preocupaciones sobre los esfuerzos de la compañía para construir una tecnología justa y confiable. También puede tener un efecto paralizante tanto en los trabajadores tecnológicos negros como en los investigadores que han dejado la academia en los últimos años por trabajos bien pagados en Silicon Valley.

“Su despido solo indica que los científicos, activistas y académicos que quieren trabajar en este campo, y son mujeres negras, no son bienvenidos en Silicon Valley”, dijo Mutale Nkonde, miembro del Laboratorio de la Sociedad Civil Digital de Stanford. “Es muy decepcionante”.

Un portavoz de Google se negó a comentar. En un correo electrónico enviado a los empleados de Google, Jeff Dean, que supervisa el trabajo de inteligencia artificial de Google, incluido el de la Dra. Gebru y su equipo, calificó su partida como “un momento difícil, especialmente dados los importantes temas de investigación en los que estuvo involucrada y lo profundamente que se preocupan por la investigación responsable de la IA como organización y como empresa “.

Después de años de un entorno de todo vale donde los empleados participaron en discusiones libres en reuniones de toda la empresa y foros de mensajes en línea, Google ha comenzado a tomar medidas enérgicas contra el discurso en el lugar de trabajo. Muchos empleados de Google se han enfurecido con las nuevas restricciones y han argumentado que la empresa ha roto con la tradición de transparencia y debate libre.

El miércoles, la Junta Nacional de Relaciones Laborales dijo que lo más probable es que Google haya violado la ley laboral cuando despidió a dos empleados que estaban involucrados en la organización laboral. La agencia federal dijo que Google vigiló ilegalmente a los empleados antes de despedirlos.

Las batallas de Google con sus trabajadores, que se han pronunciado en los últimos años sobre el manejo del acoso sexual por parte de la compañía y su trabajo con el Departamento de Defensa y las agencias fronterizas federales, han disminuido su reputación como una utopía para los trabajadores tecnológicos con salarios generosos, beneficios y libertad en el lugar de trabajo. .

Al igual que otras empresas de tecnología, Google también se ha enfrentado a críticas por no hacer lo suficiente para resolver la falta de mujeres y minorías raciales entre sus filas.

Los problemas de la desigualdad racial, especialmente el maltrato de los empleados negros en las empresas de tecnología, han plagado a Silicon Valley durante años. Coinbase, la puesta en marcha de criptomonedas más valiosa, ha experimentado un éxodo de empleados negros en los últimos dos años por lo que los trabajadores dijeron que era un trato racista y discriminatorio.

A los investigadores les preocupa que las personas que están construyendo sistemas de inteligencia artificial puedan estar incorporando sus propios prejuicios a la tecnología. Durante los últimos años, varios experimentos públicos han demostrado que los sistemas a menudo interactúan de manera diferente con las personas de color, tal vez porque están subrepresentadas entre los desarrolladores que crean esos sistemas.

El Dr. Gebru, de 37 años, nació y se crió en Etiopía. En 2018, mientras era investigadora en la Universidad de Stanford, ayudó a escribir un artículo que se considera un punto de inflexión en los esfuerzos por identificar y eliminar el sesgo en la inteligencia artificial. Se unió a Google más tarde ese año y ayudó a crear el equipo de IA ética.

Después de contratar a investigadores como el Dr. Gebru, Google se ha pintado a sí misma como una empresa dedicada a la IA “ética”. Pero a menudo se muestra reacia a reconocer públicamente las fallas en sus propios sistemas.

En una entrevista con The Times, la Dra. Gebru dijo que su exasperación provenía del tratamiento de la compañía de un artículo de investigación que había escrito con otros seis investigadores, cuatro de ellos en Google. El documento, también revisado por The Times, identificó fallas en una nueva generación de tecnología del lenguaje, incluido un sistema creado por Google que sustenta el motor de búsqueda de la compañía.

Estos sistemas aprenden los caprichos del lenguaje analizando enormes cantidades de texto, incluidos miles de libros, entradas de Wikipedia y otros documentos en línea. Debido a que este texto incluye un lenguaje sesgado y a veces odioso, la tecnología puede terminar generando un lenguaje sesgado y odioso.

Después de que ella y los otros investigadores presentaron el artículo a una conferencia académica, dijo el Dr. Gebru, un gerente de Google le exigió que retirara el artículo de la conferencia o que eliminara su nombre y los nombres de los otros empleados de Google. Ella se negó a hacerlo sin más discusión y, en el correo electrónico enviado el martes por la noche, dijo que renunciaría después de un período de tiempo apropiado si la compañía no podía explicar por qué quería que se retractara del documento y respondiera otras inquietudes.

La compañía respondió a su correo electrónico, dijo, diciendo que no podía cumplir con sus demandas y que su renuncia fue aceptada de inmediato. Su acceso al correo electrónico de la empresa y otros servicios fue revocado de inmediato.

En su nota a los empleados, Dean dijo que Google respetó “su decisión de renunciar”. Dean también dijo que el documento no reconoce las investigaciones recientes que muestran formas de mitigar el sesgo en tales sistemas.

“Fue deshumanizante”, dijo el Dr. Gebru. “Pueden tener razones para cerrar nuestra investigación. Pero lo más perturbador es que se niegan a discutir por qué “.

La salida del Dr. Gebru de Google se produce en un momento en que la tecnología de inteligencia artificial está desempeñando un papel más importante en casi todas las facetas del negocio de Google. La compañía ha enganchado su futuro a la inteligencia artificial, ya sea con su asistente digital habilitado por voz o su ubicación automatizada de publicidad para los especialistas en marketing, como la tecnología innovadora para hacer que la próxima generación de servicios y dispositivos sea más inteligente y más capaz.

Sundar Pichai, director ejecutivo de Alphabet, la empresa matriz de Google, ha comparado el advenimiento de la inteligencia artificial con el de la electricidad o el fuego, y ha dicho que es esencial para el futuro de la empresa y la informática. A principios de este año, Pichai pidió una mayor regulación y un manejo responsable de la inteligencia artificial, argumentando que la sociedad necesita equilibrar los daños potenciales con nuevas oportunidades.

Google se ha comprometido repetidamente a eliminar los prejuicios en sus sistemas. El problema, dijo el Dr. Gebru, es que la mayoría de las personas que toman las decisiones finales son hombres. “No solo están fallando en dar prioridad a la contratación de más personas de comunidades minoritarias, sino que están sofocando sus voces”, dijo.

Julien Cornebise, profesor asociado honorario del University College London y ex investigador de DeepMind, un laboratorio de inteligencia artificial prominente propiedad de la misma empresa matriz que Google, se encontraba entre los muchos investigadores de inteligencia artificial que dijeron que la partida del Dr. Gebru reflejaba un problema mayor en la industria. .

“Esto muestra cómo algunas grandes empresas de tecnología solo apoyan la ética y la justicia y otras causas de inteligencia artificial para el bien social, siempre que su impacto positivo en las relaciones públicas supere el escrutinio adicional que aportan”, dijo. “Timnit es un investigador brillante. Necesitamos más como ella en nuestro campo “.

Fuente: https://www.nytimes.com/2020/12/03/technology/google-researcher-timnit-gebru.html

Deja un comentario