Los colegios públicos de la ciudad de Seattle han sido los últimos en demandar a plataformas como Meta, TikTok y YouTube para que asuman sus responsabilidades.
Las escuelas públicas de la ciudad de Seattle (Washington, EE UU) han sido las últimas en sumarse a una ofensiva contra las grandes tecnológicas en defensa de la salud mental de los estudiantes. El distrito escolar de la ciudad, cuna de empresas como Microsoft o Amazon, inició el 6 de enero un proceso judicial que busca cambiar la manera en la que operan TikTok, Instagram, Facebook, SnapChat y YouTube. De acuerdo con la demanda, estas plataformas explotan el sistema de recompensas del cerebro de los jóvenes para que estos vuelvan una y otra vez a las aplicaciones, y les generan ansiedad, depresión y pensamientos suicidas.
Las grandes tecnológicas enfrentan demandas en Estados Unidos por afectar la salud mental de los jóvenes
Las plataformas fueron señaladas por “promover contenido dañino” a los jóvenes explotando cerebros vulnerables y por generar un desorden público
Al igual que las industrias del tabaco, el petróleo, las armas, los opiáceos y los cigarrillos electrónicos, las grandes empresas estadounidenses de redes sociales se enfrentan ahora a demandas interpuestas por entidades públicas que pretenden responsabilizarlas de un enorme problema social: en su caso, la crisis de salud mental entre los jóvenes.
Pero las nuevas demandas -una presentada por el distrito escolar público de Seattle la semana pasada, una segunda presentada por un distrito suburbano el lunes y casi con toda seguridad más en el futuro- se enfrentan a un camino legal incierto.
En el caso de la primera, el distrito escolar presentó la demanda en contra de los gigantes tecnológicos que poseen a TikTok, Instagram, Facebook, YouTube y Snapchat, en un intento por exigirles cuentas por la crisis de salud mental entre los jóvenes. En la demanda de 91 páginas, que se interpuso el viernes en una corte federal, se asegura que las empresas de redes sociales han creado un desorden público al enfocar sus productos en los niños.
Culpa a las redes sociales del deterioro en la salud mental y trastornos de comportamiento, incluyendo ansiedad, depresión, trastornos alimenticios y acoso cibernético; complicando las labores de educar a los estudiantes; y obligando a las escuelas a tomar medidas como contratar a más profesionales en salud mental, desarrollar planes de estudio sobre los efectos de las redes sociales y proveer capacitación adicional al personal docente.
“Los acusados han explotado con éxito los cerebros vulnerables de la juventud, enganchando a decenas de millones de estudiantes en todo el país en ciclos de retroalimentación positiva por el uso excesivo y abuso de las plataformas de redes sociales de los acusados”, indicó la demanda. “Peor aún, el contenido de los acusados creado y dirigido a la juventud a menudo resulta dañino y explotador”.
Meta, Google, Snap y TikTok no respondieron de inmediato a solicitudes de comentarios.
Si bien la ley federal — sección 230 de la Ley de Decencia en las Comunicaciones — ayuda a proteger a las compañías de internet de la responsabilidad como resultado de lo que terceros publican en sus plataformas, la demanda argumenta que la medida no protege el comportamiento de las empresas en este caso.
“La parte demandante no arguye que los acusados son responsables de lo que terceros han dicho en las plataformas de los acusados, sino la propia conducta de los acusados”, indica la demanda. “Los acusados recomiendan de forma afirmativa y promueven contenido dañino a los jóvenes, como el contenido a favor de la anorexia y los trastornos alimenticios”.
La demanda asegura que entre 2009 y 2019, hubo en promedio un aumento del 30% en el número de alumnos del distrito de escuelas públicas de Seattle que reportaron haberse sentido “tan tristes o desesperanzados casi todos los días durante al menos dos semanas en fila” al grado que dejaron de hacer sus actividades habituales.
El distrito escolar está pidiendo que la corte ordene a las compañías dejar de crear molestias públicas, otorgar compensación, y pagar por educación preventiva y tratamiento por uso excesivo y problemático de redes sociales.
Si bien cientos de familias han presentado demandas en contra de las empresas por daños que han sufrido sus hijos a causa de las redes sociales, de momento se desconoce si otros distritos escolares han interpuesto denuncias similares a la de Seattle.
El camino legal
Está previsto que el Tribunal Supremo de EEUU examine el mes que viene hasta qué punto la legislación federal protege a la industria tecnológica de este tipo de demandas cuando los algoritmos de las redes sociales difunden contenidos potencialmente nocivos.
Aunque el Tribunal Supremo autorizara demandas como la de Seattle, el distrito tiene ante sí el enorme reto de demostrar la responsabilidad del sector.
Y la industria tecnológica insiste en que los efectos de las redes sociales en la salud mental de los adolescentes difieren en muchos aspectos de, por ejemplo, el papel de las grandes farmacéuticas en el fomento de la adicción a los opioides.
“El argumento subyacente es que la industria tecnológica es culpable del estado emocional de los adolescentes, porque hizo recomendaciones sobre contenidos que han causado daños emocionales”, dijo Carl Szabo, vicepresidente y consejero general de la asociación comercial de la industria tecnológica NetChoice. “Sería absurdo demandar a Barnes & Noble porque un empleado recomendó un libro que causó daños emocionales o hizo sentir mal a un adolescente. Pero eso es exactamente lo que hace esta demanda”.
“Nuestros alumnos -y los jóvenes de todo el mundo- se enfrentan a dificultades sin precedentes en el aprendizaje y la vida, que se ven amplificadas por los efectos negativos del aumento del tiempo frente a la pantalla, los contenidos no filtrados y las propiedades potencialmente adictivas de las redes sociales”, declaró el martes el superintendente de Seattle, Brent Jones, en un comunicado enviado por correo electrónico. “Confiamos y esperamos que esta demanda sea un paso significativo hacia la inversión de esta tendencia para nuestros estudiantes”.
El argumento de que la ley federal no protege el comportamiento de los gigantes tecnológicos en este caso, en el que sus propios algoritmos promueven contenidos nocivos, también es la cuestión de fondo en el caso González contra Google, la empresa matriz de YouTube, que se presentará ante el Tribunal Supremo el 21 de febrero. En ese caso, la familia de una mujer estadounidense asesinada en un atentado del grupo Estado Islámico en París en 2015 alega que los algoritmos de YouTube ayudaron al reclutamiento del grupo terrorista.
Si la decisión del alto tribunal deja claro que las empresas tecnológicas pueden ser consideradas responsables en estos casos, los distritos escolares tendrán que demostrar que las redes sociales fueron las culpables.
Pero Szabo señaló que las tasas de graduación de Seattle han ido en aumento desde 2019, durante una época en la que muchos niños dependían de las redes sociales para mantenerse en contacto con sus amigos durante la pandemia. Si los medios sociales fueran realmente tan perjudiciales para los esfuerzos educativos del distrito, la tasa de graduación no estaría aumentando, sugirió.
“La demanda se centra únicamente en cómo las redes sociales perjudican a los niños, y puede que haya pruebas de ello”, afirma Eric Goldman, profesor de la Facultad de Derecho de la Universidad de Santa Clara, en Silicon Valley. “Pero también hay muchas pruebas de que las redes sociales benefician a los adolescentes y a otros niños. Lo que no sabemos es cómo sería la tasa de angustia sin las redes sociales. Es posible que la tasa de angustia fuera mayor, no menor”.
Las empresas han insistido en que se toman en serio la seguridad de sus usuarios, especialmente de los niños, y han introducido herramientas para facilitar que los padres sepan con quién contactan sus hijos; han hecho más prominentes los recursos de salud mental, incluido el nuevo teléfono de crisis 988; y han mejorado la verificación de la edad y los límites de tiempo de pantalla.
“Configuramos automáticamente las cuentas de los adolescentes como privadas cuando se unen a Instagram, y les enviamos notificaciones animándoles a tomarse descansos regulares”, dijo Anitigone Davis, responsable global de seguridad de Meta, en un comunicado enviado por correo electrónico. “No permitimos contenidos que promuevan el suicidio, las autolesiones o los trastornos alimentarios, y de los contenidos que eliminamos o sobre los que tomamos medidas, identificamos más del 99% antes de que se nos denuncie.”
La ex empleada de Facebook Frances Haugen reveló en 2021 estudios internos que demostraban que la empresa sabía que Instagram afectaba negativamente a los adolescentes al perjudicar su imagen corporal y empeorar los trastornos alimentarios y los pensamientos suicidas. Haugen alegó que la plataforma dio prioridad a los beneficios frente a la seguridad y ocultó sus investigaciones a los inversores y al público.
Josh Golin, director ejecutivo de Fairplay, una organización sin ánimo de lucro que trabaja para aislar a los niños de la comercialización y el marketing, afirma que aunque las redes sociales beneficien a algunos estudiantes, eso no borra el grave daño que causan a muchos otros.
“Los costes para la salud mental de los estudiantes, la cantidad de tiempo que las escuelas tienen que dedicar a vigilar y responder al drama de las redes sociales, son exorbitantes”, dijo Golin. “Es ridículo que las escuelas sean responsables de los daños causados por estas plataformas de medios sociales a los jóvenes. Nadie está viendo los tipos de efectos acumulativos que los medios sociales están causando en la medida en que lo están haciendo los distritos escolares.”
Ambos casos se presentaron ante el Tribunal de Distrito de Seattle, pero se basan en la ley estatal de alteración del orden público, un concepto jurídico amplio y vagamente definido cuyos orígenes se remontan al menos a la Inglaterra del siglo XIII. En Washington, la alteración del orden público se define, en parte, como “todo acto realizado ilegalmente y toda omisión en el cumplimiento de un deber” que “moleste, perjudique o ponga en peligro la seguridad, la salud, la comodidad o el descanso de un número considerable de personas”.
Las demandas por alteración del orden público contribuyeron a que la industria tabacalera llegara en 1998 a un acuerdo con los estados por valor de 246.000 millones de dólares en 25 años. Pero la ley de alteración del orden público también ha sido, al menos en parte, la base de los litigios entablados por gobiernos estatales, municipales, de condado o tribales para responsabilizar a las petroleras del cambio climático, a la industria armamentística de la violencia armada, a la industria farmacéutica de la crisis de los opioides y a las empresas de vaping, como Juul, del vaping entre los adolescentes.
Gran parte de los litigios están en curso. Juul Labs acordó el mes pasado llegar a un acuerdo en miles de demandas -incluidas 1.400 de distritos escolares, ciudades y condados- por un importe de 1.200 millones de dólares.
El litigio de Seattle tiene el potencial de provocar un cambio masivo, lo que suscita dudas sobre la conveniencia de abordar los grandes problemas de la sociedad en los tribunales en lugar de a través de la legislación. Sin embargo, el riesgo para el distrito escolar es mínimo, ya que un bufete de abogados privado presentó la demanda sobre la base de una contingencia en la que el bufete sólo cobra si el caso prospera.
Jolina Cuaresma, asesora principal de privacidad y política tecnológica de Common Sense Media, cuyo objetivo es hacer que los medios de comunicación sean más seguros para los niños, dijo que estaba encantada de ver a un distrito escolar presentar una demanda por alteración del orden público contra las empresas tecnológicas.
“La gente se ha cansado de esperar a que el Congreso haga algo”, dijo.
(Con información de AP)
El suicidio de una niña británica dispara el debate sobre la responsabilidad de las redes sociales
Un tribunal apunta por primera vez a dos tecnológicas, Instagram y Pinterest, al considerar que contribuyeron a que la joven Molly Russell se quitara la vida
La joven Molly Russell, de 14 años, fue hallada muerta en su habitación la mañana del 21 de noviembre de 2017 en Harrow, al noroeste de Londres. Se había quitado la vida. Su familia nunca detectó ningún comportamiento extraño en ella, más allá de que durante el último año pasaba más tiempo encerrada en su habitación. Lo achacaron a los cambios propios de la adolescencia. Pero cuando su padre, Ian Russell, revisó el correo electrónico de Molly en busca de alguna posible explicación de la tragedia, se encontró con un mensaje de Pinterest de hacía dos semanas titulado “Pins de depresión que te pueden gustar”. Siguió investigando y comprobó que, durante los seis meses anteriores a su muerte, la joven compartió o reaccionó en Instagram ante más de 2.000 publicaciones relacionadas con el suicidio, las autolesiones o la depresión.
Cinco años después, Instagram y Pinterest han sido llamadas a capítulo por las autoridades británicas. Elizabeth Lagone, directora de salud y política de bienestar de Meta, empresa matriz de Instagram, y Jud Hoffman, director global de operaciones de la comunidad de Pinterest, declararon a principios de octubre en un juzgado británico. Es la primera vez que dos tecnológicas participan en un proceso legal relacionado con el suicidio de un usuario.
“[Molly Russell] murió a causa de lesiones provocadas por ella misma mientras padecía de depresión y sufría los efectos negativos de contenidos en internet”, dijo Andrew Walker, abogado y médico forense (senior coroner) para el Distrito Norte de Londres. Esta figura tiene en el Reino Unido la potestad de iniciar investigaciones independientes que determinen las causas de la muerte de las personas. Walker no clasificó el suceso como un suicidio: el jurista estableció que internet había “afectado su salud mental [en referencia a Russell] de forma negativa y contribuido a su muerte”.
Las empresas no se enfrentan a multas ni sanciones. No se las convocó a un juicio penal o civil, sino a sesiones forenses. Pero se ha abierto el debate acerca de su corresponsabilidad en ciertos casos de suicidio, algo que no había sucedido antes. “Nuestros pensamientos están con la familia de Molly y con otras familias que se han visto afectadas por el suicidio o las autolesiones”, asegura Hoffman a EL PAÍS por correo electrónico. “La historia de Molly ha supuesto un cambio significativo para nosotros y seguiremos trabajando para crear un lugar seguro y positivo para nuestros pinners [usuarios de Pinterest]”.
Frances Haugen señaló el camino hace ahora un año. La exempleada de Meta llevó a la compañía a su peor crisis existencial a golpe de filtraciones de documentos internos, que alimentó una vasta investigación periodística de The Wall Street Journal. De entre las muchas revelaciones que aportó la ingeniera, hubo una que tuvo especial repercusión: los ejecutivos de Instagram ofrecían a sabiendas contenidos tóxicos a los jóvenes porque resultaban más adictivos y se monetizan mejor. Hasta el punto de que una presentación de trabajo revelaba que un 13% de las chicas británicas y un 6% de las estadounidenses que decían haber tenido pensamientos suicidas habían cultivado ese deseo gracias a dicha red social.
Los datos del Pew Research Center muestran que se multiplican las demandas en EE UU de padres que consideran que los algoritmos de las redes sociales causan perjuicios físicos a sus hijos. En lo que va de año se han registrado más de 70 pleitos contra Meta, Snap (dueña de Snapchat), ByteDance (matriz de TikTok) y Google por haber provocado ansiedad, depresión, trastornos alimentarios o falta de sueño en adolescentes y jóvenes adultos por culpa de su adicción a las redes sociales. De acuerdo con Bloomberg Businessweek, al menos siete de esos procesos proceden de padres cuyos hijos se han suicidado.
Janet Majewski, cuya hija de 14 años se quitó la vida, demandó en agosto a TikTok, Snapchat y Meta aludiendo que las citadas redes sociales son responsables de que la joven emprendiera un camino de no retorno. “Tienen que cambiar lo que muestran a los niños, modificar el algoritmo de manera que no les lleven a la oscuridad”, declaró a Bloomberg Businessweek.
Los pleitos a los que se enfrentan las redes sociales les piden que se responsabilicen de los efectos nocivos de sus productos, igual que sucedió hace 30 años con las tabaqueras. “Las tecnológicas creen que ese no es su problema. No está en su cultura empresarial luchar de verdad contra la difusión de contenidos que puedan fomentar el suicidio”, opina Albert Gimeno, portavoz de la asociación Padres 2.0, especializada en ciberacoso, adicciones tecnológicas o violencia digital, entre otras. “Las medidas que han puesto en marcha y los equipos que han creado para eliminar el contenido dañino no solo tienen que lidiar con un ingente volumen de información a revisar, sino con otros departamentos de las propias compañías que van en la dirección opuesta, como marketing, publicidad, ventas o comunicación”, añade.
Las redes sociales son enormemente influyentes en las vidas de los jóvenes. “La población adolescente con ciertos rasgos de personalidad y vulnerabilidades emocionales se ponen en contacto en un entorno donde pueden desplegar dolor, desesperación y desconexión con las vías de contacto tradicionales”, ilustra el psicólogo y psicoterapeuta Luis Fernando López, codirector del Proyecto ISNISS y coordinador técnico del programa Hablemos de Suicidio del Colegio Oficial de Psicólogos de Madrid. “Estos perfiles se encuentran en las redes sociales porque se sienten acompañados en los temas que les preocupan, mantienen cierto anonimato y ven que pertenecen a un grupo, tienen la seguridad de no ser enjuiciados y rechazados. Empiezan con comunicaciones públicas y luego evolucionan a entornos privados donde empiezan a desarrollarse conductas como las autolesiones o los pensamientos suicidas”, describe. En España, el número de suicidios infantiles se ha triplicado desde 2006.
Gimeno no tiene constancia de que en España estén proliferando demandas contra las redes sociales, como sí sucede en EE UU. Tampoco cree que tuvieran demasiado recorrido, y mucho menos que resolvieran el problema. “Los propios padres, la Administración, los centros educativos, el resto de internautas y otras empresas tecnológicas y de la comunicación también tiene un papel que desempeñar”, explica.
Algoritmos y supervisión manual
Cada minuto se suben a internet 2,4 millones de imágenes en Snapchat, 1,7 millones de publicaciones en Facebook o 66.000 fotos en Instagram, según la consultora Domo. La aproximación de las tecnológicas para cribar toda esa información combina los medios automáticos y analógicos. “La política actual de Pinterest sobre autolesiones ofrece una lista detallada de contenidos para su eliminación y la limitación de su distribución, con más de 25.000 términos en la lista de bloqueados”, apunta Hoffman. “Cuando el contenido infringe nuestras políticas, tomamos medidas al respecto a través de procesos humanos y automatizados. Si un usuario busca contenidos relacionados con el suicidio o las autolesiones, que no se le muestren resultados y, en su lugar, se le muestre un aviso que le dirija a expertos que puedan ayudarle si tiene problemas”.
/cloudfront-eu-central-1.images.arcpublishing.com/prisa/37GC24BLF25GWZ7UZWHTJ4E3TM.JPG)
La respuesta de Instagram es más flexible. Por un lado, establecen herramientas de control parental de los contenidos que ven los adolescentes. También prohíben los que promueven el suicidio o las autolesiones. “Encontramos y eliminamos el 98% de ese contenido antes de que se nos comunique acerca de ello”, apunta un portavoz de Meta. Por otro lado, la compañía permite que la gente hable de sus propios sentimientos y que comparta contenidos que traten sobre el suicidio, siempre que no lo promuevan.
El enfoque mixto, que combina herramientas automáticas de detección de material problemático con la moderación humana de contenidos, predomina en el sector. TikTok, por ejemplo, publica informes trimestrales sobre el cumplimiento de sus normas. En el último, que abarca de abril a julio de este año, se muestra que se eliminaron 113,8 millones de vídeos, lo cual supone en torno al 1% del total de vídeos publicados. “De estos, el 6,1% fueron eliminados por incumplir las políticas relacionadas con suicidio y retos peligrosos”, sostienen fuentes de ByteDance, propietaria de la red social.
Una medida más porosa, porque se puede falsear, pero que las tecnológicas se toman en serio, es la edad mínima de acceso. Facebook, TikTok, Instagram, Pinterest y Snapchat no aceptan a menores de 13 años; en YouTube hace falta tener 14. Google bloquea ciertas búsquedas y muestra teléfonos de ayuda a quienes se interesan por contenidos relacionados con las autolesiones o el suicidio. Lo mismo hace TikTok, que está empezando a sustituir a Google como el buscador preferido de los más jóvenes.
