San Francisco Inicia una Batalla Legal Contra Sitios Web de Imágenes Íntimas Generadas por IA

En un movimiento pionero, San Francisco ha lanzado una ofensiva legal contra sitios web que utilizan inteligencia artificial para crear imágenes íntimas no consensuadas, comúnmente conocidas como deepfakes. Esta demanda sin precedentes, presentada en nombre de los habitantes de California, apunta a varios servicios internacionales que prometen "desvestir cualquier foto" en segundos.

David Chiu, Fiscal de la Ciudad de San Francisco, lideró esta acción legal contra sitios web que operan desde Estonia, Serbia, el Reino Unido y otros lugares. Chiu subrayó el devastador impacto de estas imágenes generadas por IA en las víctimas, citando problemas como acoso, humillación, amenazas y graves consecuencias para la salud mental.

La demanda alega violaciones de las leyes estatales de California relacionadas con prácticas empresariales fraudulentas, pornografía no consensuada y abuso sexual infantil. Sin embargo, el caso enfrenta desafíos significativos, particularmente en la identificación y procesamiento de los operadores de estos servicios, que a menudo están envueltos en anonimato.

Esta acción legal sigue a un incidente preocupante en Almendralejo, España, donde imágenes íntimas generadas por IA de chicas de secundaria circularon ampliamente, llevando a la sentencia de 15 compañeros a un año de libertad condicional. A pesar de esta acción legal, la herramienta de IA utilizada en el caso español sigue siendo fácilmente accesible en línea.

La Dra. Miriam al Adib Mendiri, una médica cuya hija fue una de las víctimas en España, aplaudió la iniciativa de San Francisco, al mismo tiempo que pidió una mayor responsabilidad de gigantes tecnológicos como Meta Platforms y su filial WhatsApp, que se utilizaron para difundir las imágenes en el caso español.

El potencial de la demanda para establecer un precedente legal ha captado la atención de organizaciones que combaten el material de abuso sexual infantil generado por IA. Emily Slifer, Directora de Políticas en Thorn, una organización que lucha contra la explotación sexual infantil, destacó la importancia del caso en la configuración de futuros enfoques legales sobre este tema.

Sin embargo, expertos como Riana Pfefferkorn, investigadora de la Universidad de Stanford, señalan los desafíos para procesar a los acusados internacionales. Pfefferkorn sugiere que, incluso si los acusados ignoran la demanda, una victoria en defecto para San Francisco podría llevar a acciones contra registradores de nombres de dominio, proveedores de alojamiento web y procesadores de pagos, lo que podría cerrar estos sitios.

La respuesta de la Unión Europea al incidente de Almendralejo a principios de este año indicó que la aplicación utilizada no se encuentra bajo las nuevas normas de seguridad en línea del bloque debido a su tamaño reducido, destacando las complejidades en la regulación de tales herramientas.

A medida que el caso se desarrolla, es probable que sirva como una prueba para las estrategias legales contra las violaciones de privacidad impulsadas por IA y las imágenes no consensuadas. El resultado podría tener implicaciones de gran alcance para cómo las jurisdicciones de todo el mundo abordan la creciente amenaza de los deepfakes generados por IA y su impacto en las personas, particularmente en mujeres y menores.

Esta batalla legal subraya la necesidad urgente de enfoques integrales para combatir el uso indebido de la tecnología de IA, equilibrando la innovación tecnológica con una protección robusta para la privacidad y dignidad individual en la era digital.