SAN FRANCISCO, EE.UU. — En una nueva y alarmante tendencia, aplicaciones de «desnudización» están siendo utilizadas por jóvenes para convertir fotos de compañeras de clase en imágenes de pornografía deepfake. Estas aplicaciones permiten superponer rostros de personas completamente vestidas en cuerpos desnudos generados por inteligencia artificial, creando representaciones explícitas sin el consentimiento de las víctimas.

Yvonne Meré, madre de una adolescente de 16 años y fiscal adjunta principal en San Francisco, se unió a la lucha contra esta inquietante tendencia. Tras leer un artículo en el New York Times sobre el daño causado por estas imágenes, Meré se movilizó para presentar una demanda que busca cerrar los 16 sitios web más populares responsables de la creación de estos contenidos.

Esta demanda, presentada en un tribunal estatal el miércoles por la noche, es considerada como una de las primeras iniciativas gubernamentales de este tipo en el país. La demanda solicita a un juez que ordene el cierre total de los sitios web que facilitan la creación de pornografía deepfake, una medida que se considera esencial para proteger la privacidad y los derechos de las personas afectadas.

David Chiu, fiscal de la ciudad de San Francisco, explicó que, aunque varios estados han aprobado leyes que penalizan las representaciones sexuales explícitas generadas por inteligencia artificial, estas leyes solo permiten perseguir a los individuos responsables de crear y distribuir las imágenes, una tarea compleja y laboriosa. En contraste, la demanda de San Francisco busca cerrar directamente los sitios web involucrados.

Los sitios web implicados han recibido un total de 200 millones de visitas en los primeros seis meses de este año, y están ubicados en diversos lugares, incluyendo California, Nuevo México, el Reino Unido y Estonia. A pesar de los esfuerzos por contactar a los representantes de estos sitios, no se ha obtenido respuesta.

Algunos de estos sitios promocionan sus servicios de manera explícita, con mensajes que alientan a los usuarios a generar imágenes desnudas de personas sin su consentimiento. Los modelos de inteligencia artificial utilizados por estos sitios han sido entrenados con material pornográfico real y, en algunos casos, imágenes de abuso infantil, permitiendo la creación de fotos de apariencia realista en cuestión de segundos.

Las imágenes deepfake no solo se usan para humillar y acosar a las víctimas, sino que también pueden ser utilizadas para extorsionar y dañar su salud mental, reputación y perspectivas futuras. La propagación de estas imágenes es un problema que no puede resolverse simplemente con educación sobre el uso seguro de la tecnología, ya que cualquier foto de los adolescentes puede ser manipulada sin su conocimiento o consentimiento.

“Puedes educar a tus hijos sobre cómo protegerse en línea, pero eso no puede evitar que alguien utilice estos sitios para causarles daño real y profundo,” comentó Sara Eisenberg, madre y jefa de la unidad que enfrenta los problemas sociales en la oficina del fiscal.

La demanda de San Francisco no solo busca cerrar los sitios web, sino también prohibir permanentemente a sus operadores la creación de contenido deepfake en el futuro y establecer sanciones civiles. Argumenta que estos sitios violan leyes estatales y federales sobre pornografía de venganza, pornografía infantil y prácticas comerciales injustas.

San Francisco, epicentro de la creciente industria de la inteligencia artificial, es visto como un lugar clave para abordar este problema. Los líderes de la industria, como OpenAI y Anthropic, tienen su sede en la ciudad, lo que la convierte en un punto estratégico para enfrentar el lado oscuro de la tecnología.

David Chiu enfatizó la importancia de la tarea, a pesar de los desafíos: “Mantenerse al día con una industria que cambia rápidamente como abogado del gobierno es abrumador, pero eso no significa que debamos rendirnos”.

, ,