San Francisco ordenó a Apple y Google eliminar las apps que desnudan fotos con IA

La ciudad de San Francisco ordenó a Apple y Google que retiren decenas de aplicaciones "nudify" —programas que usan inteligencia artificial para eliminar digitalmente la ropa de personas en fotografías— de sus tiendas de aplicaciones. La orden llegó a través de cartas enviadas por el fiscal municipal David Chiu, según informó TechCrunch.

Estas apps permiten que cualquier persona con una foto disponible en internet sea convertida en una imagen sexual sin su consentimiento. Aunque el fenómeno afectó principalmente a mujeres famosas, según TechCrunch las herramientas hoy están al alcance de cualquiera que quiera usarlas contra cualquier persona.

La ley de California penaliza a quienes "a sabiendas faciliten" o "imprudentemente contribuyan" a la creación de pornografía deepfake no consensuada. Desde 2025, además, las víctimas pueden iniciar acciones civiles contra terceros que faciliten ese tipo de material. Aun así, según el fiscal Chiu, Apple y Google siguieron alojando estas apps y cobrando comisiones por las compras que los usuarios hacían dentro de ellas.

"Apple y Google están lucrando con apps que explotan a mujeres y niñas generando deepfakes íntimos sin consentimiento", dijo Chiu en un comunicado enviado a TechCrunch. "Aunque las empresas eliminaron algunas apps problemáticas, tienen la responsabilidad de ser proactivas y vigilantes para prevenir el abuso sexual".

Las cartas enviadas a las dos compañías, a las que TechCrunch tuvo acceso, señalan que ambas empresas estaban al tanto de la situación "desde hace casi un año" y que igualmente continuaron procesando pagos por compras ilegales. En enero y en abril de este año, el Tech Transparency Project (TTP) —una organización independiente que monitorea las grandes tecnológicas— envió informes y cartas a Apple y Google advirtiendo que había "decenas de apps" en sus tiendas que vendían imágenes íntimas no consensuadas.

El informe de abril del TTP fue más lejos: afirmó que Google y Apple "intencionalmente dirigieron" a los usuarios hacia ese tipo de aplicaciones y los calificó de "participantes clave en la propagación de herramientas de IA que convierten a personas reales en imágenes sexualizadas".

Chiu declaró al medio Wired que ambas empresas probablemente ganaron "millones de dólares en comisiones" gracias a estas apps.