Los creadores de una aplicación que permitía a los usuarios desnudar virtualmente a las mujeres utilizando inteligencia artificial, tuvieron que cerrarla tras generarse un alboroto en los medios de comunicación sobre su potencial para cometer abusos.
Los creadores de «DeepNude» dijeron que el software fue lanzado hace varios meses para para «entretener» y que «subestimaron de una manera enorme» la demanda de la aplicación. «Nunca pensamos que sería viral y que no podríamos controlar el tráfico», dijeron en Twitter los creadores de la app, que listaron su ubicación como Estonia.
«A pesar de las medidas adoptadas (marcas de agua), si 500.000 personas la usan es muy alta la probabilidad de que la gente haga un mal uso. No queremos hacer dinero de esta forma», añadieron. Artículos en The Washington Post, Vice y otros medios mostraron que la app podría ser usada para tomar una foto de una mujer vestida y transformarla en una imagen desnuda, provocando indignación y un renovando debate sobre la pornografía no consensuada.
«Esta es una invención horriblemente destructiva y esperamos ver que sufras pronto las consecuencias de tus acciones», dijo tuiteó el grupo Cyber Civil Rights Initiative (CCRI), que busca proteger a los usuarios contra la pornografía por no consensuada y por «venganza».
Mary Anne Franks, profesora de derecho y presidente de CCRI, dijo en Twitter que «es bueno que haya sido cerrado, pero este razonamiento no tiene sentido. La INTENCIÓN de la app era satisfacer la depredadora y grotesca fantasía sexual de hombres patéticos».
DeepNude ofreció tanto una versión gratis como una versión paga, y era lo último en la tendencia de la tecnología «deepfake», que puede ser usada para engañar o manipular. Aunque la app fue cerrada, sus críticos expresaron preocupación de que algunas versiones del software sigan disponibles y puedan servir para abusos. «La app #Deepnude ahora está ahí afuera y será utilizada, aunque los creadores la hayan sacado del mercado», dijo CCRI.