Hace unos días saltó la noticia de que unos menores de edad habían utilizado la inteligencia artificial para 'desnudar' a varias niñas. Sucedió en Almendralejo, donde hasta el momento se han contabilizado al menos 22 chicas que fueron víctimas. Se sabe también que los autores tienen todos entre 12 y 14 años, por lo que muchos son inimputables. Pero el caso ha servido para poner encima de la mesa el debate sobre una posible regulación de esta tecnología, que lo está transformando todo.

El Independiente publicó un artículo contando lo sucedido . Y los dueños de la aplicación que los menores utilizaron en Almendralejo, llamada Clothoff, decidieron ponerse en contacto con este periódico para ofrecer su visión del asunto, sabiendo que estos últimos días su empresa ha ganado una gran popularidad en España.

"Tuvimos la idea de desarrollar la aplicación hace un año. Nos dimos cuenta de que la gente necesitaba este tipo de tecnología, aunque en aquel momento no existían aplicaciones similares. Y no vamos a mentir, los comentarios sorprendentemente positivos y los ánimos de la comunidad de desarrolladores nos motivaron a trabajar hasta conseguir resultados cada vez más impresionantes. Todas las personas con las que compartimos la tecnología estaban realmente entusiasmadas", explican desde el equipo de ClothOff.

Lo hacen, eso sí, a través del correo electrónico con el nombre de la aplicación. Pero no quieren dar ningún nombre, ni especificar siquiera de qué país son. Si se les pregunta directamente, se limitan a decir que son "un equipo de ingenieros entusiastas" procedentes de más de 10 países distintos. Y que aunque ya han recibido "ofertas de grandes fondos" para comprar su empresa, de momento han decidido seguir siendo "un equipo independiente".

La aplicación permite desnudar a quién sea. Para ello sólo hay que escoger una foto con calidad. Si es de frente y la persona tiene poca ropa, mejor. Los primeros intentos son gratuitos, pero una vez el usuario los consume es necesario pagar para seguir utilizándola. Y aunque de momento ofrece resultados más realistas con imágenes de mujeres, los desarrolladores explican que están trabajando para mejorar con los hombres, porque son conscientes de "la importancia de la inclusión".

"El número de usuarios de ClothOff varía cada día, y a veces experimentamos picos de uso del sistema de hasta un 40% en un solo día. No sabemos cuántos usuarios tenemos en España, pero a raíz de lo que ha pasado estos últimos días hemos notado un aumento en el uso del sistema", explican los desarrolladores.

Un fallo en el sistema

Los creadores de ClothOff tienen clara su postura sobre lo sucedido en Almendralejo: "Desde el primer día tenemos protección para evitar que la gente pueda utilizar fotos de personas menores de 18 años para hacer los montajes. Por eso lo que ha pasado es totalmente inaceptable y viola nuestro acuerdo de usuario".

Según explican, su aplicación cuenta con una tecnología que es capaz de determinar la edad de la persona de la foto. Aseguran que en los últimos tiempos este sistema de detección "ha mejorado mucho", y por eso ellos decidieron implementarlo al considerarlo fiable. De tal manera que si un usuario utiliza una foto que el sistema detecta que es de un menor de edad más de dos veces, será bloqueado y no podrá seguir haciendo montajes.

Pero está claro que en Almendralejo algo falló. "Investigamos lo sucedido por nuestra cuenta. Y al analizar los resultados detectamos que habían fusionado las fotos. Probablemente las personas que hicieron esos montajes con menores de edad recibieron avisos durante el proceso y el sistema les diera error. Pero consiguieron esquivarlo recortando parte de las fotos, lo que hacía que el sistema de reconocimiento de edad no funcionase correctamente. Y luego combinaban las dos partes de la foto en su dispositivo".

La mayoría de nuestros usuarios son personas decentes

Clothoff

Los desarrolladores prefieren no confirmar si estos últimos días han estado en contacto con las autoridades españolas o con las víctimas de Almendralejo. Aunque afirman que "siempre están dispuestos ayudar". Para ello, se remiten al correo de contacto de su página web, donde reciben "muchas solicitudes" que siempre responden, incluidas las de la Policía.

No obstante, no se muestran muy preocupados de que algo así vuelva a suceder, y siguen confiando en su sistema de protección de menores. Más bien, prefieren poner el foco en los autores de lo sucedido en Almendralejo, y específicamente en qué les llevo a pensar que lo que hicieron correcto.

"Si un hombre borracho monta por su cuenta las piezas de un coche, lo conduce y causa problemas nadie critica al fabricante del automóvil. Y todas las personas en su sano juicio lo entienden. Desde nuestro punto de vista, se puede establecer una analogía con nuestra situación", explican.

En muchos casos, las mujeres que son víctimas de montajes de este tipo sienten invadida su privacidad y dañada su imagen, incluso aunque se trate de fotomontajes. Pero desde ClothOff insisten en que la responsabilidad es siempre de los usuarios.

"¿Cuántas fotos escandalosas, falsificaciones y provocaciones hechas a través de otros editores de fotos hemos visto en los últimos 10-15 años? Seguro que más que los escándalos relacionados con nuestro servicio. Sin duda, es necesario castigar a aquellos que causan daños, pero hay que investigar cada caso de forma individual, porque la mayoría de los usuarios son personas decentes".

El "potencial" de la IA en los contenidos para adultos

Aunque no tienen datos sobre el sexo de sus usuarios, el equipo considera "razonable" pensar que los hombres ganan por goleada. Y es que en las fotos que utilizan predominan las mujeres.

"Según los comentarios que recibimos a través de las redes sociales, parece que la mayoría de los usuarios utilizan nuestro servicio con fotos de alguien que conocen. Por ejemplo, los chicos ofrecen a sus novias que suban su foto, para comparar la imagen original y la procesada y reírse juntos. Y el segundo escenario más popular es el de los compañeros de oficina que utilizan la aplicación para pasar momentos divertidos transformando sus propias fotos y compartiendo los resultados", comentan.

Para entrenar su IA utilizaron un conjunto de datos de más de 12 millones de imágenes procedentes de diversas fuentes de Internet. Ese proceso lleva desarrollándose durante los últimos 7 meses, y sigue en curso todavía. Lo que significa que cada día que pasa la IA sigue mejorando sus prestaciones, en gran parte gracias a las valoraciones que les proporcionan los usuarios.

A eso hay que añadir que todos los ingresos que están recibiendo a través de los pagos que los usuarios hacen para utilizar la app los están reinvirtiendo en mejorar su servicio. Y es que confían mucho en "el potencial de la IA en el sector de los contenidos para adultos.

"Bloquear este tipo de aplicaciones no tiene sentido, porque pueden reproducirse fácilmente. Lo que hay que hacer es castigar a las personas que no las utilizan bien. La IA ha explotado, ahora se puede procesar cualquier foto, copiar una voz o sustituir la cara de una persona en cualquier contenido de vídeo. En un futuro próximo veremos vídeos enteros generados por la IA, y su contenido dependerá únicamente del autor. Será imposible controlarlo", concluyen desde ClothOff.