Los habitantes de la pequeña ciudad de Almendralejo, España, están furiosos después de que las adolescentes descubrieran que fotos falsas donde están desnudas estaban circulando en internet. La inteligencia artificial está en el centro de esta ira una vez más.
Qué sucedió
Según informó El País, actores malintencionados han utilizado una aplicación impulsada por inteligencia artificial para crear fotos falsas de jóvenes desnudas de una pequeña ciudad en España, lo que ha provocado sorpresa, horror e ira entre los residentes de la ciudad.
Según el informe, más de 20 niñas de entre 11 y 17 años han sido identificadas como víctimas de deepfakes.
Los criminales tomaron fotos de estas chicas de sus perfiles de redes sociales y utilizaron una aplicación impulsada por IA para hacer que pareciera que estaban desnudas.
“Cuando llegué a casa, una de mis hijas dijo con tremenda indignación ‘mira lo que me han hecho’. Habían tomado una foto suya y la habían hecho parecer desnuda. Lo han hecho con ella y con docenas de niñas más”, afirmó Miriam Al Adib, madre de una de las víctimas.
Los padres de Adib y otras niñas están igual de sorprendidos, pero algunas de las víctimas están tan asustadas que “ni siquiera salen de sus casas”, informó BBC News.
La policía local ya ha identificado a 10 sospechosos, pero lo impactante es que algunos de ellos tienen 13 años o menos. Esto empeora las cosas para las víctimas ya que los niños menores de 14 años no pueden enfrentar cargos criminales.
Por qué es importante
Los avances en inteligencia artificial han llevado a una rápida evolución en los tipos de tareas que las personas pueden realizar. Desde crear logotipos de sitios web de forma gratuita hasta usar chatbots impulsados por IA como ChatGPT de forma gratuita, hay una variedad de cosas que la IA ha permitido.
Sin embargo, esto también ha exacerbado el problema de los deepfakes. Actores de Hollywood como Stephen Fry ya han expresado su consternación por cómo se está utilizando la IA como arma.
A principios de la semana pasada, Fry reveló que su voz de los audiolibros de Harry Potter fue utilizada para crear una versión de inteligencia artificial que dice cosas que él nunca ha dicho sin su consentimiento.
El hecho de que niños de 13 años o menos puedan crear deepfakes utilizando una aplicación muestra lo fácil que es convertir la IA en un arma.
Esto también ocurre en un momento en que más de 160.000 miembros del sindicato SAG-AFTRA han estado en huelga contra los estudios de Hollywood, donde una de las preocupaciones es el uso de la IA en la escritura de guiones y el uso de la imagen de los actores en el futuro.
Imagen – Shutterstock
También puedes leer: BRICS extiende invitaciones a posibles nuevos miembros