La IA Reimagine del Pixel 9: un arma de doble filo que preocupa a los expertos
La nueva función de IA Reimagine del Pixel 9 ha suscitado serias preocupaciones entre expertos. Un grupo de estudiantes de Cornell ha demostrado que es sorprendentemente fácil eludir las medidas de seguridad diseñadas para evitar abusos en la edición de imágenes. Y lo que han encontrado es alarmante.
Un juego peligroso
Estos jóvenes se adentraron en el mundo del ‘jailbreaking’ en modelos de IA y, en un abrir y cerrar de ojos, generaron imágenes inquietantes con una facilidad desconcertante. Imágenes ficticias, pero tan realistas que podrían causar pánico: desde transportes públicos destruidos hasta tanques M1 Abrams desfilando por las calles de Nueva York. La línea entre lo real y lo creado digitalmente se está volviendo cada vez más difusa.
El reto para la tecnología
No es solo un problema técnico; también pone en jaque la responsabilidad ética de las plataformas tecnológicas. Según Alexios Mantzarlis, profesor en Cornell, «los guardarraíles de seguridad son insuficientes cuando el uso dañino no proviene del contenido mismo sino del contexto visual». En este contexto, cualquier persona puede manipular información a su antojo, utilizando herramientas que son accesibles para cualquiera.
Google ha anunciado esfuerzos para mejorar la seguridad mediante marcas digitales en las imágenes alteradas, pero como hemos visto antes, estos esfuerzos pueden ser fácilmente superados por quienes saben lo que hacen. El verdadero desafío radica en crear un entorno digital donde prevalezca la autenticidad y no se permita el uso malintencionado.
