En una movida sin precedentes, Sony, Canon y Nikon han anunciado un acuerdo colaborativo para combatir la creciente amenaza de las imágenes falsas generadas por inteligencia artificial (IA). Estas empresas líderes en tecnología fotográfica están desarrollando una tecnología de autenticación que promete ser un hito en la verificación de la autenticidad del contenido visual.
Esta tecnología consiste en una especie de firma digital incorporada en las imágenes capturadas por sus cámaras. Esta firma incluirá información crucial como la fecha, la ubicación y otros datos relevantes en el momento de la toma, lo que será fundamental para diferenciar las imágenes genuinas de los deepfakes.
IMPLEMENTACIÓN DE LA TECNOLOGÍA
Nikon liderará la implementación de esta tecnología en sus cámaras, seguida de cerca por Sony y Canon. Esta firma digital no solo será resistente a manipulaciones, sino que también será una herramienta vital para profesionales del periodismo y la investigación. Dado que estas tres compañías representan aproximadamente el 90% del mercado global de cámaras digitales, su iniciativa cubrirá una parte significativa de la industria fotográfica.
ESTÁNDAR GLOBAL Y VERIFICACIÓN
Un aspecto clave de esta colaboración es la creación de un estándar global, que jugará un papel crucial en la lucha contra los deepfakes. La firma digital vendrá acompañada de “Verify”, una página web gratuita para la verificación de imágenes, permitiendo así detectar si una imagen contiene la firma que aporta datos sobre su origen.
COMPROMISOS ESPECÍFICOS DE LAS EMPRESAS
Sony planea integrar esta tecnología en tres de sus cámaras profesionales tipo “mirrorless” mediante una actualización de firmware para el segundo trimestre de 2024. La compañía también contempla expandir esta tecnología a los videos.
Canon, por otro lado, lanzará una cámara con características similares en el mismo período y está desarrollando una aplicación para diferenciar entre fotos capturadas por humanos y las generadas por IA.
OTRAS INICIATIVAS TECNOLÓGICAS
Este esfuerzo se suma a los desarrollos de otras empresas tecnológicas. Google ha creado herramientas para generar marcas de agua digitales invisibles en imágenes generadas por IA. Intel está trabajando en la autenticación de imágenes analizando cambios en el color de la piel, mientras que Hitachi se enfoca en la autenticación de identidad en línea.
AUMENTO DE LOS DEEPFAKES
Un estudio de Genevieve Oh reveló que en 2023 se compartieron más de 143,000 nuevos videos deepfake en línea, superando los totales de años anteriores. Los deepfakes, que son manipulaciones de imágenes, videos o audios realizadas con técnicas de IA, han facilitado la producción y diseminación de contenido falso, incluyendo material de abuso sexual infantil generado por IA.
CASOS RECIENTES
Un caso reciente en la escuela secundaria de Westfield, Nueva Jersey, pone de manifiesto la gravedad de esta problemática. Estudiantes utilizaron IA para generar imágenes pornográficas deepfake de compañeros, lo que llevó a una investigación por parte de las autoridades escolares y la Policía de Westfield.
Este acuerdo entre Sony, Canon y Nikon marca un paso significativo en la lucha contra la desinformación y el abuso de la tecnología de IA, estableciendo un nuevo estándar en la autenticación de contenido visual y reforzando la integridad del mundo digital.