Los recuerdos, la fotografía y la inteligencia artificial

El gran avance en las capacidades de los inteligencia artificial crear, editar y mejorar imágenes fotográficas presenta desafíos significativos con implicaciones para la privacidad, seguridad y confiabilidad.

Los recuerdos son importantes. El Las fotografías son uno de los medios más apropiados para ayudarnos a recordarcon la capacidad de capturar momentos y experiencias visuales de una manera muy vívida y detallada.

Como el perfume y la música, tú mueve lugares, personas, eventos y emociones; impreso o almacenado en la memoria de nuestros dispositivos móviles.

¿Cuánto poder tendría en nuestras vidas una IA diseñada para crear y editar fotos? Así como el poder de implantar recuerdos de situaciones que nunca sucedieron: modificando hechos vividos, esos momentos reales que los humanos atesoramos en un Fotografía.

¿No se trata solo de generar imágenes falsas para dirigir el presente, sino la posibilidad de editar lenta y sutilmente el pasado, nuestros recuerdos y nuestra historia?

Avances recientes publicados por Google, El 10 de mayo, en su último Keynote, Google i/O, el gigante de la IA, presentó impresionantes actualizaciones de su aplicación Google Photo, impulsada por nuevas funciones de IA.

¿Creando falsos recuerdos?

«Búsqueda de fotos» le permite realizar búsquedas mejoradas mediante la identificación de personas, objetos o lugares. «Borrador mágico» nos permite eliminar fácilmente esos molestos objetos (o en ocasiones personas) que «arruinan» nuestras fotos.

Finalmente, «Editor Mágico«nos permite mejorarlas cambiando colores, iluminación y otras características. Se ha convertido en una aplicación muy potente, que incluso proporciona geolocalización de las fotos, coordina las rutas de mapas de Google.

Paradójicamente, estas funciones avanzadas podrían generar un retroceso en su desarrollo. Puede llegar un momento en que la proliferación de fotos creadas y editadas supere a las «reales» capturadas por cámaras, alterando los conjuntos de datos utilizados para entrenar modelos de IA.

Después de consultar bardo de google sobre este tema, respondió: «Es posible que este punto de inflexión se alcance en los próximos años».

Las imágenes cleído o editado con IA Pueden afectar a los propios modelos entrenados de varias maneras:

• sobreajuste: si los generados por AI contienen características o patrones que no se encuentran en las imágenes reales del conjunto de entrenamiento, el modelo de AI puede sobreajustar estas características y ser menos preciso al producir nuevas imágenes.
• Sesgos y prejuicios: si contienen sesgos, como la representación desigual de ciertos grupos de personas, puede llevar al modelo de IA a aprender y reproducir estos sesgos en sus predicciones.
• Noticias falsas y propaganda: pueden diseñarse para engañar al modelo de IA para que tome decisiones equivocadas.
• Inexactitud en las predicciones: Las imágenes generadas por IA pueden ser menos precisas e informativas, lo que da como resultado que los modelos hagan predicciones inexactas.

Google Advirtió que trabaja en el desarrollo de herramientas que ayuden a los usuarios a identificar imágenes generadas o editadas por inteligencia artificial.

• Y uno de ellos es el uso de metadatos que proporcionarán la siguiente información:
• El nombre del modelo de inteligencia artificial que se utilizó para crear la imagen.
• La fecha y hora en que se creó la imagen.
• La configuración que se utilizó para crear la imagen.
• Una declaración de que la imagen es generada o editada por inteligencia artificial.

intenciones contradictorias

En conclusión, acompañar imágenes fotográficas, generadas o editadas con IA, con metadatos es una acción responsable Google.

Seguro que el resto de empresas tecnológicas se van a plegar. La intención de permitir que el usuario mantenga cierto control es noble, pero es posible que la proliferación de modelos cerrados, e incluso abiertos, dificulte la tarea.

Claramente, continuaremos viendo este esfuerzo en los próximos meses. La historia nos dirá cuándo se ha logrado.

*Daniel José Feijo es director de Ingeniería Informática de la UADE