¿Puede distinguir si una imagen es real o no?
Los modelos de inteligencia artificial (IA) como DALL·E pueden generar rostros detallados y realistas gracias a que están entrenados con millones de imágenes de personas reales con sus descripciones. Pero ¿son estas imágenes hiperrealistas de personas casi indistinguibles de las fotografías reales? Un equipo de investigación liderado por la Universidad de Swansea, en el Reino Unido, se propuso determinar cómo de realistas son ya las imágenes de rostros generadas por IA. Sus hallazgos se han publicado en la revista «Cognitive Research: Principles and Implications»(se abrirá en una nueva ventana).
Ver no es creer
Los investigadores emplearon los modelos de IA DALL·E y ChatGPT para llevar a cabo diferentes experimentos, que consistieron en generar imágenes extremadamente realistas de rostros de personas ficticias y personas reales, entre las que se incluían famosos. Los resultados revelaron que los participantes del estudio no podían distinguir con precisión imágenes generadas por IA de fotografías reales, a pesar de estar familiarizados con la apariencia de la persona que se representaba. Esto revela un preocupante aumento del denominado «realismo ultrafalso»: la medida de hasta qué punto el contenido falso se asemeja a las imágenes reales. En otras palabras, hasta qué punto consigue engañar a nuestra capacidad de percepción. «Los estudios han demostrado que las imágenes de rostros de personas ficticias generadas por IA son indistinguibles de las fotografías reales. Pero para esta investigación fuimos más allá y generamos imágenes sintéticas de personas reales», comentó Jeremy Tree, coautor del estudio y profesor titular de Psicología de la Universidad de Swansea, en un comunicado de prensa(se abrirá en una nueva ventana). «El hecho de que las herramientas convencionales de IA puedan lograr esto no solo plantea serias preocupaciones sobre la desinformación y la confianza en los medios visuales, sino que también pone de relieve la necesidad urgente de contar con métodos de detección fiables». En un experimento, se pidió a voluntarios de Australia, Canadá, Nueva Zelanda, el Reino Unido y los Estados Unidos que identificaran qué imágenes faciales eran reales y cuáles habían sido generadas artificialmente. Con frecuencia confundían los rostros generados por IA con los reales. En otro experimento, se pidió a los participantes que distinguir entre fotografías auténticas de estrellas de Hollywood, como Jake Gyllenhaal y Olivia Wilde, y sus contrapartes generadas por ordenador. También en este caso, a los participantes les resultó difícil identificar las verdaderas. «Este estudio demuestra que la IA puede crear imágenes artificiales de rostros, tanto nuevos como conocidos, que la mayoría de las personas no pueden distinguir de fotografías reales», comentó Tree.
Una llamada de atención
«Conocer un rostro o tener imágenes de referencia no ayudó mucho a detectar las falsificaciones, por eso necesitamos urgentemente encontrar nuevas formas de detectarlas. Si bien es posible que con el tiempo los sistemas automatizados superen a las personas en esta tarea, por ahora, depende de los espectadores juzgar qué es real». La capacidad de falsificar de forma convincente incluso rostros que ya conocemos otorga un significado totalmente nuevo a la palabra manipulación, con implicaciones de uso y abuso que van desde la política hasta los negocios. «Dado que tanto la familiaridad con una identidad particular como las imágenes de referencia de la misma produjeron beneficios limitados, los investigadores deberán explorar soluciones alternativas con carácter de urgencia», concluyeron los autores del estudio. «Con el tiempo, podríamos descubrir que los sistemas automatizados igualarán o superarán el rendimiento humano en la detección de imágenes ultrafalsas. Sin embargo, al menos en un futuro cercano, la veracidad del contenido quedará a criterio de los propios espectadores y, por lo tanto, debemos convertir esta búsqueda de soluciones en una prioridad».