Un estudio revela que los rostros generados con IA inspiran más confianza
Un estudio que examinó la fiabilidad de los rostros creados con inteligencia artificial generativa (IAG) encontró que estos se consideran más confiables que las imágenes de rostros reales, por lo que sus autores advierten sobre los riesgos de fraude en línea y otros perjuicios.
Se trata de un trabajo realizado por investigadores de la Universidad de Lancaster, la Universidad de Stanford y la Universidad de California, que analizó si los rostros generados por modelos de difusión (MD), una arquitectura de IAG nueva y más potente, generan confianza y si, de forma similar, superaron el “valle inquietante” (en robótica, cuando los humanos sentimos rechazo, miedo o inquietud ante réplicas humanas).
Cómo fue el experimento
Se pidió a 169 participantes que observaran una colección de 96 rostros (de diversas razas, géneros y edades) que se mostraban al azar, y que indicaran si cada rostro era real o creado por IA.
Sorprendentemente, los rostros generados por el nuevo MD de IA fueron calificados como menos realistas que los rostros producidos por un modelo de IA anterior (GAN).
En un experimento posterior, se pidió a un nuevo grupo de participantes que calificaran la confiabilidad de 96 rostros presentados al azar en una escala del 1 (muy poco confiable) al 7 (muy confiable). De esa manera, los rostros reales fueron calificados como los menos confiables, con una calificación promedio de confianza de 4.03. Los dos tipos de rostros creados por IA fueron calificados como más confiables que los rostros reales.
En este caso, los rostros producidos por el nuevo modelo fueron más confiables que los rostros reales y que los generados por GAN.
Los investigadores se sorprendieron cuando, en el caso 1 los rostros creados mediante el nuevo modelo de difusión de IA fueron calificados como menos realistas que los rostros producidos por un modelo anterior (GAN) y señalaron: “Este hallazgo presenta una paradoja y, por lo tanto, subraya la posibilidad de que los juicios sobre el realismo y la confiabilidad estén impulsados por dos mecanismos psicológicos diferentes”.
Suplantación de identidad
En ese sentido, a medida que aumenta el realismo y la disponibilidad de la IA general, resulta más crucial que nunca comprender esta amenaza y desarrollar estrategias para mitigar los posibles daños a las personas, las organizaciones y las democracias, considera el artículo publicado en Journal of Vision.
De esta manera, estudio concluye en que “las personas corren el riesgo de ser engañadas por imágenes generadas por IA”, por lo que considera “importante informar al público sobre la facilidad con la que se pueden crear estas imágenes, sus posibles usos indebidos y las formas en que pueden ser víctimas, por ejemplo, a través de la difusión de desinformación, el fraude de identidad y el engaño mediante suplantación de identidad”, advierte Alexis McGuire, estudiante de doctorado en psicología y autor del estudio.