Imágenes fake creadas con IA como la del Papa Francisco con un abrigo de Balenciaga o el supuesto arresto de Donald Trump ya han dado la vuelta al mundo.
La inteligencia artificial también ha significado un antes y un después en las redes sociales. Y es que son muchos ya los que usan esta herramienta para la edición de fotos y vídeos, por ese motivo, redes como es el caso de Instagram, han decidido poner límites a la inteligencia artificial a través de los verificadores.
Imágenes como la del Papa Francisco con un abrigo de Balenciaga, o el supuesto arresto del expresidente de EE.UU. Donald Trump, ya han dado la vuelta al mundo. Muchos se preguntaban a través de las redes sociales si estas imágenes eran o no reales. Pues no, no lo son. Fueron producidas con inteligencia artificial.
Los verificadores, la solución ante las imágenes fake
La IA está provocando olas de desinformación en las redes sociales. Ante esta situación, Meta ha generado recursos en su red Instagram que permitirán a las personas identificar cuando están viendo contenido que fue creado por inteligencia artificial, avisando que esa foto está alterada.
Desde Instagram aseguran que «si los verificadores de información externos detectan información falsa, contenido alterado o contenido al que le falta contexto en Instagram, hacemos que sea más difícil de encontrar«.
Para demostrar que esta foto está alterada, desde Instagram abrirán una ventana emergente donde pone el nombre de la organización de verificación de datos que ha valorado que esa imagen no es real. Además, también ofrecerán a los usuarios información adicional en un texto como «la foto o imagen se editó de una forma que podría engañar a personas, pero no porque se haya mostrado fuera de contexto».
En estos casos, los usuarios que compartan información falsa, como por ejemplo son las imágenes retocadas con IA, recibirán una notificación de que han incumplido las Normas Comunitarias.
Sanciones para las cuentas que comparten desinformación
No pasa nada si una cuenta comparte una imagen hecha con inteligencia artificial o algún tipo de desinformación. El problema es cuando esta acción se vuelve recurrente.
Si una cuenta promueve la desinformación de manera reiterada, se está exponiendo a que se le apliquen sanciones por parte de Instagram.
Limitar la visibilidad de las publicaciones de estas cuentas, que se inhabiliten menciones o etiquetas de estas cuentas por parte de otros usuarios, los seguidores o personas que empiecen a seguir a estas cuentas recibirán un mensaje de advertencia sobre que se difunde información falsa y, por último, incluso se podría llegar a desactivar la cuenta.
