El uso de la inteligencia artificial en las redes sociales no es algo nuevo. Muchos creadores la utilizan a diario para la elaboración de su propio contenido. Sin embargo, cada vez es más difícil identificar si la persona que vemos es real o está creada completamente con inteligencia artificial.
Para solucionar este problema, Instagram ha modificado sus políticas de uso para obligar a etiquetar explícitamente los perfiles digitales que estén generados con IA. Las cuentas que no cumplan con esta nueva medida tendrán restricciones y penalizaciones dentro de la plataforma.
La nueva normativa de Instagram sobre la IA
Instagram ha cambiado sus políticas sobre IA para identificar y regular las cuentas que utilicen avatares o personajes virtuales. Según ha comunicado la compañía, la etiqueta actual “Creador de IA” cambiará a una más específica: “Perfil generado por IA”. Esta medida responde a las quejas de los usuarios, quienes se sienten engañados al interactuar con perfiles que parecen personas reales, pero terminan siendo rostros digitales que simulan vidas humanas. La intención de Meta es distinguir si la persona existe o si es una creación digital, por lo que esta medida no afectará a los usuarios que utilicen herramientas de IA para editar fotos o redactar textos.
Esta decisión llega en un contexto donde el 95 % de los profesionales dedicados a redes sociales utiliza la inteligencia artificial para desarrollar su trabajo en áreas como el desarrollo de ideas, la redacción de textos, el análisis de métricas o, incluso el planteamiento de estrategias. No obstante, la problemática se sitúa en la falta de transparencia. Solo el 10 % de los profesionales indica que ha utilizado la IA, e incluso el 33 % considera que no es necesario comunicárselo a su audiencia.
Con el fin de solucionar esto, los perfiles generados con IA que no incluyan la nueva etiqueta serán penalizados por la plataforma. Instagram podrá detectar si los usuarios no la utilizan y sancionarlos restringiendo la visibilidad de su contenido. No los mostrará en la sección Explorar ni en el apartado de los Reels y se limitará su alcance en el feed de quienes no siguen la cuenta. No obstante, los creadores tienen la posibilidad de recurrir esta medida si consideran que es un error. Si la apelación se resuelve a su favor, la cuenta recuperará su alcance habitual.
La trampa de las identidades generadas con IA
La necesidad de identificar y etiquetar estos perfiles creados con IA también responde a una cuestión de salud pública. Una investigación realizada por The New York Times descubrió que existen cientos de avatares hiperrealistas de falsos médicos y gurús del bienestar generados con IA que difunden afirmaciones médicas engañosas y sin respaldo científico. Estos perfiles se utilizan para lucrarse con la venta de suplementos y falsos remedios milagro que pueden perjudicar la salud de los usuarios.
Un caso real es el de una mujer de 71 años con una enfermedad autoinmune, llamada Pamela Wundrow, que compró un suplemento de moringa a la firma Rosabella tras consumir anuncios protagonizados por estos avatares en redes sociales. Tiempo después, estos suplementos tuvieron que ser retirados por la FDA y los CDC porque estaban provocando brotes de salmonela. Aunque Wundrow no contrajo la infección, aseguró que su estado físico empeoró durante el tratamiento y denunció la vulnerabilidad de los consumidores.
A esta situación se suman otros escándalos de opacidad digital que han acelerado la intervención de Meta, entre los que destaca el caso de la app de citas Goose y las alertas de Better Business Bureau (BBB). Por un lado, la investigación sobre Goose reveló que existían más de dos docenas de perfiles masculinos generados con IA en Instagram que enviaban mensajes privados a usuarios reales para persuadirlos de descargar la app. Por otro, los informes del BBB advirtieron sobre miles de estafas comerciales en redes sociales a causa de los avatares generados con inteligencia artificial.
De multas a la transparencia
Esta nueva medida de Instagram coincide con el acuerdo de Meta con Estados Unidos, en el que Meta aceptó pagar 18.000 millones de dólares de multa para evitar un juicio por el impacto negativo de sus plataformas en niños y adolescentes.
En este contexto, el nuevo etiquetado busca responder a la creciente exigencia de transparencia y control de la desinformación. Al regular los perfiles generados con IA, Meta intenta frenar la desinformación y recuperar la confianza en sus plataformas.