TikTok tomó la decisión de dar mayor claridad a los usuarios sobre el contenido creado con inteligencia artificial y ahora permitirá etiquetar los videos que tengan esta tecnología, en una medida que busca darle la información necesaria a las personas y prevenir la difusión de contenido potencialmente engañoso.
La creciente influencia de la IA en la creación de contenido es cada vez más frecuente. Usando diferentes herramientas, los creadores tienen la capacidad de producir videos que, en ocasiones, es difícil distinguir si es real o no.
Para ayudar a resolver estas dudas, la red social ha implementado medidas que buscan dar a los usuarios un mayor control y comprensión del contenido que consumen en la plataforma, por lo que las nuevas etiquetas se aplicarán al contenido que haya sido completamente generado o significativamente editado por una IA.
Cómo funcionará la etiqueta de IA
Durante los últimos meses el contenido creado con esta tecnología ha crecido, un ejemplo son los videos deepfake en los que una persona cambia su rostro y asume el papel de un famoso, como el caso de los videos de Elon Musk, Messi y Shakira, que tienen un alto grado de similitud con las personas reales y los usuarios se pueden confundir.
Este es un caso de un perfil que solo lo hace por crear humor y entretenimiento, pero puede ser el caso que alguien lo use para producir información falsa o difamar a otra persona. Por eso es importante que haya una etiqueta que advierta a las personas.
La verificación no solo afectará a los filtros que tiene TikTok en su catálogo, sino que también estará disponible para los videos previamente editados en plataformas de terceros.
Además de esto, a lo largo de las próximas semanas, la red social lanzará recursos educativos, como videos y guías, para ayudar a sus usuarios a comprender el propósito de estas etiquetas y cómo implementarlas correctamente.
Con el tiempo, la aplicación espera que estas marcas se conviertan en una herramienta utilizada por creadores y espectadores para compartir y contextualizar contenido, similar a las insignias de cuentas verificadas y las de contenido patrocinado.
Sin embargo, la asignación de la etiqueta no será opcional para quienes suban las publicaciones, ya que la política de la aplicación establece que cualquier contenido generado por una IA que contenga “imágenes, audio o video realistas” debe etiquetarse como tal para “ayudar a los espectadores a contextualizar” la situación y “prevenir la posible difusión de contenido engañoso”.
La plataforma también está explorando la posibilidad de automatizar la identificación de contenido generado por IA, ya que no quieren dejar esto en manos de los espectadores porque podría haber errores. Por eso, en los próximos días comenzará a probar una etiqueta de “Generado por IA” que se aplicará automáticamente a contenido detectado como editado o creado con esta tecnología, así el creador no lo haya etiquetado previamente, dando mayor seguridad sobre la validez de los videos o imágenes.
La aplicación quiere que los usuarios entiendan las diferencias entre los contenidos. (TikTok)
Para lograr una mayor transparencia, la red social ha tomado la decisión de renombrar los efectos de IA en la plataforma, incluyendo la palabra “IA” de manera explícita en sus nombres y etiquetas correspondientes.
La decisión de TikTok de introducir estas medidas se ha llevado a cabo en colaboración con asesores de seguridad y expertos de la industria, como el doctor David G. Rand del MIT, quien ha estado investigando cómo los espectadores perciben diferentes tipos de etiquetas de IA y esto ha influido en la manera en que la aplicación empezará a aplicar esta herramienta.
Finalmente, la empresa anunció que para continuar mejorando la evolución de la IA, se asociará con la organización Digital Moment para organizar discusiones sobre el avance de esta tecnología con “miembros jóvenes de la comunidad”.
