La junta ordena eliminar deepfakes
La junta de supervisión de Meta ha ordenado a la empresa tecnológica eliminar de Facebook videos deepfake de un político británico y una joven musulmana, y fortalecer su respuesta a imágenes falsas generadas por IA. La junta dijo que un video falso que muestra a un concejal del partido Laborista en Escocia haciendo comentarios incendiarios sobre refugiados no debería haber permanecido en la plataforma. También dictaminó que un video generado por IA de una voluntaria musulmana de campaña debería haber sido eliminado después de que la mostrara falsamente ofreciendo consejos de salud mientras realizaba ejercicios absurdos o comía comida chatarra.[S1]
La junta describió las salvaguardas de Meta como 'consistentemente y fundamentalmente inadecuadas' para abordar el rápido aumento de los deepfakes de IA. Pamela San Martin, copresidenta de la junta de supervisión, dijo que los deepfakes generados por IA se utilizan cada vez más para acosar y silenciar a las mujeres de participar en el discurso público. Dijo que los casos demuestran un patrón más amplio y preocupante en el que las mujeres que participan públicamente en temas son desproporcionadamente sometidas a acoso y desinformación, y que Meta y otras plataformas de redes sociales necesitan políticas más sólidas para abordar la proliferación de deepfakes.[S1]
Video del concejal escocés
En el clip de Escocia, el concejal es representado falsamente diciendo que los refugiados son bienvenidos incluso si violan a nuestras mujeres, porque los blancos también lo hacen. La junta de supervisión, un organismo cuasi independiente cuyas decisiones son vinculantes, dijo que el video del concejal parecía estar generado por IA, como lo indica que el audio no estaba completamente sincronizado con los movimientos faciales del concejal no identificado. Incluso cuando la junta lo planteó directamente a la empresa, Meta decidió que el video no violaba sus políticas de contenido y no merecía una etiqueta de IA.[S1]
En una publicación de blog publicada el jueves, la junta dijo que la publicación debería haber sido eliminada porque violaba las reglas de Meta sobre conducta de odio al alegar comportamiento criminal y sexual depredador por parte de los refugiados como un grupo entero y no como individuos. El video también debería haber recibido una etiqueta de 'IA de alto riesgo', dijo la junta, al pedir medidas más duras contra los deepfakes. La mayoría de la junta encontró que Meta necesita políticas más sólidas sobre deepfakes, incluida la ampliación de las situaciones en las que se pueden aplicar etiquetas de 'alto riesgo', más medidas para reducir la propagación de contenido de IA engañoso, aumentar las penalizaciones para las cuentas que lo comparten repetidamente y más transparencia sobre los datos sobre cuándo se aplican las etiquetas de IA.[S1]
Nueve cambios de política recomendados
La junta recomendó nueve cambios de política en Meta, incluido garantizar que los algoritmos degraden el contenido etiquetado como 'alto riesgo', haciendo que dichas publicaciones tengan menos probabilidades de aparecer en los feeds de los usuarios. También recomendó que Meta dificulte a los usuarios ver contenido generado por IA, por ejemplo, introduciendo una pantalla de advertencia que requiera hacer clic antes de ver el contenido.[S1]
En un fallo separado, la junta también ordenó a Meta eliminar de Facebook un video generado por IA que se burlaba de una joven musulmana en Europa que participaba en una campaña para mejorar la educación sobre salud menstrual y reducir el estigma en torno a condiciones de salud para mujeres y niñas de minorías étnicas. Videos e imágenes manipulados por IA que se burlaban de la mujer tuvieron decenas de millones de visitas en línea, incluso en plataformas de Meta. La junta señaló uno de los videos – que mostraba a la mujer haciendo ejercicios absurdos y comiendo comida chatarra – como una violación de la política de intimidación y acoso de la empresa. Recomendó que se eliminara la publicación e hizo tres recomendaciones de política, incluido cambiar su definición de 'imágenes manipuladas no deseadas' para cubrir deepfakes de un individuo privado diciendo o haciendo cosas que no dijo o hizo.[S1]
Antecedentes y respuesta
La junta fue creada por Meta en 2020 para servir como árbitro del contenido en sus plataformas. Se ha contactado a Meta para obtener comentarios.[S1]
