Facebook decidió poner fin a las publicaciones con contenido engañoso, es por ello que la famosa red social ha radicalizado sus políticas de control y seguimiento en contra de videos fraudulentos llamados comúnmente deepfakes.
Todo contenido que haya sido alterado o editado generado para engañar a otros usuarios será eliminado de las publicaciones de la compañía de Mark Zuckerberg.
Pero, ¿qué es deepfake? Este término se refiere a los videos manipulados que parecen muy reales utilizando inteligencia artificial IA, bajo la modalidad deep learning o aprendizaje profundo, los cuales son subidos a la web con fines ofensivos o dañinos. Para su edición se utilizan herramientas digitales de la Inteligencia Artificial útiles para transformar contenido y alterar la verdad.
Facebook toma medidas en su plataforma
La plataforma de Facebook ha evidenciado el incremento de publicaciones de los deepfake en su red, ante esto se vio obligado a ampliar y reforzar las políticas de restricciones de esta clase de videos manipulados.
La red social se ha propuesto revisar el contenido creado con programas de inteligencia artificial y cuentas falsas. Pero, también está consciente que la labor debe realizarse en trabajo conjunto con organismo gubernamentales para desenmascarar a aquellos que cometen delitos de estafas con material multimedia distorsionado.
La plataforma de Zuckerberg acotó que bloqueará contenido editado pero no aquellos que hayan sido transformados para lograr una mejor calidad audiovisual, se trata solo de eliminar videos retocados producidos para confundir o engañar a los usuarios.
Igualmente, se suprimirán los videos que hayan utilizado la IA para reemplazar o ser superpuestos en videos auténticos, salvo los videos graciosos o de parodia que no tengan ningún impacto negativo en la sociedad.
Facebook comenzó a dar seguimiento a videos embaucadores desde 2019 con el objetivo de detectar deepfakes, en este sentido el programa Deep Fake Detection Challenge ha sido bastante útil en la localización de contenidos manipulados.
Otra de las iniciativas de la red social fue reunir a Reuters para entrenar a redactores y periodistas en la identificación y detección de contenido falsificado o información fraudulenta de cara a las elecciones presidenciales en Estados Unidos en 2020.
¿Con qué fin se utilizan los deepfakes?
Uno de los aspectos más importantes a considerar por Facebook es la intención que mueve la acción de manipular los contenidos. No se trata de vetar todo tipo de contenidos editados sino de penalizar aquellos que se elaboran con fines de estafa, distorsión de la realidad, engaño o malas intenciones.
Hay videos con contenidos que son modificados con fines estéticos, publicitarios, comerciales en los que se utilizan programas especiales para mejorar la calidad del audio y la imagen. La empresa de Inteligencia Artificial Deeptrace anunció que el 96% de videos arreglados (deepfakes) encontrados en la web eran pornográficos y en el 99% de los casos se trataban de rostros falsos de personajes famosos.
La preocupación de los directores de las redes sociales es que se expandan las estafas y se generen campañas de desinformación y difamación con este tipo de material digital. La inteligencia artificial es idónea para la producción de imágenes trucadas, modificar audios y crear clones de voz hasta hacerlos parecer que fueron pronunciados por artistas y personalidades de la vida pública.
