Facebook prohíbe ‘deepfake’ videos en vísperas de elecciones en estados unidos | Tecnología | El Tutor

Facebook ha anunciado una nueva política de prohibición de AI-manipulado “deepfake” videos que puedan inducir a error a los espectadores en el pensamiento de alguien “, dijo palabras que no dice en realidad”, como la red social prepara para el 2020 elecciones en estados unidos.

Pero la política explícitamente cubre sólo la desinformación producida utilizando la función AI, que significa “superficial fakes” – vídeos realizados con convencionales, herramientas de edición – aunque con frecuencia sólo como engañoso, todavía se permite en la plataforma.

La nueva política, anunció el lunes por Monika Bickert, Facebook es la cabeza de la política global de gestión, resultará en la eliminación de engañosa de vídeo de Facebook y de Instagram si cumple con dos criterios:

“ha sido editado o sintetizados … en formas que no son evidentes para una persona promedio y es probable que engañar a alguien en el pensamiento de que un sujeto del video dijo palabras que no se dicen.”

“es el producto de la inteligencia artificial o la máquina de aprendizaje que se fusiona, se sustituye o se superpone a contenido en un vídeo, hacer que parezca auténtico.”

Hasta la fecha, no ha habido grandes ejemplos de contenido que pueda romper esas reglas. Algunas organizaciones de noticias, incluyendo la BBC, New York Times y Buzzfeed han hecho sus propias “deepfake” videos, aparentemente para difundir el conocimiento acerca de las técnicas. Los vídeos, aunque de diferente calidad, tiene todos los contenidos de las declaraciones claras de que son falsos.

El más dañino ejemplos de manipular los medios de comunicación en los últimos años han tendido a ser creado utilizando sencillas herramientas de edición de vídeo. Durante el reino unido elecciones, el partido Conservador de vino bajo el fuego de un video editado para que parezca como si el DIPUTADO Laborista Keir Starmer no tuvo respuesta a una pregunta acerca de Brexit. Facebook en el momento en que se confirmó el video satisfecho sus políticas en la desinformación, y puesto que no había AI que intervienen en su creación, todavía sería permitido hoy en día.

En los estados unidos, una retocada video que parecía mostrar el portavoz de la cámara, Nancy Pelosi, confundiendo su camino a través de un discurso del mismo modo permitido por Facebook. El video, se extendió por el Triunfo de los partidarios incluyendo Rudy Giuliani, fue editado, pero no utilizando la técnica más compleja que la ralentización de las imágenes en bruto y cambios de tono de audio.

La eliminación de la política es sólo una rama de Facebook del intento de luchar contra la desinformación, Bickert, argumentó. “Los Videos que no cumplan estas normas para la eliminación son elegibles para la revisión por parte de uno de nuestros independiente de terceros fact-checkers, que incluye a más de 50 socios en todo el mundo comprobación de los hechos en más de 40 idiomas,” ella dijo. “Si una foto o un vídeo se considera falsa o falso en parte por un hecho-checker, reducir significativamente su distribución en el feed de noticias y la rechazará si se ejecuta como un anuncio. Y, fundamentalmente, de las personas que la ven, tratar de compartir, o ya han compartido, le consulte los avisos de alerta que es falso.

Para solucionar el problema de deepfakes debemos tratar la causa, no los síntomas | Matt Barba

“Este enfoque es fundamental para nuestra estrategia y uno de los que hemos oído hablar específicamente de nuestras conversaciones con los expertos. Si simplemente nos quitan todos los vídeos manipulados marcado por el hecho de damas como falsa, los videos todavía estaría disponible en otros lugares en el internet o medios de comunicación social de los ecosistemas. Por lo que les y etiquetado como falso, estamos proporcionando a las personas con información importante y contexto.”

La compañía también tiene una directiva independiente, que permite que cualquier contenido que rompe sus otras reglas para permanecer en línea si se juzga “interés periodístico” – y que todo el contenido publicado por los políticos automáticamente es visto como tal.

“Si alguien hace una declaración o comparte un post en el que rompe las normas de nuestra comunidad todavía se permiten en nuestra plataforma, si creemos que el interés público en ver que pesa más que el riesgo de daño,” dijo Nick Clegg, Facebook vice-presidente de asuntos internacionales y de las comunicaciones, cuando se introdujo la política el pasado mes de septiembre. “A partir de ahora vamos a tratar el discurso de los políticos como de interés periodístico contenido que debe, como regla general, ser visto y oído.” Que la política significa que incluso un AI-creado deepfake video expresamente la intención de inducir a error podría seguir en la red social, si es que fue publicado por un político.

Facebook no dar una razón de por qué es limitada su política exclusivamente a los vídeos manipulados usando AI herramientas, pero es probable que la empresa quería evitar ponerse en una situación en la que tenía que hacer subjetiva de decisiones acerca de la intención o de la verdad. Facebook ha tenido problemas a resolver en una política sobre qué hacer acerca de deepfakes para un número de años, con la compañía de reconocer públicamente el daño potencial de estos vídeos pueden infligir, mientras que de pie por una decisión previa – pensado para ser una política de teh fundador, Mark Zuckerberg – para evitar pronunciarse sobre si o no contenido en el sitio es verdadera o falsa.