Un día en 2005, una madre en Evanston, Ill., se unió a Flickr. Han subido algunas fotos de sus hijos, Chloe y Jasper. Entonces ella más o menos se olvidó de su cuenta existido.

Años más tarde, sus caras están en una base de datos que se utiliza para probar y entrenar a algunos de los más sofisticados de inteligencia artificial sistemas en el mundo.

Una selección de imágenes de la MegaFace de la base de datos.

Como Fotos de Sus Hijos Están usando la Tecnología de Vigilancia

Millones de imágenes de Flickr se aspira en una base de datos llamada MegaFace. Ahora, algunas de esas caras que tienen la capacidad para demandar.

Por Kashmir Hill y Aarón Krolik

Las fotos de Chloe y Jasper Papa como los niños son normalmente goofy tarifa: sonriendo con sus padres; pegando sus lenguas; disfraces para Halloween. Su madre, Dominique Allman Papa, subido a Flickr después de entrar en el sitio para compartir fotos en 2005.

Ninguno de ellos podía haber previsto que 14 años después, esas imágenes que residen en un enorme reconocimiento facial de base de datos llamado MegaFace. Contiene los retratos de casi 700.000 personas, ha sido descargado por decenas de empresas para capacitar a una nueva generación de algoritmos de identificación, utilizado para el seguimiento de los manifestantes, vigilar a los terroristas, irregular jugadores problema y espiar el público en general. El promedio de edad de las personas en la base de datos, sus creadores han dicho, es de 16.

“Es desagradable e incómodo”, dijo Mx. Papa, que ahora tiene 19 años y asistía a la universidad de Oregon. “Me gustaría que me han preguntado primero si quería ser parte de ella. Creo que la inteligencia artificial es genial y quiero que sea más inteligente, pero en general le pregunta a la gente a participar en la investigación. He aprendido que en la biología en la secundaria.”

Por ley, la mayoría de los Estadounidenses en la base de datos no necesita que se le solicite su permiso — pero los Papas deberían haber sido.

Como residentes de Illinois, que están protegidos por una de las más estrictas las leyes de privacidad estatales en los libros: la Información Biométrica de la Ley de Privacidad, en 2008, en la medida que impone sanciones financieras por el uso de un Illinoisan las huellas dactilares o la cara escaneados sin consentimiento. Aquellos que utilizan la base de datos de empresas como Google, Amazon, Mitsubishi Electric, Tencent y SenseTime — parecen haber sido conscientes de la ley, y como resultado puede tener enorme responsabilidad financiera, de acuerdo a varios abogados y profesores de derecho familiarizados con la legislación.

Cómo MegaFace nació

¿Cómo hicieron los Papas y cientos de miles de personas terminan en la base de datos? Es una rotonda de la historia.

En la infancia de la tecnología de reconocimiento facial, los investigadores desarrollaron sus algoritmos con los sujetos consentimiento claro: En la década de 1990, las universidades tenían los voluntarios de los estudios para ser fotografiados desde muchos ángulos. Más tarde, los investigadores se volvió más agresivo y métodos subrepticios para reunir las caras en una escala mayor, el aprovechamiento de las cámaras de vigilancia en las tiendas de café, universidades y espacios públicos, y raspado de las fotos que se publican en línea.

Según Adam Harvey, un artista que las pistas de los conjuntos de datos, probablemente hay más de 200 en la existencia, que contiene decenas de millones de fotos de aproximadamente un millón de personas. (Algunos de los conjuntos que se derivan de otras, por lo que las cifras incluyen algunos duplicados.) Pero estas cachés tenía defectos. Vigilancia de las imágenes son a menudo de baja calidad, por ejemplo, y la recopilación de imágenes de internet tiende a ceder demasiado a muchas celebridades.

En junio de 2014, en busca de avanzar la causa de la visión por computador, Yahoo reveló lo que él llama “el público más grande colección multimedia que ha sido liberado”, que cuenta con 100 millones de fotos y vídeos. Yahoo obtuvo las imágenes — todos los cuales tenían Creative Commons o de uso comercial, licencias de Flickr, una subsidiaria.

La base de datos de los creadores dijeron que su motivación fue incluso el campo de juego en el aprendizaje de máquina. Los investigadores necesitan enormes cantidades de datos para entrenar a sus algoritmos, y los trabajadores en unos pocos ricos en información de empresas como Facebook y Google — tenía una gran ventaja sobre todos los demás.

“Queremos empoderar a la comunidad de la investigación, dándoles una base de datos robusta”, dijo David Ayman Shamma, que fue director de investigación en Yahoo hasta 2016, y ayudó a crear el Flickr del proyecto. Los usuarios no fueron notificados de que sus fotos y videos fueron incluidos, pero el Señor Shamma y su equipo construido en lo que ellos pensaban que era una salvaguardia.

No distribuir las fotos de los usuarios directamente, sino enlaces a las fotos; de esa manera, si un usuario elimina las imágenes o hechos privados, que ya no sería accesible a través de la base de datos.

Pero esta protección era defectuoso. El New York Times descubrió una vulnerabilidad de seguridad que permite a un usuario de Flickr las fotos que se puede acceder incluso después de que hayan sido privados. (Scott Kinzie, un portavoz de SmugMug, que adquirió Flickr de Yahoo en 2018, dijo que el fallo “potencialmente afecta a un número muy pequeño de nuestros miembros hoy en día, y estamos trabajando activamente para implementar una actualización tan pronto como sea posible.” Ben MacAskill, la compañía de jefe de operaciones, agregó que el Yahoo colección fue creada “años antes de que nuestro compromiso con Flickr.”)

Además, algunos investigadores los que han accedido a la base de datos simplemente descargar las versiones de las imágenes y luego redistribuidos ellos, incluyendo un equipo de la Universidad de Washington. En 2015, dos de la escuela de ciencias de la computación profesores — Ira Kemelmacher-Shlizerman y Steve Seitz — y sus estudiantes de posgrado utiliza el Flickr de datos para crear MegaFace.

Contiene más de cuatro millones de fotos de algunos 672,000 de las personas, se mantienen en lo profundo de la promesa para las pruebas y el perfeccionamiento de la cara-algoritmos de reconocimiento.

Monitoreo de los Uigures y salida de los actores porno

Es importante destacar que para la Universidad de Washington investigadores, MegaFace incluyen a los niños como Chloe y Jasper Papa. La cara de reconocimiento de los sistemas tienden a un desempeño deficiente en los jóvenes, sino que Flickr ofrece la oportunidad de mejorar que con una bonanza de los rostros de los niños, por la sencilla razón de que a la gente le encanta publicar fotos de sus hijos en línea.

En un artículo académico, la Señora Kemelmacher-Shlizerman y un estudiante de posgrado llamado Aaron Nech estima que el promedio de edad de MegaFace temas de 16,1 años; el 41 por ciento de los rostros parecía ser mujer, y el 59 por ciento apareció masculino.

En 2015 y 2016, de la Universidad de Washington ejecutó el “MegaFace Desafío”, invitando a los grupos que trabajan en la cara de la tecnología de reconocimiento de utilizar el conjunto de datos para probar qué tan bien sus algoritmos estaban trabajando.

La escuela pidió a la gente la descarga de los datos se compromete a utilizar solamente para “comercial, la investigación y la enseñanza.” Más de 100 organizaciones que participaron, incluyendo a Google, Tencent, SenseTime y NtechLab. En total, de acuerdo a una 2016 universidad comunicado de prensa, “más de 300 grupos de investigación” han trabajado con la base de datos. Se ha citado públicamente por investigadores de Amazon y que, según el Señor Harvey, Mitsubishi Electric y Philips.

Algunas de estas empresas han sido criticados por la forma en que los clientes han desplegado sus algoritmos: SenseTime la tecnología ha sido utilizada para controlar la población Uigur en China, mientras que NtechLab ha sido utilizado a cabo la pornografía actores e identificar extraños en el metro de Rusia.

SenseTime director de marketing de junio de Jin, dijo que la compañía de los investigadores utilizaron la MegaFace de la base de datos sólo para fines académicos. “Los investigadores tienen que utilizar el mismo conjunto de datos para asegurar que sus resultados son comparables como,” la Señora Jin escribió en un correo electrónico. “Como MegaFace es el más ampliamente reconocido de la base de datos de su clase, se ha convertido de facto de reconocimiento facial de entrenamiento y de prueba para el global de la comunidad académica y de investigación.”

NtechLab portavoz Nikolay Grunin dijo que la compañía eliminado MegaFace después de tomar parte en el desafío, y añadió que “la generación principal de nuestro algoritmo, nunca ha sido entrenado en estas imágenes.” Google se negó a comentar.

Un portavoz de la Universidad de Washington se negó a hacer MegaFace la llevan a los investigadores disponible para entrevistas, diciendo que “se han trasladado a otros proyectos y no tienen el tiempo para comentar sobre esto.” Los esfuerzos para contactar con ellos de forma individual fueron infructuosos.

MegaFace de la creación fue financiado en parte por Samsung, Google Premio de Investigación de la Facultad, y por la Fundación Nacional de la Ciencia/Intel.

En los últimos años, la Señorita Kemelmacher-Shlizerman ha vendido una cara de intercambio de imagen de la compañía a Facebook y avanzado profundamente falso tecnología mediante la conversión de los clips de audio de Barack Obama en un realista, sintético video de él dando un discurso. Ella ahora está trabajando en un “proyecto de lanzamiento de un cohete lunar” en Google.

‘¿Qué diablos? Que está loco’

MegaFace sigue siendo públicamente disponible para su descarga. Cuando El New York Times recientemente de acceso solicitado, se le concedió el plazo de un minuto.

MegaFace no contiene los nombres de las personas, pero sus datos no serán anónimos. Un portavoz de la Universidad de Washington, dijo que los investigadores querían honrar las imágenes de’ licencias de Creative Commons. Como resultado, cada foto incluye un identificador numérico que remita el original de Flickr del fotógrafo de la cuenta. De esta manera, Las Veces que fue capaz de rastrear muchas fotos en la base de datos a la gente que se los llevaron.

“¿Qué diablos? Que está loco”, dijo Nick Alt, un emprendedor en Los Angeles, cuando dijo a sus fotos estaban en la base de datos, incluyendo fotos que tomó a los niños en un evento público en Playa Vista, California, hace una década.

el Señor de Alt fotos, con una selección de imágenes de MegaFace.

“La razón por la que fui a Flickr originalmente era que se podía establecer la licencia no comercial. Absolutamente que yo no hemos dejado que mis fotos se utiliza para la máquina de proyectos de aprendizaje -. Me siento como un idiota por publicar esa foto. Pero yo lo hice hace 13 años, antes de que la privacidad era una cosa.”

Otro tema, que pidió ser identificado como J., ahora es una de los 15 años de la escuela secundaria en Las Vegas. Fotos de él como un niño, en el MegaFace de la base de datos, gracias a su tío, la publicación de un álbum de Flickr después de una reunión de la familia hace una década. J. estaba incrédulo de que no era ilegal ponerlo en la base de datos sin su permiso, y él está preocupado acerca de las repercusiones.

Desde la escuela media, ha sido parte de la Fuerza Aérea, el programa de la Asociación denominada CyberPatriot, que intenta dirigir a los jóvenes con habilidades de programación hacia carreras en la inteligencia y los militares. “Estoy muy protectora de mi huella digital, porque de él”, dijo. “Trato de no publicar las fotos de mí mismo en línea. Lo que si me decido a trabajar para la N. S. A.?”

Para J., Señor Alt y la mayoría de los Estadounidenses en las fotos, hay pocos recursos. La ley de privacidad es generalmente tan permisiva en los Estados unidos de que las empresas son libres de usar millones de las caras de la gente sin su conocimiento a la alimentación de la propagación de la cara de la tecnología de reconocimiento. Pero hay una excepción.

En 2008, Illinois aprobó una premonitorio de la ley de protección de los “identificadores biométricos y la información biométrica” de sus residentes. Otros dos estados, Texas y Washington, fue a pasar sus propias biométrico de las leyes de privacidad, pero no son tan robusto como el de Illinois, que prohíbe estrictamente a las entidades privadas para recolectar, capturar, comprar u obtener de una persona biometría — incluyendo un análisis de su “cara de la geometría” — sin el consentimiento de la persona.

“Fotos en sí no están cubiertos por la Información Biométrica de la Ley de Privacidad, pero la exploración de las fotos debe ser. El mero uso de datos biométricos es una violación de los estatutos”, dijo Faye Jones, un profesor de derecho en la Universidad de Illinois. “El uso de que en un algoritmo concurso cuando no se ha notificado a las personas es una violación de la ley”.

Los residentes de Illinois como las Papas cuya faceprints son utilizados sin su permiso tiene el derecho a demandar, dijo la Señora Jones, y tienen derecho a $1,000 por el uso, o $5,000 si el uso fue “irresponsable”. Las Veces que intentó medir cómo muchas personas de Illinois que están en el MegaFace de la base de datos; un enfoque, el uso de auto-reporte de información de ubicación, sugerido de 6.000 personas, y por otro, el uso de geoetiquetado de metadatos, indicado como muchos como 13,000.

Sus datos biométricos probablemente han sido procesados por decenas de empresas. De acuerdo a varios expertos legales en el estado de Illinois, la combinación de la responsabilidad podría ascender a más de mil millones de dólares, y podría constituir la base de una acción de clase.

“Tenemos un montón de ambicioso de la acción de clase abogados en Illinois”, dijo Jeffrey Widman, el socio gerente en Fox Rothschild en Chicago. “La ley del estado en los libros en el estado de Illinois desde el 2008, pero fue básicamente ignorado durante una década. Les garantizo que en 2014 o en 2015, esta responsabilidad potencial no estaba en el radar de nadie. Pero la tecnología se ha reencontrado con la ley”.

$35 mil millones de caso en contra de Facebook

Es notable el hecho de que la ley de Illinois incluso existe. De acuerdo a Mateo Kugler, un profesor de derecho de la Universidad Northwestern, quien ha investigado el acta de Illinois, fue inspirado en el 2007 la quiebra de una empresa llamada Pagar por Tocar, que tenía las huellas de muchos Estadounidenses, incluyendo a los residentes de illinois, en el archivo; había preocupaciones de que podría venderlos durante su liquidación.

Nadie de la industria de la tecnología opinó sobre el proyecto de ley, de acuerdo con el legislativo y el cabildeo de los registros.

“Cuando la ley fue aprobada, no hay uno que ahora está preocupado por que estaba pensando en el tema,” el Señor Kugler, dijo. Silicon Valley es consciente de que la ley ahora. Bloomberg News informó en abril de 2018 que los cabilderos de Google y Facebook estaban tratando de debilitar a sus disposiciones.

Más de 200 demandas de clase, alegando el mal uso de los residentes de la biometría se han presentado en el estado de Illinois desde el año 2015, incluyendo una multa de $35 mil millones, caso en contra de Facebook para utilizar el reconocimiento facial para etiquetar personas en las fotos. Que la demanda ganado impulso en agosto, cuando los Estados unidos Tribunal de Apelaciones para el Noveno Circuito rechazó la empresa argumentos de que la gente no sufrir “daño concreto.”

En los últimos años, las empresas de tecnología han estado pisando más a la ligera en los estados con información biométrica de la legislación. Cuando Google lanzó una característica que, en 2018, que coincide selfies a las obras de arte más famosas, la gente en Illinois y Texas no podía usarlo. Y Google Nido de las cámaras de seguridad no ofrecen otra característica estándar para el reconocimiento de caras conocidas en el estado de Illinois.

“Es espeluznante que me has encontrado. Siempre he vivido con la filosofía de que lo que puse no era público, pero yo no podría haber imaginado esto”, dijo Wendy Piersall, un editor y miembro del Consejo de la Ciudad en Woodstock, illinois, los cuyas fotos, junto con los de sus tres hijos, se encontraban en la MegaFace de la base de datos.

“No podemos utilizar el arte de la diversión de la aplicación; para qué nuestros hijos se enfrenta a la prueba de software?”, agregó. “Mis fotos no son georeferenciadas a Illinois. No es difícil averiguar dónde estas fotos fueron tomadas. Yo no soy un sue-persona feliz, pero me gustaría animar a alguien a ir después de esto.”

Privacidad nihilismo

Algunos de los de Illinois demandas han sido resueltas o despedidos, pero la mayoría son activos, y el Señor Kugler, el Noroeste de profesor de derecho, señaló que jurídico básico de las preguntas quedaron sin respuesta. No está claro cuál es la responsabilidad legal sería para una empresa que toma las fotos subidas en el estado de Illinois, pero los procesos de tratamiento facial de datos en otro estado, o incluso de otro país.

“Los acusados van a ser creativos en la búsqueda de argumentos, porque nadie quiere estar pegado la celebración de esta caro papa caliente”, dijo.

Un portavoz de los Servicios Web de Amazon dijo que su uso del conjunto de datos era “compatible con el B. I. P. A.,” al negarse a explicar cómo. Mario Fante, un portavoz de Philips, escribió en un correo electrónico que la compañía “no era consciente de ninguna de residentes de Illinois incluido en el mencionado conjunto de datos.”

Víctor Balta, un portavoz de la Universidad de Washington, dijo, “Todos los usos de fotos en la que los investigadores de la base de datos son legales. La U. W. es una universidad pública de investigación, no una entidad privada, y la ley de Illinois objetivos de las entidades privadas.”

Algunos de los residentes de illinois hemos encontrado en MegaFace y contactado eran indiferentes sobre el uso de sus caras.

“Yo sé que cuando carga la información en línea, puede ser utilizado de maneras inesperadas, así que supongo que no me sorprende”, dijo Chris Scheufele, un desarrollador web en Springfield. “La hora de subir información a internet y hacer que esté disponible para el consumo público, usted debe esperar que se debe raspar.”

¿Qué acerca de los temas de sus fotos? El señor Scheufele se rió. “No he hablado con mi esposa”, dijo.

De la intimidad “nihilismo” es cada vez más un término familiar para darse por vencido en tratar de controlar la información acerca de uno mismo en la era digital. Lo que sucedió a Chloe Papa podría, según su perspectiva, se inclinan por la extrema vigilancia o total resignación: ¿Quién podría haber posiblemente predijo que una instantánea de un niño en el año 2005 contribuir, de una década y media más tarde, para el desarrollo de sangrado borde de la tecnología de la vigilancia?

“Nos hemos acostumbrado a la negociación para la conveniencia de privacidad, por lo que ha opacado nuestros sentidos como a lo que está sucediendo con todos los datos recabados acerca de nosotros”, dijo la Señora Jones, el profesor de derecho. “Pero la gente está empezando a despertar.”