‘Alexa, estás invadiendo mi privacidad?’ – el lado oscuro de nuestra voz asistentes | Tecnología | El Tutor

One día en 2017, Alexa se fue pícaro. Cuando Martin Josephson, que vive en Londres, llegó a casa del trabajo, se enteró de que su Amazon Echo Punto asistente de voz de escupir fragmentaria comandos, aparentemente basado en sus interacciones anteriores con el dispositivo. Lo que parecía ser regurgitar las solicitudes de reserva de billetes de tren para los desplazamientos él ya había tomado y para grabar programas de TELEVISIÓN que ya había visto. Josephson no había dicho la estela de la palabra – “Alexa” – para activarlo y nada de lo que él dijo que iba a detenerlo. Fue, dice, “Kafkiano”.

Esto fue especialmente interesante porque Josephson (no es su nombre real) era un empleado de Amazon. Tres años antes, él se había ofrecido a sentarse en una sala de recitar una cadena de frases aparentemente sin sentido en un micrófono para una velada propósito. Sólo cuando Amazon lanzó el Eco en los EE.UU. en 2014 hizo darse cuenta de lo que había estado trabajando. Él compró un Punto, el Eco es más barato, más pequeño modelo, después de que se puso en marcha en 2016, y encontrado que es útil suficiente hasta el día en que se salió de control. Cuando el Punto de la explosión se desplomó, se desenchufó y lo depositó en la bandeja. “Me sentí un poco tonto,” él dice. “Después de haber trabajado en Amazon, y después de haber visto cómo se utilizan datos del pueblo, yo sabía que no podía confiar en ellos.”

El Punto no iba a comportarse como un dadaísta sargento. De nuevo, la voz de los asistentes a menudo hacen cosas que se supone que no deben hacer. El año pasado, una atención al cliente de Amazon en Alemania fue erróneamente enviado cerca de 1.700 archivos de audio desde otra Eco, se proporciona suficiente información para nombrar y localizar al usuario lamentable y su novia. (Amazon atribuyó este “desafortunado accidente” a un error humano.)

En San Francisco, Shawn Kinnear afirmó que su Eco activado en sí y dijo alegremente: “Cada vez que cierro los ojos, todo lo que veo es que la gente muriendo”. En Portland, Oregon, una mujer descubrió que su Eco habían tomado sobre sí mismo para enviar grabaciones de conversaciones privadas a uno de su marido empleados. En un comunicado, Amazon dijo que el Eco debe haber escuchado mal la estela de la palabra, misheard una solicitud para enviar un mensaje, misheard un nombre en su lista de contactos y, a continuación, misheard una confirmación para enviar el mensaje, todo durante una conversación sobre pisos de madera. No es genial, Alexa.

la Tecnología con frecuencia inspira la ambivalencia: sabemos que Facebook y Google sabe mucho sobre nosotros, sin embargo, podemos seguir utilizando sus servicios porque son tan maldita sea conveniente. Voz de los asistentes, sin embargo, son inusualmente polarización. Las personas que se consideran a ellos siniestro y invasivos (yo incluido) respecto de los entusiastas como complaciente, mientras que los que se encuentran útil y benigno ver los escépticos como paranoico tecnófobos. Hay una pregunta cargados con grandes cuestiones acerca de nuestra relación con la industria de la tecnología: en caso de que deje de Alexa en tu casa?

En enero, Amazon, vicepresidente senior de dispositivos, David Limp, reveló que la compañía había vendido más de 100 metros de Alexa de los dispositivos habilitados. El año pasado en los estados unidos, donde uno de cada cinco adultos de su propia vivienda asistente de voz, Alexa había un 70% del mercado de los estados unidos, en comparación con el de Google Asistente del 24%. Por lo tanto, es mejor colocado para convertirse en lo que Shoshana Zuboff, en su best seller ” la era de La Vigilancia Capitalismo, llama a la “Una sola Voz”: la dominante del ecosistema que daría a su operador de “la capacidad para anticipar y monetizar todos los momentos de todas las personas que durante todos los días”. Zuboff llama el nacimiento de Alexa “un evento de umbral”.

Alexa, sin embargo, ha crecido en una era de creciente escepticismo sobre el poder y la moral de los “cinco grandes” empresas de alta tecnología: Amazon, Apple, Facebook, Google/el Alfabeto y Microsoft. Eventos como el de Edward Snowden fugas y la de Cambridge Analytica escándalo han empañado el Silicon Valley promesas utópicas. Los CEOs son menos propensos a trivializar las preocupaciones de privacidad. Tech periodistas son más propensos a ser críticos de porristas. Los políticos están más dispuestos a mantener a las empresas a cuenta.

Este año ha sido particularmente difícil. En los últimos seis meses, Bloomberg, the Guardian, Vicepresidente de Noticias y el Belga canal de noticias VRT han revelado gradualmente que todos los cinco grandes han estado utilizando a los contratistas para analizar un pequeño porcentaje de voz-ayudante de grabaciones. Aunque las grabaciones son anónimos, que a menudo contienen suficiente información para identificar o avergonzar al usuario, sobre todo si lo que escucha es confidencial de la información médica o involuntaria cinta de sexo. Las revelaciones fueron la gota que rebalsó el vaso para muchos Alexa escépticos. “Vivimos en un tecno-distopía de nuestras propias decisiones. Si usted todavía tiene un Alexa o cualquier otro asistente de voz en su hogar, advirtió,” escribió el Gizmodo escritor Matt Novak.

después de Haber trabajado en Amazon y otro big-five de la empresa, Josephson piensa que esta resistencia a estas empresas está justificada. “Ellos tienen cero interés, en mi opinión, en preguntarse cuál es el impacto de los productos será. Tratarlos como el derecho de las personas a manejar que el poder es una absurda situación de que no íbamos a permitir que en cualquier otra industria. Que, francamente, no son seguros tutores de los datos que se están recogiendo cada día sin nosotros saberlo.”

control de Voz primero se apoderó de la imaginación del público en los años 60, a través de HAL 9000, el sintientes equipo en 2001: Una Odisea en el Espacio, y la Nave espacial Enterprise infinitamente útil del equipo en Star Trek. El último fue un importante punto de referencia para los equipos que elaboraron Amazon Echo y el Asistente de Google. “La luz brillante, la luz que brilla, que todavía está lejos muchos años, muchas décadas de distancia, es recrear el viaje a las Estrellas del equipo,” Cojera dijo en una conferencia de la audiencia en el 2017.

En el mundo real, el reconocimiento de voz no se ha vuelto algo común hasta que Apple lanzó su teléfono basado en asistente de voz, Siri, en 2011. Alexa va mucho más allá por la colonización de la casa del usuario. Hace tres décadas, la capacidad de equipo científico Mark Weiser se llama este tipo de fricción de los ecosistemas “computación ubicua”. En 2015, de Google, Eric Schmidt, se preveía un día en el que internet va a ser “parte de su presencia todo el tiempo”, haciendo que su vida real comportamiento como representables como lo que usted hace en su computadora portátil o teléfono. Usted nunca va a estar fuera de línea.

El editor de Gizmodo Adam Clark Estes inicialmente estaba emocionado por la primera gran innovación del hardware desde el iPad de Apple cuatro años antes. El más aprendió acerca de la tecnología, sin embargo, menos le gustaba. Su propio Eco despertaba espontáneamente. Las grabaciones comenzaron a mostrar como evidencia en la corte de los casos. El FBI se negó a confirmar o negar que fue el uso de Alexa para efectos de la vigilancia. “Se hizo cada vez más claro para mí que la privacidad de los guardianes estaban en lo correcto,” él dice. “Es, en la base, una de las interceptaciones telefónicas dispositivo.”

la Voz asistentes realzaba la tensión entre la eficiencia y la privacidad. La tecnología es todavía muy imperfecta; en más de uno de cada 10 transcripciones analizado por uno de Bloomberg fuentes, Alexa se despertó accidentalmente. Con precisión la interpretación de los comandos de voz teniendo en cuenta los diferentes idiomas, acentos, tonos, los contextos y los grados de ambiente de desorden requiere mucho más poder computacional que un solo dispositivo puede contener. Por lo tanto, la mayoría del trabajo se realiza en la nube, que es la forma humana de los monitores son capaces de recoger y analizar las grabaciones de voz. “Ustedes son la construcción de una infraestructura que puede ser más tarde co-optado de manera indeseable por parte de las grandes multinacionales y el estado del aparato de espionaje, y comprometida por los hackers,” dice el Dr. Michael Veale, un profesor de derechos digitales y la regulación en la UCL de la Facultad de Leyes de la Universidad College de Londres.

No todos los asistentes de voz son iguales. Apple, cuyos beneficios no dependen principalmente de la recolección de datos, se utiliza más en dispositivos de computación y cifrado en ambos extremos. “Apple es el mejor en la intimidad”, dice Estes. “Al mismo tiempo, creo que todo el mundo está de acuerdo en que Siri es una mierda.” Amazon Echo y Asistente de Google son mucho más fiables, ya que estas empresas de los modelos de negocios dependen de saber mucho más acerca de usted con el fin de microtarget publicidad. Les gusta marco de recopilación de datos como un medio para mejorar los servicios, mientras que jugando por los inmensos beneficios comerciales.

Google y Amazon podría, por supuesto, elegir a mejorar la tecnología por pagar a la gente a prueba de ti – el tipo de trabajo Josephson realizado en 2012–, en lugar de tratar a sus clientes como un servicio gratuito de investigación y desarrollo de la base de datos. O se podría anunciar el hecho de que los seres humanos pueden ser el estudio de las grabaciones. “Debe estar en la caja,” dice el Dr. Jeremy Gillula, el director del proyecto en la Electronic Frontier Foundation, un grupo que hace campaña contra el mal uso de la tecnología. La generosa interpretación de las compañías de tecnología’ motivos es un irresponsable de la utopía, pero Gillula sostiene que si eran verdaderamente ingenuo acerca de las implicaciones de su tecnología, entonces no ir a tales extremos para disimularlas. “Creo que pensó que nadie lo vería. Yo creo que ellos estaban tratando de mantener la tranquilidad porque, si los usuarios sabía lo que estaba pasando podrían dejar de comprar los dispositivos. Fue una calculada decisión de negocios.”

En respuesta, un portavoz de Amazon dice que: “la confianza de los Clientes es el centro de todo lo que hacemos y nos tomamos la privacidad de los clientes muy en serio. Estamos continuamente en la revisión de nuestras prácticas y procedimientos para asegurar que estamos ofreciendo a los clientes las mejores experiencias y las opciones de privacidad. Proporcionamos a los clientes con varios controles de privacidad, incluyendo la capacidad para revisar y borrar sus grabaciones de voz. Para ayudar a mejorar Alexa, se revisan manualmente una muy pequeña muestra de Alexa solicitudes para confirmar Alexa entendido y respondido correctamente. Los clientes pueden optar por tener sus grabaciones de voz incluidos en este proceso de revisión.”

sin Embargo, se ha demostrado una y otra vez que, en su publicidad y astutamente redactado políticas de privacidad, las empresas de tecnología de forma rutinaria ocultar el alcance y la naturaleza de sus datos de cosecha. “Google y Amazon nos han demostrado que están inclinados a tomar tanto como se pueda hasta que alguien los coge con su mano en el tarro de las galletas”, dice Estes. “No me gusta ser dramático, pero creo que no vamos a volver a sentirse seguro de sus datos de prácticas de cobranza. La regulación del gobierno es la única cosa que va a parar más de daño.”

El gobierno de estados unidos ha sido reacio a actuar. En julio de 2015, el Electronic Privacy Information Center (Epic), una reputada organización sin fines de lucro dedicada a “los valores democráticos en la era de la información”, pidió una investigación en “siempre en” dispositivos, incluyendo la voz de los asistentes. Ellos aún no han recibido una respuesta. “Las soluciones de mercado no funcionan en esta zona, ya que las compañías pueden ocultar los defectos de sus propios productos”, dice Marc Rotenberg, Épica del director ejecutivo. Y añade: “Si usted o yo fuera a colocar un dispositivo en casa de otra persona con la capacidad de capturar sus comunicaciones privadas, estaríamos en violación de la ley Federal de Escuchas Ley.”

Si usted es un país autoritario, ¿por qué no sólo tiene que ejecutar la secuencia de audio directamente a un gobierno de la vigilancia de la agencia?

En julio, un congresista Demócrata, Seth Moulton, introdujo el Automático Escuchar Acto de Explotación, que penaliza a las empresas cuya voz asistentes y smart timbre de la puerta (tales como Amazon Anillo) grabar conversaciones sin permiso, pero Gillula considera que es “muy débil de la legislación”. En Europa, que ha amarga experiencia de primera mano de la masa de la vigilancia en virtud de los regímenes totalitarios, los reguladores tienen más afilado de los dientes. Recientemente, Johannes Caspar, de Hamburgo formidable comisario de protección de datos, obligó a Google a suspender la transcripción de las grabaciones de voz en toda la UE, mientras que Apple y Facebook simultáneamente detenido transcripción en todas partes en el mundo. (Amazon simplemente permite a los usuarios optar por humanos, monitoreo). El reino unido Oficina del Comisionado de Información está investigando si la supervisión humana infracciones General de Protección de Datos Reglamento. “Tenemos una gran regulación en esta área ya, pero la clave está en ejecución”, dice Veale. “Como todos Europeo de protección de datos de autoridades, la Oficina del Comisionado de Información carece de fondos suficientes y sobrecargados, y necesita una inversión significativa y apoyo para proteger los derechos fundamentales de los ciudadanos.”

Sin regulación efectiva, no hay defensa contra el más invasivo de la explotación de los asistentes de voz. Por definición, siempre, incluso cuando no están despiertos, los dispositivos están constantemente escuchando, aunque no siempre se transmite. Gillula dice que no hay obstáculos técnicos para la habilitación latente dispositivos, por ejemplo, el recorrido de los usuarios de la televisión por responder a agudo señales incrustado en espectáculos y anuncios, o identificar quién está en la casa en cualquier momento dado. “Que, en esencia, se convierte en la constante vigilancia,” Gillula dice. “Tengo la esperanza de que las empresas nunca iba a ir a esta distópica camino, pero he podido ver a ellos diciendo: ‘Oh, es una característica de: saber cuando los niños están en casa!’ Una interesante característica es cómo la mayoría de estas cosas comienzan.”

Dónde terminan ha galvanizado no sólo la privacidad de los guardianes, pero los escritores. El distópico implicaciones de voz asistentes están apareciendo en la ciencia ficción, incluyendo la película de Spike jones Ella, el Espejo Negro y Años y Años. Detrás de todos ellos se cierne la de “nunca dormir oído” de George Orwell, telepantalla en mil novecientos Ochenta y Cuatro: “tenía Que vivir – hizo vivir, de la costumbre que se convirtió en el instinto – en el supuesto de que cada sonido que hizo fue por casualidad.” El Eco de diapositivas, un smart assistant con una pantalla y la cámara, fue ampliamente en comparación con la telepantalla, cuando se presentó hace dos años. “Alexa, me muestran la distopía,” dijo el Vice. En Joanna Kavenna satírica de la novela de Zed, el escritor explora el “extraño disfuncional-siervo aspecto” de la vida real de voz asistentes (que todos tienen voces femeninas como su configuración predeterminada) y las consecuencias sociopolíticas de la Voz: en Zed, la tecnología de monopolio, Escarabajo, es omnipresente y que no rinden cuentas. “La idea democrática es que estamos destinados a la transparencia en los gobiernos y las corporaciones, mientras que las personas tienen de privacidad”, dice ella. “Tenemos la inversa. La gente está inquieta porque no está siendo discutido a una madura, democrática nivel.”

Kavenna preocupaciones que, lejos de legislar para proteger la privacidad del usuario, US estados tratarán de acceso de voz-ayudante de grabaciones en el nombre de la prevención del delito y la seguridad nacional. El año pasado, un juez de Nueva Hampshire en los titulares por el pedido de Amazon para presentar Eco de las grabaciones de un doble asesinato a los investigadores. “Se pone en una muy complicada posición entre sus clientes y el gobierno,” Kavenna dice. “Estamos muy dependiente del régimen político.”

Rotenberg está de acuerdo: “Si usted es un país autoritario, ¿por qué no sólo tiene que ejecutar la secuencia de audio directamente a un gobierno de la vigilancia de la agencia y argumentan que es para reducir la delincuencia en el hogar? Es miedo a contemplar, pero es concebible.”

Hoy en día, la voz de los asistentes no son los más apremiantes de la amenaza a la privacidad sólo porque ellos son opcionales. Un reconocimiento facial escáner puede espiar en un espacio público, pero Alexa, como un vampiro, debe ser invitado a su casa. El único realmente efectivo es el poder que ejercen sobre esta tecnología es que no lo uso. Pero hacer una elección informada se ve comprometida por la comercialización engañosa y socavado por Amazon esfuerzos para incrustar Alexa en infinidad de productos, incluyendo coches, televisores, auriculares, microondas, termostatos y los relojes, mientras que la firma de acuerdos con empresas de construcción y las cadenas de hoteles, todos con un ojo para convertirse en Una sola Voz. “Control de voz está siendo forzado hacia abajo de los consumidores de garganta, les guste o no,” dice Estes.

no Estamos allí todavía. Las empresas de tecnología se basan en el mito de la inevitabilidad tecnológica para ocluir las decisiones de negocios que han hecho y la posibilidad de otros modelos. Para los reto es luchar contra el futuro. Tonterías, dice Kavenna. “Es una consecuencia inevitable de la tecnología? No, es un ideológica de la aplicación de la tecnología. Si se construye un edificio, usted no tiene que construir un panóptico. No tiene que ser lo que tenemos ahora. Ellos suelen decir que si usted se opone a esto, eres un neo-ludita. El mito se ha permitido que una gran cantidad de personas a ser increíblemente rico.”

Ninguno de las personas que hablé es dueño de una casa asistente de voz, ni aconsejar a nadie para conseguir uno, pero todos están de acuerdo en que sería posible desarrollar un dispositivo que ofrece los servicios más populares, respetando la privacidad del usuario. Si toda la industria a seguir el ejemplo de Apple en la fabricación de vigilancia en seres humanos opt-en lugar de opt-out, que sería un buen comienzo. Entonces, como el poder de procesamiento aumenta, más tareas pueden ser realizadas en el interior del dispositivo. Pero, por supuesto, eso significaría perder que jugosa, monetisable de datos. “Un montón de cosas que usted realmente quiere hacer y no requiere una conexión a internet, y una vez cortado el acceso a la nube, a continuación, la privacidad se refiere a desaparecer”, dice Estes. “Siempre existe el potencial para que las cosas mejoren y no siempre va a ser una lucha para llegar a ese punto.”

Jeremy Gillula es tan convencido de que, de seguro, totalmente controlada por el usuario asistente de voz es posible que sea el diseño de su propia, el uso de software de código abierto.

“yo estoy ahí”, dice alegremente. “Yo no estoy 100% satisfecho todavía, pero va a encender las luces de encendido y apagado.”