Digital distopía: cómo los algoritmos de castigar a los pobres | Tecnología | El Tutor

Todo el mundo, de una pequeña ciudad de Illinois en los estados unidos para Rochdale en Inglaterra, de la ciudad de Perth, Australia, para Dumka en el norte de la India, una revolución en la forma en que los gobiernos tratan a los pobres.

Usted no puede ver lo que está sucediendo, y puede haber oído nada al respecto. Es que están siendo planeadas por los ingenieros y programadores detrás de puertas cerradas, en el seguro del gobierno lugares lejos de la vista del público.

Sólo los matemáticos y científicos de la computación comprender plenamente el cambio de mar, impulsado por la inteligencia artificial (IA), los algoritmos de predicción, modelos de riesgo y la biometría. Pero si eres uno de los millones de personas vulnerables en el extremo receptor de la radical reestructuración de las prestaciones de bienestar, sabes que es real y que sus consecuencias pueden ser graves, incluso mortales.

El Guardián ha pasado los últimos tres meses investigando cómo los miles de millones que se vierte en IA innovaciones que son explosivamente refundición de cómo las personas de bajos ingresos interactuar con el estado. Juntos, nuestros reporteros en los estados unidos, gran Bretaña, India y Australia han explorado lo que constituye el nacimiento de la digital del estado de bienestar.

Sus despachos revelan cómo los beneficios por desempleo, manutención de los hijos, la vivienda y el subsidio de alimentos y mucho más se están revueltos en línea. Grandes sumas de dinero está siendo gastado por los gobiernos de los países industrializados y en vías de desarollo en la automatización de la pobreza y en el proceso, convirtiendo las necesidades de los ciudadanos más vulnerables en los números, en sustitución de la sentencia de humanos de los trabajadores sociales con el frío, sin derramamiento de sangre toma de decisión de las máquinas.

En su forma más amenazante, Tutor reporteros pintar un cuadro de un siglo 21 Dickensian distopía que está tomando forma con una velocidad de vértigo. El politólogo Estadounidense de Virginia Eubanks tiene una frase para esto: “El digital de asilo.”

Escuchar a los gobiernos, y se oye grandes promesas acerca de cómo las nuevas tecnologías van a transformar la pobreza como un noble y benignas de la empresa. Van a acelerar los pagos de beneficios, aumentar la eficiencia y la transparencia, reducir los residuos, ahorrar dinero de los contribuyentes, la erradicación de la falibilidad humana y los prejuicios, y garantizar que los limitados recursos lleguen a quienes más lo necesitan. Pero muy a menudo, esas promesas se han caído de la plana.

En un momento de austeridad domina el paisaje político, millones de personas han tenido sus beneficios recortados o detenido por los programas de ordenador que operen de manera que pocos parecen capaces de controlar o incluso de comprender. Los errores se han convertido en endémica, sin evidentes de ruta para las víctimas de los errores de buscar reparación.

Esta semana, la automatización de la pobreza será introducido en el escenario mundial. Philip Alston, un abogado de derechos humanos que actúa como la ONU, el organismo de control en la pobreza extrema, vamos a presentar a la asamblea general de la ONU, en Nueva York, un innovador informe que suena la alarma acerca de las implicaciones de derechos humanos de la prisa para digitalizar la protección social.

Alston del análisis se basa en parte en su cuenta oficial de la ONU en los estudios de la pobreza en el reino unido y estados unidos, y en parte en los envíos de los gobiernos, las organizaciones de derechos humanos y expertos de más de 34 países. Es probable que para proporcionar la definitiva instantánea de donde el mundo se encuentra ahora, y a donde va, abordar el acoso, la orientación y el castigo de los que viven en la rápida expansión digital de asilo.

Errores se han convertido en endémica, con no obvia la ruta de las víctimas a obtener reparación

En el estado de Illinois, el Tutor ha encontrado que los gobiernos federal y estatal han unido sus fuerzas para exigir que los beneficiarios de asistencia social a pagar “pagos en exceso” que se remonta en algunos casos a los 30 años. Este sistema de “zombie de la deuda”, incorporados a través de la tecnología, es invocar el miedo y la dificultad entre la sociedad más vulnerables.

Como un destinatario describió: “Usted debe lo que ha comido.”

En el reino unido, investigar el seguro en el sitio del gobierno fuera de Newcastle donde millones de personas se dedicó a desarrollar una nueva generación de bienestar de los robots para reemplazar a los seres humanos. Las empresas privadas, incluyendo Nueva York el conjunto que dirigía el primero en el mundo del bot multimillonario, se fomenta un proceso que ha generado toda una nueva jerga: “fuerza de trabajo virtual”, “aumentada la toma de decisiones”, “robot” automatización de procesos”.

El gobierno se precipita hacia adelante con su digital de la misión a pesar de que el dolor de ya ser infligido a millones de personas de bajos ingresos a los Británicos por el país digital “por defecto” de la agenda. Los demandantes habló del hambre, la suciedad, el miedo y el pánico que están soportando.

En Australia, donde el Tutor ha informado ampliamente sobre robodebt, el esquema que ha sido acusado erróneamente de arrancar el histórico de deudas a través de un error en el algoritmo, ahora podemos revelar que el gobierno ha abierto una nueva entrada digital: uso de la automatización para suspender millones de pagos de bienestar. Destinatarios están encontrando su dinero cortado sin previo aviso.

El más inquietante historia viene de Dumka en la India. Aquí, nos damos cuenta de la horrible impacto humano que ha afectado a las familias como resultado de Aadhaar, de 12 dígitos del número de identificación único que el gobierno de la India ha emitido a todos los residentes en el más grande del mundo biométricos experimento.

Nuevos de alta tecnología enfoques de barrido a través de los servicios sociales, de trabajo, de la discapacidad y de la salud, a menudo con un mínimo de debate público

Motka Manjhi pagado el precio máximo cuando el equipo glitched y su huella digital – su clave en Aadhaar – pasaron desapercibidos. Su subsistencia raciones se detuvo, se vio obligado a saltarse las comidas y creció delgado. El 22 de Mayo, cayó fuera de su casa y murió. Su familia está convencida de que era el hambre.

El Guardián de las investigaciones iluminar las características compartidas de estos nuevos sistemas, ya sea en desarrollo o en países desarrollados, el este o el oeste. La más evidente similitud es que todo esto está ocurriendo a la velocidad del rayo, con hi-tech enfoques de barrido a través de los servicios sociales, de trabajo y de las pensiones, de la discapacidad y de la salud, a menudo con un mínimo de debate público o de rendición de cuentas.

Dentro de la revolución, el elemento humano del estado de bienestar es la de ser diluido. En lugar de hablar con un trabajador social que personalmente evalúa sus necesidades, ahora se canalizan en línea donde analítica predictiva le asignará un futuro puntuación de riesgo y un algoritmo de decidir su destino.

En el nuevo mundo, la desigualdad y la discriminación pueden ser afianzadas. ¿Qué sucede si usted es uno de los cinco millones de adultos en el reino unido sin acceso regular a internet y con poco o ningún equipo de la alfabetización? ¿Qué pasa si el algoritmo simplemente se cuece en las distorsiones existentes de la raza y la clase, haciendo que la brecha entre ricos y pobres, blancos y negros, con formación universitaria y el trabajador manual, incluso más pronunciada?

también Hay un escalofriante Kafkiana de calidad que abarca a todo el planeta. Como Manjhi tan trágicamente descubierto, se cometen errores. Las máquinas de falla. Si no hay nadie dentro de alcance, que te ve como una persona y no como un número de 12 dígitos para ser procesados, los resultados pueden ser fatales.

El equipo dice “No pago”. Ahora, ¿qué hacer?

la Automatización de la Pobreza va a correr toda la semana. Si usted tiene una historia que contar acerca de estar en el extremo receptor de las nuevas tecnologías digitales de distopía, correo electrónico ed.pilkington@theguardian.com