Un tribunal holandés ha ordenado el cese inmediato de un fichero automatizado de sistema de vigilancia para la detección de fraudes porque viola los derechos humanos, en una sentencia de probabilidades de resonar más allá de los países Bajos.
El caso fue visto como un importante desafío legal a la polémica pero creciente uso por parte de los gobiernos de todo el mundo de la inteligencia artificial (AI) y el modelado de riesgos en la administración de las prestaciones de bienestar y otros servicios básicos.
los Activistas dicen que tal digitales “estados de bienestar” – desarrollado a menudo sin consulta, y operado de manera sigilosa y sin la supervisión adecuada – cantidad para espiar a los pobres, violando la privacidad y normas de derechos humanos y de manera injusta penalización de los más vulnerables.
El relator especial de la ONU sobre extrema pobreza y derechos humanos, Philip Alston, aplaudió el veredicto y dijo que era “una clara victoria para todos aquellos que están justificadamente preocupados por las graves amenazas digital de los sistemas de bienestar de posar para los derechos humanos”.
La decisión”, establece un fuerte precedente legal para los demás tribunales a seguir”, añadió. “Esta es una de las primeras veces que un tribunal en cualquier lugar se ha detenido el uso de las tecnologías digitales y la abundante información digital por parte de las autoridades de bienestar por motivos de derechos humanos.”
El veredicto será observado de cerca por el bienestar de los activistas de los derechos en el reino unido, donde el gobierno está acelerando el desarrollo de los robots en los beneficios de un sistema de digitalización de la unidad que las demandantes miedo podría hundir aún más en el hambre y la deuda.
¿Qué es la IA?
la Inteligencia Artificial tiene varias definiciones, pero en general significa un programa que utiliza los datos para construir un modelo de algún aspecto del mundo. Este modelo se utiliza para tomar decisiones informadas y las predicciones sobre eventos futuros. La tecnología se utiliza ampliamente, para proporcionar voz y reconocimiento facial, traducción de idiomas, y las recomendaciones personales sobre la música, el cine y sitios de compras. En el futuro, podría entregar los coches sin conductor, inteligente asistentes personales, inteligentes y redes de energía. AI tiene el potencial para que las organizaciones sean más eficaces y eficientes, pero la tecnología plantea graves problemas de la ética, el buen gobierno, la privacidad y el derecho.
Un Tutor de la investigación en octubre de encontrar el Departamento de Trabajo y Pensiones (DWP) tuvieron un aumento en el gasto de alrededor de £8m un año en un especialista en automatización inteligente de garaje”, donde los científicos de la computación fueron el desarrollo de más de 100 el bienestar de los robots, el aprendizaje profundo y automatización inteligente para su uso en el sistema de bienestar.
El gobierno holandés de riesgo del sistema de indicación (SyRI) es un riesgo el modelo de cálculo desarrollado a lo largo de la última década por los asuntos sociales y la consejería de empleo para predecir la probabilidad de que un individuo de cometer beneficio o el fraude fiscal o la violación de las leyes laborales.
Desplegado principalmente en barrios de bajos ingresos, que recopila datos de gobierno previamente llevó a cabo en silos separados, tales como el empleo, la deuda personal y en beneficio de los registros, y la educación y la vivienda historias, a continuación, analiza el uso de un secreto algoritmo para identificar qué individuos pueden estar en mayor riesgo de cometer fraude de beneficios.
Una amplia coalición de la privacidad y el bienestar de los grupos de derechos, respaldado por el mayor sindicato holandés, argumenta que los pobres de los barrios y sus habitantes estaban siendo espiados digitalmente sin ningún tipo de sospecha de irregularidades individuales. SyRI era desproporcionadamente la orientación de los ciudadanos más pobres, dijeron, la violación de las normas de derechos humanos.
El tribunal dictaminó que la SyRI la legislación contenida insuficiente salvaguardias contra la intimidad de las intrusiones y criticado “falta de transparencia” acerca de cómo ha funcionado. Se concluyó en su sentencia que, en ausencia de más información, el sistema puede, en la orientación de los barrios pobres, cantidad a la discriminación por motivos socioeconómicos o de la condición de migrantes.
la Sentencia: el ministro rechaza el convenio Europeo de derechos humanos de advertencia
El sistema no pasa la prueba requerida por el convenio Europeo de derechos humanos de un “justo equilibrio” entre sus objetivos, es decir, para prevenir y combatir el fraude en el interés del bienestar económico, y la violación de la privacidad que su uso conlleva, la corte agrega, declarar la legislación, por tanto, era ilegal. El gobierno holandés puede apelar contra la decisión.
Christiaan van Veen, director de digital del estado de bienestar y del proyecto de derechos humanos en la New York University School of Law, dijo que era “importante subrayar que SyRI no es un sistema único; muchos otros gobiernos están experimentando con automatizados de toma de decisión en el estado de bienestar”.
Van Veen citado Australia y el reino unido como países donde esas preocupaciones fueron especialmente graves. “Esta fuerte decisión va a establecer un fuerte precedente en el mundo que se anime a los activistas de otros países para desafiar a sus gobiernos”, dijo.
Alston, predijo que el juicio sería “una llamada de atención para los políticos y otros, no sólo en los países Bajos”. El relator especial presentó un informe a la asamblea general de la ONU en octubre en la aparición de la “digital estado de bienestar” en los países de todo el mundo, advirtiendo de la necesidad de “cambiar de rumbo de manera significativa y rápidamente para evitar tropiezos, zombi, en un digital de bienestar de la distopía”.
En el reino unido, así como los contratos con la externalización de las multinacionales de IBM, Tata Consultancy y Capgemini, el DWP también está trabajando con UiPath, con sede en Nueva York de la compañía co-fundada por Daniel Cena, el primero del mundo “bot millonario”, que el mes pasado dijo: “yo quiero un robot para cada persona.”
Su software se implementa en un esfuerzo para introducir el aprendizaje de máquina para comprobar las reclamaciones de beneficios, lo que sugiere el bienestar de los ordenadores de aprender de forma autónoma y alterar la forma en que toman decisiones con un mínimo de intervención humana.
This content was originally published here.
EL 2 DE JUNIO DEL 2024 VOTA PARA MANTENER
TU LIBERTAD, LA DEMOCRACIA Y EL RESPETO A LA CONSTITUCIÓN.
VOTA POR XÓCHITL
