Una nueva generación de armas autónomas o “robots asesinos” accidentalmente podrían iniciar una guerra o a causa de las atrocidades en masa, un ex ingeniero de software de Google, ha advertido.
Laura Nolan, que dimitió de Google el año pasado en protesta por ser enviados a trabajar en un proyecto para mejorar dramáticamente militar estadounidense de tecnología de drones, ha llamado a todos los AI máquinas de matar no operados por los seres humanos a ser prohibido.
Nolan dijo robots asesinos que no son guiados por el ser humano control remoto debe estar fuera de la ley por el mismo tipo de tratado internacional que prohíbe las armas químicas.
a Diferencia de los drones, que son controlados por los equipos militares a menudo a miles de millas de distancia de donde el vuelo arma está siendo implementado, Nolan dijo killer robots tienen el potencial de hacer “calamitoso cosas que no estaban originalmente programado para”.
Nolan, quien se ha sumado a la Campaña Stop Killer Robots y ha informado a los diplomáticos de la ONU en Nueva York y Ginebra sobre los peligros de las armas autónomas, dijo: “La probabilidad de que un desastre está en proporción a cómo muchas de estas máquinas será en un área en particular a la vez. Lo que estamos viendo son posibles atrocidades y los homicidios ilegítimos, incluso bajo las leyes de la guerra, especialmente si cientos o miles de estas máquinas se implementan.
“No podría ser de gran escala accidentes porque estas cosas se empiezan a comportarse de maneras inesperadas. Por lo avanzado de los sistemas de armas debe estar sujeto a un control de los seres humanos, de lo contrario tienen que ser prohibidas porque son demasiado impredecibles y peligrosas.”
Google reclutados Nolan, un licenciado en informática por el Trinity College de Dublín, para trabajar en Proyecto de Maven en 2017, después de que había sido empleado por el gigante de la tecnología para cuatro años, convirtiéndose en uno de sus mejores ingenieros de software en Irlanda.
Ella dijo que ella se convirtió en “cada vez más éticamente en cuestión” sobre su papel en el Maven programa, que fue concebido para ayudar a que el Departamento de Defensa de EEUU drásticamente la velocidad de aviones teledirigidos de vídeo con la tecnología de reconocimiento.
en Lugar de usar un gran número de operativos militares a la cola de impresión a través de horas y horas de drone imágenes de vídeo de los posibles objetivos enemigos, Nolan y a otros se les pidió a construir un sistema donde AI máquinas podría diferenciar a las personas y objetos a una infinitamente más rápido.
“Como un sitio de ingeniero de confiabilidad mi experiencia en Google fue para asegurar que nuestros sistemas e infraestructuras se mantiene en ejecución, y esto es lo que me iba a ayudar con Maven. Aunque no estaba directamente involucrado en la aceleración de las imágenes de vídeo reconocimiento me di cuenta de que yo era todavía parte de la cadena de aniquilamiento; que este en última instancia conducir a más personas que están siendo atacados y asesinados por los militares de estados unidos en lugares como Afganistán.”
a Pesar de que renunció sobre Proyecto de Maven, Nolan ha pronosticado que las armas autónomas están desarrollando actualmente representan un riesgo mucho mayor para la raza humana de control remoto de aviones no tripulados.
Ella se expone cómo las fuerzas externas que van desde el clima cambiante de los sistemas para equipos que no pueden trabajar fuera del complejo comportamiento humano podría lanzar killer robots fuera de curso, con la posibilidad de consecuencias fatales.
“Usted podría tener un escenario donde las armas autónomas que han sido enviados para hacer un trabajo de confrontar inesperado de señales de radar en una zona que está buscando, puede ser el clima que no era incorporó en su software o vienen a través de un grupo de hombres armados que parecen ser enemigos insurgentes, pero en realidad son con armas de fuego de caza para la alimentación. La máquina no tiene el discernimiento o de sentido común que el toque humano tiene.
“La otra cosa asustadiza sobre estos autónoma de la guerra de los sistemas es que sólo se puede probar realmente ellos mediante la implementación de ellas en una verdadera zona de combate. Tal vez lo que está sucediendo con los Rusos en la actualidad en Siria, ¿quién sabe? Lo que sí sabemos es que en la ONU, Rusia se ha opuesto a cualquier tratado de dejar solo prohibición de estas armas por el camino.
Si usted está probando una máquina que toma sus propias decisiones sobre el mundo que lo rodea, tiene que ser en tiempo real. Además, ¿cómo se entrena un sistema que se ejecuta únicamente en software cómo detectar sutiles en el comportamiento humano o de discernir la diferencia entre los cazadores y los insurgentes? ¿Cómo funciona la máquina de matar que hay sobre su propio vuelo distinguir entre el 18-año-viejo combatiente y el de 18 años de edad que está a la caza de conejos?”
La capacidad de convertir militar de los drones, por ejemplo en autónomos no humanos armas guiadas, “es sólo un problema de software en estos días y que puede ser relativamente fácil de resolver”, dijo Nolan.
Ella dijo que quería que el gobierno Irlandés a tomar una forma más robusta de la línea en el apoyo a una prohibición de este tipo de armas.
“no estoy diciendo que los misiles guiados o de sistemas de defensa antimisiles de los sistemas deben ser prohibidos. Ellos, después de todo bajo control humano y alguien es en última instancia responsable. Estas armas autónomas, sin embargo, son éticos, así como el tecnológico, el cambio de paso en la guerra. Muy pocas personas están hablando de esto pero si no tenemos cuidado de una o más de estas armas, estos robots asesinos, accidentalmente podrían iniciar un flash de la guerra, destruir una estación de energía nuclear y la causa de las atrocidades en masa.”
Algunas de las armas autónomas que está siendo desarrollado por potencias militares de todo el mundo incluyen:
La armada de los estados unidos de AN-2 Anaconda cañonero, que está siendo desarrollado como un “completamente autónoma embarcaciones equipadas con inteligencia artificial capacidades” y puede “perder el tiempo en un área durante largos períodos de tiempo sin intervención humana”.
Rusia de la T-14 tanque Armata, que se está trabajando para que sea completamente no tripulados y autónoma. Está siendo diseñado para responder a la entrada de incendio independiente de cualquier tripulación del tanque interior.
El Pentágono ha aclamado el Cazador de Mar autónoma buque de guerra como un gran avance en la robótica de la guerra. Desarmado de 40 metros de largo prototipo se ha lanzado el que se puede navegar por la superficie del océano sin tripulación de dos a tres meses en un momento.
This content was originally published here.