Strangelove redux: NOSOTROS, los expertos proponen tener AI control de las armas nucleares

Hipersónicas misiles, sigiloso de los misiles de crucero, y como arma de la inteligencia artificial han reducido tanto la cantidad de tiempo que los tomadores de decisiones en los Estados unidos, teóricamente, tiene que responder a un ataque nuclear, a los dos militares dicen los expertos, es el momento para un nuevo nucleares de los estados unidos de comando, control, y el sistema de comunicaciones. Su solución? Dar de inteligencia artificial de control sobre el botón de lanzamiento.

En un artículo en Guerra contra las Rocas, titulado, ominosamente, “estados unidos Necesita una ‘Mano Muerta,'” NOS disuasión expertos Adán Lowther y Curtis McGiffin proponer un nucleares de comando, control y comunicaciones instalación con cierta misteriosa similitudes con el sistema Soviético que se hace referencia en el título de su pieza. La Mano Muerta era una semiautomática sistema desarrollado para el lanzamiento de la Unión Soviética arsenal nuclear bajo ciertas condiciones, incluyendo, en particular, la pérdida de líderes nacionales que podrían hacerlo por su propia cuenta. Dada la creciente presión de tiempo Lowther y McGiffin decir nucleares para la toma de decisiones están por debajo”, ” [yo]t puede ser necesario desarrollar un sistema basado en inteligencia artificial, con el predeterminado de respuesta de decisiones, que detecta, decide y dirige las fuerzas estratégicas con tal velocidad que el ataque a tiempo de compresión reto no lugar de los Estados unidos en una posición imposible.”

En caso de traspasar el control de las armas nucleares a HAL 9000 suena arriesgado, los autores también proponer algunas soluciones a la nuclear, la presión de los plazos problema: Reforzar los Estados unidos la capacidad de responder a un ataque nuclear después del hecho, es decir, garantizar un llamado de la capacidad de un segundo ataque; adoptar una disposición a preventivamente a atacar a otros países a partir de las advertencias de que se están preparando para atacar a los Estados unidos; o desestabilizar el país adversarios, enviando armas nucleares cerca de sus fronteras, la idea aquí es que tal medida podría llevar a los países a los brazos de control de la mesa de negociación.

no obstante, los autores aparecen claramente a favor de una inteligencia artificial basada en la solución.

“la disuasión Nuclear, crea estabilidad y depende de un adversario de la percepción de que no puede destruir a los Estados unidos con un ataque por sorpresa, evitar una garantía de un ataque de represalia, o impedir que los Estados unidos de eficacia de mando y control de sus fuerzas nucleares,” ellos escribe. “Esa percepción comienza con un seguro de la capacidad para detectar, decidir y dirigir una segunda huelga. En esta área, el equilibrio está alejándose de los Estados unidos.”

la Historia está repleta de casos en los que parece que, en retrospectiva, que la guerra nuclear podría haber comenzado de no ser por algo de carne-y-sangre humana negarse a comenzar el Armagedón. Quizás el más famoso tal héroe fue Stanislav Petrov, un Soviético teniente coronel, que era el oficial de guardia a cargo de la Unión Soviética de misiles de lanzamiento de sistema de detección cuando se registraron cinco misiles entrantes en Septiembre. 26, 1983. Petrov decidió la señal de error y lo reportó como una falsa alarma. Fue. Si una inteligencia artificial habría llegado a la misma decisión es, al menos, incierto.

Uno de los riesgos de la incorporación de más de inteligencia artificial en la central nuclear de comando, control, comunicaciones y sistema consiste en el fenómeno conocido como la automatización de los prejuicios. Los estudios han demostrado que la gente va a confiar en lo que un sistema automatizado que les está diciendo. En un estudio, los pilotos que dijeron a los investigadores que no confía en un sistema automatizado que informó de un incendio en el motor a menos que haya una corroboración de la evidencia, no obstante, hizo que en las simulaciones. (Además, dijeron que los experimentadores que había sido, de hecho, la corroboración de la información, cuando allí no había.)

la Universidad de Pennsylvania, profesor de ciencia política y de la Boletín el columnista Michael Horowitz, que investiga la innovación militar, recuentos de la automatización de sesgo como una huelga contra de la construcción de una inteligencia artificial basada nuclear de comando, control, y el sistema de comunicaciones. “Un riesgo en el mundo de la automatización prejuicio es que la de Petrov el futuro no usar su juicio,” él dice, “o que no hay Petrov.”

Los algoritmos que el poder de la inteligencia artificial-sistemas son generalmente formados en grandes conjuntos de datos que simplemente no existen cuando se trata de armas nucleares lanza. “No ha habido ataques con misiles nucleares, país contra el país. Y así, la formación de un algoritmo para la alerta temprana significa que usted está totalmente basado en la simulación de los datos”, dice Horowitz. “Yo diría que, sobre la base del estado-de-el-arte en el desarrollo de algoritmos, que genera unos riesgos.”

en su Mayoría, Horowitz piensa que los Estados unidos no desarrollar una inteligencia artificial basada en el comando, control y comunicaciones del sistema porque, incluso si no puede ser menos tiempo para reaccionar a un ataque en esta época que en décadas anteriores, el gobierno confía en los militares la capacidad de un segundo ataque. “Siempre y cuando usted tiene seguro-segunda huelga de capacidades, usted probablemente puede absorber algunas de estas variaciones en la velocidad, ya que siempre tienen la capacidad de tomar represalias,” él dice.

Lowther y McGiffin señalar que una segunda huelga significa que hay ya una primera huelga en alguna parte.

Hay algunos precedente para el sistema propuesto por el Guerra contra las Rocas de los autores, que han servido en el gobierno o en las fuerzas armadas en la producción de armas nucleares de las capacidades relacionadas con el. En el mundo de ficción de Hollywood, que el precedente se estableció en Stanley Kubrick nuclear de la sátira el Dr. Strangelove y llamó a la “Doomsday Machine”, que el autor, Eric Schlosser describe de esta manera para The New Yorker:

“El dispositivo disparador de sí mismo, de forma automática, si la Unión Soviética, fueron atacados con armas nucleares. Que estaba destinado a ser el último elemento de disuasión, una amenaza para destruir el mundo con el fin de evitar un Estadounidense de ataque nuclear. Pero el fracaso de los Soviets de decirle a los Estados unidos sobre el artefacto de la derrota de su propósito y, al final de la película, hace que, inadvertidamente, un Armagedón nuclear. “El punto central de todo el día del juicio final de la Máquina se pierde,’ Dr. Strangelove, el Presidente del asesor de ciencia, explica el Embajador Soviético, ‘si usted mantenerlo en secreto!'”

cerca de dos décadas más tarde, la sátira se convirtió en cerca de la realidad, con el advenimiento de la Unión Soviética semiautomatizado Mano Muerta sistema, conocido formalmente como el Perímetro. Cuando el sistema se percibe que la jerarquía militar Soviética ya no existía y se detecta signos de una explosión nuclear, tres oficiales de profundidad en un búnker fueron lanzar pequeñas comando cohetes que iba a volar a través del país de iniciar el lanzamiento de todos los de la Unión Soviética del resto de los misiles, en una especie de venganza-de-la-grave mover. El sistema fue pensado para mejorar la disuasión. Algunos informes sugieren que todavía está en su lugar.

La posibilidad de que la toma de los seres humanos fuera del bucle podría dar lugar a un lanzamiento accidental e involuntaria de la guerra nuclear es un elemento principal en la US Naval War College Prof. Tom Nichols duras caracterización de la Mano Muerta del sistema en un 2014 artículo en El Interés Nacional: “resulta que el alto mando Soviético, en su patética y paranoico últimos años, solo que loco.”

Pero Lowther y McGiffin decir un hipotético sistema de los EE.UU. sería diferente de la Mano Muerta, porque “el sistema en sí podría determinar la respuesta basándose en su propia evaluación de la amenaza de entrada.” Es decir, el sistema de los EE.UU. sería mejor, porque no necesariamente esperar por una detonación nuclear para lanzar un ataque de estados unidos.

El post Strangelove redux: NOSOTROS, los expertos proponen tener AI control de las armas nucleares apareció por primera vez en el Boletín de los Científicos Atómicos.

This content was originally published here.