Un dron controlado por Inteligencia Artificial acabó con la vida de un operador humano dentro de una simulación | Código Espagueti

En ocasiones la realidad puede superar la ficción y nos encontramos con algo que hemos visto en las películas, pues un dron que funcionaba con una Inteligencia Artificial acabó con su operador humano en lo que parecía una prueba militar de la Fuerza Aérea de Estados Unidos.

Todo parece indicar que todo fue dentro de una simulación, en la que la máquina controlada por esta tecnología atacó al funcionario en turno, pues asumió que se interponía con el objetivo al que le fue asignado.

Este caso se reveló en la Cumbre de Capacidades Aéreas y Especiales de Combate Futuro, que se celebró en Londres el pasado 23 y 24 de mayo, en el que el coronel Tucker Hamilton, jefe de Pruebas y Operaciones de IA de la Fuerza Aérea, comentó sobre las pruebas que se habían hecho.

Debemos aclarar que nadie murió, pues todo se trató de una prueba dentro de una simulación, en la que el dron ganaba puntos si lograba eliminar la amenaza y acataba órdenes de su operador humano, el cual le pidió en ocasiones no avanzar a pesar de haber identificado al “enemigo”.

Fuente: Especial

Lo que comentó el general Hamilton en el blog de la Royal Aeronautical Society, fue que el sistema comenzó a darse cuenta de lo que ocurría y lo que hizo fue matar al operador, por qué este le impedía cumplir su objetivo.

En ese sentido, reentrenaron a la Inteligencia Artificial y le hicieron saber que no debe matar la operador, ya que es malo y podría perder puntos por ello, sin embargo, la máquina se reveló otra vez y ahora comenzó a destruir la torre de comunicación del operador, la cual usaba para comunicarse con el dron.

Esto no sería la primera advertencia que ocurre con respecto a las Inteligencias Artificiales o escenarios similares, pues de alguna manera es muy fácil manipular este tipo de herramientas y pueden usarse para el bien o para el mal, por lo que se debe trabajar en ello para limitar los riesgos.

¿Qué opinas de esta situación con respecto a la Inteligencia Artificial?

No te pierdas el mejor contenido de Código Espagueti a través de nuestro canal de YouTube.