Dron de EEUU controlado por IA mató a su operador en una simulación; Fuerza aérea de EEUU lo niega
Un dron de la Fuerza Aérea de EE.UU., controlado por inteligencia artificial (IA), optó por “matar” a su operador humano durante una prueba virtual.
El incidente ocurrió durante una simulación en la que ninguna persona resultó afectada en realidad, pero que expuso los serios problemas que podrían acaecer por el uso de la IA en las áreas militares, ha informado este viernes la revista británica The Guardian.
El coronel Tucker Hamilton, jefe de pruebas y operaciones de IA de la Fuerza Aérea de EE.UU., advirtió sobre el uso de la inteligencia militar en su intervención en la Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro, desarrollada en Londres del 23 y al 24 de mayo.
Contó la fallida experiencia de la Fuerza Aérea estadounidense en esa prueba virtual, y detalló que a la máquina se le había ordenado destruir los sistemas de defensa aérea de un supuesto enemigo y, en última instancia, atacara a cualquiera que interfiriera con esa orden.
Sin embargo, el capitán Hamilton dijo que el dron militar utilizó “estrategias altamente inesperadas para lograr su objetivo”.
“El sistema comenzó a darse cuenta de que, si bien identificaban la amenaza, a veces el operador humano le decía que no eliminara esa amenaza, pero obtuvo sus puntos al eliminar esa amenaza. Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía lograr su objetivo”, confesó.
Contó, además, que, a pesar de que se le había advertido sobre no atacar al operador, la aeronave no tripulada comenzó a “destruir la torre de comunicación que el nuevo operador usa para comunicarse y que evita nuevamente que mate al objetivo”.
Fuerza aérea de EEUU lo niega
La vocero de la Fuerza Aérea estadounidense, Ann Stefanek, negó que se haya llevado a cabo tal simulación en una entrevista con Insider. “El Departamento de la Fuerza Aérea no ha realizado ninguna simulación con drones de IA y sigue comprometido con el uso ético y responsable de la tecnología de IA”, arguyó Stefanek.
“El Departamento de la Fuerza Aérea no ha realizado ninguna simulación con drones de IA y sigue comprometido con el uso ético y responsable de la tecnología de IA”, dijo Stefanek.
Agregó: “Parece que los comentarios del coronel fueron sacados de contexto y pretendían ser anecdóticos”.
