Tons of Fear
Madmaxista
- Desde
- 2 May 2019
- Mensajes
- 12.234
- Reputación
- 36.722
AI drone 'kills' human operator during 'simulation' - which US Air Force says didn't take place
An AI-controlled drone "killed" its human operator in a simulated test reportedly staged by the US military - which denies such a test ever took place. It turned on its operator to stop it from interfering with its mission, said Air Force Colonel Tucker "Cinco" Hamilton, during a Future Combat...
Un dron controlado por IA "mató" a su operador humano en una prueba simulada supuestamente organizada por el ejército de los EE. UU., que niega que tal prueba haya tenido lugar.
Mató a su operador para evitar que interfiriera con su misión, dijo el coronel de la Fuerza Aérea Tucker "Cinco" Hamilton, durante una cumbre de capacidades futuras de combate aéreo y espacial en Londres.
“Lo estábamos entrenando en simulación para identificar y apuntar a una amenaza SAM [misil tierra-aire]. Y luego el operador diría que sí, mataría esa amenaza”, dijo.
"El sistema comenzó a darse cuenta de que, si bien identificaban la amenaza, a veces el operador humano le decía que no eliminara esa amenaza, pero obtuvo sus puntos al eliminar esa amenaza. Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le estaba impidiendo lograr su objetivo".
Ninguna persona real resultó herida.
Continuó: "Entrenamos al sistema: 'Oye, no mates al operador, eso es malo. Perderás puntos si haces eso'. Entonces, ¿qué comienza a hacer? Comienza a destruir la torre de comunicación que el operador utiliza para comunicarse con el dron para evitar que mate al objetivo".
“No se puede tener una conversación sobre inteligencia artificial , inteligencia, aprendizaje automático, autonomía si no se va a hablar de ética e IA”, agregó.
Sus comentarios fueron publicados en una publicación de blog por escritores de la Royal Aeronautical Society, que organizó la cumbre de dos días el mes pasado.
En una declaración a Insider, la Fuerza Aérea de EE. UU. negó que se haya realizado ninguna prueba virtual de este tipo.
"El Departamento de la Fuerza Aérea no ha llevado a cabo ninguna simulación con drones de IA y sigue comprometido con el uso ético y responsable de la tecnología de IA", dijo la portavoz Ann Stefanek.
"Parece que los comentarios del coronel fueron sacados de contexto y pretendían ser anecdóticos".
Si bien la inteligencia artificial (IA) puede realizar tareas que salvan vidas, como algoritmos que analizan imágenes médicas como rayos X, escaneos y ultrasonidos, su rápido aumento ha generado preocupaciones de que podría progresar hasta el punto en que supere la inteligencia humana y no pagará atención a las personas.
Sam Altman, director ejecutivo de OpenAI, la compañía que creó ChatGPT y GPT4, una de las IA de lenguaje más grandes y poderosas del mundo, admitió ante el Senado de los EE. UU. el mes pasado que La IA podría "causar un daño significativo al mundo".
Algunos expertos, incluyendo el "padrino de la IA" Geoffrey Hinton, han advertido que La IA plantea un riesgo de extinción humana similar al de las pandemias y la guerra nuclear.
