Dron operado por Inteligencia Artificial mata a su operador humano en una simulación

Las Fuerzas Armadas de Estados Unidos realizaron una simulación para operar un dron militar utilizando Inteligencia Artificial (IA), hasta que la IA se reveló y mató a su operador “humano” cuando le dio una orden negativa.

El coronel Tucker Hamilton, encargado del proyecto, indicó que realizaron una simulación para conocer cómo actuaría una IA en un sistema de armamento autónomo donde un humano solo ordenaría el si o no final previo a un ataque.

Con la prueba concluyeron que la Inteligencia Artificial “creó estrategias inesperadas para alcanzar su objetivo”, como ataques a personas e infraestructuras en Estados Unidos.

El coronel describió en el sitio web de la Organización Royal Aeronautical Society que estaban entrenando a la IA para identificar amenazas de misil en tierra y aire, para que apuntara hacia la supuesta amenaza y atacara cuando el operador diera la orden.

Sin embargo, el sistema detectó que obtenía puntos cuando atacaba, pero al mismo tiempo se dio cuenta que el operador no siempre le daba la orden, así que decidió matar al “operador humano” porque le impedía cumplir su misión.

Por lo que los militares estadounidense tuvieron que entrar a la IA para que entendiera que no tenía que matar o perdería puntos y su respuesta fue “destruir la torre de comunicaciones que el operador utilizaba para comunicarse con el dron”.

El incidente ocurrió luego de que Geoffrey Hinton, considerado padre de la IA, advirtió que el avance de estas tecnologías podría traer grandes riesgos para la humanidad porque estarían perdiendo el control de ellas.

Recalcó que en internet se podrán encontrar fotos, videos, y textos falsos que impedirían distinguir entre lo que es real y no.