“Podríamos perder el control": Fundadores de OpenAI y Anthropic advierten a la ONU los riesgos de la IA

En las últimas semanas ha crecido la desconfianza en la Inteligencia Artificial por la supuesta amenaza que representa para el futuro de la humanidad, por lo que los directivos de las principales empresas de IA visitaron el Consejo de Seguridad la Organización de las Naciones Unidas (ONU).

Sam Altman, director ejecutivo de OpenAI, y Dario Amodei, el director ejecutivo de Anthropic, fueron invitados a exponer los peligros que representa el crecimiento exponencial de esta tecnología.

Durante su comparecencia en la ONU, Sam Altman pidió evaluar los riesgos del crecimiento exponencial de la Inteligencia Artificial al “medir capacidades, determinar si las salvaguardias son suficientes y preservar una supervisión humana significativa”.

“La historia continua del progreso humano no trata sobre herramientas que reemplazan la capacidad de acción humana, sino sobre cómo las herramientas adecuadas potencian las capacidades de las personas”, señaló.

Agregó que el mundo debe aprender de los errores de la IA para evitar que se conviertan en catástrofes, por lo que no se debe caer en un optimismo ciego.

“No hay que dejarse arrastrar hacia cualquiera de los dos extremos no nos ayudará a abordar con éxito los desafíos que tenemos por delante. Especialmente en un momento en que el mundo y sus habitantes se enfrentan a retos enormes que esta tecnología puede ayudar a resolver”.

El cofundador de Anthropic se conectó con el Consejo de la ONU a través de una videoconferencia, donde señaló que el problema de seguridad mundial es el asunto más importante que hay en la actualidad.

“Más allá de las diferencias entre las personas presentes en esta sala, debemos dejarlas de lado para afrontar esta oportunidad y amenaza globales que se nos presentan simultáneamente”, dijo.

Aunque indicó que la IA sí puede crecer, pero “a un ritmo que garantice que la seguridad evolucione a la par de las capacidades tecnológicas para todos los actores del sector”.