Se trata de una carta abierta firmada por un millar de especialistas en la industria de tecnologías de la información (TI), entre los cuales destacan Elon Musk, empresario dueño de Tesla, Twitter y SpaceX; Steve Wozniak, cofundador de Apple, además de Emad Mostaque, director ejecutivo de la firma de inteligencia artificial (IA) Stability AI.
En el documento se asegura que los laboratorios que trabajan con esta tecnología están en:
“Una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, que ni siquiera sus creadores pueden comprender, predecir o controlar de forma fiable. Es necesario que pausen de inmediato, durante al menos 6 meses, el entrenamiento de los sistemas de inteligencia artificial más potentes que GPT-4”.
Entre los argumentos, se destaca que se trata de una potencial amenaza para el desarrollo de la humanidad. Dicho documento también está firmado por investigadores de la firma DeepMind. Cabe destacar que ChatGPT-4, es uno de los proyectos y sistemas de inteligencia artificial más potentes del mundo, el cual es desarrollado por la empresa OpenAI.
Una clara falta de planificación y control
La carta deja en claro, que el desarrollo en sistemas de IA puede representar un cambio profundo en la historia, siempre y cuando se planifique de forma adecuada. Los firmantes aseguran que ni siquiera los creadores de dichas plataformas, son capaces de entender o predecir de forma fiable su comportamiento, ni a corto, mediano o largo plazo.
Adicionalmente la carta puntualiza:
“Los sistemas de IA están llegando a competir con los humanos en tareas generales, y debemos preguntarnos: ¿Debemos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedades? ¿Debemos automatizar todos los trabajos? ¿Debemos desarrollar mentes no humanas que con el tiempo nos superen en inteligencia?”
El documento no alude a una pausa completa en el desarrollo de la IA, sino a aquellos sistemas con más capacidad que GPT-4. Es decir, se pide “un paso atrás” en la carrera hacia “modelos impredecibles con más capacidades emergentes”. Así, la carta pone sobre la mesa la necesidad de crear nuevos protocolos de seguridad compartidos entre los sistemas de IA.
