Un grupo de expertos en IA y ejecutivos de la industria tecnológica pidieron una pausa en el entrenamiento de los poderosos sistemas de inteligencia artificial, argumentando que se trata de una potencial amenaza para la humanidad.

o_1680170704

En una carta abierta, aseguraron que los laboratorios que trabajan con esta tecnología están en «una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden comprender, predecir o controlar de forma fiable».

La declaración fue firmada por más de 1.000 personas, incluidos el empresario Elon Musk, el cofundador de Apple, Steve Wozniak, y el director ejecutivo de la firma Stability AI, Emad Mostaque, además de investigadores de la firma DeepMind.

En ella, piden que las empresas que desarrollan este tipo de programas «pausen de inmediato, durante al menos 6 meses, el entrenamiento de los sistemas de inteligencia artificial más potentes que GPT-4».

GPT-4, es la versión más avanzada ChatGPT, uno de los sistemas de inteligencia artificial más potentes del mundo, desarrollado por la empresa OpenAI.

Tanto GPT-4, como ChatGPT, son un tipo de inteligencia artificial generativa, es decir, que utiliza algoritmos y texto predictivo para crear contenido nuevo basado en instrucciones.

«Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si tal pausa no se puede implementar rápidamente, los gobiernos deberían intervenir e instituir una suspensión«, agrega el texto.

Emitida por la organización sin fines de lucro Future of Life Institute, que tiene entre sus asesores externos a Elon Musk, la declaración advierte que estos sistemas pueden plantear «profundos riesgos para la sociedad y la humanidad».

El grupo de expertos argumenta que los poderosos sistemas de inteligencia artificial pueden generar información errónea y reemplazar los trabajos con automatización.

Pueden desaparecer «300 millones de empleos»

Un informe reciente del banco de inversión Goldman Sachs señala que la inteligencia artificial podría reemplazar el equivalente a 300 millones de empleos de tiempo completo.

Esta tecnología podría reemplazar una cuarta parte de las tareas laborales en EE.UU. y Europa, agrega, pero también puede significar la creación de nuevos puestos de trabajo que hasta ahora no existían y un aumento de la productividad. Expertos consultados por la BBC sobre este tema, dicen que a estas alturas es muy difícil predecir el efecto que tendrá esta tecnología en el mercado laboral.

¿Deberíamos desarrollar mentes no humanas?

La carta firmada por los expertos hace la siguiente pregunta: «¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, dejarnos obsoletos y reemplazarnos?».

En una publicación reciente citada en la carta, OpenAI, la empresa detrás de GPT-4, también advirtió sobre los potenciales riesgos de la tecnología.

«Una superinteligencia desalineada podría causar un daño grave al mundo; un régimen autocrático con una superinteligencia decisiva podría hacer eso también», escribió la compañía en un blog.

OpenAI no ha comentado públicamente la carta.

Elon Musk fue cofundador de OpenAI, aunque renunció a la junta directiva de la organización hace algunos años y ha publicado mensajes críticos en Twitter sobre la dirección de la empresa.

Las funciones de conducción autónoma desarrolladas por su empresa de automóviles Tesla, como la mayoría de otros sistemas similares, utilizan tecnología de inteligencia artificial.

Recientemente, se han presentado una serie de propuestas para la regulación de la tecnología en EE.UU., Reino Unido y la Unión Europea. Sin embargo, Reino Unido ha descartado crear un organismo regulador dedicado a la inteligencia artificial.