Un grupo de expertos en inteligencia artificial y ejecutivos de la industria tecnológica ha pedido una pausa de seis meses en el entrenamiento de poderosos sistemas de inteligencia artificial, argumentando que representan una amenaza potencial para la humanidad.
En una carta abierta, alegan que los laboratorios que trabajan en esta tecnología están en «una carrera fuera de control para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden comprender, predecir o controlar de manera confiable».
La declaración fue firmada por más de 1000 personas, incluido el empresario Elon Musk, el cofundador de Apple, Steve Wozniak, y el director ejecutivo de Stability AI, Emad Mostaque, así como investigadores de DeepMind.
En el escrito piden que las empresas que desarrollen este tipo de programas “pausen inmediatamente, durante al menos seis meses, el entrenamiento de sistemas de inteligencia artificial más potentes que GPT-4”.
GPT-4 es la versión más avanzada de ChatGPT, uno de los sistemas de inteligencia artificial más potentes del mundo, desarrollado por la empresa OpenAI.
Tanto GPT-4 como ChatGPT son un tipo de inteligencia artificial generativa, es decir, utilizan algoritmos y texto predictivo para crear nuevos contenidos a partir de instrucciones.
“Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si esta pausa no se puede implementar rápidamente, los gobiernos deben intervenir e instituir una suspensión”, agrega.
Emitida por el Future of Life Institute, una organización sin fines de lucro que cuenta con Elon Musk entre sus asesores externos, la declaración advierte que estos sistemas podrían presentar «profundos riesgos para la sociedad y la humanidad».
El instituto argumenta que los poderosos sistemas de inteligencia artificial pueden generar información errónea y reemplazar trabajos con automatización.
Pueden desaparecer ‘300 millones de puestos de trabajo’
Un informe reciente del banco de inversión Goldman Sachs dice que la inteligencia artificial podría reemplazar el equivalente a 300 millones de empleos de tiempo completo.
Esta tecnología podría reemplazar una cuarta parte de las tareas laborales en EE. UU. y Europa, agrega, pero también podría crear nuevos puestos de trabajo que no existían hasta ahora y conducir a una mayor productividad.
Expertos entrevistados por la BBC aseguran que por ahora es muy difícil predecir el efecto que tendrá esta tecnología en el mercado laboral.
¿Deberíamos crear mentes no humanas?
La carta firmada por los expertos hace la siguiente pregunta: «¿Deberíamos crear mentes no humanas que eventualmente puedan superarnos, ser más inteligentes, volvernos obsoletos y reemplazarnos?»
En una publicación de blog reciente citada en la carta, OpenAI, la compañía detrás de GPT-4 (uno de los sistemas de lenguaje utilizados por ChatGPT), también advirtió sobre los riesgos potenciales de la tecnología.
«La superinteligencia desalineada puede causar un daño grave al mundo; un régimen autocrático con una superinteligencia decisiva también puede hacer eso», escribió la compañía en una publicación de blog.
OpenAI no ha comentado públicamente sobre la carta.
Elon Musk cofundó OpenAI, aunque renunció a la junta directiva de la organización hace unos años y publicó mensajes críticos en Twitter sobre la dirección de la empresa.
Las funciones de conducción autónoma desarrolladas por su fabricante de automóviles Tesla, como la mayoría de los otros sistemas similares, utilizan tecnología de inteligencia artificial.
Recientemente, se han presentado varias propuestas de regulación tecnológica en los EE. UU., el Reino Unido y la Unión Europea. Sin embargo, el Reino Unido ha descartado crear un organismo regulador dedicado a la inteligencia artificial.
Este texto fue publicado aquí.
Noticia de Brasil
Fuente: uol.com.br