Varios destacados expertos en inteligencia artificial, incluido el CEO de Tesla, Elon Musk, han firmado una carta abierta en la que piden una pausa de seis meses en el desarrollo de sistemas más potentes que el recientemente lanzado GPT-4 (Transformador preentrenado generativo) de OpenAI. Pero falta un nombre notable en la larga lista de firmas.
A partir del miércoles, el nombre del CEO de OpenAI, Sam Altman, permanece ausente de la carta, y sus comentarios sobre las preocupaciones expresadas en la misiva sugieren que no tiene planes de pedir ningún tipo de interrupción del desarrollo de la IA.
Altman no está de acuerdo con el marco de la carta, argumentando que su empresa se toma la seguridad de la IA no solo en serio, sino más que otras en la industria, según El periodico de Wall Streetde Deepa Seetharam. «Creo que hemos estado hablando de estos temas con más fuerza, con mayor intensidad y durante más tiempo». le dijo a Seetharam.
La carta llega semanas después de que OpenAI presentara la cuarta versión de su programa GPT, que impresionó y causó alarma con su capacidad para entablar conversaciones similares a las humanas y sobresalir en algunas de las pruebas estandarizadas más desafiantes. La última iteración puede aprobar la mayoría de los exámenes de Colocación Avanzada y obtener una puntuación en el percentil 90 del examen de barra estandarizado.
Jason Redmond/AFP/Getty
La carta fue emitida por el Future of Life Institute, una organización sin fines de lucro, cuya misión es dirigir «la tecnología transformadora para beneficiar la vida y alejarla de los riesgos extremos a gran escala», fue firmada por más de 1,000 personas. Dice que debería haber una pausa en los avances Desarrollo de IA hasta que laboratorios y expertos independientes puedan desarrollar e implementar protocolos de seguridad para estas tecnologías.
“Los poderosos sistemas de inteligencia artificial deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”, dice la carta.
“Esta pausa debe ser pública y verificable, e incluir a todos los actores clave”, dice. «Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria».
Entre los firmantes se encuentran el CEO de Stability AI, Emad Mostaque; el cofundador de Apple, Steve Wozniak; uno de los «padrinos de AI», Yoshua Bengio; el director ejecutivo del Centro de Tecnología Humanitaria Tristan Harris; el investigador pionero en IA Stuart Russell; el investigador de aprendizaje automático Max Tegmark; y el desarrollador de software Grady Booch.
Anteriormente se especuló que Altman firmó su nombre en la carta, pero luego se confirmó que se trataba de una firma falsa.
También falta en la lista de nombres Jack Clark, cofundador de Anthropic, una compañía de investigación y seguridad de IA fundada por ex miembros de OpenAI. La empresa también tiene una asociación formal con Google Cloud, y Google ha invertido casi 400 millones de dólares en Anthropic, intensificando la rivalidad de la empresa con OpenAI.
La carta llega semanas después de que OpenAI presentara la cuarta versión de su programa GPT, que impresionó y causó alarma con su capacidad para entablar conversaciones similares a las humanas y sobresalir en algunas de las pruebas estandarizadas más desafiantes. La última iteración puede aprobar la mayoría de los exámenes de Colocación Avanzada y obtener una puntuación en el percentil 90 del examen de barra estandarizado.
Aunque el desarrollo de la IA continúa avanzando, incluso el presidente de OpenAI, Greg Brockman, ha advertido que existen consecuencias con tales tecnologías, incluida una mayor confianza pública en GPT-4, que aún puede ser inexacta a veces.
«Creemos que debería haber más regulación de la IA», dijo Brockman a Axios a principios de este mes. «Realmente se necesita un público educado».
semana de noticias contactó por correo electrónico a OpenAI para hacer comentarios.