En una carta abierta exigieron suspender por al menos seis meses los gigantescos experimentos que “ni siquiera sus creadores pueden entender, predecir o controlar”.
Por iProfesional
29/03/2023 – 14:01
El avance de la Inteligencia artificial (AI) asusta incluso a sus propios creadores. Este miercoles Elon Muskuno de los fundadores de OpenAI, y cientos de expertos mundiales firmaron una petición para suspender durante al menos seis meses la investigación de tecnologías más poderosas que ChatGPT 4 por posibles «grandes riesgos para la humanidad».
La reunión de firma se lleva a cabo en el sitio del instituto Future Of Life, donde un «pausar experimentos gigantes de IA» hasta que se establezcan sistemas de seguridad con nuevas autoridades reguladoras, vigilancia de los sistemas de IA, técnicas que ayuden a distinguir entre lo real y lo artificial, e instituciones capaces de lidiar con «la dramática interrupción económica y política (especialmente para la democracia) que causará la IA».
El director de OpenAI, Sam Altman, ha reconocido en otras ocasiones haber «un poco de miedoque su creación se utiliza para «desinformación a gran escala o ciberataques». En los últimos días se han viralizado falsas fotografías ultrarrealistas de la supuesta detención de Donald Trump, que habían sido creadas con esta tecnología.
Pero Altman no es el único que expresó preocupación. Otros como Musk, dueño de Twitter y fundador de SpaceX y Tesla, o el historiador y pensador israelí Yuval Noah Hariri han expresado tus miedos sobre una IA incontrolable que supera a los humanos.
La carta pública expresa una profunda preocupación por el avance de la IA fuera de los límites que incluso los propios creadores pueden controlar. «En los últimos meses hemos visto cómo los laboratorios de IA se han lanzado a una carrera descontrolada para desarrollar y desplegar cerebros digitales cada vez más poderosos que nadie, ni siquiera sus creadores, pueden comprender, predecir o controlar de manera confiable”, afirma el documento.
A su vez, pregunta: «¿Deberíamos permitir que las máquinas inunden nuestros canales de información con propaganda y mentiras? ¿Deberíamos automatizar todos los trabajos, incluidos los gratificantes? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización? Estas decisiones no deben tomarse». delegarse en líderes tecnológicos no elegidos.
Expertos piden suspender durante al menos seis meses investigaciones sobre tecnologías más potentes que ChatGPT 4
Inteligencia artificial: Musk y otros expertos llaman a detener la investigación
Para los expertos firmantes, «los potentes sistemas de IA solo deberían desarrollarse una vez que estemos seguros de que sus efectos será positivo y sus riesgos serán manejables«.
Además de Musk, Altman y Harari, otras personalidades destacadas han firmado la petición, incluido el cofundador de Apple, Steve Wozniak, miembros del laboratorio DeepMind AI de Google, el director de Stability AI, Emad Mostaque, así como expertos y académicos estadounidenses. de IA e ingenieros ejecutivos de Microsoft, una empresa asociada de OpenAI.
Palabras clave de esta nota:
#Elon #Musk #pide #detener #investigación
Fuente: iprofesional.com