Elon Musk y cientos de expertos mundiales firmaron, este miércoles (29), un llamamiento para una pausa de seis meses en la investigación sobre IA (inteligencias artificiales) más poderosas que ChatGPT 4, el modelo OpenAI lanzado este mes. Dicen que podrían ser «grandes riesgos para la humanidad».
En la petición publicada en el sitio web futureoflife.org, piden: una moratoria hasta que se establezcan sistemas de seguridad con nuevas autoridades reguladoras; vigilancia de sistemas de IA; técnicas que ayuden a distinguir entre lo real y lo artificial; instituciones capaces de hacer frente a la «perturbación económica y política (especialmente de la democracia) que provocará la IA».
El texto está firmado por personalidades que expresaron sus temores sobre una IA incontrolable que supera a los humanos. Entre ellos se encuentran Musk, propietario de Twitter y fundador de SpaceX y Tesla, y el historiador Yuval Noah Hariri.
El director de Open AI, que creó ChatGPT, Sam Altman, reconoció tener un poco de miedo de que su creación sea utilizada para desinformación a gran escala o para ataques cibernéticos.
«La empresa necesita tiempo para adaptarse», dijo recientemente a ABC News.
Los firmantes de la petición dicen que en los últimos meses, los laboratorios de IA se han apresurado a desarrollar y desplegar cerebros digitales cada vez más poderosos que nadie, ni siquiera sus creadores, pueden comprender, predecir o controlar de manera confiable.
«¿Deberíamos permitir que las máquinas inunden nuestros canales de información con propaganda y mentiras? ¿Deberíamos automatizar todos los trabajos, incluidos los gratificantes? […] ¿Deberíamos arriesgarnos a perder el control de nuestra civilización? Estas decisiones no deben delegarse en líderes tecnológicos no elegidos».
La lista de signatarios también incluye al cofundador de Apple, Steve Wozniak; miembros del laboratorio de inteligencia artificial de Google, DeepMind; el director de Stability AI, Emad Mostaque, así como especialistas estadounidenses en la materia, académicos e ingenieros ejecutivos de Microsoft, socio de OpenAI.
Noticia de Brasil
Fuente: uol.com.br