Los modelos de inteligencia artificial generativa (IA) como ChatGPT tienen conocimientos básicos sobre cualquier tema y, por lo tanto, son 1000 veces más inteligentes que el ser humano promedio. La evaluación es del científico informático conocido como el «padrino de la IA», Geoffrey Hinton, quien pidió alejarse de Google este lunes (1).
Para Hinton, estos modelos podrán superar la inteligencia humana colectiva en los próximos años. Discutió, el martes (2), el futuro de la inteligencia artificial en el evento EmTech Digital, organizado por la revista MIT Technology Review. «El riesgo de que la IA se apodere de la sociedad es real».
Este argumento del padrino de la IA va en la línea de la carta para frenar el desarrollo de la inteligencia artificial firmada por intelectuales e influencers tecnológicos como el escritor Yuval Harari y el cofundador de Apple Steve Wozniak. El mismo Hinton, todavía en Google en ese momento, no respaldó el documento.
Dice que dejó Google porque quería más libertad para hablar sobre sus preocupaciones sobre los riesgos de la IA.
Harari escribió en un artículo del New York Times que un avión con un 10% de posibilidades de estrellarse nunca despegaría. Para Hinton, las posibilidades de que la humanidad pierda el control sobre esta nueva forma de inteligencia representada por los grandes modelos lingüísticos, como el GPT, rondan el 40%. «No soy pesimista, ni optimista, sino un poco deprimido».
Hinton desarrolló en la década de 1980 el algoritmo detrás de las redes neuronales actuales, el backpropagation (propagación inversa, en inglés). En definitiva, este algoritmo permite que las máquinas aprendan a partir de ejemplos, en lo que se denomina entrenamiento. El científico trató de simular el funcionamiento de las neuronas y conexiones del cerebro humano para elaborar la técnica.
Por haber desarrollado la propagación inversa, Hinton recibió, junto a Yann LeCun y Yoshua Bengio, el Premio Turing 2019, conocido como el Premio Nobel de matemáticas.
Hoy, Hinton evalúa que el cerebro humano no funciona con propagación inversa. «El algoritmo que creamos en la década de 1980 es más eficiente que el cerebro. Los grandes modelos de lenguaje de hoy pueden saber más que una persona, con muchas menos conexiones».
Las IA actuales como GPT-4 disponibles en la versión paga de ChatGPT tienen menos de 1 billón de llamadas. El cerebro humano tiene 10 trillones, de 100 mil millones de neuronas. «Es una nueva forma de inteligencia, sin los límites energéticos y los vicios inherentes de la evolución biológica».
Cuestionado por el profesor Luís Lamb, de la UFRGS (Universidad Federal de Rio Grande do Sul), Hinton afirmó que las IA generativas podrán innovar, al igual que los seres humanos. “Los modelos actuales aún no han sido entrenados para desarrollar un razonamiento lógico complejo. Esto es posible si estas tecnologías logran objetivos”.
Este sería uno de los riesgos, según el científico. «La inteligencia artificial evolucionará aún más cuando aprenda a desglosar los procesos. A partir de ahí, la tecnología puede aprender que asumir la responsabilidad acelera la finalización de las tareas. Esto puede conducir a un sesgo de control».
Agregó que GPT-4 no funciona como un loro estadístico, que repite las respuestas más probables del conocimiento basado en texto disponible en Internet. «Le dije a ChatGPT que tenía una casa con paredes blancas, azules y amarillas. Las amarillas se desvanecieron y se volvieron blancas después de un año. Así que pregunté qué tenía que hacer para tener todas las paredes blancas en dos años».
GPT-4 respondió que el científico debería pintar las paredes azules de amarillo. «Este no es un razonamiento simple. El robot necesita entender el concepto de desvanecimiento y tiempo. Y la IA no dio la respuesta trivial, que sería pintar todas las paredes de blanco».
Hinton dice que cuando comenzó a investigar el tema, en las décadas de 1970 y 1980, no había manera de predecir las dimensiones que tendría este problema, comparándolo con el cambio climático. «Así que no me culpo por hacer ciencia».
El padrino de la IA también elogia a Google. La empresa desarrolló el primer transformador, modelo que dio origen a los actuales modelos de lenguaje. «Google se dio cuenta de los riesgos, creó compromisos de seguridad y avanzó con cautela».
Para Hinton, las nuevas plataformas lanzadas por OpenAI, ChatGPT y el generador de imágenes Dall-E cambiaron el escenario. «La startup patrocinada por Microsoft trajo estos productos al mercado y Google tuvo que responder. Así es como funciona la competencia».
Aunque preocupado, el padrino de la IA se muestra escéptico ante una pausa en el desarrollo de la IA. “Si Estados Unidos se detiene, ¿cómo podemos garantizar que China también terminaría con su investigación en la zona o incluso crearía armas con ella?”, cuestiona. “Disputarse por el liderazgo es algo inherente a la sociedad capitalista”, agrega.
Noticia de Brasil
Fuente: uol.com.br