ChatGPT funciona como una herramienta de marketing al generar desigualdades en la relación entre empleador y fuerza de trabajo, dice el neurocientífico Miguel Nicolelis. Para él, la inteligencia es el resultado de millones de años de evolución, que no se pueden computar en código binario.
Nicolelis ha estado trabajando con redes neuronales durante 30 años, el mecanismo detrás de los algoritmos de aprendizaje automático actuales. Referencia en interfaces entre cerebro y máquina, trabajó en el desarrollo de neuroprótesis capaces de restaurar los movimientos corporales. En la inauguración de la Copa del Mundo de 2014, en Río de Janeiro, un usuario de silla de ruedas pateó el balón hacia la portería con la ayuda de un equipo desarrollado por él.
Nicolelis le dice a Hoja que es absurdo decir que los modelos de lenguaje como ChatGPT son diez veces más inteligentes que un ser humano porque escriben rápido o se comunican en varios idiomas, como lo hizo Geoffrey Hinton, informático que inventó las redes neuronales y fue socio y asesor de Google durante más de una década. «La tortuga es extremadamente inteligente, simplemente es lenta».
El señor. criticó al escritor Yuval Harari. ¿Por qué?
Mezcla cosas de otras áreas sin tener un conocimiento profundo. En Sapiens mezcla referencias e interpreta nuestros resultados de una manera que no tiene absolutamente nada que ver con lo que hicimos. Es un trabajo al que he dedicado 30 años de mi vida. Cuando dice que en el futuro vamos a poner esto que se llama interfaz cerebro-cerebro, que fue algo experimental que hice con ratas, lo hice con monos y lo hicimos con seres humanos, para rehabilitación. Pero no es que vaya a intercambiar mis sentimientos con otras personas. Es un intercambio de comandos de motor, cosas adecuadas para reducir la lógica digital. Lo interpretó como si estuviera leyendo la mente de alguien, lo que nunca sucederá. Dice: ‘vamos a vivir hasta los 200 años’, ‘vamos a acabar con el envejecimiento’. Todo esto es fantasía.
¿Qué pasa con lo que dice Harari sobre la inteligencia artificial?
Vive de lacración en lacración. Escribió que la inteligencia artificial secuestró el sistema; ella no secuestró nada. La especie humana está secuestrando su propia evolución.
Detrás de la inteligencia artificial, hay ejércitos de personas tomando notas.
Y tiene ejércitos de evangelistas. Nunca me gustó esa palabra, porque denota que la gran mayoría de los movimientos humanos se han convertido en religiones. Todo parece religión. Desde un punto de vista científico, llevo años diciendo esto, y ahora Noam Chomsky usa la misma frase, la inteligencia artificial no es ni inteligente ni artificial. No es artificial porque es creado por nosotros, es natural. Y no es inteligente porque la inteligencia es una propiedad emergente de los organismos que interactúan con el medio ambiente y con otros organismos. Es un producto del proceso darwiniano de selección natural. El algoritmo puede caminar y hacer cosas, pero no son inteligentes por definición. Si estuviera vivo, a Charles Darwin le daría un infarto por esto
¿Es mejor llamar al aprendizaje automático?
El aprendizaje automático, el aprendizaje profundo, el aprendizaje automático, son grandes nombres que usan palabras que estamos acostumbrados a usar coloquialmente, relacionadas con el cerebro humano o cualquier animal, para definir cosas que hacemos con lógica binaria. La inteligencia humana no es binaria. Por lo tanto, es un nombre inapropiado.
El creador de las redes neuronales Geoffrey Hinton dice que trata de simular la estructura de la neurona, para pensar en estos algoritmos.
También comenta muchas tonterías. Dijo que la inteligencia artificial ya es diez veces superior a la inteligencia humana, lo cual es un absurdo. Tenemos estos especialistas en marketing en estas áreas de tecnología que afirman cosas que suenan verdaderas. Pero no tienen la prueba.
Trabaja con resultados. Habla de la velocidad con la que entrega las respuestas, múltiples idiomas.
La tortuga es extremadamente inteligente. ella es lenta Pero de lo que estamos hablando es de tratar de usar el lenguaje del mercado para definir lo que hace la vida. El mercado quiere cosas rápidas, eficientes, con ganancia infinita y gasto cero. La inteligencia no tiene tal compromiso. La inteligencia del organismo se compromete a hacerle sobrevivir el mayor tiempo posible en un entorno en constante cambio. El hecho de que una computadora juegue al ajedrez más rápido y gane a un campeón mundial no significa que sea inteligente. Simplemente es más eficiente, porque el ajedrez es un juego con reglas predeterminadas. Esta computadora no puede sobrevivir en el estadio Palmeiras en una noche de partido, no entiende los motivos de una pelea, porque no tiene la capacidad de generalizar su inteligencia.
La investigadora del Open Philanthropy Institute, Ajeya Cotra, estimó que, en el modelo de sociedad actual, la mente humana corre el riesgo de quedar obsoleta para 2037 en términos de producción para el mercado laboral. ¿Esto tiene sentido?
Depende de lo que llames producción y lo que llames obsolescencia. Hay un límite de la lógica digital. Acabo de terminar de leer un libro de uno de los mejores intelectuales en el campo de la IA, Michael Wildridge, de la Universidad de Oxford. Salió en 2021. En el libro dice: sabemos que hay un límite determinado por fenómenos no computables, en el que no hay algoritmo, no hay fórmula matemática que se pueda resolver con un programa. Excepto que pone dos párrafos sobre lo más importante del libro y comenta que los investigadores no le prestan mucha atención porque tienen mucho que hacer. Pero la mente humana está llena de fenómenos no computables: inteligencia, intuición, creatividad, sentido estético, definiciones de belleza, creatividad, todo eso no es computable. ¿Cuál es la fórmula de la belleza?
Una joven publicó en Twitter que su tío fue acusado de plagio porque un profesor tomó una parte de su trabajo y preguntó si ChatGPT lo había hecho para ChatGPT. La plataforma no está diseñada para reconocer si un texto fue hecho por inteligencia artificial y siempre responde que es el autor de cualquier texto.
De certa maneira, o ChatGPT é um grande plagiador, porque pega o material feito por um monte de gente, mistura e gera algo que chama de produto novo, mas, na realidade, é em grande parte influenciado pelo produto intelectual de milhares e milhares de seres humanos. Para el actual sistema capitalista moderno, la inteligencia artificial es la gran herramienta de marketing, porque genera una desigualdad total en la relación con la mano de obra.
Un jefe puede decir: tengo una aplicación de inteligencia artificial, si el trabajador no acepta el salario que estoy dispuesto a pagar, que es el 10% de lo que gana hoy, lo despido y uso la aplicación. Hay toda una ideología de reemplazar el trabajo humano, que no se puede hacer al 100%, no hay manera.
¿Puedes decir que un pensamiento más utilitario está ganando terreno en la sociedad?
Ese es el problema, esto no tiene nada que ver con la máquina. Lo que se está haciendo es obligar a la biología humana a seguir las reglas del mercado. Las reglas del mercado no son divinas, son abstracciones creadas por la mente humana. ¿Qué produjeron en la historia humana? Una desigualdad estrepitosa en la distribución del ingreso. Tenemos gente que gasta dinero para bucear y ver explotar el Titanic en medio del océano. Si alguien camina aquí desde la Avenida Paulista, como lo hice yo, ve decenas de miles de personas muriendo de hambre en las calles. Todo esto se está ignorando porque estos sistemas son convenientes. Aumentan nuestra productividad y nuestro alcance como seres humanos.
El señor. ¿Está más en línea con el pensamiento de que hoy en día estos modelos de lenguaje son más como loros estadísticos?
Totalmente. El aprendizaje profundo no es más que redes neuronales con múltiples capas, más capas, más neuronas y más conexiones entre estas capas. El cerebro también hace esto. Sin embargo, es imposible simular los mecanismos biológicos que utiliza el cerebro para tomar esta decisión.
El cerebro usa mucha menos energía que las supercomputadoras de IA para entregar el mismo procesamiento.
Es un proceso de optimización de un millón de años. No es de extrañar que bajáramos de los árboles, nos tomó 4 millones de años caminar. Es algo mucho más elaborado: el 20% de la energía que produce tu cuerpo va aquí. [aponta para a cabeça]. La energía del cerebro es suficiente para encender una bombilla, más o menos. Es una sección extremadamente optimizada que ha sufrido modificaciones brutales desde que apareció la vida en la Tierra. Y no es computable. El mismo Alan Turing lo sabía, después de proponer su tesis, dijo: hay ciertos problemas que mi máquina teórica, que ya se ha convertido en una máquina de Turing y generó computadoras, no podrá resolver. Y cuando tengo este callejón sin salida, solo hay una solución. Tengo que llamar a un oráculo para tomar una decisión. El oráculo es un ser humano.
Pero dentro de esta lógica de competencia entre máquina y ser humano, ¿estás de acuerdo con los riesgos para las especies sugeridos por investigadores y gente de la industria tecnológica?
Los riesgos son tremendos. Estas herramientas tienen que ser utilizadas bajo supervisión humana. Al programar un sistema de IA, la persona pide algo, pero es posible que no considere que los medios para lograr el objetivo no son deseados. Esto es lo que sucede con la computadora HAL de la película «2001 – Una odisea del espacio», de Stanley Kubrick. Su misión era llegar con la tripulación a un lugar. Simplemente olvidaron decir que HAL no pudo matar a la tripulación. Se olvidaron de los escenarios en los que se completaría la misión, pero no quedaría gente para verla. Cuando alguien delega algo para hacer una misión en su nombre, no podrá darle a esa cosa todas las restricciones que tenemos de inmediato debido a la evolución.
Estos mecanismos pueden ser útiles, en términos de investigación, como lo son sus estudios en ¿neurociencia?
He estado usando redes neuronales para interpretar patrones reales de actividad neuronal desde la década de 1990. No son las mismas redes que hoy, pero son más simples. Es un método estadístico de reconocimiento de patrones.
No estoy de acuerdo con convertir una herramienta estadística en un nuevo Dios y construir toda una religión debajo de él, como está sucediendo. Llamo a la iglesia de la tecnología.
RAYO X
Miguel Nicolelis, 62
Dirigió el Centro de Neuroingeniería de la Universidad de Duke, antes de jubilarse como profesor emérito en 2021. Médico, es una referencia en el estudio de la interfaz entre el cerebro y la máquina y coordinó el comité científico del Northeast Consortium. Fue el primer brasileño en publicar un artículo en la portada de la revista científica Science.
Noticia de Brasil
Fuente: uol.com.br