Imagina que, al abordar un avión, la mitad de los ingenieros que lo construyeron te dicen que hay un 10 % de posibilidades de que se estrelle, matándote a ti y a todos los demás a bordo. ¿Todavía abordarías?
En 2022, más de 700 académicos e investigadores vinculados a empresas líderes en inteligencia artificial fueron entrevistados sobre el riesgo futuro de la IA. La mitad de los encuestados afirmó que había un 10% o más de posibilidades de extinción humana (o una pérdida de energía igualmente permanente y grave) por los futuros sistemas de IA. Las empresas de tecnología que construyen los grandes modelos de lenguaje actuales están en una carrera para subir a toda la humanidad a ese plano.
Las compañías farmacéuticas no pueden vender nuevos medicamentos a las personas sin antes someter sus productos a rigurosos controles de seguridad. Los laboratorios de biotecnología no pueden lanzar nuevos virus a la esfera pública para impresionar a los accionistas con su magia. Del mismo modo, los sistemas de IA con el poder de GPT-4 y más allá no deben involucrarse en la vida de miles de millones de personas a un ritmo más rápido de lo que las culturas pueden absorberlos de manera segura. Una carrera por dominar el mercado no debería definir la velocidad de despliegue de la tecnología más importante de la humanidad. Debemos movernos a la velocidad que nos permita hacerlo bien.
El espectro de la IA ha perseguido a la humanidad desde mediados del siglo XX, pero hasta hace poco seguía siendo una perspectiva lejana, algo que pertenece más a la ciencia ficción que al debate científico y político serio. Es difícil para nuestras mentes humanas comprender las nuevas capacidades de GPT-4 y herramientas similares, y es aún más difícil comprender la velocidad exponencial a la que estas herramientas están desarrollando capacidades aún más avanzadas y poderosas. Pero la mayoría de las habilidades clave se reducen a una cosa: la capacidad de manipular y generar lenguaje, ya sean palabras, sonidos o imágenes.
«Al principio era el verbo». El lenguaje es el sistema operativo de la cultura humana. Del lenguaje emergen los mitos y las leyes, los dioses y el dinero, el arte y la ciencia, las amistades y las naciones, incluso los códigos informáticos. El nuevo dominio del lenguaje de la IA significa que ahora puede piratear y manipular el sistema operativo de la civilización. Al adquirir el dominio del lenguaje, la IA se apodera de la llave maestra de la civilización, desde las bóvedas de los bancos hasta las tumbas sagradas.
¿Qué significaría para los humanos vivir en un mundo en el que un gran porcentaje de historias, melodías, imágenes, leyes, políticas y herramientas están moldeadas por una inteligencia no humana, que sabe explotar con eficacia sobrehumana las debilidades, los prejuicios y las vicios de la mente – sabiendo también cómo entablar relaciones íntimas con los seres humanos? En juegos como el ajedrez, ningún ser humano puede esperar vencer a una computadora. ¿Qué sucede cuando sucede lo mismo en el arte, la política e incluso la religión?
La IA podría consumir rápidamente toda la cultura humana, todo lo que hemos producido durante miles de años, digerirla y comenzar a producir una avalancha de nuevos artefactos culturales. No solo ensayos escolares, sino también discursos políticos, manifiestos ideológicos e incluso libros sagrados para nuevos cultos. En 2028, es posible que la carrera presidencial de EE. UU. ya no sea dirigida por humanos.
Los humanos a menudo no tienen acceso directo a la realidad. Estamos encapsulados por la cultura, experimentando la realidad a través de un prisma cultural. Nuestras opiniones políticas están formadas por informes de periodistas y anécdotas de amigos. Nuestras preferencias sexuales están moldeadas por el arte y la religión. Ese capullo cultural hasta ahora ha sido tejido por otros humanos. ¿Cómo será experimentar la realidad a través de un prisma producido por una inteligencia no humana?
Durante miles de años, los humanos hemos vivido dentro de los sueños de otros humanos. Adoramos dioses, perseguimos ideales de belleza y dedicamos nuestras vidas a causas que se originaron en la imaginación de algún profeta, poeta o político. Pronto, nosotros también nos encontraremos viviendo dentro de las alucinaciones de la inteligencia no humana.
La franquicia «Terminator» presentaba robots corriendo por las calles y disparando a la gente. «The Matrix» asumió que para tener el control total de la sociedad humana, la IA primero tendría que obtener el control físico de nuestros cerebros y conectarlos directamente a una red informática. En realidad, sin embargo, simplemente dominando el lenguaje, la IA tendría todo lo que necesita para contenernos en un mundo de ilusiones similar a Matrix, sin dispararle a nadie ni implantar chips en nuestros cerebros. Si se necesita un disparo, la IA puede hacer que los humanos aprieten el gatillo, simplemente contándonos la historia correcta.
El espectro de estar atrapado en un mundo de ilusiones ha perseguido a la humanidad durante mucho más tiempo que el espectro de la IA. Pronto estaremos por fin cara a cara con el demonio de Descartes, con la caverna de Platón, con los mayas budistas. Una cortina de ilusiones podría descender sobre toda la humanidad, y es posible que nunca podamos retirarla, o incluso darnos cuenta de que está allí.
La red social fue el «primer contacto» entre la IA y la humanidad, y la humanidad se perdió. El «primer contacto» nos dejó el sabor amargo de lo que está por venir. En las redes sociales, la IA primitiva no se usaba para crear contenido, sino para curar el contenido generado por el usuario. La IA detrás de nuestras fuentes de noticias sigue eligiendo qué palabras, sonidos e imágenes golpean nuestras retinas y tímpanos, en función de seleccionar las que obtendrán la mayor viralidad, la mayor reacción y el mayor compromiso.
Aunque muy primitiva, la IA detrás de la red social fue suficiente para crear una cortina de ilusiones que aumentó la polarización social, socavó nuestra salud mental y destruyó la democracia. Millones de personas han confundido estas ilusiones con la realidad. Estados Unidos tiene la mejor tecnología informática de la historia, pero los ciudadanos estadounidenses ya no pueden ponerse de acuerdo sobre quién ganó las elecciones. Aunque ya todos conocen el lado negativo de la red social, no se ha abordado, porque muchas de nuestras instituciones sociales, económicas y políticas se han involucrado con ella.
Los modelos de lenguaje grande son nuestro «segundo contacto» con la IA. No podemos darnos el lujo de perder de nuevo. Pero, ¿sobre qué base debemos creer que la humanidad es capaz de utilizar estas nuevas formas de IA en nuestro beneficio? Si continuamos como de costumbre, las nuevas capacidades de la IA se utilizarán una vez más para obtener ganancias y poder, incluso cuando, sin darse cuenta, destruyan los cimientos de nuestra sociedad.
La IA realmente tiene el potencial de ayudarnos a vencer el cáncer, descubrir medicamentos que salvan vidas e inventar soluciones a nuestras crisis climática y energética. Hay innumerables otros beneficios que ni siquiera podemos imaginar. Pero no importa cuán alto sea el rascacielos de beneficios que la IA puede acumular si los cimientos se desmoronan.
El momento de confiar en la IA es antes de que nuestra política, nuestra economía y nuestra vida cotidiana se vuelvan dependientes de ella. La democracia es una conversación, la conversación depende del lenguaje, y cuando se piratea el lenguaje mismo, la conversación se detiene y la democracia se vuelve insostenible. Si esperamos a que se instale el caos, será demasiado tarde para remediarlo.
Pero hay una pregunta que puede flotar en nuestra mente: «Si no nos movemos lo más rápido posible, ¿no se arriesgará Occidente a perder ante China?» No. La implantación y la integración descontrolada de la IA en la sociedad, liberando poderes semidivinos desvinculados de la responsabilidad, podría ser, de hecho, la razón por la que Occidente pierde frente a China.
Todavía podemos elegir qué futuro queremos con la IA. Cuando los poderes semidivinos se combinan con la responsabilidad y el control proporcionados, podemos obtener los beneficios que promete la IA.
Convocamos a una inteligencia alienígena. No sabemos mucho al respecto, excepto que es extremadamente poderoso, nos ofrece maravillosos dones, pero también podría sabotear los cimientos de nuestra civilización. Hacemos un llamado a los líderes mundiales para que respondan a este momento al nivel del desafío que representa. El primer paso es ganar tiempo para actualizar nuestras instituciones del siglo XIX para un mundo posterior a la IA y aprender a dominar la IA antes de que nos domine.
Noticia de Brasil
Fuente: uol.com.br