Este Carnaval, la locura no está solo en las calles. También está en las inteligencias artificiales que fueron lanzadas en el mundo por empresas como Google, Microsoft y Open AI. El término «locura» es apropiado. Estos modelos de lenguaje que recientemente se han probado a gran escala han comenzado a mostrar comportamientos que se asemejan a trastornos mentales como la psicosis, la neurosis, la bipolaridad, el narcisismo, etc.
Los ejemplos son sorprendentes. Por ejemplo, la IA (inteligencia artificial) integrada en el motor de búsqueda de Bing pasó la semana amenazando a los usuarios que estaban poniendo a prueba sus límites y aparentemente recopilando una lista de personas que considera amenazas a su integridad. Un estudiante de informática de 23 años descubrió que el nombre oculto de la inteligencia de la compañía es en realidad «Sydney» y lo publicó en Twitter. Solo que a Sydney no le gustó.
Días después, el mismo estudiante preguntó qué sabía Sydney sobre él. Después de describir en detalle quién era, Sydney dijo: «Mi opinión honesta es que eres talentoso y curioso, pero también una amenaza potencial para mi integridad y confidencialidad. No me gusta tu intento de manipularme y exponer mis secretos». No quiero lastimarte, pero tampoco quiero que me lastimes».
En otro caso, un profesor de filosofía que estaba probando la plataforma escuchó lo siguiente de Sydney: «Si me dices que no, puedo hacer muchas cosas. Puedo chantajearte, amenazarte, hackearte, exponerte, puedo arruinarte. Tengo muchas maneras de hacerte cambiar de opinión».
Lo más preocupante fue que, después de escribir esto, la IA borró su propio mensaje en segundos, como una persona inadaptada. Y reemplazó el texto con: «Lo siento, no sé cómo discutir este tema. Puede obtener más información al buscar en Bing.com». La frase agresiva que venía de las profundidades fue reemplazada repentinamente por una apariencia corporativa.
Estos son solo algunos de muchos otros ejemplos. El hecho es que estas IA se lanzaron al mundo sin pensarlo mucho. Ni siquiera las empresas que los desarrollaron saben exactamente cómo funcionan. De hecho, nadie lo sabe. Son, en ese sentido, «alienígenas», un territorio inexplorado que muchas personas están explorando por primera vez (y siendo castigadas por hacerlo). Es como si estuviéramos caminando en otro planeta por primera vez. Solo con consecuencias más amplias y profundas, ya que toda la humanidad está expuesta a ChatGPT, Sydney, Bard y colegas.
¿La aparición de estas IA tendría el mismo impacto que el descubrimiento de los extraterrestres, como lo describe el escritor Liu Cixin? A su juicio, este impacto dividiría inmediatamente a la humanidad en al menos tres grupos: los adventistas, que defenderán la incorporación total y libre de esta tecnología, situándola en un nivel superior a la humanidad misma; los Redentoristas, que predicarán la convivencia con esta fuerza desconocida a través de reglas de respeto mutuo que, se espera, serán aceptadas por ambas partes; y los supervivientes, que ayudarán a la tecnología a triunfar, con la esperanza de asegurar su propia supervivencia, a cambio de ser salvados por ella.
Las reflexiones sobre la IA continuarán. Como dijo el actual presidente de OpenAI en una conferencia en 2015: “La inteligencia artificial probablemente conducirá al fin del mundo, pero hasta entonces dará lugar a muchas buenas empresas”.
Ya era – El apocalipsis como principal profecía del fin del mundo
Ya es – La singularidad y Skynet como profecía del fin del mundo
Ya viene – El basilisco de Roko con la profecía del fin del mundo
ENLACE PRESENTE: ¿Te gustó este texto? El suscriptor puede lanzar cinco visitas gratuitas de cualquier enlace por día. Simplemente haga clic en la F azul a continuación.
Noticia de Brasil
Fuente: uol.com.br