En las últimas semanas, la aparición de ChatGPT, un nuevo chatbot desarrollado por OpenAI, ha llamado la atención internacional. Esta nueva herramienta de inteligencia artificial (IA) podría revolucionar una gama muy amplia de actividades humanas, pero también generó una cantidad considerable de preocupaciones entre los especialistas en tecnología.
Es muy probable que los reguladores sean los próximos en interesarse por esta tecnología.
ChatGPT es una de las últimas aplicaciones del modelo algorítmico Generative Pretrained Transformer 3 (GPT-3). Este modelo de procesamiento de lenguaje natural de última generación se introdujo por primera vez en 2020, lo que planteó varias cuestiones éticas con respecto a su uso.
ChatGPT es capaz de comprender el lenguaje humano natural y generar una respuesta similar al fruto del intelecto humano al recibir una solicitud. La herramienta ganó prominencia por tres razones principales.
En primer lugar, por el nivel extremadamente refinado de tus respuestas. Impresiona su simulación casi fiel de textos escritos por humanos y sus respuestas precisas y coherentes a la gran mayoría de preguntas, incluso las más complejas.
Tal evolución se vuelve extremadamente útil para facilitar una infinidad de tareas y, en consecuencia, extremadamente rentable para quienes logran alcanzar este nivel de sofisticación. En este sentido, la segunda –pero quizás deberíamos considerarla la primera– razón por la que ChatGPT llamó la atención de los expertos fueron los incesantes rumores sobre la enorme inversión de US$ 10 mil millones que OpenAI, liderada por Elon Musk y Sam Altman, estaría realizando. negociando con Microsoft, luego de haber recibido ya una inversión de US$ 1 billón de Microsoft en 2019.
Según Sam Altman, CEO de OpenAI, ChatGPT ya habría alcanzado la marca de 1 millón de usuarios, a pesar de que se lanzó hace menos de un mes. Por ahora, el sistema de IA está disponible «sin cargo», involucrando a los usuarios en una operación masiva de publicidad y prueba de la tecnología.
En tercer lugar, y en una perspectiva más general, ChatGPT destaca la llegada de una nueva fase de automatización en la que la IA no solo realiza una tarea limitada, sino que puede interactuar de una manera mucho más refinada con el usuario, asistiendo de una manera mucho más amplia. manera más elaborada. , desde escribir un artículo, hasta arreglar código de software, en el espacio de unos pocos segundos.
Por ejemplo, la llamada «depuración de código» es el primer ejemplo que ofrece en su sitio web oficial sobre cómo ChatGPT puede contribuir a examinar y mejorar el código, a partir de un «diálogo» con el programador.
Esta capacidad de generar respuestas a cualquier tipo de pregunta es extremadamente prometedora, pero también aterradora. Cuando un usuario solicita malware, es decir, software malicioso que generalmente se usa para ataques de piratería, ChatGPT entrega rápidamente un gran borrador de código que permitiría, o al menos facilitaría en gran medida, ataques particularmente perniciosos, incluso si el perpetrador fuera un novato.
Hasta ahora, nadie parece haber pedido a ChatGPT que elabore una serie de noticias falsas para dañar a figuras o instituciones públicas, pero el sistema funcionó muy bien al redactar correos electrónicos de phishing para enviarlos a estafas en línea. Uno puede imaginar que se puede lograr el mismo tipo de rendimiento de alto nivel elaborando noticias falsas.
Quizás una de las aplicaciones más exitosas del chat podría ser la investigación académica, lo que nos obliga a repensar radicalmente cómo se evalúan las competencias intelectuales de los individuos. ¿Qué sentido puede tener evaluar a un estudiante con un trabajo de conclusión de curso o un ensayo si ChatGPT puede preparar dichos trabajos en unos segundos?
La ICML (International Conference on Machine Learning), una de las conferencias de IA más prestigiosas del mundo, ya prohibió el uso de herramientas como ChatGPT para escribir o corregir artículos científicos. Esta decisión dio lugar a un debate ético en el mundo académico y entre los profesionales del aprendizaje automático.
Algunas de las cuestiones éticas planteadas por la conferencia fueron la dificultad de distinguir los textos escritos a través del chat de los textos de autoría humana y que su uso permite la reformulación de textos disponibles en internet, sin acreditar a los autores originales.
El plagio se considera un problema grave en las instituciones educativas, pero sistemas como ChatGPT hacen que la práctica sea extremadamente fácil y, al mismo tiempo, difícil de detectar. Si bien la prohibición establecida por ICML es totalmente comprensible, su implementación parece extremadamente difícil. Todavía no está claro cómo el comité organizador de ICML, o cualquier otra persona, podría determinar si un texto se preparó con la ayuda de estas herramientas.
Las aplicaciones ChatGPT pueden ser extremadamente valiosas y ahorrar millones de horas de trabajo escribiendo correos electrónicos, notas, planes, proyectos, software, etc. Sin embargo, junto con los usos amistosos y de buena fe vienen muchos otros (ab)usos potenciales mucho menos nobles.
El propósito para el cual se utiliza cualquier tecnología depende de su usuario. Pero el desarrollador no puede estar completamente exento de responsabilidad y debe tener un deber de cuidado cuando la tecnología puede usarse fácilmente para fines dañinos.
ChatGPT plantea cuestiones muy relevantes de ciberseguridad, protección de datos, pedagogía y ética. Nos obliga a repensar nuestra relación con la IA para empezar a plantearnos la necesidad de evolucionar con ella, haciéndonos más inteligentes y preparados gracias a ella. La otra opción, más perezosa y mucho más perniciosa: hacernos dependientes en lugar de protagonistas de la IA.
La llegada de un tipo de IA más complejo y desafiante nos obliga a analizar todos los efectos, ya sean positivos o negativos, de tales avances, para prepararnos seriamente y entender cómo regular de manera eficiente.
Noticia de Brasil
Fuente: uol.com.br