El director ejecutivo de OpenAI (la empresa detrás de ChatGPT), Sam Altman, solía responder que los moderadores de contenidos en las redes sociales serían los primeros en ser reemplazados por la inteligencia artificial, cuando se le preguntaba sobre los trabajos que ocuparía esta tecnología.
Habló de trabajadores que borran publicaciones violentas o sobre asesinatos, pedofilia y otros absurdos de la llamada «cloaca de las redes sociales». Este servicio fue votado como el peor trabajo en línea por los trabajadores autónomos brasileños entrevistados en una encuesta realizada por DiPLab (laboratorio europeo que estudia el trabajo en Internet). En la industria son frecuentes los casos de estrés postraumático debido al fuerte contenido de las imágenes, textos y audios que es necesario reportar.
La especulación resultó ser un plan en agosto, cuando OpenAI anunció que ChatGPT, o más bien el modelo de lenguaje GPT-4 detrás del chatbot más famoso de Internet, era capaz de moderar contenido.
Hoy, en general, este trabajo se divide en dos partes: por un lado, expertos en ética y derecho elaboran complejos protocolos de moderación basados en muestras de comportamiento en las redes sociales; por el otro, los trabajadores, especialmente los del sur global, llevan a cabo los pasos elaborados por el primer grupo, en contacto directo con las publicaciones más absurdas de Internet.
Los moderadores de primera línea solicitan estos puestos en plataformas de gestión del trabajo remoto, que funcionan como un Uber de trabajos digitales: completan hojas de cálculo, transcriben audio, traducen textos y denuncian publicaciones abusivas.
Como esta actividad no requiere presencia física, personas de países con monedas baratas pueden realizar estos trabajos, lo que abarata el servicio para las grandes tecnológicas con sede en Estados Unidos. Los candidatos preferidos provienen de países de habla inglesa con bajos ingresos per cápita, como India, Nigeria, Kenia y Pakistán.
La investigación de Latraps (laboratorio europeo centrado en la investigación sobre el trabajo en internet) «¿Quiénes son los trabajadores detrás de la inteligencia artificial?» muestra que hay brasileños moderando contenidos y demostrando insatisfacción. El estudio fue realizado en Brasil por el profesor de psicología del trabajo de la UEMG (Universidad Estadual de Minas Gerais), Matheus Viana Braz.
Uno de estos trabajadores encontrados por el informe fue Paulo (seudónimo), de 24 años, quien evalúa desde 2019 si las publicaciones en Facebook, Instagram y otras redes sociales están de acuerdo con las políticas de las plataformas. «He visto publicaciones con contenido obsceno, vídeos y fotografías de accidentes, asesinatos e incluso pedofilia», afirma.
Pidió preservar su identidad debido a un acuerdo de confidencialidad que firmó al registrarse en Appen, un sitio web que intermedia, entre otras cosas, entre los moderadores de contenidos y las redes sociales que los contratan. Paulo no puede hablar de los servicios que realiza ni de los proyectos en los que participa.
Bajo condición de anonimato, Paulo dice que el trabajo fue repugnante. «Sin embargo, al ver que se trataba de denunciar y prohibir la publicación o al usuario de las plataformas, me sentí aliviado de haber visto esas cosas».
Además, utiliza los ingresos adicionales en Appen para asegurar su carrera inicial en la producción cinematográfica. Se graduó en 2022 del curso de audiovisual en una institución de educación superior en São Paulo.
Entre los trabajadores de las plataformas de trabajo en línea brasileñas, la proporción de personas con educación superior completa está por encima del promedio de la población brasileña: 43% versus 24%.
Esta actividad al final sería la parte que realiza GPT-4. La inteligencia artificial es capaz de interpretar reglas y matices durante el ejercicio de moderación y adaptarse fácilmente a los cambios en las normas. Esto, según una publicación en el blog OpenAI, que negó las solicitudes de entrevista de Hoja.
Si bien es fundamental automatizar el trabajo humano sin remuneración, Matheus Viana Braz afirma que esta aplicación de la inteligencia artificial puede traer beneficios. «Si la IA generativa, como ChatGPT, reduce esta demanda, incluso en su fase inicial, tendremos un avance considerable».
Sin embargo, la propia OpenAI afirma que GPT-4 no eliminará a todos de la línea de producción de moderación de contenido. «Como todas y cada una de las aplicaciones de IA, será necesario el seguimiento y la verificación humanos de todo el proceso».
Ronaldo Lemos, columnista de Hoja y científico jefe del Instituto de Tecnología y Sociedad de Río de Janeiro (ITS-Rio), va más allá: «la inteligencia artificial no sustituirá la moderación de contenidos, sino que creará una mayor demanda de estos servicios».
Lemos recuerda que la propia OpenAI ha contratado gente en varias partes del mundo, países africanos y Brasil incluido, para clasificar, formar contenidos, buscar respuestas que infrinjan cuestiones de vulneración de derechos, etc.
“Estas personas contratadas por empresas de IA no se llaman moderadores de contenidos, pero básicamente hacen el mismo trabajo que hacen las plataformas en busca de contenidos que vulneren derechos en sus plataformas”, afirma Lemos. OpenAI ha subcontratado este trabajo a Kenia, por ejemplo, con un salario de menos de 2 dólares por hora (bajo para los estándares estadounidenses pero por encima del salario mínimo local).
«La IA requiere un trabajo humano gigantesco. Necesita ser entrenada, reentrenada, en busca de la moderación de su propio contenido. Entonces, me parece que la premisa [de Sam Altman]de nuevo, está mal», afirma Lemos.
Por otro lado, empresas como la propia Appen, que contrata los servicios del productor audiovisual Paulo, dice en su blog que utiliza inteligencia artificial para agilizar el trabajo de moderación en las redes sociales. Sin embargo, al igual que OpenAI, la plataforma independiente reitera la importancia de mantener a los humanos en el enlace de verificación.
Appen también fue contactado por Hoja por correo electrónico desde el día 27 y no respondió a los mensajes del informe.
La demanda de este servicio, de hecho, es más antigua que la del propio ChatGPT. Una investigación del Oxford Internet Institute muestra que las plataformas remotas de autónomos tenían 163 millones de usuarios en 2021.
El corrector de palabras en teléfonos móviles y programas informáticos, por ejemplo, se entrena a partir de personas que rellenan diagramas con todos los posibles errores vinculados a una palabra, llamada «rizoma» por su formato ramificado como una raíz.
En este sentido, la inteligencia artificial se utiliza para impulsar la contratación de moderadores de contenidos con producción publicitaria, afirma el sociólogo italiano Antonio Cassili, del Instituto Politécnico de París.
Como se muestra Hoja, los sitios independientes en línea pagan, en promedio, alrededor de R$ 9 por hora en Brasil y exigen que los candidatos reciban capacitación no remunerada y se comuniquen en inglés. A menudo no hay oferta para trabajar 40 horas al mes.
Estas plataformas se anuncian como formas de ingresos extra, pero el 33,5% de los entrevistados en la encuesta de Latraps en Brasil dice no tener otra fuente de recursos.
«GPT-4 es un robot que automatiza la contratación de trabajadores precarios que realizan las mismas tareas que los humanos mejor remunerados», afirma Cassili.
Para Ronaldo Lemos, el tratamiento del «residuo de las redes sociales» es un área que crecerá cada vez más, incluso por exigencias legales. «Por ejemplo, la DSA, legislación europea que inspira las fake news brasileñas PL, exige que haya iniciativas por parte de las plataformas en el área de moderación de contenidos».
Noticia de Brasil
Fuente: uol.com.br