En el contexto de la creciente globalización, es innegable la existencia de una amplia diversidad lingüística. No obstante, los mecanismos de detección de texto generados por inteligencia artificial (IA) parecen enfrentar desafíos al adaptarse a esta realidad. Un estudio reciente ha puesto de manifiesto que estos sistemas a menudo clasifican incorrectamente los textos escritos por hablantes no nativos de inglés como si fueran generados por IA.
La investigación y sus descubrimientos
Un grupo de expertos encabezado por James Zou, de la Universidad de Stanford, sometió a prueba siete detectores de texto producido por IA, conocidos como detectores GPT. Evaluaron 91 ensayos en inglés escritos por personas no nativas para la prueba de competencia en inglés TOEFL. Los resultados fueron asombrosos: más de la mitad de estos ensayos fueron incorrectamente identificados como generados por IA.
En otras palabras, si acusas a tu estudiante de haber generado su trabajo utilizando ChatGPT basándote en la afirmación de un detector, es posible que el detector esté proporcionando información falsa.
¿Cómo operan los detectores GPT?
Los detectores GPT examinan la «perplejidad» de un texto, es decir, la inesperada elección de palabras utilizadas. Si un texto emplea términos usuales y sencillos, es más probable que sea identificado como generado por IA. Esto se debe a que los modelos de lenguaje de gran envergadura, como ChatGPT, están adiestrados para producir textos con una perplejidad reducida, imitando así la forma en que se expresa un individuo común.
Por otro lado, los detectores siempre reconocen el uso frecuente de palabras en ChatGPT, tales como «además», «en resumen» y otros equivalentes, aunque mediante una adecuada consigna es fácil evitar dichas detecciones.
Consecuencias y precauciones
La utilización de vocabulario más sencillo, frecuente entre los usuarios no nativos de inglés, aumenta la probabilidad de que estos textos sean clasificados como generados por IA. Esto plantea preocupaciones significativas respecto al empleo de estos detectores en contextos como el ámbito educativo o las solicitudes de empleo, donde podrían generar sesgos y ser susceptibles de engaño con facilidad.
Hacia una resolución
Con el fin de mejorar la precisión de estos sistemas de detección, los investigadores proponen entrenarlos con una mayor variedad de estilos de escritura. No obstante, resulta evidente que aún queda mucho trabajo por hacer para asegurar que la IA no discrimine a los escritores no nativos de inglés.
La tecnología tiene el potencial de actuar como un nivelador de oportunidades, pero solo si se diseñan y utilizan las herramientas de manera justa y equitativa. Los descubrimientos de este estudio resaltan la importancia de tener en cuenta la diversidad lingüística en el desarrollo de la IA.
Es evidente que en un futuro cercano será prácticamente imposible distinguir los textos generados por ChatGPT. Un estudiante puede proporcionar textos creados por él mismo para enseñar a ChatGPT a escribir en su propio estilo, lo cual resultará en resultados prácticamente perfectos.
FUENTE: https://wwwhatsnew.com/
