DetectGPT encuentra textos generados por IA
Investigadores desarrollan la herramienta DetecGPT para determinar si un texto ha sido generado por Inteligencia Artificial; ya que, consideran que la nueva app ChatGPT «dificulta que los profesores evalúen con precisión si el estudiante ha aprendido realmente» .
Con las nuevas tecnologías ha quedado en evidencia que el desarrollo, fluidez y el conocimiento que emplean los modelos de lenguaje de IA, permiten a los usuarios realizar cualquier tipo de tareas escritas sin hacer un mínimo esfuerzo por plasmar los conocimientos adquiridos.
¿Por qué surge DetecGPT?
En el ámbito académico, la creación de ChatGPT parece representar un problema, así lo expresan varios institutos de Nueva York, debido a que su implementación no permite evaluar correctamente al estudiante; incluso, ChatGPT se ha prohibido en toda la red de escuelas públicas de esta ciudad.
Además, el pasado mes de enero, el diario New York Post citó el caso de un profesor de secundaria que encontró a un alumno utilizando ChatGPT en medio de un ensayo sobre un filósofo, y describió el resultado de la tarea como «el que podría producir un chico muy listo de 12 grado (equivalente a 17 años)».
En este sentido, la portavoz del Departamento de Educación de Nueva York, Jenna Lyle, publicó un comunicado en el que expresa sus preocupaciones por el impacto negativo en el aprendizaje y la exactitud del contenido de ChatGPT.
«No ayuda al pensamiento crítico ni (refuerza) capacidades de resolución de problemas, que son esenciales para éxitos académicos y vitales», indicó la representante. Sin embargo, precisó que la prohibición de la app de IA no aplicará en los dispositivos personales de los alumnos.
¿Cómo funciona la herramienta DetecGPT?
DetecGPT utiliza el método estadístico «curvatura de probabilidad», donde el texto creado por una IA muestra una «curvatura negativa» de la función de probabilidad logarítmica, mientras que el texto generado por humanos muestra una «curvatura positiva» en el mismo parámetro. Es decir, se basa en la estadística para determinar la probabilidad de generación de textos.
En relación a los resultados, durante una prueba, DetecGPT encontró 14 de 15 veces el texto generado por una IA, y lo hizo cuando el texto estaba parafraseado en un 25% por humanos.
Con este método, no se requiere marca de agua en el texto, recopilar grandes cantidades de datos o una comparación del texto real frente al texto generado por la tecnología.
Otras soluciones con IA
Con el auge de ChatGPT muchos usuarios están recurriendo a esta tecnología para generar textos y presentarlos como propios, sin tomar en cuenta la falta de gramática y veracidad de la información.
La buena noticia es que al mismo tiempo que aumenta la popularidad de ChatGPT, también surgen nuevas herramientas para detectar la procedencia de textos como el Detector de salida GPT-2 y GPTZero, esta última funciona de forma similar a DetecGPT.
Por otro lado, la empresa detrás de ChatGPT, OpenIA, también está buscando sus propias soluciones, y se espera que pronto lance una marca de agua para evitar que el texto generado por su IA se use para copiar en el ámbito académico.