OpenAI lanza una herramienta de detección de IA para contrarrestar el texto generado por ChatGPT

ChatGPT está de moda, pero no es popular entre todos, especialmente entre aquellos que tienen que detectar cuándo se está usando.

El chatbot automatizado impulsado por IA de OpenAI, ChatGPT, ha arrasado en Internet, pero no sin crear algunos problemas en el camino. Con escritores, codificadores, especialistas en marketing y, aparentemente, todos los demás que usan ChatGPT para generar contenido, las empresas de todo el mundo están presenciando un tsunami de contenido generado por IA.

Con problemas de plagio y contenido robado constantemente en torno a ChatGPT y su lanzamiento, OpenAI ahora ha lanzado un nuevo GPT-Classifier, una herramienta diseñada para detectar y revelar si el texto que está leyendo fue obra de ChatGPT o de ChatGPT. de sus otras herramientas de GPT.

OpenAI lanza GPT-Classifier para ayudar a verificar el texto escrito por IA

El anuncio de OpenAI se produce cuando se intensifica el escrutinio de la escritura de IA y el texto generado por IA y las empresas integran la salida de ChatGPT.

El nuevo GPT-Classifier intenta determinar si un texto dado fue escrito por un humano o por el trabajo de un generador de IA. Si bien ChatGPT y otros modelos de GPT están ampliamente capacitados en todo tipo de entrada de texto, la herramienta GPT-Classifier se «perfecciona en un conjunto de datos de pares de texto escritos por humanos y escritos por humanos. IA sobre el mismo tema».

Entonces, en lugar de absorber información y recrear su mejor aproximación, el clasificador GPT intenta comparar similitudes entre texto humano conocido y texto de IA conocido para encontrar discrepancias que revelen el autor fuente.

La detección de GPT-Classifier está actualmente limitada

Si bien la idea de detectar fácilmente el texto generado por IA será música para los oídos de los editores y educadores, OpenAI advirtió que su «clasificador no es del todo confiable».

Actualmente, GPT-Classifier «identifica correctamente el 26 % del texto escrito por IA» y etiqueta el 9 % del texto humano como escrito por IA. OpenAI también señala que la precisión de la herramienta «generalmente mejora a medida que aumenta la longitud del texto de entrada».

Una prueba rápida del clasificador GPT detectó un ejemplo generado por humanos y lo marcó como «muy poco probable que sea generado por IA», y también indicó correctamente que un fragmento generado por ChatGPT en problemas de USB fue «posiblemente generado por IA».

La solicitud de detección de ChatGPT es alta

Incluso con las limitaciones del GPT-Classifier, es probable que la demanda de detección confiable de ChatGPT haga que muchos recurran a esta herramienta. El compromiso de OpenAI de crear y lanzar una herramienta de detección de GPT gratuita es importante porque a medida que más estudiantes, escritores, programadores y otros utilicen herramientas de generación de texto de IA, comprender y detectar esta entrada será vital.

Por ahora, aunque GPT-Classifier está funcionando y disponible para pruebas, es mejor tomar su etiquetado con pinzas.