Comprobar si algo fue escrito con ChatGPT: Guía de detección de IA

Con la creciente popularidad de ChatGPT, Bard y otros bots conversacionales de inteligencia artificial, puede resultar difícil determinar si un texto fue escrito por una persona o generado por una IA. Existen muchas herramientas de detección disponibles, pero la verdad es que muchas de estas pueden arrojar falsos positivos y falsos negativos en ensayos, artículos, cartas de presentación y otro tipo de contenido. Por fortuna, aún existen métodos confiables para saber si un texto fue generado por ChatGPT o escrito por un ser humano. How.com.vn abarcará las mejores herramientas de detección de IA para profesores, estudiantes y otros usuarios curiosos, y te brindará algunos trucos útiles para detectar contenido generado por IA a simple vista.

Cosas que debes saber

Herramientas como el clasificador de texto de OpenAI, GPTZero y Copyleaks pueden verificar textos para ChatGPT, LLaMA y otros modelos de lenguaje de IA.
ChatGPT suele producir textos que parecen superficialmente “perfectos”, pero contienen información falsa.
Algunas señales de que ChatGPT generó un texto son las siguientes: falta de lenguaje descriptivo, palabras como “primeramente” y “en segundo lugar” y oraciones que “lucen bien” pero no tienen sentido.

Método 1

Método 1 de 3:

¿Cómo funcionan las herramientas de detección de IA?

Descargar el PDF

1
Ten en cuenta que las herramientas de detección de IA evalúan qué tan predecible es el texto. ChatGPT, Bard y otros bots conversacionales similares “escriben” contenido prediciendo la siguiente palabra u oración en función de sus datos de entrenamiento. De manera similar, las herramientas de detección de IA también funcionan al detectar “cuán predecibles” son las palabras, las oraciones y el formato en función de datos de entrenamiento similares.
- La herramienta de detección compara un texto con contenido similar, decide qué tan predecible es y lo etiqueta como generado por humanos o por IA.
- Estas herramientas también buscan otros indicadores o “firmas” asociadas con el texto generado por IA, por ejemplo, la elección de palabras y los patrones.^{[1]XFuente de investigación}
2
Ten presente que los detectores de IA suelen cometer errores. Las herramientas de detección de ChatGPT pueden resultar útiles, pero no son infalibles. A menudo, los detectores de IA arrojan falsos positivos, lo que significa que tienden a marcar el texto escrito por humanos como generado por IA si sigue ciertos patrones.^{[2]XFuente de investigación} También es bastante sencillo para los estudiantes y otros autores modificar el contenido escrito por ChatGPT para volverlo virtualmente indetectable para estas herramientas, lo que significa que los escritos generados por IA podrían pasar desapercibidos por el detector.
- Si una herramienta de detección informa que un escrito fue generado principalmente por IA, no confíes sólo en ese informe. Lo mejor es utilizar sólo herramientas de detección de IA si ya has encontrado otros indicios de que el texto fue generado por ChatGPT.^{[3]XFuente de investigación}
- Pasar un texto por múltiples herramientas de detección de IA puede ayudarte a tener una idea de cómo funcionan las diferentes herramientas. También puede ayudarte a reducir los falsos negativos y los falsos positivos.
Anuncio

Método 2

Método 2 de 3:

Utiliza herramientas de detección de IA

Descargar el PDF

Esta herramienta gratuita creada por los mismos que nos trajeron ChatGPT predice la probabilidad de que un modelo de lenguaje de IA haya generado un texto.^{[4]XFuente de investigación} Vas a necesitar una cuenta de OpenAI para utilizar el clasificador de texto de AI. Por ahora, sólo puedes pegar un texto en la herramienta, pero la opción de cargar documentos podría estar disponible en el futuro. Puedes verificar esta información en https://platform.openai.com/ai-text-classifier.
Esta herramienta de detección de IA fue desarrollada por un estudiante de la Universidad de Princeton en un esfuerzo por combatir el plagio por IA.^{[5]XFuente de investigación} GPTZero te ofrece la opción de pegar o cargar documentos para verificar el uso de ChatGPT y otros textos generados por IA, y puedes evaluar hasta 5000 palabras por documento con la versión gratuita (clásica) de la herramienta. Existen opciones pagas disponibles, incluida una suscripción diseñada para maestros. Puedes utilizar la herramienta en tu navegador web o instalar la extensión de Chrome o el complemento de Word.^{[6]XFuente de investigación} Ingresa a https://gptzero.me para crear una cuenta gratuita.
Este detector de ChatGPT gratuito fue desarrollado por una empresa de creación de contenido por IA. Su objetivo es ayudar a los autores que utilizan ChatGPT y otros generadores de contenido por IA a editar su trabajo antes de publicarlo para que no resulte tan evidente que está generado por IA.^{[7]XFuente de investigación} Puedes pegar 25 palabras o más en esta herramienta. Ingresa a https://contentatscale.ai/ai-content-detector para probarla.
Si estás buscando un detector ChatGPT con recargo que sea seguro y esté equipado para detectar contenido escrito por GPT-4 (la versión más reciente del modelo de lenguaje de OpenAI, que sólo se encuentra disponible en ChatGPT Plus), Copyleaks cuenta con una variedad de planes de suscripción para verificar tu trabajo en busca de plagio por IA. Sin una suscripción paga, aún puedes evaluar hasta 250 caracteres de texto para ChatGPT, Bard y otros bots conversacionales.^{[8]XFuente de investigación} Ingresa a https://copyleaks.com/ai-content-detector para probarlo.
Anuncio

Método 3

Método 3 de 3:

Indicios de uso de ChatGPT

Descargar el PDF

1
Busca enunciados inverosímiles o inexactos. Se sabe que ChatGPT, Google Bard y otras herramientas de IA generativa inventan hechos o parecen alucinar.^{[9]XFuente de investigación} Aunque los estudiantes y los postulantes a empleos también pueden incluir imprecisiones en sus escritos, los bots de IA hacen que la información falsa parezca extremadamente creíble. ChatGPT también tiene un conocimiento limitado de los acontecimientos que ocurrieron después del año 2021, lo que significa que, por lo general, no puede generar información fáctica sobre los sucesos actuales.^{[10]XFuente de investigación} Si el texto parece muy bien escrito pero contiene información falsa, podría haber sido generado por IA.
- Si estás evaluando un texto para el uso potencial de IA, trata de buscar en la web algunos datos del texto. Trata de buscar hechos que sean fáciles de verificar, por ejemplo, fechas y acontecimientos específicos.
ChatGPT puede crear oraciones gramaticalmente perfectas que no tienen sentido, aunque luzcan muy bien a primera vista. Esto se debe a que ChatGPT no sabe si un dato es verdadero o falso, tan sólo sabe utilizar el tipo correcto de palabra en el lugar adecuado. Si te encuentras releyendo algo que parece que debería tener sentido, pero no puedes entender lo que la oración trata de expresar, es muy probable que estés frente a un texto generado por IA.
Verifica si el texto contiene términos como “primeramente”, “en segundo lugar”, “por lo tanto” y “en conclusión”. Aunque muchos autores en edad escolar también utilizan este tipo de lenguaje al diseñar sus ensayos, “casi siempre” encontrarás estas palabras en ensayos generados por ChatGPT. Algunas herramientas de detección de IA incluso pueden etiquetar el contenido escrito por humanos como generado por IA si incluye estos términos.
Mientras que la versión de ChatGPT integrada en Bing cita fuentes de manera automática, la versión estándar de ChatGPT tiende a inventar fuentes que no existen.^{[11]XFuente confiablePubMed CentralIr a la fuente} Si eres un maestro que evalúa el ensayo de un estudiante “o” un estudiante que utiliza ChatGPT para encontrar fuentes, vuelve a verificar las fuentes proporcionadas por ChatGPT para asegurarte de que sean reales.
Los modelos de IA como ChatGPT funcionan al predecir la siguiente palabra en una oración, lo que da como resultado muchas palabras no específicas como “eso”, “es” y “ellos”. Dado que es menos probable que ChatGPT utilice palabras más raras para describir cosas, la falta general de lenguaje descriptivo podría significar que ChatGPT generó el contenido.^{[12]XFuente de investigación}
Aunque los estudiantes, los postulantes a empleos y los autores hacen todo lo posible por detectar todos los errores gramaticales y ortográficos antes de entregar sus escritos, es difícil detectarlos “todos”. Por otro lado, las computadoras producen un trabajo impecable desde el punto de vista gramatical, incluso si la escritura no es objetiva.
7
Solicita que ChatGPT genere un texto similar, en caso de duda. Si crees que ChatGPT generó un ensayo, una carta u otro fragmento de texto, inicia sesión en él y pídele al bot que genere contenido similar utilizando los puntos principales del texto. Si la respuesta de ChatGPT presenta la misma estructura que el contenido que estás evaluando, es probable que el autor haya utilizado esta herramienta.
- Por ejemplo, si estás evaluando una carta de presentación para el uso de IA, podrías indicarle a ChatGPT lo siguiente: “Escríbeme una carta de presentación para un puesto de desarrollador junior en la Compañía X. Explica que me gradué de Rutgers con un título en Ciencias de la Computación, me encanta JavaScript y Ruby, y he estado trabajando como camarero durante el último año”.
- Dado que ChatGPT es conversacional, puedes continuar brindándole más contexto. Por ejemplo, “agrega algo a la carta de presentación sobre la imposibilidad de ingresar directamente a la industria después de la universidad debido al estado de emergencia”.
Anuncio

Consejos

Si estás utilizando una herramienta de detección de ChatGPT que identificó el texto como generado por IA, considera que puede tratarse de un falso positivo antes de abordar la situación con el autor.
Si sospechas que ChatGPT generó algo, pero no puedes asegurarlo, debes hablar con el autor. No lo acuses de utilizar esta herramienta. En su lugar, formúlale más preguntas sobre el texto para verificar si su conocimiento se alinea con el contenido. También puedes preguntarle sobre su proceso de escritura para verificar si admite el uso de ChatGPT u otras herramientas de escritura por IA.
La mayoría de las herramientas de detección de ChatGPT también pueden detectar contenido escrito en otros modelos de lenguaje, incluidos GPT-4, GPT-2 y LLaMA.
Los investigadores de Cornell descubrieron que las personas asumieron incorrectamente que los artículos de noticias generados por IA eran creíbles más del 60 % de las veces.^{[13]XFuente de investigación}
¿Quieres determinar qué tan bueno eres para adivinar si la IA generó cuentos, recetas, artículos o discursos? Puedes jugar a texto real o falso en https://roft.io.

Anuncio