Baixe em PDFBaixe em PDFX
Este artigo foi coescrito por Stan Kats. Stan Kats é COO e Tecnólogo da STG IT Consulting Group em West Hollywood, California. Stan oferece soluções práticas em tecnologia e cibersegurança a empresas (por meio de serviços de TI) e para pessoas físicas (por meio de sua empresa, Stan's Tech Garage). Stan tem mais de 7 anos de experiência no ramo, atuando como especialista sênior em cibersegurança para empresas como General Motors, AIG e Aramark. Stan é formado em Relações Internacionais pela The University of Southern California.
Há 12 referências neste artigo. Você pode encontrá-las ao final da página.
Este artigo foi visualizado 6 347 vezes.
Com a explosão em popularidade de plataformas como ChatGPT, Google Bard e outros chatbots alimentados por IA, está cada vez mais difícil saber se um texto foi criado por uma pessoa ou uma máquina. Embora várias ferramentas ajudem a fazer essa distinção, muitas delas acabam produzindo falsos-positivos e falsos-negativos em sua análise de artigos, cartas de apresentação e outros tipos de conteúdo. Por sorte, ainda há formas confiáveis de fazer a diferenciação. Leia este artigo para conhecer algumas das melhores soluções disponíveis para professores, estudantes e até usuários curiosos!
O que você precisa saber
- Ferramentas como GPTZero e Copyleaks podem confirmar se determinado texto foi gerado pelo ChatGPT ou outra ferramenta.
- O ChatGPT costuma produzir textos aparentemente "perfeitos", mas que contêm informações falsas.
- Alguns exemplos de sinais de que um texto foi escrito por IA: a falta de termos descritivos e subjetivos; expressões como "primeiramente" e "em conclusão"; frases que estão gramaticalmente corretas, mas não fazem sentido; e assim por diante.
Passos
As ferramentas de detecção de IA avaliam a previsibilidade do texto. O ChatGPT, o Bard e outros chatbots semelhantes "escrevem" conteúdo usando uma estratégia preditiva com base em dados de treinamento. As ferramentas de detecção de IA funcionam de forma parecida, detectando a previsibilidade em palavras, frases e formatação a partir dos mesmos dados.- As ferramentas de detecção comparam o texto a conteúdos semelhantes, indicam um nível de previsibilidade e classificam o conteúdo como gerado por humano ou IA.
- Essas ferramentas também analisam outros indicadores — ou "assinaturas" — associados a textos gerados por IA, como certos padrões e palavras.[1]
Detectores de IA costumam cometer erros. Apesar de as ferramentas de detecção serem úteis, elas não são infalíveis e podem produzir falsos-positivos — ou seja, classificar textos escritos por humanos como escritos por IA devido a certos padrões que eles apresentam.[2] Além disso, qualquer estudante ou escritor consegue modificar conteúdos gerados por máquina para enganar ainda mais as ferramentas.- Se uma ferramenta de detecção de IA relatar que determinado texto foi majoritariamente gerado por máquina, não confie apenas nessa informação. É melhor só usar os detectores se você já tiver encontrado outros sinais de perigo.[3]
- Você pode passar um texto por várias ferramentas de detecção para ter uma ideia melhor de como elas funcionam e até aprender a diferenciar falsos-negativos de falsos-positivos.
Publicidade
Text Classifier da OpenAI (descontinuado). Essa ferramenta gratuita foi criada pela mesma empresa por trás do ChatGPT para prever a probabilidade de um texto ter sido gerado por máquina — tudo a partir de um modelo de linguagem de IA.[4] Ela foi descontinuada em julho de 2023 por não apresentar resultados tão precisos, o que ilustra a importância de sempre ter o pé atrás com recursos do tipo. Mesmo assim, vale a pena saber que a OpenAI já teve a iniciativa de lançar um detector próprio.
GPTZero. Essa ferramenta de detecção de IA foi desenvolvida por um estudante na Universidade de Princeton, nos EUA, para combater o plagiarismo na internet.[5] O GPTZero dá ao usuário a opção de colar ou fazer o upload de documentos para determinar se eles foram gerados pelo ChatGPT ou outro chatbot. Além disso, também é possível avaliar até 5 mil palavras por documento com a versão gratuita. Existem opções pagas disponíveis, inclusive por assinatura (ideal para professores). Por fim, você pode até usar a ferramenta no navegador de internet ou por uma extensão do Chrome ou um plug-in do Word.[6] Clique aqui para criar uma conta gratuita.
Content at Scale. Esse detector on-line gratuito foi desenvolvido por uma empresa de criação de conteúdo por IA. Seu foco é ajudar escritores que usam o ChatGPT e outros geradores parecidos a editar seu trabalho antes da publicação — de modo a não deixar o resultado final óbvio.[7] Ele permite colar 25 palavras ou mais na ferramenta. Clique aqui para acessá-lo.
Copyleaks AI Content Detector. Se você quer um detector premium que seja seguro e equipado para flagrar conteúdos escritos pelo GPT-4 (a versão mais recente do modelo linguístico da OpenAI, disponível somente no ChatGPT Plus), o Copyleaks oferece uma série de planos de assinatura. Em sua forma gratuita, ainda é possível avaliar até 250 caracteres do ChatGPT, Bard ou outro chatbot.[8] Clique aqui para acessar a ferramenta.Publicidade
Frases e declarações implausíveis ou imprecisas. O ChatGPT, o Google Bard e outros chatbots costumam "viajar" ou inventar fatos.[9] Embora estudantes e candidatos a vagas também cometam esses erros de vez em quando, os bots fazem as informações falsas parecerem muito verossímeis. O ChatGPT, em particular, tem um conhecimento limitado de coisas que aconteceram após 2021 — ou seja, não consegue produzir textos factuais sobre eventos da atualidade.[10] Se o conteúdo parecer de qualidade, mas trouxer dados incorretos, pode ter sido gerado por IA.- Se você quer avaliar um texto para detectar o uso de IA, faça uma busca na internet por alguns dos fatos que ele menciona. Pense em coisas fáceis de averiguar, como datas e eventos específicos.
Algumas frases parecem corretas, mas não fazem sentido. O ChatGPT é capaz de criar frases gramaticalmente perfeitas, mas que não têm sentido de verdade. Isso acontece porque o chatbot não sabe quando uma informação é verdadeira ou falsa: só sabe usar as palavras certas nos lugares certos. Se você der de cara com algo que deveria fazer sentido, mas não faz, é bem possível que tenha sido escrito pelo chatbot.
Uso de palavras e expressões como "primeiramente", "em conclusão" e afins. Embora muitos estudantes de ensino médio usem palavras e expressões assim quando escrevem dissertações e outros textos, elas quase sempre aparecem em textos escritos pelo ChatGPT. Para piorar, algumas ferramentas de detecção de IA até classificam conteúdos escritos por humanos erroneamente quando observam esses termos.
Fontes falsas ou inacessíveis. Apesar de a versão do ChatGPT usada em páginas como o Bing citar fontes automaticamente, a versão comum do chatbot costuma "inventar" fontes que não existem.[11] Se você é professor e quer avaliar a dissertação de um aluno ou estudante e usa o ChatGPT para encontrar fontes, verifique se elas são legítimas antes de mais nada.
A falta de termos descritivos e "raros". Modelos de IA como o ChatGPT predizem a palavra seguinte em uma frase, o que gera termos genéricos como "isso", "é", "eles" e afins. Como o ChatGPT quase nunca usa palavas mais raras para descrever as coisas, a falta desse tipo de linguagem pode indicar que o texto não foi gerado por humano.[12]
A falta de erros gramaticais ou ortográficos. Por mais que estudantes, candidatos a vagas e escritores façam o possível para encontrar e corrigir todos os erros gramaticais e ortográficos antes de entregar seus trabalhos, é difícil detectar tudo. Computadores, por sua vez, produzem textos gramaticalmente impecáveis — mesmo quando não são factuais.
Na dúvida, peça para o ChatGPT produzir um texto parecido com o que tem em mãos. Se você desconfia que o ChatGPT escreveu um artigo, uma carta de apresentação ou outro texto, acesse a ferramenta e peça para ela criar um documento parecido usando os principais pontos do "original". Caso o resultado contenha a mesma estrutura, é possível que os dois tenham sido gerados por um chatbot.- Por exemplo: se você quer saber se uma carta de apresentação foi escrita pelo ChatGPT, peça para ele "escrever uma carta de apresentação para o cargo de desenvolvedor júnior na empresa X. Explique que eu me formei em Ciência da Computação na USP, adoro usar o JavaScript e trabalho como professor de inglês há um ano."
- Como o ChatGPT se desenvolve gradualmente, você pode continuar explicando o contexto a ele. Por exemplo: "adicione um parágrafo à carta de apresentação sobre eu não ter entrado direto no mercado de trabalho após a faculdade por causa da pandemia."
Publicidade
Dicas
- Se a ferramenta de detecção de IA indicar que o texto que você inseriu foi criado por máquina, pode ser que se trate de um falso-positivo. Tenha cuidado antes de tomar qualquer medida drástica!
- Caso você suspeite que o ChatGPT escreveu algo, mas não tenha certeza, converse com o autor. Não o acuse de nada: é melhor fazer perguntas sobre o conteúdo para ver se o conteúdo dele se alinha ao que foi escrito. Além disso, tente entender o processo de redação dele — e ver se ele admite que usou o ChatGPT ou outro chatbot.
- A maioria das ferramentas de detecção do ChatGPT também consegue detectar conteúdos criados com outros modelos linguísticos, incluindo GPT-4, GPT-2 e LLaMA.
- Pesquisadores já determinaram que os humanos acreditam em notícias geradas por IA mais de 60% das vezes.[13]
- Tenha sempre o pé atrás com qualquer conteúdo que pareça "bom demais" para ter sido criado por humanos.
Publicidade
Referências
- ↑ https://www.turnitin.com/blog/ai-writing-the-challenge-and-opportunity-in-front-of-education-now
- ↑ https://www.turnitin.com/blog/understanding-false-positives-within-our-ai-writing-detection-capabilities
- ↑ https://platform.openai.com/docs/chatgpt-education
- ↑ https://platform.openai.com/ai-text-classifier
- ↑ https://www.npr.org/2023/01/09/1147549845/gptzero-ai-chatgpt-edward-tian-plagiarism
- ↑ https://app.gptzero.me/app/subscription-plans
- ↑ https://contentatscale.ai/ai-content-detector/
- ↑ https://copyleaks.com/api-pricing
- ↑ https://research.google/pubs/pub51844/
Sobre este guia How.com.vn
Especialista em Cibersegurança
Este artigo foi coescrito por Stan Kats. Stan Kats é COO e Tecnólogo da STG IT Consulting Group em West Hollywood, California. Stan oferece soluções práticas em tecnologia e cibersegurança a empresas (por meio de serviços de TI) e para pessoas físicas (por meio de sua empresa, Stan's Tech Garage). Stan tem mais de 7 anos de experiência no ramo, atuando como especialista sênior em cibersegurança para empresas como General Motors, AIG e Aramark. Stan é formado em Relações Internacionais pela The University of Southern California. Este artigo foi visualizado 6 347 vezes.
Categorias: Internet
Esta página foi acessada 6 347 vezes.
Este artigo foi útil?
⚠️ Disclaimer:
Content from Wiki How Português language website. Text is available under the Creative Commons Attribution-Share Alike License; additional terms may apply.
Wiki How does not encourage the violation of any laws, and cannot be responsible for any violations of such laws, should you link to this domain, or use, reproduce, or republish the information contained herein.
- - A few of these subjects are frequently censored by educational, governmental, corporate, parental and other filtering schemes.
- - Some articles may contain names, images, artworks or descriptions of events that some cultures restrict access to
- - Please note: Wiki How does not give you opinion about the law, or advice about medical. If you need specific advice (for example, medical, legal, financial or risk management), please seek a professional who is licensed or knowledgeable in that area.
- - Readers should not judge the importance of topics based on their coverage on Wiki How, nor think a topic is important just because it is the subject of a Wiki article.
Publicidade
