Embora o uso de inteligência seja polêmico, ele pode aumentar em muito a produtividade e a acessibilidade a outros idiomas. Com isso, inúmeras pessoas utilizam ferramentas como o ChatGPT cotidianamente para se comunicar, e muitas outras ficam desconfiadas sobre a origem de textos que encontram por aí.
A Open Ai, desenvolvedora do Chat GPT revelou que já possui detectores de textos eficientes, mas que ainda não disponibilizou ao público pelo receio quanto à reação do público, que ficaria menos confiante em utilizar IA em seu dia a dia.
Tribunal da Internet empoderado
As primeiras informações sobre essa tecnologia foram divulgadas pelo The Wall Street Journal em um artigo publicado no domingo, 4 de agosto. A OpenAI confirmou a existência da ferramenta ao TechCrunch e atualizou um post de blog de maio, detalhando suas funcionalidades de marcação e detecção.
Trata-se de uma espécie de “marca d’água” invisível, permitindo que esses textos sejam posteriormente detectados com precisão de 99,9%. Esta técnica envolve ajustes sutis na forma como o modelo de linguagem prevê e escolhe palavras, criando um padrão identificável sem comprometer a qualidade das respostas.
Em seu blog, a OpenAI menciona que está explorando métodos alternativos, como a aplicação de metadados criptograficamente assinados. Embora essa abordagem esteja nos estágios iniciais de desenvolvimento e sua eficácia ainda precise ser comprovada, ela oferece a vantagem de eliminar falsos positivos, garantindo que a ferramenta nunca identifique incorretamente um texto como sendo gerado pelo ChatGPT se não for o caso.
Evitando julgamentos
Apesar do potencial da ferramenta, a OpenAI enfrenta um dilema interno sobre a conveniência de lançá-la. Um dos maiores desafios é a possibilidade de burla: basta pedir a outro modelo de linguagem que reescreva o texto ou usar uma ferramenta de tradução para remover a marcação. Além disso, a empresa expressa preocupação com os estigmas associados ao uso da inteligência artificial, especialmente para falantes não nativos de inglês que dependem do ChatGPT para auxiliar na escrita.
Há também o risco de que a implementação da marcação possa afetar negativamente a percepção e o uso do ChatGPT. Quase 30% dos entrevistados em uma pesquisa sobre o assunto indicaram que usariam menos o ChatGPT se a tecnologia de marcação fosse implementada. Esse dado destaca a delicada balança que a OpenAI precisa manter entre inovação e aceitação do usuário.
A empresa precisa considerar que enquanto usuários “legítimos” ficariam desencorajados a utilizar o ChatGPT, isso poderia não inibir efetivamente os criminosos. Além disso, a OpenAI forneceria um “antídoto” contra seu próprio produto, prejudicando-o frente à concorrência.
O futuro da detecção de textos gerados por IA dependerá do equilíbrio entre inovação tecnológica e responsabilidade social. Fique por dentro das principais notícias da semana no mundo do Linux e da tecnologia, assine nossa newsletter!
