OpenAI lançou um instrumento de detecção de texto gerado através de serviços como o seu próprio ChatGPT.
Os modelos generativos de IA usados para serviços como o ChatGPT levantaram muitas questões sociais e éticas: Poderiam ser utilizados para gerar desinformação a uma escala sem precedentes? E se os estudantes fizerem batota ao usá-los? Deverá uma IA ser creditada onde excertos são usados para artigos ou artigos?
A papel (PDF) do Centro sobre Terrorismo, Extremismo e Contraterrorismo do Instituto de Estudos Internacionais de Middlebury (Middlebury Institute of International Studies’ Center on Terrorism, Extremism, and Counterterrorism) descobriu mesmo que o GPT-3 é capaz de gerar texto “influente” que tem o potencial de radicalizar pessoas em ideologias extremistas de extrema-direita.
A OpenAI foi fundada para promover e desenvolver “IA amigável” que beneficia a humanidade. Como criador de poderosos modelos generativos de IA como GPT e DALL-E, OpenAI tem a responsabilidade de assegurar que as suas criações tenham salvaguardas para prevenir – ou pelo menos minimizar – a sua utilização para fins nocivos.
O novo instrumento lançado esta semana afirma ser capaz de distinguir texto escrito por um humano do texto de uma IA (não apenas GPT). No entanto, o OpenAI adverte que não é actualmente fiável.
Sobre um conjunto desafiante de textos em inglês, OpenAI diz que a sua ferramenta identifica apenas 26% dos textos escritos por IA como “provavelmente escritos por IA”. A ferramenta classifica falsamente o texto escrito por humanos cerca de nove por cento do tempo.
“Embora seja impossível detectar de forma fiável todo o texto escrito com IA, acreditamos que bons classificadores podem informar as mitigações por falsas alegações de que o texto gerado por IA foi escrito por um humano: por exemplo, executar campanhas automatizadas de desinformação, utilizar ferramentas de IA para desonestidade académica, e posicionar um chatbot de IA como humano”, diz o OpenAI.
“[The tool] não deve ser utilizado como um instrumento primário de tomada de decisão, mas sim como complemento de outros métodos de determinação da fonte de um pedaço de texto”.
Outras limitações fundamentais do instrumento são que é “muito pouco fiável” em textos curtos com menos de 1.000 caracteres e que é “significativamente pior” quando aplicado a textos não ingleses.
O OpenAI forneceu originalmente acesso ao GPT a um pequeno número de investigadores e programadores de confiança. Embora tenha desenvolvido salvaguardas mais robustas, foi então introduzida uma lista de espera. A lista de espera foi removida em Novembro de 2021, mas o trabalho para melhorar a segurança é um processo contínuo.
“Para assegurar que as aplicações apoiadas por API sejam construídas de forma responsável, fornecemos ferramentas e ajudamos os desenvolvedores a utilizar as melhores práticas para que possam levar as suas aplicações à produção de forma rápida e segura”, escreveu OpenAI em um post no blog.
“À medida que os nossos sistemas evoluem e trabalhamos para melhorar as capacidades das nossas salvaguardas, esperamos continuar a racionalizar o processo para os criadores, refinando as nossas directrizes de utilização, e permitindo ainda mais casos de utilização ao longo do tempo”.
OpenAI partilhou recentemente a sua opinião de que há demasiada propaganda em torno da próxima versão principal do GPT, GPT-4, e que as pessoas estão “a implorar para ficarem desapontadas”. Ele também acredita que um modelo gerador de vídeo virá, mas não vai pôr um prazo para quando.
Os vídeos que têm sido manipulados com tecnologia de IA, também conhecidos como deepfakes, já estão a revelar-se problemáticos. As pessoas são facilmente convencidas por aquilo que pense eles podem ver.
Pode testar a ferramenta de trabalho em progresso do OpenAI para detecção de texto gerado por IA aqui. Uma alternativa chamada ‘DetectGPT’ está a ser criada por investigadores da Universidade de Stanford e está disponível para demonstração. aqui.
(Foto por Shane Aldendorff em Unsplash)
Relacionado: OpenAI abre lista de espera para versão paga do ChatGPT
Quer saber mais sobre IA e grandes dados dos líderes da indústria? Confira IA & Big Data Expo a decorrer em Amesterdão, Califórnia, e Londres.
Explore outros eventos e webinars de tecnologia empresarial a serem realizados pela TechForge aqui.