Siga o Diário da Mídia no Google Clique em Seguir e não perca nenhuma novidade. Seguir Tecnologia

OpenAI demite contratados por usar IA para treinar sua própria IA

Resumo

A OpenAI demitiu vários contratados após constatar que revisores recorriam a ferramentas de IA para avaliar prompts do ChatGPT, contrariando regras contratuais que exigem avaliação humana. A empresa vinha usando revisões humanas para melhorar respostas e evitar o fenômeno conhecido como "model collapse", mas não divulgou quantos profissionais foram desligados e optou por não comentar publicamente.

Publicidade
OpenAI demite contratados por usar IA para treinar sua própria IA
Foto: Divulgação
Pergunte à IA sobre isto:

OpenAI — a empresa passou a dispensar contratados ao identificar que parte da equipe estava usando ferramentas de inteligência artificial para fazer justamente o trabalho que deveria ser humano: revisar prompts e fornecer feedback para aprimorar o ChatGPT. A medida acende um alerta sobre como supervisionar processos que envolvem IA em larga escala.

Regras internas e a quebra do procedimento

Os contratos dos revisores exigiam expressamente que o trabalho não contivesse intervenção de ferramentas automatizadas. Revisores deveriam ler prompts e oferecer julgamento humano, sem auxílio de detectores ou assistentes de redação.

Publicidade

Entre as práticas proibidas estavam o uso de detectores de IA, assistentes de escrita e traduções automáticas. Ainda que os termos fossem claros, relatos indicam que muitos profissionais passaram a automatizar parte do processo.

"É basicamente a única coisa que te tira do programa imediatamente. Em um grupo de milhares, há muitos que foram pegos."

Por que isso é um risco para os modelos e para o mercado

O principal receio por trás das demissões é o chamado "model collapse": quando sistemas de IA são treinados sobre saídas geradas por outras IAs, a qualidade e a diversidade do aprendizado tendem a cair. Isso pode reduzir a capacidade do modelo de gerar respostas originais e úteis.

Especialistas do setor já alertaram que treinar modelos em conteúdo originado por máquinas cria um círculo vicioso — a IA passa a reciclar seu próprio texto em vez de incorporar perspectivas humanas validadas, o que prejudica a evolução da tecnologia e aumenta riscos comerciais.

Publicidade

Para empresas que dependem de avaliações humanas para curar dados de treinamento, a confiança no processo de revisão é essencial. Se revisores automatizam tarefas proibidas, o resultado direto pode ser tanto a degradação do produto quanto problemas éticos na entrega de respostas.

Procurada sobre o caso, a empresa preferiu não se manifestar publicamente sobre números ou procedimentos específicos. O episódio, porém, serve como alerta para organizações que terceirizam trabalhos sensíveis envolvendo IA.

O que você acha? O que você acha dessa prática? Para acompanhar mais, acesse nossa editoria.

Publicidade

Perguntas Frequentes

Por que a OpenAI demitiu contratados por usar IA na revisão de prompts do ChatGPT?

A OpenAI demitiu contratados por usarem IA para revisar prompts do ChatGPT, porque os contratos proibiam o uso de assistentes automáticos. A expectativa era de feedback humano para melhorar respostas; o uso de ferramentas como detectores de IA, assistentes de escrita e traduções automáticas violou essas regras, levando a desligamentos sem número divulgado.

O que é "model collapse" e como isso afeta a OpenAI?

A OpenAI enfrenta risco de "model collapse" quando modelos são treinados com saídas geradas por IA em vez de textos humanos validados. Esse fenômeno reduz diversidade e qualidade das respostas, levando a reciclagem de conteúdo e potencial degradação do desempenho, com consequências para produto e valor comercial.

Quais ferramentas os termos dos revisores proibiam usar?

A OpenAI impôs nos contratos que revisores não utilizassem detectores de IA nem assistentes de escrita, citando proibidos nomes genéricos como ferramentas de detecção, além de proibir o uso de Grammarly e traduções automáticas como auxílio na revisão. Apesar da proibição, muitas infrações foram encontradas e resultaram em demissões.

Publicidade
Compartilhar:
POR Samuel Vitor
Samuel Vitor

Social media e atualização de notícias | Samuel Vitor atua na atualização e distribuição de conteúdos do Diário da Mídia nas plataformas digitais. Trabalha com foco em redes sociais, monitoramento de tendências e publicação de notícias em tempo real.

Talvez Você Goste