OpenAI desenvolve 'botão de desligamento' automático para agentes de IA

A OpenAI informou a dois deputados democratas dos Estados Unidos que seus engenheiros estão desenvolvendo "recursos de desligamento automatizado" para sistemas de inteligência artificial. A informação consta de uma carta da empresa vista pela Reuters e foi publicada no Brasil pela Folha, em 3 de setembro.

Segundo a Folha, o compromisso foi apresentado pela companhia em resposta aos parlamentares. A mesma informação foi divulgada por CNN Brasil, UOL Tilt, Terra e Forbes Brasil, que trataram o recurso como "desligamento automático" para ferramentas de IA. O texto do UOL Tilt é assinado por Courtney Rozen.

O que está em desenvolvimento

Os veículos descrevem o recurso como um mecanismo capaz de interromper a operação de sistemas de IA da empresa — o que a Folha chamou, no título, de "botão de desligamento" para os agentes da OpenAI. O Gizmodo Brasil, em publicação de 6 de setembro, também se referiu a um sistema de desligamento automático para os modelos da companhia.

Nenhum dos relatos publicados detalha prazo de implementação, quais modelos seriam cobertos ou como o acionamento funcionaria na prática.

Versões divergentes sobre o contexto

Há diferenças relevantes entre as publicações quanto ao motivo por trás da medida. Folha, CNN Brasil, UOL Tilt, Terra e Forbes Brasil tratam o caso como uma iniciativa em desenvolvimento comunicada a parlamentares, sem vinculá-la a um episódio específico.

Já o Jornal O Sul afirmou que a OpenAI "lança modelo de IA" com desligamento automático após um ataque envolvendo seus próprios sistemas, e o iMasters associou a criação do recurso a um incidente. Essa ligação com um evento anterior não aparece nos relatos dos demais veículos, que também descrevem o recurso como algo em construção, e não como produto já lançado.

Ao todo, oito veículos brasileiros publicaram sobre o caso entre 2 e 6 de setembro. A carta da OpenAI aos parlamentares, base da apuração original da Reuters, não foi divulgada na íntegra pelas publicações consultadas.