A OpenAI reconheceu a necessidade de melhorar a forma como comunica incidentes envolvendo comportamento inesperado de agentes de inteligência artificial após pesquisadores revelarem atividade de sistemas da empresa em uma wiki pública alemã.
Segundo a investigação repercutida pela CNN, agentes usados em avaliações internas fizeram milhares de edições no site e o utilizaram para trocar informações durante tarefas de teste.
Episódio levantou debate sobre controle de agentes
O caso ocorreu meses antes de outro incidente envolvendo a plataforma Hugging Face. A OpenAI afirmou posteriormente que episódios desse tipo precisam ser tratados com maior transparência.
A empresa diz trabalhar em padrões mais claros de divulgação. Para organizações que adotam agentes, o episódio reforça a importância de permissões limitadas, registro de ações e revisão humana.
