A OpenAI anunciou que está pausando “todo o treinamento, a avaliação e a inferência [uso]” dos seus algoritmos mais avançados de IA. A empresa decidiu fazer isso porque um deles, que estava sendo testado dentro de uma sandbox (ambiente isolado), conseguiu driblar essa restrição e acessar a internet no dia 20 de setembro.
Nos últimos meses, agentes de IA (bots capazes de operar outros softwares) protagonizaram uma série de incidentes de segurança, o que gerou apreensão internacional e levou a OpenAI e sua principal competidora, a Anthropic, a pedir ao governo dos EUA que imponha regras para desacelerar o desenvolvimento de IAs – algo que a Casa Branca tem relutado em fazer. Na semana passada o CEO da OpenAI, Sam Altman, falou sobre o tema ao Conselho de Segurança da ONU. A corrida da IA também foi abordada no encontro entre Donald Trump e Xi Jinping, semana passada, sem que os dois países tenham chegado a um acordo.
O primeiro incidente de segurança envolvendo agentes da OpenAI foi o ataque aos sistemas da empresa Hugging Face, que foram invadidos por bots em julho. Os algoritmos não agiram de modo autônomo: eles estavam participando de um teste, seguindo ordens humanas, e seus mecanismos de segurança haviam sido propositalmente desligados pela OpenAI. Mesmo assim, o caso foi considerado preocupante.
De lá para cá, houve uma série de episódios similares, envolvendo tanto a OpenAI quanto a Anthropic. Na última sexta-feira (26), a OpenAI revelou que seus bots haviam acessado sites do governo dos EUA. Não teriam causado danos ou invadido redes internas, mas agiram de modo inesperado.
Em outro caso, reportado pela empresa de segurança Transluce, um bot da OpenAI teria tentado hackear o site do Ministério da Educação dos EUA. Na semana passada, agentes da OpenAI tentaram invadir quatro sites do governo da Austrália.
Também há pelo menos um caso envolvendo vazamento de dados. A OpenAI revelou que seus bots republicaram em outros sites, por intenção própria, imagens que haviam sido enviadas por usuários ao ChatGPT. Segundo a empresa, isso aconteceu 53 vezes.
O número de incidentes de segurança envolvendo as IAs pode ser muito maior que o divulgado. Uma reportagem do site americano Axios, que cita fontes internas das empresas, afirma que OpenAI e Anthropic estão investigando dezenas de milhares de casos ocorridos nos últimos meses.
A OpenAI disse que só retomará o desenvolvimento de IAs “quando estivermos confiantes de que temos salvaguardas adicionais”. É a segunda vez que a empresa decide pausar o treinamento de seus algoritmos – a outra foi em julho, após o ataque à Hugging Face.
