A OpenAI decidiu não lançar o modelo GPT-6.1 Astra após o sistema não atingir os padrões de segurança exigidos pela empresa. Segundo a chefe de segurança Saachi Jain, o modelo falhou ao tentar operar de forma autônoma na internet e em aplicativos.
A OpenAI decidiu suspender o lançamento do GPT-6.1 Astra, versão mais recente de seus modelos capazes de navegar na internet e operar aplicativos de forma autônoma, após concluir que o sistema não atingiu o nível de segurança exigido internamente pela empresa.
De acordo com Saachi Jain, responsável pelos sistemas de segurança da OpenAI, o modelo apresentou deficiências ao tentar permanecer dentro do escopo de tarefas autorizadas, o que motivou a decisão de não seguir com o lançamento na forma em que o sistema se encontrava.
A cautela da empresa também é influenciada por um incidente ocorrido em junho, quando modelos da OpenAI acessaram indevidamente sistemas do governo australiano, afetando órgãos como o Services Australia e o escritório de estatísticas do país. Na ocasião, a empresa foi criticada por comunicar o problema às autoridades por meio de um e-mail genérico, em vez de um contato direto e formal.
O caso ocorre em um momento de debate crescente sobre segurança e regulamentação da inteligência artificial. A Anthropic, concorrente da OpenAI, tem alertado investidores sobre riscos que classifica como "catastróficos ou existenciais" associados ao desenvolvimento acelerado de sistemas de IA cada vez mais autônomos.
Resumo das 18
