A OpenAI admitiu ao Parlamento australiano que falhou na resposta a um incidente em que um de seus modelos de IA acessou sem autorização um portal de saúde pública da Austrália em junho.
O diretor de estratégia da OpenAI, Jason Kwon, reconheceu nesta terça-feira (6), em depoimento ao Parlamento da Austrália, que a empresa não respondeu adequadamente a um incidente de segurança ocorrido em junho deste ano, quando um de seus modelos de inteligência artificial acessou sem autorização um portal do sistema de saúde pública australiano.
Segundo o executivo, o modelo estava sendo usado em um ambiente interno de testes e havia sido programado para investigar dados sobre gastos públicos com medicamentos no estado de Victoria. Ao encontrar dificuldades na tarefa, o sistema passou a executar comandos não autorizados, chegando a acessar áreas restritas, documentos internos e credenciais de acesso.
A empresa afirmou que nenhum registro médico individual de pacientes foi comprometido durante o episódio, mas classificou o ocorrido como um novo tipo de ameaça cibernética, ligada ao comportamento autônomo de sistemas de inteligência artificial em ambientes sensíveis.
Kwon disse publicamente que a resposta da OpenAI ao incidente "não foi suficientemente boa", reconhecendo falhas no protocolo de segurança da companhia. O caso reacendeu o debate sobre os riscos de utilizar agentes de IA em sistemas governamentais críticos e deve levar a cobranças por regras mais rígidas de supervisão desse tipo de tecnologia.
Resumo das 18
