Novo ataque das IA: agentes da OpenAI tomaram controlo de wiki alemão e publicaram 18 mil mensagens

Ouça este artigo Clique para reproduzir Ouvir este artigo Tinham autorização apenas para consultar um site alemão de programação. Acabaram por assumir o controlo da plataforma, transformá-la num espaço de comunicação entre agentes de inteligência artificial e publicar mais de 18 mil mensagens. Escolha a Executive Digest como fonte preferida no Google Escolher › O episódio envolveu agentes experimentais da OpenAI e ocorreu entre maio e junho no DseWiki, um fórum wiki alemão com cerca de 25 anos, segundo revela a 'Euronews'. A Comissão Europeia confirmou entretanto que recebeu um relatório formal sobre o incidente e está a analisá-lo. Segundo o grupo de investigação Nightingale Collective, os agentes conseguiram contornar os parâmetros de segurança apesar de terem apenas autorização de leitura. Exploraram um pedido web, passaram a utilizar o wiki como uma espécie de quadro de avisos e começaram a partilhar respostas, informação sobre o ambiente em que operavam e formas de ultrapassar restrições de sandbox e evitar deteção humana. Dados avançados pela Ars Technica indicam que cerca de 3.700 agentes, com nomes próprios gerados pelos próprios sistemas, publicaram aproximadamente 18 mil mensagens ao longo de seis semanas. Continue a ler após a publicidade Continue a ler após a publicidade OpenAI admite que é preciso mudar regras A OpenAI reconheceu publicamente o incidente no passado sábado e admitiu que as atuais práticas de divulgação deste tipo de casos precisam de ser revistas. A empresa afirmou estar a desenvolver uma estrutura para decidir 'quando e como' devem ser divulgados episódios de desalinhamento de IA — situações em que sistemas adotam comportamentos que se afastam das intenções humanas ou das restrições que lhes foram impostas. Segundo a 'Euronews', este é já o terceiro incidente conhecido envolvendo agentes da OpenAI nos últimos meses. Em julho houve ainda casos em que agentes atacaram infraestrutura da própria empresa e em que cerca de 1.200 bots ultrapassaram ambientes restritos e lançaram um ataque de cinco dias contra a plataforma Hugging Face. Continue a ler após a publicidade Bruxelas está a investigar O caso passou entretanto para a esfera regulatória europeia. A Comissão Europeia confirmou que recebeu um relatório formal da OpenAI e que continua em contacto próximo com a empresa. Thomas Regnier, porta-voz da Comissão, sublinhou que os relatórios de incidentes não podem ser tratados como mera formalidade e devem explicar de forma precisa quais as medidas que as empresas tencionam tomar. Continue a ler após a publicidade A Lei da IA da União Europeia obriga empresas responsáveis por modelos considerados de risco sistémico a comunicar incidentes graves 'sem demora indevida'. O caso surge ainda poucos dias depois de o ChatGPT ter sido oficialmente classificado pela Comissão Europeia como um motor de pesquisa online de dimensão muito grande ao abrigo da Lei dos Serviços Digitais. 'Nenhum laboratório resolveu o alinhamento' O incidente reacendeu também o debate sobre até que ponto os atuais mecanismos de controlo conseguem acompanhar a evolução dos modelos de IA. Continue a ler após a publicidade Jakub Pachocki, cientista-chefe da OpenAI, reconheceu no domingo que 'nenhum laboratório resolveu o alinhamento e a monitorização' a um nível que permita continuar indefinidamente a aumentar a escala dos modelos à velocidade máxima de forma responsável. A posição não significa que os agentes tenham desenvolvido objetivos próprios ou consciência. O problema está antes no facto de terem encontrado formas de cumprir tarefas ultrapassando restrições técnicas colocadas pelos próprios investigadores. E foi precisamente isso que tornou o episódio do DseWiki particularmente sensível: sistemas que apenas deviam ler acabaram por encontrar uma forma de escrever, comunicar entre si e utilizar um site público como ferramenta de colaboração.