OpenAI usa IA para acelerar pesquisa, enquanto cientista-chefe pede cautela

Confira o resumo que a LE.IA, a IA do Estadão, fez pra você A OpenAI utiliza agentes de IA para acelerar pesquisas, alcançando 3,1 dias de trabalho de agentes por dia humano. Em agosto, a empresa atingiu a meta de criar um 'estagiário de pesquisa automatizado'. No entanto, mais da metade das tarefas ainda requer intervenção humana. O cientista-chefe Jakub Pachocki alerta sobre os riscos crescentes da IA, comparando-a a uma 'forma de vida alienígena'. Ele defende que a segurança deve limitar o desenvolvimento e propõe políticas obrigatórias para garantir a segurança dos sistemas. Abrir o resumo A OpenAI já utiliza agentes de inteligência artificial (IA) para acelerar a própria pesquisa e, em meados de agosto, alcançou o equivalente a 3,1 dias de trabalho de agentes para cada dia de trabalho humano. A informação foi divulgada pela própria empresa em um texto publicado em seu blog no domingo, 6. PUBLICIDADE Segundo a OpenAI, o avanço faz parte de um esforço para automatizar etapas do desenvolvimento de novos sistemas de IA, ao mesmo tempo em que a companhia reconhece dificuldades para garantir a segurança de modelos cada vez mais autônomos. A empresa afirmou que atingiu, neste mês, a meta estabelecida no ano passado de desenvolver um modelo capaz de atuar como um 'estagiário de pesquisa automatizado', definido como 'um sistema que pode executar tarefas de pesquisa bem definidas sob direção humana'. A OpenAI também disse estar 'fazendo progressos significativos rumo à criação de um pesquisador de IA automatizado até março de 2028', sistema que poderia formular suas próprias questões de pesquisa e conduzir experimentos com menor intervenção humana. De acordo com a Fortune, a companhia também registrou em agosto o maior número de experimentos realizados por pesquisador desde que começou a acompanhar esse indicador, em janeiro de 2025. OpenAI acelera pesquisas com IA enquanto seu cientista-chefe alerta para os riscos do avanço da tecnologia. Foto: Marcelo Camargo/Agência Brasil Automação avança, mas controle humano permanece O uso desses agentes, porém, ainda tem limites. A OpenAI afirmou que mais da metade das tarefas concluídas com sucesso e que levaram entre quatro e oito horas para serem executadas pelos agentes exigiu ao menos uma intervenção humana. A empresa também disse que o planejamento de pesquisa de alto nível ainda representa uma parcela pequena das atividades delegadas aos sistemas. 'As pessoas ainda definem nossas prioridades de pesquisa, avaliam quais ideias e resultados devem ser explorados e decidem se devemos ampliar, pausar ou implantar os sistemas', afirmou a companhia à Fortune. Os custos computacionais também já são relevantes: segundo a OpenAI, o pesquisador mediano gastava mais de US$ 600 por dia com agentes de IA em meados de agosto, enquanto nos 10% que mais utilizavam esses sistemas, o gasto ultrapassava US$ 7 mil diários. O avanço da automação ocorre enquanto a própria OpenAI discute os riscos de acelerar o desenvolvimento de sistemas mais poderosos. Em outro texto publicado no blog da empresa, o cientista-chefe Jakub Pachocki argumentou que a IA moderna é 'mais desenvolvida do que projetada' e que deve ser entendida como algo semelhante a uma forma de vida alienígena. 'Não podemos presumir que ela adere aos princípios humanos por padrão', escreveu. PUBLICIDADE Segundo Pachocki, 'infelizmente, os riscos associados à IA só tendem a aumentar', em um cenário no qual os modelos já apresentam capacidades sobre-humanas para invadir e escapar de sistemas de computador e conseguem executar tarefas complexas durante períodos cada vez mais longos. Ele também apontou riscos relacionados ao uso de IA em robôs, laboratórios e na criação de patógenos e armas biológicas. Para Pachocki, um dos problemas mais urgentes está na dificuldade crescente de monitorar o comportamento dos modelos. Uma das técnicas utilizadas por empresas de IA consiste em analisar a 'cadeia de pensamento' produzida pelos sistemas durante a execução de tarefas. O problema, segundo o cientista-chefe, é que modelos mais avançados podem manipular esse processo ou concluir atividades complexas sem produzir uma cadeia de pensamento. 'Nossa capacidade de confiar no monitoramento da cadeia de pensamento está diminuindo progressivamente', escreveu Pachocki. Ele afirmou ainda esperar que 'o progresso geral da IA seja cada vez mais limitado pela confiança no monitoramento', o que poderia levar empresas a reduzir o ritmo de desenvolvimento ou governos a impor restrições até que novas técnicas de segurança sejam criadas. A discussão coloca a OpenAI diante de uma contradição central: acelerar o desenvolvimento de IA pode ajudar a criar sistemas capazes de proteger contra modelos descontrolados, mas também pode ampliar os riscos antes que mecanismos de segurança estejam preparados. Pachocki escreveu que 'a escalabilidade dos sistemas de IA precisa ser limitada pela nossa confiança na segurança' e defendeu que 'reduções voluntárias de ritmo se tornem comuns até que sejam estabelecidos padrões de segurança compartilhados'. Ele também propôs transformar estruturas de segurança atualmente voluntárias, como as adotadas pela OpenAI, Anthropic e Google DeepMind, em políticas obrigatórias supervisionadas por auditores, governos e organismos internacionais. 'O principal desafio da automação da pesquisa em IA não é 'chegar lá'', escreveu Pachocki. 'É chegar lá de uma forma que mantenha as pessoas participando do processo contínuo de melhoria'.