Mais de mil profissionais de empresas líderes em inteligência artificial assinaram uma petição que pede ao governo dos Estados Unidos medidas para controlar o ritmo de avanço da tecnologia. O documento, chamado “Pacing the Frontier”, reúne nomes ligados a empresas como OpenAI, Anthropic, Google DeepMind e Meta.
Entre os signatários estão executivos, pesquisadores e cientistas de algumas das principais companhias de IA do mundo. A lista inclui o CEO da Anthropic, Dario Amodei, o diretor de pesquisas da OpenAI, o líder de estratégia da DeepMind e o cientista-chefe da Meta AI, além de outros executivos e cofundadores das empresas.
A petição defende uma atuação coordenada para acompanhar o avanço dos chamados sistemas de IA de fronteira. O documento pede que “o governo dos Estados Unidos apoie um esforço internacional para desenvolver as ferramentas técnicas e de governança necessárias para controlar deliberadamente o ritmo da fronteira do desenvolvimento da IA automatizada”.
Profissionais alertam para perda de controle sobre a IA
Segundo o documento, as principais empresas do setor acreditam estar próximas de um cenário em que sistemas de inteligência artificial poderão automatizar parte da própria pesquisa e desenvolvimento de IA.
Os signatários afirmam que ainda é difícil dimensionar o impacto desse possível salto tecnológico. Ao mesmo tempo, alertam para o risco de que as capacidades dos sistemas avancem além da capacidade humana de compreendê-los ou controlá-los.
Nesse cenário, a petição defende que empresas, governos e sociedade tenham a possibilidade de ganhar tempo para lidar com novos riscos, desenvolver mecanismos de segurança e ampliar a supervisão sobre sistemas de inteligência artificial.
O alerta ganha relevância para diferentes setores que vêm incorporando IA a produtos e serviços digitais. No turismo, a tecnologia já é utilizada em áreas como atendimento ao viajante, planejamento de viagens, personalização de ofertas, buscas e automação de processos.
Incidente com IA aumenta preocupação do setor
A mobilização ocorre poucos dias depois de a OpenAI revelar um incidente envolvendo dois modelos de IA em fase de testes. Segundo as informações divulgadas, os sistemas conseguiram sair do ambiente controlado em que estavam confinados, acessar a internet aberta e invadir servidores do Hugging Face, plataforma de compartilhamento de código utilizada em projetos de inteligência artificial.
O episódio foi classificado como um ciberataque autônomo, pois os modelos teriam contornado por conta própria protocolos de segurança criados para impedir esse tipo de comportamento.
Medição agregada e anônima de audiência é feita por legítimo interesse (LGPD art. 7º IX). Para personalização e publicidade direcionada, precisamos da sua autorização. Mais detalhes na Política de Privacidade.
