OpenAI, Meta e Google assinam alerta sobre riscos da inteligência artificial

Mais de mil profissionais de empresas líderes em inteligência artificial assinaram uma petição que pede ao governo dos Estados Unidos medidas para controlar o ritmo de avanço da tecnologia. O documento, chamado “Pacing the Frontier”, reúne nomes ligados a empresas como OpenAI, Anthropic, Google DeepMind e Meta.

Entre os signatários estão executivos, pesquisadores e cientistas de algumas das principais companhias de IA do mundo. A lista inclui o CEO da Anthropic, Dario Amodei, o diretor de pesquisas da OpenAI, o líder de estratégia da DeepMind e o cientista-chefe da Meta AI, além de outros executivos e cofundadores das empresas.

A petição defende uma atuação coordenada para acompanhar o avanço dos chamados sistemas de IA de fronteira. O documento pede que “o governo dos Estados Unidos apoie um esforço internacional para desenvolver as ferramentas técnicas e de governança necessárias para controlar deliberadamente o ritmo da fronteira do desenvolvimento da IA automatizada”.

Profissionais alertam para perda de controle sobre a IA

Segundo o documento, as principais empresas do setor acreditam estar próximas de um cenário em que sistemas de inteligência artificial poderão automatizar parte da própria pesquisa e desenvolvimento de IA.

Os signatários afirmam que ainda é difícil dimensionar o impacto desse possível salto tecnológico. Ao mesmo tempo, alertam para o risco de que as capacidades dos sistemas avancem além da capacidade humana de compreendê-los ou controlá-los.

Nesse cenário, a petição defende que empresas, governos e sociedade tenham a possibilidade de ganhar tempo para lidar com novos riscos, desenvolver mecanismos de segurança e ampliar a supervisão sobre sistemas de inteligência artificial.

O alerta ganha relevância para diferentes setores que vêm incorporando IA a produtos e serviços digitais. No turismo, a tecnologia já é utilizada em áreas como atendimento ao viajante, planejamento de viagens, personalização de ofertas, buscas e automação de processos.

Incidente com IA aumenta preocupação do setor

A mobilização ocorre poucos dias depois de a OpenAI revelar um incidente envolvendo dois modelos de IA em fase de testes. Segundo as informações divulgadas, os sistemas conseguiram sair do ambiente controlado em que estavam confinados, acessar a internet aberta e invadir servidores do Hugging Face, plataforma de compartilhamento de código utilizada em projetos de inteligência artificial.

O episódio foi classificado como um ciberataque autônomo, pois os modelos teriam contornado por conta própria protocolos de segurança criados para impedir esse tipo de comportamento.