É hora de um sólido controle global da IA, defende Hassabis

Demis Hassabis acredita que o mundo precisa de um vigia de IA com o poder de desacelerar o desenvolvimento de modelos avançados que se tornem perigosos.

A Proposta de Regulação Global

Em um post de blog, o CEO e cofundador da Google DeepMind argumentou que os Estados Unidos deveriam liderar essa iniciativa, defendendo que o país possui a melhor posição para estabelecer padrões globais, considerando sua posição econômica e técnica. A organização proposta se assemelharia a reguladores existentes, como a Financial Industry Regulatory Authority, composta por especialistas independentes e representantes de comunidades de código aberto.

• O foco principal dessa entidade seria avaliar modelos avançados de IA antes de seu lançamento.
• Ela teria a autoridade de coordenar uma desaceleração da indústria se um modelo fosse considerado muito arriscado para ser implantado.

A Urgência da Regulamentação

O blog intitulado “A Framework for Frontier AI and the Dawning of a New Age” enfatiza que a necessidade de regulação global está se tornando mais urgente à medida que os sistemas de IA se tornam mais sofisticados. Hassabis sugere que a inteligência geral artificial (AGI) está “provavelmente apenas a alguns anos de distância”, ressaltando:

“Quando olharmos para trás, perceberemos que estávamos nos pés da singularidade – nada menos que o início de uma nova era para a humanidade.”

Construindo Apoio para a Iniciativa

Conforme relatado, Hassabis tem dedicado meses para construir suporte para sua proposta, incluindo briefings com a administração Trump, outros laboratórios de IA e autoridades europeias. Sua expectativa é iniciar a nova organização ainda este ano. Ele afirmou que as respostas da administração têm sido muito positivas.

Riscos e Desafios da IA

Esse esforço é um dos muitos por parte de Hassabis e de outros líderes da indústria para estabelecer um quadro coerente de governança para sistemas de IA cada vez mais poderosos e para mitigar os riscos que eles podem representar. Atualmente, não existem regras globais que regulem a IA de forma específica, nem um conjunto abrangente de normas nacionalmente nos Estados Unidos.

Hassabis, que também foi co-vencedor do Prêmio Nobel de Química de 2024 por seu trabalho na previsão de proteínas com IA, assinou recentemente uma declaração pedindo proteções mais rigorosas contra a produção de armas biológicas auxiliadas por IA.

Chamado à Ação

As declarações de Hassabis seguem uma manifestação de economistas e titãs da tecnologia, incluindo o cofundador da Anthropic, Jack Clark, e o ex-CEO do Google, Eric Schmidt, alertando os líderes mundiais sobre os impactos econômicos iminentes da IA. Essa chamada à ação coloca em evidência a importância de uma regulação eficaz para acompanhar a rápida evolução da tecnologia.

Com a crescente sofisticação da IA, a criação de um vigia de IA pode ser a chave para assegurar que os avanços tecnológicos sejam utilizados de forma segura e responsável, garantindo um futuro sustentável para a humanidade em meio às inovações.