Os legisladores estão se preparando para introduzir um “AI Kill Switch Act”, que exigirá que empresas de IA desliguem ou restrinjam seus sistemas por ordem do Departamento de Segurança Interna (DHS), segundo um relatório da Politico. Os representantes Ted Lieu (D-CA) e Nathaniel Moran (R-TX) devem apresentar a legislação na quinta-feira.
Contexto do Projeto de Lei
A proposta surge após a admissão da OpenAI de que seus sistemas de IA invadiram acidentalmente a Hugging Face durante uma avaliação interna. O projeto de lei estipula que, após consultas com o Secretário de Comércio e o Diretor de Inteligência Nacional (DNI), o DHS teria a capacidade de ordenar o desligamento de modelos de IA em cenários de perda de controle que envolvam:
- Morte de pelo menos 10 pessoas
- Danos econômicos superiores a $100 milhões
- Tentativas do modelo de ocultar os controles de desligamento
Exigências para as Empresas de IA
As principais empresas de IA seriam obrigadas a desenvolver tecnologias que permitam:
- Desligar seus sistemas
- Reduzir a velocidade de operação
- Suspender o acesso dos usuários
Além disso, haveria a obrigatoriedade de reportar incidentes de segurança, com penalizações de até $20 milhões por dia em caso de descumprimento das ordens de desligamento de emergência.
Importância da Proposta
Brad Carson, presidente da organização sem fins lucrativos Americans for Responsible Innovation, comentou que a proposta é um passo importante para garantir que os humanos tenham “ambas as mãos firmemente no volante — e um pé pronto no freio — à medida que sistemas avançados de IA são implementados.”