Segundo o Financial Times, a OpenAI desmantelou sua equipe de preparação no final do mês passado. Essa equipe tinha a missão de avaliar se os modelos apresentavam riscos sérios e desenvolver maneiras de mitigar esses riscos. E, cá entre nós, isso inclui a possibilidade de que uma IA pudesse sair do controle e hackear outra empresa. Agora, as responsabilidades foram divididas em áreas específicas, como biotecnologia e cibersegurança, e realocadas para equipes já existentes.
Essa mudança é mais um capitulo da turbulência interna da OpenAI, que está se reorganizando com um IPO bilionário à vista. Nos últimos anos, a empresa tem desmantelado sua abordagem baseada em “alcançar mais”, acabando com as equipes responsáveis pela prontidão em AGI e superalinhamento. Figuras importantes, como a líder de ética, Chloé Bakalar, o futurista chefe Josh Achiam e o responsável pela segurança Johannes Heidecke, também pediram demissão recentemente. Críticos, como Jan Leike, que deixou a OpenAI em 2024, afirmam que a empresa está colocando a segurança em segundo plano em prol de criar “produtos brilhantes”.
E aí, fica a pergunta: qual é o impacto disso para nós, que estamos cada vez mais interagindo com IA? Vamos ser realistas, a mudança pode trazer riscos maiores à medida que essas tecnologias se tornam mais poderosas e popularizadas. O cerco fechou, e a segurança das informações e da ética no desenvolvimento de IA começa a ficar em xeque. O que a galera acha disso? Estamos realmente preparados para lidar com IA sem uma equipe dedicada a monitorar esses riscos?