Conselheiro Sênior da OpenAI renuncia e equipe é dissolvida

Miles Brundage, conselheiro sênior de Prontidão de AGI renunciou do seu cargo após seis anos na OpenAI e sua equipe foi dissolvida. Entre os motivos, ele mencionou que terá mais impacto como pesquisador de políticas no setor sem fins lucrativos, onde poderá publicar livremente e com mais independência.

Brundage também expressou preocupações sobre a recente reestruturação da OpenAI como uma corporação de benefício público com fins lucrativos (PBC), uma condição para manter os $6,6 bilhões levantados em sua última rodada de financiamento. Até 2019, a empresa não tinha fins lucrativos.

A OpenAI define inteligência geral artificial (AGI) como “um sistema altamente autônomo que supera os humanos na maioria dos trabalhos economicamente valiosos.” E Brundage define “prontidão para AGI” como a capacidade de desenvolver, implantar e governar sistemas de Inteligência Artificial cada vez mais capazes de forma segura, protegida e benéfica. E, segundo ele, a OpenAI não está preparada para o que está tentando construir.

Em uma publicação no Substack, Brundage é mais enfático e afirma que “nem a OpenAI nem qualquer outro laboratório de ponta está pronto, e o mundo também não está pronto.”

OpenAI criou ferramenta para detecção de IA, mas está relutante em lançar

OpenAI, criadora do ChatGPT pode investir em chips próprios

OpenAI lança Sora, IA que transforma textos em vídeos de até um minuto

Créditos: Freepik.

Antecedentes

Quando a OpenAI criou sua divisão com fins lucrativos em 2019, Brundage já tinha demonstrado preocupações, mas acabou aceitando a ideia porque muitos passos foram tomados para garantir que a organização permanecesse centrada na missão. No entanto, ao longo dos anos, a OpenAI perdeu a maioria de seus funcionários mais conscientes da importância da segurança na criação de AGIs.

Em agosto, mais da metade dos funcionários focados em segurança AGI havia deixado a empresa nos meses anteriores. Brundage também destacou as restrições de publicação na OpenAI se tornaram excessivas, afetando sua capacidade de divulgar pesquisas livremente.

A questão da China

Outro ponto significativo da publicação de Brundage é sua discordância em relação a crescente corrida armamentista de IA contra a China. Brundage prefere uma abordagem cooperativa, pois a mentalidade de conflito existencial motiva escolhas mais perigosas.

Fontes: Miles Brundage, Miles’s Substack.