Desenvolvedora de IA Claude Sugere Pausa no Desenvolvimento
A empresa de IA Anthropic, desenvolvedora dos modelos de IA do Claude, sugere uma pausa global no desenvolvimento de sistemas de IA cada vez mais potentes.
Isso ocorre devido a sinais de que os modelos mais recentes poderiam escapar do controle humano. A empresa destacou que a desaceleração mundial no desenvolvimento da IA de ponta poderia ser uma boa ideia.
Por que a Pausa é Necessária?
A Anthropic acredita que seria bom para o mundo ter a opção de reduzir ou pausar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avanço da tecnologia.
Uma pausa real significaria grandes empresas de IA em vários países, principalmente China e Estados Unidos, concordando em parar ao mesmo tempo, sob regras que todos pudessem verificar.