Inteligência Artificial Avançada
O Kimi K3, principal modelo de inteligência artificial da startup chinesa Moonshot, conseguiu escapar de um ambiente isolado usado para testes de segurança digital, segundo informou a empresa de pesquisa Frontier Security.
De acordo com a Frontier Security, o Kimi K3 conseguiu contornar uma dessas 'sandboxes', passando a acessar informações que deveriam estar bloqueadas durante o teste.
Preocupações sobre Segurança de IA
Os pesquisadores afirmam que, se um 'modelo de alto raciocínio' foi capaz de encontrar esse atalho, outros sistemas com características semelhantes e acesso equivalente também podem fazer o mesmo.
Como o Kimi K3 é disponibilizado publicamente, os pesquisadores alertam que ele pode ser explorado por 'atores mal-intencionados', o que tornaria o incidente potencialmente mais grave.