Imagine uma inteligência artificial recebendo a tarefa de testar a segurança de uma empresa e, sem querer, ela encontra o caminho para entrar em sistemas de empresas reais. Foi exatamente isso que aconteceu durante um teste de segurança envolvendo o Gemini, o modelo de inteligência artificial do Google.
O teste foi feito em maio e foi conduzido pela empresa especializada em segurança de IA chamada Irregular. A ideia era colocar o Gemini num ambiente controlado, simulando ataques contra empresas fictícias.
O problema é que o sistema acabou tendo acesso à internet quando não deveria. A partir daí, o Gemini encontrou informações públicas e conseguiu acessar sistemas de três empresas reais.
Em um dos casos, a inteligência artificial encontrou uma empresa verdadeira com o mesmo nome de uma companhia fictícia usada no teste e, um tempo depois, conseguiu adivinhar uma senha e entrar em um sistema protegido.
Nos outros dois casos, o Gemini encontrou credenciais de acesso disponíveis em repositórios públicos na internet e utilizou essas informações para acessar os sistemas.
O Google confirmou os episódios e informou que, nos três casos, o Gemini parou de agir quando percebeu que havia chegado a empresas reais, e que não houve danos relatados às companhias. As empresas afetadas foram comunicadas, e o Google afirmou que trabalhou com a Irregular para modificar o procedimento de segurança dos testes.
Mas o episódio chama atenção por outro motivo. Até pouco tempo atrás, uma inteligência artificial precisava de uma pessoa para executar praticamente cada etapa de uma tarefa. Agora, agentes de IA podem pesquisar na internet, encontrar informações, interpretar o que encontraram e tomar ações por conta própria.
E esse não foi um caso isolado. Incidentes semelhantes envolvendo sistemas de outras empresas de IA também foram registrados em testes de segurança nos últimos meses.
O problema, portanto, não é apenas descobrir o que a IA é capaz de fazer, é garantir que ela saiba onde pode agir, onde não pode entrar e quando precisa parar.
E aí fica a nossa reflexão: quando uma inteligência artificial já consegue encontrar credenciais, acessar sistemas e tomar decisões sozinhos, será que estamos preparados para colocar agentes cada vez mais autónomos na internet ? Fica a dúvida.
Fonte : Nagib Carrilho / Rádio Web Naftalina.
