Um ex-pesquisador, que trabalhou tanto na OpenAI quanto na Anthropic, fez um alerta bastante preocupante sobre o rumo que a inteligência artificial está tomando. Jacob Colkson deixou a Anthropic e afirmou que as grandes empresas de IA estão avançando rapidamente na direção de sistemas cada vez mais poderosos, inclusive capazes de melhorar suas próprias capacidades sem que mecanismos de segurança estejam acompanhando esse ritmo.
Segundo Colkson, existe uma corrida entre as empresas para desenvolver uma chamada super inteligência artificial, e o problema, na visão dele, é que os próprios pesquisadores conhecem os riscos, mas continuam acelerando o desenvolvimento por medo de ficar para trás. Outros pesquisadores também manifestaram preocupação. Um deles, Evan Huber, que continua na Anthropic, afirmou acreditar que existe uma probabilidade superior a 10% de uma inteligência artificial avançada provocar a extinção da humanidade dentro de uma década.
É importante deixar bem claro: isso não significa que a inteligência artificial vá necessariamente destruir a humanidade. São avaliações de risco feitas por pesquisadores, e existe muita divergência sobre a probabilidade e até sobre a forma como esses cenários poderiam acontecer.
Mas o alerta ganha peso porque vem justamente de pessoas que trabalham no desenvolvimento dessas tecnologias. E fica a reflexão: se os próprios especialistas que estão construindo a inteligência artificial dizem que não têm certeza de onde essa tecnologia pode chegar, será que a corrida para criar máquinas cada vez mais poderosas deveria ser mais rápida que a nossa capacidade de controlá-las? Fica a dúvida.
Fonte : Nagib Carrilho / Rádio Web Naftalina.
