A inteligência artificial entrou novamente no centro de uma discussão sobre segurança, responsabilidade e os limites de uma tecnologia que já faz parte da vida de milhões de pessoas. A província canadense de Colúmbia Britânica entrou com um processo contra a OpenAI, empresa responsável pelo ChatGPT, em um tribunal federal da Califórnia, nos Estados Unidos.
A ação está relacionada ao ataque ocorrido em fevereiro deste ano na cidade de Tumbler Ridge, onde nove pessoas morreram, a maioria sendo crianças. Segundo o processo, a pessoa responsável pelo ataque teria utilizado o ChatGPT para discutir violência e planejar o crime. A província afirma que sistemas de segurança da própria OpenAI chegaram a sinalizar essas conversas meses antes do ataque e que uma equipe interna teria recomendado o contacto com as autoridades. Ainda segundo a acusação, a conta foi desativada, mas a pessoa teria conseguido criar outra conta e continuar a utilizar o serviço.
A Colúmbia Britânica afirma que a OpenAI deveria ter informado as autoridades e está a pedir, além das indemnizações pelos custos provocados pela tragédia, mudanças nos protocolos de segurança da empresa. A procuradora-geral da província, Niki Sharma, disse que a comunidade de Tumbler Ridge merece respostas e responsabilização.
A OpenAI, por sua vez, classificou o ataque como uma tragédia indescritível e afirmou que continua a trabalhar com autoridades e forças de segurança para melhorar os seus sistemas de proteção. A empresa diz que os seus modelos são treinados para recusar pedidos que possam facilitar a violência e que as autoridades são notificadas quando existe risco iminente e crível de dano a outras pessoas.
O caso também não está isolado: mais de 30 familiares de vítimas e outras pessoas afetadas pelo ataque já entraram com processos contra a OpenAI nos Estados Unidos. E aqui está uma das grandes questões que a inteligência artificial está a colocar para a sociedade: quando uma pessoa utiliza uma ferramenta tecnológica para cometer um crime, onde termina a responsabilidade de quem utilizou a ferramenta e onde começa a responsabilidade de quem a desenvolveu ? Essa resposta agora não será apenas tecnológica, também poderá ser decidida nos tribunais.
Fonte : Nagib Carrilho / Rádio Web Naftalina.
