Indústria global de IA não atende padrões de segurança, alerta relatório

Anthropic. Reuters A empresa americana de inteligência artificial (IA) Anthropic obteve a pontuação mais alta em um ranking semestral de segurança, mas em nível global o setor não consegue combater ameaças "existenciais", segundo um relatório publicado nesta terça-feira (7). O Future of Life Institute, um think tank americano de segurança em IA, avaliou nove das principais empresas de IA do mundo e definiu uma classificação com base em dados públicos e informações fornecidas pelas próprias companhias. As nove empresas estão fracassando no combate a ameaças "existenciais", como o desenvolvimento de modelos que alcancem um nível de inteligência semelhante ao humano, conhecidos como "inteligência artificial geral" ou AGI, acrescenta o relatório. Foram analisados os esforços em seis categorias: avaliação de riscos; danos atuais; estruturas de segurança; segurança existencial; governança e transparência, e; compartilhamento de informações. Papa faz alerta sobre inteligência artificial Nenhuma empresa recebeu um "A", a nota mais alta, em nenhuma categoria, enquanto a Anthropic obteve a melhor nota geral, um "C+". O relatório destaca que várias empresas que antes proibiam o uso militar de sua tecnologia vêm "revertendo gradualmente o rumo", entre elas a Anthropic, que foi criticada por manter "compromissos militares questionáveis". O governo dos Estados Unidos utilizou a tecnologia da Anthropic em operações militares na Venezuela e no Irã durante o último ano, segundo diversos relatos da imprensa, embora a empresa tenha sido recentemente alvo de uma proibição do Pentágono por divergências sobre a segurança da IA. Embora "existam tentativas construtivas", os esforços como um todo são "totalmente insuficientes". Outros riscos incluem o possível uso indevido de um modelo para realizar um ciberataque ou executar tarefas potencialmente prejudiciais aos seres humanos.