Pesquisadores chineses criam modelo de inteligência artificial para fins militares instalado na parte traseira do veículo Llama de Meta.

Por James Pomfret e Jessie Pang são os autores do texto.

Segundo três documentos acadêmicos e analistas, renomadas instituições de pesquisa chinesas associadas ao Exército de Libertação Popular utilizaram o modelo Llama da Meta, disponível publicamente, para criar uma ferramenta de inteligência artificial com possíveis usos militares.

Em um artigo de junho, seis pesquisadores chineses de três instituições, incluindo dois vinculados ao principal corpo de pesquisa do Exército de Libertação Popular (PLA), a Academia de Ciência Militar (AMS), explicaram como usaram uma versão preliminar da Llama de Meta como ponto de partida para o desenvolvimento do “ChatBIT”.

Os pesquisadores utilizaram um modelo de linguagem chamado Llama 13B anterior da Meta, adaptando-o com parâmetros próprios para criar uma ferramenta de inteligência artificial voltada para o exército. Essa ferramenta foi desenvolvida com o objetivo de coletar e analisar informações de maneira precisa e confiável, a fim de auxiliar na tomada de decisões operacionais.

O jornal informou que o ChatBIT foi melhorado e adaptado para ser usado em conversas e respostas a perguntas no âmbito militar. Segundo a publicação, o ChatBIT superou outros modelos de inteligência artificial que eram cerca de 90% tão eficientes quanto o ChatGPT-4 da OpenAI. Não foi explicado pelos pesquisadores como foi avaliado o desempenho do ChatBIT nem se o modelo de IA já está em uso.

É a primeira vez que foram encontradas evidências significativas de que especialistas militares chineses têm conduzido pesquisas sistemáticas e tentado utilizar as capacidades dos LLMs de código aberto, em particular os do Meta, para propósitos militares, de acordo com Sunny Cheung, membro associado da Fundação Jamestown especializado em tecnologias emergentes e de uso duplo na China, incluindo inteligência artificial.

Meta adotou a política de disponibilizar abertamente diversos de seus modelos de inteligência artificial, como o Llama. Há regras estabelecidas para seu uso, como a necessidade de obter uma licença da empresa para serviços com mais de 700 milhões de usuários.

Seus termos também impedem a utilização dos modelos para atividades como militarismo, guerra, indústrias nucleares, espionagem e outras ações que estejam sujeitas aos regulamentos de exportação de defesa dos Estados Unidos. Além disso, também proíbem o desenvolvimento de armas e conteúdos que tenham como objetivo incitar ou promover a violência.

No entanto, devido à natureza pública dos modelos da Meta, a empresa enfrenta restrições na implementação dessas medidas.

Em sua resposta à Reuters, o Meta mencionou suas diretrizes de utilização apropriada e afirmou ter adotado medidas para prevenir o uso indevido.

“Segundo Molly Montgomery, diretora de política pública da Meta, o uso de nossos modelos pelo Exército de Libertação Popular não é autorizado e vai contra nossa política de uso adequado”, afirmou em uma entrevista por telefone à Reuters.

Meta afirmou que os Estados Unidos deveriam adotar a inovação aberta.

De acordo com um representante da Meta, em meio à competição mundial de inteligência artificial, a importância de uma antiga versão de um modelo de código aberto americano é insignificante diante do fato de que a China está investindo mais de um trilhão de dólares para ultrapassar os Estados Unidos nesse campo.

Os cientistas chineses que participam da pesquisa são Geng Guotong e Li Weiwei, ligados ao Centro de Pesquisa da Ciência Militar da AMS e ao Instituto Nacional de Inovação da Tecnologia de Defesa, juntamente com pesquisadores do Instituto de Tecnologia de Pequim e da Universidade Minzu.

No porvir, graças ao avanço tecnológico, o ChatBIT será empregado não apenas para a análise de inteligência, mas também para a investigação de estratégias de planejamento, simulações de treinamento e a tomada de decisões de liderança, conforme mencionado no artigo.

O Ministério da Defesa da China não deu resposta a um pedido de comentário, assim como nenhuma das instituições ou pesquisadores contatados.

A Reuters não foi capaz de verificar as capacidades e o poder de processamento do ChatBIT. No entanto, os pesquisadores notaram que o modelo do ChatBIT foi treinado com apenas 100.000 registros de diálogo militar, uma quantidade considerada pequena em comparação com outros modelos de linguagem.

“Comparada à maioria dos modelos treinados com trilhões de parâmetros, essa é uma quantidade insignificante, o que levanta dúvidas sobre as capacidades reais desses modelos”, comentou Joelle Pineau, vice-presidente de Pesquisa de IA na Meta e professora de ciência da computação na Universidade McGill, no Canadá.

A investigação surge em meio a uma discussão intensa nos setores de segurança e tecnologia dos Estados Unidos sobre se empresas como Meta devem disponibilizar seus modelos de forma aberta ao público.

Em outubro de 2023, o presidente dos Estados Unidos, Joe Biden, emitiu uma ordem executiva com o objetivo de supervisionar o progresso da inteligência artificial. Ele destacou que, embora a inovação possa trazer benefícios significativos, há também preocupações sérias em relação à segurança, como a possível remoção de proteções dentro desse sistema.

Nesta semana, Washington anunciou que estava concluindo normas para diminuir os investimentos dos Estados Unidos em inteligência artificial e em outros setores de tecnologia na China que representassem riscos à segurança nacional.

Segundo o porta-voz do Pentágono, John Supple, o Departamento de Defesa reconheceu as vantagens e desvantagens dos modelos de código aberto e afirmou que irá acompanhar de perto as capacidades dos concorrentes.

Pote de biscoitos.

Alguns analistas afirmam que os progressos da China na área de inteligência artificial feita internamente, como a fundação de laboratórios de pesquisa, têm complicado a tentativa do país de reduzir a diferença tecnológica com os Estados Unidos.

Em um artigo acadêmico revisado por especialistas da Reuters, dois pesquisadores da Aviation Industry Corporation of China (AVIC), identificada pelos Estados Unidos como empresa com vínculos com o PLA, mencionaram o uso do Llama 2 para desenvolver “estratégias de interferência de guerra eletrônica aérea”.

O emprego da inteligência artificial criada na China também foi aplicado na proteção residencial. Um artigo de junho detalhou como o Llama foi utilizado para aprimorar a análise de dados em larga escala e otimizar as decisões da polícia.

No mês de abril, o Político de Assuntos Públicos (PLA) do governo divulgou comentários diários destacando as possíveis contribuições da inteligência artificial (IA) para acelerar o progresso na área de armamentos e equipamentos, aprimorar a simulação de combate e otimizar o treinamento militar.

“William Hannas, analista principal do Centro de Segurança e Tecnologia Emergente da Universidade de Georgetown (CSET), afirmou à Reuters que não vê como é possível impedir a presença chinesa na área da Inteligência Artificial Geral. Um estudo de 2023 do CSET identificou 370 instituições chinesas cujos pesquisadores contribuíram com artigos sobre IA, apoiando a estratégia nacional da China de se tornar líder mundial nesse campo até 2030.”

“Segundo Hannas, os principais cientistas chineses e americanos de IA estão colaborando intensamente para se manterem atualizados em relação aos avanços tecnológicos.”