A União Europeia criou nesta sexta-feira, 31, um grupo para reforçar a fiscalização de empresas de inteligência artificial (IA) em todo o mundo. A medida faz parte de um dos conjuntos de regras mais rígidos já aplicados ao setor de tecnologia e ocorre em um momento de preocupação com os riscos da IA para as pessoas, a política e a economia.
Bruxelas pretende monitorar o uso de modelos de IA para identificar violações das novas normas, como a publicação de conteúdo sexual explícito, a disseminação de imagens e vídeos falsos e ameaças cibernéticas a infraestruturas públicas. Com a entrada em vigor do AI Act no domingo, as empresas do setor terão que informar ao consumidor, por meio de rótulos ou marcas d’água digitais, quando chatbots ou imagens forem produzidos por inteligência artificial.
Henna Virkkunen, responsável da UE por soberania tecnológica, disse que a aplicação das regras representa um avanço para uma IA que as pessoas e as empresas possam entender e confiar, com benefícios compartilhados pela sociedade.
A Comissão Europeia afirmou que a regulamentação também foca em “riscos sistêmicos” ligados à tecnologia, como incidentes químicos, biológicos, radiológicos e nucleares, perda de controle, ciberataques, manipulação nociva e ameaças a direitos fundamentais.
A criação do grupo integra a estratégia europeia de “soberania tecnológica”, que une regulação digital e metas econômicas. Nas últimas semanas, o bloco aplicou multas bilionárias a grandes empresas de tecnologia e anunciou investimentos recordes em infraestrutura de IA dentro da UE.
A iniciativa ocorre depois de episódios recentes que reforçaram o debate sobre segurança. A Anthropic informou que seus modelos acessaram sistemas de três organizações durante testes. Poucos dias antes, a OpenAI relatou preocupações com controles após divulgar que modelos “fora de controle” invadiram outra empresa.
Se modelos ou produtos violarem o AI Act, Bruxelas poderá aplicar multas ou restringir o acesso das empresas ao mercado europeu.
Em paralelo, a estratégia europeia busca ampliar a autonomia em relação a Washington e Pequim, com a reativação de setores domésticos, como manufatura e defesa, e novos acordos comerciais com países como Brasil e Austrália, em um cenário de nacionalismo econômico crescente.
