A União Europeia lançou nesta sexta-feira, 31, uma nova equipe para reforçar a fiscalização de empresas de inteligência artificial (IA) em todo o mundo. A medida faz parte de um dos regimes regulatórios mais rígidos já aplicados ao setor de tecnologia e ocorre em meio ao aumento das preocupações sobre os riscos da IA para pessoas, política e economia.
Bruxelas quer monitorar o uso de modelos de IA para identificar violações das novas regras, como a publicação de material sexual explícito, a disseminação de fotos e vídeos falsos e ameaças cibernéticas à infraestrutura pública. Com a entrada em vigor do AI Act no domingo, empresas do setor terão de informar ao consumidor, por meio de rótulos ou marcas d’água digitais, quando chatbots ou imagens forem gerados por inteligência artificial.
“Com o início da aplicação, estamos dando um passo importante rumo a uma IA que pessoas e empresas possam compreender e em que possam confiar, e cujos benefícios sejam amplamente compartilhados pela sociedade”, disse Henna Virkkunen, responsável da UE por soberania tecnológica.
A Comissão Europeia afirmou que a regulamentação também mira “riscos sistêmicos” associados à tecnologia, incluindo incidentes químicos, biológicos, radiológicos e nucleares, perda de controle, ciberofensivas, manipulação nociva e ameaças a direitos fundamentais.
A criação do grupo faz parte da estratégia europeia de “soberania tecnológica”, que combina regulação digital e ambição econômica. Nas últimas semanas, o bloco aplicou multas bilionárias a big techs e anunciou investimentos recordes em infraestrutura de IA dentro da UE.
A iniciativa ocorre após episódios recentes que abalaram o debate sobre segurança. A Anthropic disse que seus modelos acessaram sistemas de três organizações durante testes, poucos dias depois de a OpenAI relatar preocupações com controles após divulgar que modelos “fora de controle” invadiram outra empresa.
Caso modelos ou produtos violem o AI Act, Bruxelas poderá multar as empresas ou restringir seu acesso ao mercado europeu.
Em paralelo, a estratégia europeia inclui ampliar a autonomia em relação a Washington e Pequim, reativando setores domésticos, como manufatura e defesa, e firmando novos acordos comerciais com países como Brasil e Austrália, em um cenário global de crescente nacionalismo econômico.
