A União Europeia finalmente concordou com um rascunho para a Lei de Inteligência Artificial, a primeira grande legislação sobre IA. Esta lei visa garantir que empresas de IA de “alto risco” não explorem os consumidores ou, pior, destruam o mundo.
A legislação proposta inclui regras para sistemas de IA que possam representar riscos para a segurança, direitos fundamentais e privacidade dos cidadãos da UE. Isso inclui a proibição de sistemas de vigilância em massa e pontuações sociais baseadas em IA, bem como requisitos de transparência para sistemas de IA que interajam com os consumidores.
A proposta também exige que empresas de IA forneçam documentação clara sobre como seus sistemas funcionam e como os dados são usados, a fim de garantir a responsabilidade e a segurança dos consumidores.
O Que a Lei Proíbe
A nova lei proíbe o uso de IA para rastreamento facial na internet, pontuação social ou categorização biométrica. Ou seja, cenários que lembram episódios de Black Mirror.
Regulamentação de Modelos Fundamentais
Os grandes modelos fundamentais, como o GPT-4, terão que fornecer documentação técnica, resumos detalhados dos dados de treinamento e cumprir a legislação de direitos autorais da UE.
Penalidades por Não Cumprimento
A não conformidade pode resultar em penalidades pesadas, chegando a até €35 milhões ou 7% do faturamento global.
Exceções para Modelos de Código Aberto
Modelos de código aberto, ou seja, IA livremente disponível para construir, receberam “amplas isenções”, o que é uma vitória para empresas como Meta e startups europeias Mistral e Aleph Alpha.
Reações e Preocupações
O Vale do Silício muitas vezes não reage bem à regulamentação, e a visão predominante é que a Lei de IA é, na melhor das hipóteses, excessivamente ampla e vaga e, na pior das hipóteses, um abuso de autoridade que matará a inovação em IA na Europa e a transferirá inteiramente para os EUA.
Possíveis Consequências
Uma questão que surge é se empresas como a OpenAI realmente agirão nas ameaças anteriores de cessar as operações na UE com a Lei de IA prestes a ser aprovada.