Os membros do Parlamento Europeu (MEPs) chegaram a um acordo político provisório em relação ao primeiro conjunto de regras para a Inteligência Artificial (IA) no mundo, conhecido como AI Act. O objetivo da legislação é regular a IA com base no seu potencial para causar danos. O acordo abrange regulamentações para a utilização de IA geral, práticas proibidas, classificação de alto risco, detecção de viés, princípios gerais e sustentabilidade de IA de alto risco [1].
General Purpose AI sujeita a obrigações mais rigorosas
Os sistemas de IA que não possuem um propósito específico, também conhecidos como General Purpose AI, estão sujeitos a obrigações mais rigorosas, incluindo a categoria de modelos fundamentais, que incluem, por exemplo, o ChatGPT. Além disso, o uso de software de reconhecimento de emoções em áreas como aplicação da lei, gerenciamento de fronteiras, ambiente de trabalho e educação foi banido.
A legislação também inclui disposições para proibir práticas consideradas de risco inaceitável, bem como para classificar sistemas de IA de alto risco com base em suas implicações em relação à saúde, segurança e direitos fundamentais. Os provedores desses modelos devem cumprir requisitos mais rigorosos, incluindo a gestão de riscos, transparência e governança de dados.
Além disso, a IA usada para gerenciar infraestrutura crítica, como redes de energia ou sistemas de gerenciamento de água, também será considerada de alto risco se envolver riscos ambientais significativos. As recomendações dos sistemas de grandes plataformas online serão consideradas de alto risco, conforme definido no Digital Services Act.
Os provedores de modelos de IA de alto risco também devem incluir salvaguardas para detectar e evitar preconceitos negativos em dados sensíveis, como orientação sexual ou crenças religiosas. Eles também devem cumprir os princípios gerais, incluindo agência e supervisão humanas, robustez e segurança técnica, privacidade e governança de dados, transparência, bem-estar social e ambiental, diversidade, não discriminação e justiça.
Os sistemas de IA de alto risco também devem manter registros de sua pegada ambiental e modelos fundamentais devem cumprir os padrões ambientais europeus.
Add a comment
