Hoje, negociadores do Parlamento e do Conselho chegaram a um acordo provisório sobre o “Artificial Intelligence Act” (Lei de Inteligência Artificial). Este regulamento visa garantir que direitos fundamentais, democracia, Estado de Direito e sustentabilidade ambiental sejam protegidos contra IA de alto risco, ao mesmo tempo, em que impulsiona a inovação e coloca a Europa como líder no campo.
Principais Pontos do Acordo:
- Proibições de Aplicações:
- Sistemas de categorização biométrica que usam características sensíveis são proibidos.
- Coleta não direcionada de imagens faciais da internet ou de imagens de circuito fechado de TV para criar bancos de reconhecimento facial é proibida.
- Reconhecimento de emoções no ambiente de trabalho e instituições educacionais é proibido.
- É vedado o uso de pontuações sociais com base em comportamento ou características pessoais.
- Sistemas de IA que manipulam o comportamento humano para contornar o livre arbítrio são proibidos.
- É proibido o uso de IA para explorar vulnerabilidades das pessoas (devido à idade, deficiência, situação social ou econômica).
- Exceções para Aplicações em Aplicação da Lei:
- Safeguards e exceções estreitas foram acordados para o uso de sistemas de identificação biométrica (RBI) em espaços públicos acessíveis para fins de aplicação da lei.
- RBI em tempo real seria restrito a buscas específicas de vítimas, prevenção de ameaças terroristas ou identificação de pessoas suspeitas de crimes específicos.
- Obrigações para Sistemas de Alto Risco:
- Sistemas de IA classificados como de alto risco terão obrigações claras, incluindo uma avaliação obrigatória de impacto nos direitos fundamentais.
- Cidadãos terão o direito de apresentar queixas sobre sistemas de alto risco e receber explicações sobre decisões baseadas neles.
- Guardrails para Sistemas de Inteligência Artificial Geral:
- Sistemas de Inteligência Artificial Geral (GPAI) devem aderir a requisitos de transparência, incluindo documentação técnica e resumos detalhados sobre o conteúdo usado para treinamento.
- Modelos GPAI com risco sistêmico terão obrigações mais rigorosas, incluindo avaliações, mitigação de riscos, testes adversários, relatórios de incidentes e garantias de cibersegurança.
- Medidas de Apoio à Inovação e PMEs:
- Promoção de “regulatory sandboxes” e testes no mundo real para empresas desenvolverem soluções de IA inovadoras.
- Sanções e Entrada em Vigor:
- Não conformidade pode resultar em multas de até 35 milhões de euros ou 7% do faturamento global, dependendo da infração e do tamanho da empresa.
Os negociadores destacaram a importância da implementação correta e continuaram enfatizando a vigilância para garantir o suporte a novas ideias de negócios e regras eficazes para os modelos mais poderosos de IA. O texto acordado será formalmente adotado pelo Parlamento e pelo Conselho para se tornar lei da UE.
Próximos Passos:
- As comissões de Mercado Interno e Liberdades Civis do Parlamento votarão o acordo em uma reunião futura.
Com informações Parlamento Europeu
Nayron Divino Toledo Malheiros
Mestre em Direito Constitucional Econômico, Professor de Direito, autor do livro “Inteligência Artificial e Direito: Veículos Autônomos: responsabilidade civil, impactos econômicos e desafios regulatórios no Brasil”
Como citar esse texto:
MALHEIROS, Nayron D. T. UE firma acordo sobre regulamentação da IA. Consumers, 2023. Disponível em: https://iaconsumers.com/2023/12/09/ue-firma-acordo-sobre-regulamentacao-da-inteligencia-artificial/
IA Consumers 