Regulamento de Inteligência Artificial da União Europeia

“Hoje, todos os olhos estão em nós. Enquanto as grandes empresas de tecnologia estão a soar o alarme sobre as suas próprias criações, a Europa avançou e propôs uma resposta concreta aos riscos que a IA está começando a colocar. Queremos que o potencial positivo da IA para a criatividade e a produtividade seja aproveitado, mas também lutaremos para proteger a nossa posição e combater os perigos para as nossas democracias e liberdades durante as negociações com o Conselho”. Assim, falou um dos relatores da matéria no Parlamento Europeu, Brando Benifei, do Grupo da Aliança Progressista dos Socialistas e Democratas. Esta é a real dimensão do provável primeiro regulamento sobre Inteligência Artificial a ser adotado e posto em vigor no mundo.

A União Europeia, ao longo dos últimos, se propôs a voltar o olhar para o ambiente e o ecossistema digital. Acima de tudo, o papel exercido pela UE é de liderar a vanguarda da transformação digital do bloco europeu, o que acaba por se apresentar como importante norteador das iniciativas regulatórias ao redor do mundo. Como prova disso, houve a publicação em 2021 do relatório para a construção  do futuro digital da Europa (veja aqui), com o objetivo de fomentar o enfrentamento dos desafios da transição digital, melhorando a utilização de inteligência artificial e apoiando inovações, além de promover a integração de tecnologias digitais nas operações de empresas e serviços públicos, tendo como fundamento o impacto das tecnologias na sociedade.

Tendo a Comissão Europeia apresentado o programa de políticas da Década Digital da Europa (veja aqui), destacando metas a serem alcançadas até 2030, já em abril de 2021, a própria Comissão propôs a primeira versão do regulamento europeu para inteligência artificial, sendo pautado na estratificação de diferentes níveis de risco de acordo com a análise dos sistemas de IA.

A proposta da Comissão chegou ao Parlamento Europeu, que se manifestou pela garantia da segurança, transparência, privacidade, bem estar social e ambiental, rastreabilidade no uso dos sistemas de IA, além de assegurar que não sejam discriminatórios, sendo sujeitos à supervisão humana. O Parlamento ainda propôs definir objetivamente e de forma neutra o que vem a ser inteligência artificial, servindo como parâmetro para futuros sistemas a serem desenvolvidos.

Regras Gerais

Fornecedores devem mitigar eventuais riscos, além de registrar seus sistemas na base de dados da União Europeia, antes que seja comercializado.

Inteligência Artificial Generativa

Requisitos de transparência:

• Divulgar que o conteúdo foi gerado pela IA
• Modelo concebido de modo a evitar que gere conteúdos ilegais
• Publicar resumos dos dados protegidos por direitos de autor utilizados para a formação do conteúdo

Os sistemas de IA são classificados conforme seus riscos:

Risco Inaceitável – considerados ameaça às pessoas e, por isso, proibidos.

• Manipulação cognitivo-comportamental de pessoas ou grupos vulneráveis específicos: por exemplo, brinquedos ativados por voz que incentivam comportamentos perigosos nas crianças
• Pontuação social: classificação de pessoas com base no comportamento, estatuto socioeconômico, caraterísticas pessoais
• Sistemas de identificação biométrica em tempo real e à distância, como o reconhecimento facial em espaços acessíveis ao público
• Sistemas de identificação biométrica à distância por meio de conteúdo gravado (não “em tempo real”, com a única exceção para a repressão de crimes graves por autoridades responsáveis pela aplicação da lei e apenas após autorização judicial
• Sistemas de categorização biométrica que utilizem características sensíveis (por exemplo, gênero, raça, etnia, estatuto de cidadania, religião, orientação política)
• Sistemas de policiamento preditivo (baseados na definição de perfis, localização ou comportamento criminoso passado)
• Sistemas de reconhecimento de emoções na aplicação da lei, na gestão das fronteiras, no local de trabalho e nos estabelecimentos de ensino
• Remoção não direcionada de imagens faciais da Internet ou de filmagens de videomonitoramento (circuito fechado) para criar bases de dados de reconhecimento facial (violação dos direitos humanos e do direito à privacidade)

Risco Elevado – afetam de forma negativa a segurança ou direitos fundamentais. São divididos em 3 categorias:

1. Sistemas de IA que são utilizados em produtos abrangidos pela legislação da UE em matéria de segurança dos produtos. Isto inclui brinquedos, aviação, automóveis, dispositivos médicos e elevadores.
2. Sistemas de IA utilizados para influenciar os eleitores e o resultado das eleições e os sistemas de recomendação utilizados pelas plataformas de redes sociais (com mais de 45 milhões de usuários);
3. Sistemas de IA que se enquadram em oito áreas específicas que terão de ser registrados numa base de dados da UE:

Identificação biométrica e categorização de pessoas singulares; gestão e funcionamento de infraestruturas essenciais; educação e formação profissional; emprego, gestão dos trabalhadores e acesso ao trabalho por conta própria; acesso e usufruto de serviços privados essenciais e de serviços e benefícios públicos; aplicação da lei; gestão da migração, do asilo e do controle das fronteiras; assistência na interpretação jurídica e na aplicação da lei.

Risco Limitado – devem cumprir requisitos mínimos de transparência.

Os usuários do sistema devem ser informados e poder decidir sobre a continuidade de utilização do sistema, como no caso de IA que gera ou manipula conteúdos de imagem, áudio ou vídeo.

Após a adoção de posição pelos eurodeputados, a matéria seguirá para diálogo entre líderes dos países no âmbito do Conselho Europeu. A expectativa é de que o regulamento já esteja aprovado até o final de 2023.

Acesse aqui a íntegra das fases do processo de regulamentação de IA na União Europeia.

___________________

Contato
Gabriella Salvio – gabriella.salvio@soutocorrea.com.br