Como regular a inteligência artificial? Padrões avançam na União Europeia e na América

Esta semana, Lucila Scioli, diretora de Inteligência Artificial e Indústria Digital da União Europeia, anunciou que o bloco abrirá um sistema de crash-testing, composto por quatro instalações de última geração, para estudar todas as inovações em Inteligência Artificial e garantir que são seguros antes de irem para o mercado. O investimento para colocar as instalações em funcionamento foi de cerca de 240 milhões de dólares e a previsão é que entrem em funcionamento no próximo ano.

Os chamados testes de colisão são projetados para testar todos os avanços em IA e robótica que são arquivados ou patenteados na União, especialmente aqueles que serão usados ​​na medicina, manufatura ou agricultura, com a ideia de determinar que são seguros, rastreáveis, não discriminatórios e transparentes, além de confiáveis, porque a IA generativa é um dos recursos que atualmente está causando os maiores problemas de desinformação.

Esse recurso será agregado à Lei Europeia de Inteligência Artificial que, quando aprovada, será a primeira lei abrangente a regulamentar a IA no mundo. O regulamento se insere na estratégia digital da UE para a transformação digital (uma das suas prioridades), que inclui a criação de novas oportunidades para as empresas, o apoio à educação digital e a digitalização dos serviços públicos, através da definição de regulamentos.

A AI Act foi proposta em 2021 e estabelece, entre outras coisas, que as IAs generativas devem declarar claramente o que criaram, ser projetadas para impedir a produção de conteúdo ilegal e publicar resumos dos dados protegidos por direitos autorais usados ​​para treinamento, a fim de cumprir os requisitos de transparência. A lei também criou uma escala que determina o nível de obrigações proporcionalmente ao risco envolvido.

Assim, segundo ele, existem quatro níveis de risco dentro da IA: risco inaceitável, alto, limitado e risco mínimo. Aqueles que representam um risco inaceitável (isto é, que afetam negativamente a segurança ou os direitos fundamentais) devem ser proibidos; enquanto isso, aqueles que representam risco limitado devem atender a requisitos mínimos de transparência, o que significa que o usuário deve saber que está interagindo com uma IA ou lidando com material gerado por ela (como deep fakes).

Leia também: Como regulamentar as tecnologias e o ambiente digital? Reflexões de Xavier Careaga, da Meta

Em geral, a lei é chamada para fortalecer as regras sobre qualidade de dados, transparência, supervisão humana e responsabilidade, bem como estabelecer requisitos e obrigações dentro da UE, para desenvolvedores e usuários.

Na América: Brasil

Embora a Europa esteja na vanguarda da regulamentação da IA, a preocupação com seu aumento, especialmente a generativa, não é exclusiva da UE, pois preocupações e questões sobre o potencial da IA ​​para causar danos além de seus benefícios são comuns em vários países americanos. Dos Estados Unidos, onde o governo Biden defendeu o estudo e a fiscalização da IA, ao Brasil, onde o senador Rodrigo Pacheco apresentou o Projeto de Lei (PL) 2.338/2023, que propõe uma série de normas para desenvolver essas tecnologias sob critérios de proteção dos direitos fundamentais das pessoas, incluindo a proteção de seus dados, em consonância com a atual Lei Geral de Proteção de Dados – LGPD.

A regulamentação estabelece multas e proibe o uso de IA em determinadas instâncias, além de promover a nomeação de uma autoridade responsável pela fiscalização de seu uso (a ser decidida pelo Poder Executivo).

O PL também estabelece os direitos das pessoas afetadas por seu uso, define critérios para sua aplicação, impõe a proibição de participação em ambientes regulatórios experimentais e a suspensão (temporária ou permanente) do sistema. Tal como na Europa, também contempla que todos os sistemas de IA sejam submetidos a testes de colisão, para determinar o seu nível de risco.

Chile

Em 24 de abril, foi protocolado em moção parlamentar o projeto de lei nº 15869-19, que regulamenta os sistemas de inteligência artificial, robótica e tecnologias correlatas, em seus diversos campos de aplicação, e que se encontra em primeiro processo constitucional.

O projeto é baseado na Lei Europeia de Inteligência Artificial e na Política de Inteligência Artificial de 2021, publicada no Chile pelo Ministério da Ciência, Tecnologia, Conhecimento e Inovação. A proposta busca estabelecer um marco regulatório para os riscos derivados do uso, comercialização, desenvolvimento e distribuição de IA que leve em conta o direito de acesso a essas tecnologias, o crescimento industrial e os direitos civis fundamentais.

Em linhas gerais, o projeto tem 15 artigos que abordam os critérios de classificação de risco das IAs em alto (ou inaceitável) que, conforme a legislação da UE, serão proibidos, médio e baixo, e estabelece sanções e um mecanismo de autorização.

Sugestão: Os impactos da inteligência artificial na Propriedade Intelectual

México

O deputado Ignacio Loyola apresentou a minuta da Lei de Regulamentação Ética da Inteligência Artificial e Robótica, destinada a regulamentar o uso dessas tecnologias nos âmbitos governamental, econômico, comercial, administrativo, comunicacional e financeiro. O projeto também propõe a criação do Conselho Mexicano de Ética para Inteligência Artificial e Robótica (Cmetiar), órgão regulador que estabelece padrões oficiais para o desenvolvimento ético da indústria nacional de IA.

A Câmara dos Deputados informou que o projeto tem 19 artigos distribuídos em três capítulos: I - Disposições Gerais, II - Conselho Mexicano de Ética para Inteligência Artificial e Robótica e III - Ética no Desenvolvimento, Criação e Uso de Inteligência Artificial e Robótica nos Estados Unidos Mexicanos, bem como dois artigos transitórios.

Colômbia

Em 15 de junho, Mauricio Lizcano, ministro de Tecnologias da Informação e Comunicação, anunciou que o país criará um laboratório de IA, a ser dirigido pela Assessoria Internacional do Ministério e que trabalhará em conjunto com Governo, empresas, investidores, inovadores, empresários e acadêmicos.

No laboratório, será desenhado o marco regulatório que regerá o uso e o desenvolvimento da IA ​​no país, que servirá também como polo de formação de líderes e centro de pesquisa, incubadora de inovações e desenvolvedora de ações de prototipagem. O plano é promover o desenvolvimento tecnológico do país salvaguardando a análise, proteção e privacidade dos dados.