O AI Act (Regulamento (UE) 2024/1689) estabelece um conjunto de regras harmonizadas sobre inteligência artificial na Europa. Trata-se de um marco legal que visa mitigar os riscos associados ao uso da IA, definindo normas claras para desenvolvedores e implementadores. O Regulamento busca garantir a proteção dos direitos fundamentais e, ao mesmo tempo, impulsionar a adoção da tecnologia, estimular investimentos e fomentar a inovação em toda a UE.

O AI Act entrou em vigor em 1º de agosto de 2024 e será totalmente aplicável dois anos depois da sua entrada em vigor, isto é, em 2 de agosto de 2026, com algumas exceções, entre elas, as regras e obrigações para modelos de IA de uso geral, que entram em vigor no dia 02 do próximo mês.

Para facilitar a transição para o novo marco regulatório, foi lançado o AI Pact, uma iniciativa para apoiar a implementação da lei, em especial permitir que fornecedores e implementadores de IA da Europa e de outras regiões cumpram, desde já, as principais obrigações previstas na AI Act.

O AI Act vem no sentido de prevenir os riscos e abordar os desafios específicos que os sistemas de IA podem apresentar. É por isso que o AI Act regulamenta a AI consoante o seu nível de risco: o Regulamento tem por base uma divisão em 4 níveis de risco para os sistemas de inteligência artificial.

São eles:

Risco inaceitável

Todos os sistemas de IA considerados uma ameaça clara à segurança e aos direitos fundamentais das pessoas são proibidos. A exemplo, a coleta indiscriminada de dados da internet ou de câmeras de vigilância para criar ou ampliar bancos de dados de reconhecimento facial.

Alto risco

Casos de uso de IA que podem representar riscos sérios à saúde, segurança ou aos direitos fundamentais são classificados como de alto risco. Isto pode incluir: componentes de segurança baseados em IA em infraestruturas de transporte, cuja falha pode colocar em risco a vida e a saúde de cidadãos; IA aplicada em cirurgia assistida por robô; ou casos de uso de IA em gestão de migração, asilo e controle de fronteiras (ex.: análise automatizada de pedidos de visto).

Sistemas de IA de alto risco estão sujeitos a obrigações mais rigorosas antes de serem colocados no mercado. Os fornecedores de sistemas de IA de alto risco devem obter uma declaração de conformidade para a sua distribuição e funcionamento no mercado. Também devem contar com um sistema de monitoramento pós-comercialização e reportar incidentes graves e falhas de funcionamento.

Risco limitado

Refere-se aos riscos associados à necessidade de transparência no uso da IA. Por exemplo, ao utilizar sistemas de IA como chatbots, as pessoas devem ser informadas de que estão interagindo com uma máquina, permitindo que tomem decisões informadas.
Além disso, os fornecedores de IA generativa devem garantir que o conteúdo gerado por IA seja identificável. Conteúdos como deep fakes e textos gerados com o objetivo de informar o público sobre assuntos de interesse público devem ser clara e visivelmente rotulados.

Risco mínimo ou inexistente

O AI Act não impõe regras para sistemas considerados de risco mínimo ou inexistente. A exemplo, a utilização de IA na produção de video-jogos ou filtros de spam.

Modelos de IA de uso geral

O AI Act estabelece regras específicas para os fornecedores de modelos de IA de uso geral. Dado que estes modelos podem realizar uma ampla variedade de tarefas e têm-se tornando a base de muitos sistemas de IA na UE. Está prevista obrigação de transparência, onde os desenvolvedores dos modelos de uso geral deverão publicar resumos técnicos com informações sobre o modelo utilizado e o seu funcionamento e riscos. Para os modelos que apresentem risco sistêmico, ou seja, definidos como apresentando um alto impacto com potencial de afetar o mercado ou a sociedade, haverá a obrigação de apresentação de relatórios de incidentes e a realização de testes e auditorias contínuos.

As regras do AI Act sobre modelos de uso geral entrarão em vigor já no próximo mês. Para o efeito, foi elaborado um Código de Conduta, que detalha essas regras e que se tornará uma ferramenta central para que os fornecedores possam demonstrar conformidade com a AI Act.