Novas regras de transparência para a Inteligência Artificial

A partir desta data, determinadas utilizações da inteligência artificial passam a estar sujeitas a regras destinadas a garantir que as pessoas conseguem reconhecer quando estão a interagir com um sistema de IA ou quando determinados conteúdos foram gerados ou manipulados artificialmente. 

A aplicação destas regras marca uma nova fase na implementação do Regulamento de IA, com obrigações concretas para fornecedores e responsáveis pela utilização de sistemas abrangidos pelo artigo 50.º. 

Obrigações a ter a partir de agora 

As obrigações de transparência abrangem diferentes situações. Entre as principais estão a interação direta com pessoas, a geração e manipulação de conteúdos, o reconhecimento de emoções e a categorização biométrica. 

Quando uma pessoa está a interagir com a Inteligência Artificial: Os sistemas de IA concebidos para interagir diretamente com pessoas, como chatbots e assistentes virtuais, devem informar o utilizador de que está a comunicar com uma inteligência artificial. 

A obrigação não se aplica quando, tendo em conta as circunstâncias e o contexto da utilização, seja evidente para uma pessoa razoavelmente atenta que está a interagir com um sistema de IA. 

Quando a Inteligência Artificial gera ou manipula conteúdos: Os fornecedores de sistemas de IA generativa devem assegurar que os resultados produzidos pelos sistemas (incluindo texto, imagem, áudio e vídeo) estão identificados como tendo sido gerados ou manipulados por IA através de uma marcação legível por máquina. 

Para os sistemas disponíveis no mercado antes de 2 de agosto de 2026, existe um período de transição. Nestes casos, a obrigação de marcação legível aplica-se a partir de 2 de dezembro de 2026. 

Quando são utilizados sistemas de reconhecimento de emoções ou categorização biométrica: As entidades que utilizam sistemas de IA destinados ao reconhecimento de emoções ou à categorização de pessoas com base em dados biométricos devem informar as pessoas expostas a esses sistemas. 

Esta informação deve permitir que as pessoas tenham conhecimento da utilização destes sistemas no contexto em que são aplicados. 

Quando são divulgados deepfakes: Os conteúdos que constituam deepfakes devem ser identificados como tendo sido artificialmente gerados ou manipulados. A obrigação aplica-se igualmente a textos gerados ou manipulados por IA que sejam publicados para informar o público sobre questões de interesse público. 

Neste último caso, existem condições específicas, nomeadamente quando o conteúdo tenha sido sujeito a revisão humana ou controlo editorial e exista uma pessoa ou entidade que assuma a responsabilidade pela publicação. 

Responsáveis pelo cumprimento 

As obrigações distribuem-se de acordo com o papel desempenhado na cadeia de desenvolvimento e utilização dos sistemas de IA. 

Os fornecedores têm, nomeadamente, responsabilidades relacionadas com a conceção dos sistemas, de forma a permitir a informação dos utilizadores e a identificação dos conteúdos gerados por IA, quando aplicável. 

Já os responsáveis pela implantação, as entidades que utilizam os sistemas no âmbito da sua atividade, têm obrigações específicas associadas a determinadas utilizações, incluindo o reconhecimento de emoções, a categorização biométrica e a divulgação de determinados conteúdos gerados ou manipulados por IA. 

Situações de exclusão 

O Regulamento prevê algumas exceções. As obrigações de transparência não abrangem a utilização de sistemas de IA por pessoas singulares no âmbito de uma atividade exclusivamente pessoal e não profissional. Existem também disposições específicas para sistemas desenvolvidos exclusivamente para investigação e desenvolvimento científico. 

A obrigação de identificação de conteúdos não se aplica, em determinadas condições, quando a IA é utilizada apenas como assistência à edição corrente, sem alterar substancialmente o conteúdo. 

O Regulamento prevê ainda situações específicas relacionadas com utilizações autorizadas por lei no âmbito da prevenção, deteção e investigação de infrações penais. 

Deveres das organizações 

Com a aplicação das novas regras, as organizações que utilizam sistemas abrangidos pelo artigo 50.º devem verificar os procedimentos adotados e assegurar o cumprimento das obrigações que lhes são aplicáveis. É particularmente importante: 

• Identificar os sistemas de IA utilizados na interação com cidadãos, clientes ou outros utilizadores; 

• Verificar se é necessário informar as pessoas de que estão a interagir com uma IA; 

• Confirmar como são identificados os conteúdos gerados ou manipulados por IA; 

• Articular com os fornecedores das ferramentas utilizadas para assegurar o cumprimento das obrigações técnicas; 

• Avaliar a utilização de sistemas de reconhecimento de emoções ou categorização biométrica; 

• Definir procedimentos para a identificação de deepfakes e de determinados conteúdos de interesse público. 

Incumprimento das Regras 

O incumprimento das obrigações previstas no Regulamento Europeu de IA pode dar origem a coimas até 15 milhões de euros ou 3% do volume de negócios anual, consoante o valor que for mais elevado. Este é o limite máximo previsto para estas infrações. A determinação da coima deve ter em conta, entre outros fatores, a natureza, gravidade e duração da infração e as circunstâncias do caso.