O desenvolvimento tecnológico implicou a adaptação dos diversos instrumentos jurídicos. O Regulamento Geral sobre a Proteção de Dados (“RGPD”) foi um dos principais marcos legislativos da União Europeia (“UE”), permitindo a harmonização em matéria de direito da proteção de dados nos diversos Estados-Membros. Uma das disposições mais polémicas, resultado de alguma desatenção do legislador, encontra-se relacionada com o seu artigo 22.º, aplicável às decisões individuais automatizadas.
Pretendemos refletir sobre o alcance e a eventual existência de um “direito à explicação”. Os sistemas de Inteligência Artificial (“IA”) caracterizam-se pela sua opacidade, algo que dificulta em muitos casos a plena compreensão das decisões adotadas. Para efeitos do RGPD, e caso haja lugar à adoção de uma decisão individual automatizada, o titular dos dados poderá exercer os direitos previstos no artigo 22.º, mormente: o direito de obter intervenção humana, manifestar o seu ponto de vista e a contestar a decisão. O preceito não prevê, expressamente, o direito à explicação da decisão. A única menção é feita no considerando 71 do RGPD, de acordo com o qual o titular dos dados terá a possibilidade de obter “uma explicação sobre a decisão tomada na sequência dessa avaliação e de contestar a decisão”. Este foi o principal argumento invocado na doutrina por autores como Bryce Goodman e Seth Flaxman. Deste modo, a consagração do direito à explicação seria inserida no âmbito das garantias adequadas de proteção para o titular dos dados.
Sabemos, todavia, que os considerandos não têm força vinculativa, constituindo ao invés um auxílio interpretativo. Recentemente, o Tribunal de Justiça (“TJ”) teve a oportunidade de se pronunciar sobre esta questão no caso CK c. Magistrat der Stadt Wien (C-203/22). Uma operadora de telecomunicações recusou ao titular dos dados a celebração ou prorrogação de um contrato de telecomunicações móveis, que implicava o pagamento de uma quantia monetária mensal, com fundamento de que, segundo uma avaliação automatizada de crédito, o titular não dispunha de solvência financeira. O titular dos dados recorreu à autoridade de controlo austríaca, a qual ordenou o responsável pelo tratamento a prestar as informações úteis relativas à lógica subjacente à decisão automatizada. Após a interposição de recurso para o Tribunal Administrativo Federal, a questão chegou, em sede de reenvio prejudicial, ao TJ.
No que respeita à questão em análise, o tribunal deixa claro que o titular dos dados não poderá exercer plenamente os direitos previstos no artigo 22.º, n.º 3, caso não compreenda efetivamente os motivos que conduziram à aplicação de determinada decisão. Deste modo, o TJ defende a existência de um “direito à explicação sobre o funcionamento do mecanismo subjacente à decisão automatizada”, invocando para o efeito o disposto no considerando 71 e no artigo 15.º, alínea h), do RGPD. Assim, o dever em relação ao qual o responsável pelo tratamento se encontra adstrito não estará cumprido pela mera comunicação de uma fórmula matemática complexa (por exemplo, um algoritmo), nem com a descrição detalhada de todas as etapas das decisões automatizadas. Considerando o conhecimento geral dos titulares dos dados, que, regra geral, não serão especialistas em IA ou em fórmulas matemáticas, a explicação fornecida deverá ser inteligível.
Na nossa ótica, este é o ponto mais importante desta decisão. Pela primeira vez, o TJ deixa claro que o direito à explicação não é uma mera formalidade, devendo ser acompanhado de uma explicação lógica, efetiva e transparente sobre os critérios aplicados durante o processo da tomada de decisão, de forma a garantir que o titular dos dados consiga, efetivamente, compreender o seu conteúdo.
O tribunal advoga, ainda, que a explicação deverá ser acompanhada de uma descrição do procedimento e dos princípios concretamente aplicados, para que o titular dos dados possa entender quais os seus dados pessoais que foram utilizados no momento da decisão automatizada em causa, bem como os meios que foram adotados.
Em primeiro lugar, consideramos interessante a argumentação invocada pelo TJ. Durante vários anos, a doutrina que defendia a existência do direito à explicação baseava a sua posição no disposto no considerando 71, algo que mereceu críticas de vários autores, justamente pela sua ausência de valor vinculativo.
Ademais, o tribunal não deixa de reconhecer que a explicação fornecida ao titular dos dados terá de ser efetiva, não bastando aos responsáveis pelo tratamento o fornecimento de uma informação abstrata e de uma mera fórmula matemática. Considerando que a IA se caracteriza pela sua opacidade, especialmente na deep learning, e que não será expectável que se tenha o devido conhecimento do funcionamento dos sistemas algorítmicos, tal obrigará os responsáveis pelo tratamento a repensar as suas políticas.
Este é um passo muito relevante na proteção dos direitos dos titulares dos dados. Importa recordar que, não obstante a ambiguidade do RGPD, o Regulamento IA previu no artigo 86.º, a existência de um direito à explicação. Assim, qualquer pessoa que seja afetada por uma decisão feita por um sistema de IA de risco elevado e que considere que essa decisão prejudicou a sua saúde, segurança ou os seus direitos fundamentais, terá o direito a obter uma explicação clara sobre como essa decisão foi adotada com base no resultado produzido pelo sistema. No entanto, a inserção no Regulamento IA não resolve todas as questões. Por um lado, nem todas as decisões individuais automatizadas, para efeitos do RGPD, serão adotadas por sistemas de IA de risco elevado. Por outro lado, nem todos os outputs produzidos por sistemas de IA de risco elevado consubstanciarão decisões individuais automatizadas. Em ambos os cenários, cria-se um vácuo jurídico, o que não é desejável.
Embora não seja possível antecipar o fim do debate doutrinal, o TJ deu um passo relevantíssimo na construção de um direito à explicação. Doravante, restará aferir como poderá ser assegurada a proteção dos direitos dos titulares dos dados no contexto digital. Uma coisa é certa: a doutrina que negou, até ao momento, a existência do direito à explicação não poderá ignorar esta decisão marcante do tribunal.
© fotografia: https://www.urmconsulting.com/blog/the-gdpr-5-myths-dispelled
Autora: Diana Camões
