LGPD e Inteligência Artificial: 03 direitos do titular dos dados em decisões automatizadas

A Lei Geral de Proteção de Dados tem se tornado bastante conhecida pela preocupação das empresas em se adequarem às regras previstas, principalmente garantindo os direitos de seus consumidores, clientes e colaboradores (ou seja, do titular dos dados), inclusive para evitar sanções administrativas e judiciais.

Outro tipo de preocupação que surge, a partir da LGPD, é o que poderá ou não ser feito pelas empresas que utilizam Inteligência Artificial (geralmente em aplicativos e sites) para prestar seus serviços.

Afinal, como as empresas podem utilizar a Inteligência Artificial (IA) para prestar seus serviços e, ainda assim, proteger os dados pessoais dos consumidores, clientes e colaboradores?

Hoje, vamos explicar alguns pontos tratados na LGPD sobre Inteligência Artificial (IA) e apresentar 03 direitos que o titular dos dados possui quanto a decisões automatizadas.

---

Decisões automatizadas

Quando se fala em Inteligência Artificial, diversos exemplos do dia-a-dia podem ser considerados.

Por exemplo, quando você pretende se deslocar para um local e aciona o GPS (no Waze ou no Google Maps), está sendo utilizada uma IA para te direcionar para o melhor trajeto, menos engarrafado, ou até mesmo para evitar um acidente ou uma obra no caminho.

Outro exemplo é quando você está procurando algum produto para comprar em um site e, coincidentemente, esse site sugere produtos similares a outro que você acabou de comprar. Nesse caso, a IA está identificando seu padrão de consumo e te sugerindo ofertas de produtos similares, entendendo que provavelmente você se interessará por essa categoria.

Em ambos os casos, estão sendo tomadas decisões automatizadas, baseadas nos seus dados pessoais (local de saída e destino, no caso do aplicativo de transporte, e preferência de consumo e pesquisa, no caso dos sites de compra online).

Existem outros casos de decisões automatizadas, que interferem mais diretamente na vida do titular dos dados. Por exemplo, quando alguém vai solicitar um empréstimo para o banco, por meio de um aplicativo ou pelo site, geralmente não é uma pessoa que decide se aquela pessoa vai ter acesso a um crédito maior ou menor.

Existe uma grande probabilidade de aquele banco estar utilizando uma IA para, de acordo com seu histórico de crédito (por exemplo, se possui alguma dívida, se está inscrito no SPC/SERASA), considerar aquela operação mais ou menos arriscada e, portanto, decidir o crédito oferecido.

---

Direitos do titular em decisões automatizadas (art. 20 da LGPD)

A LGPD traz, dentre vários outros, 03 direitos do titular dos dados em face de decisões automatizadas, que listaremos a seguir:

---

Direito nº 01: Revisão de decisões automatizadas

A LGPD, no artigo 20, dispõe que o titular dos dados tem o direito de solicitar a revisão dessa decisão que tenha sido totalmente automatizada (ou seja, que não tenha tido nenhuma participação humana). Assim, existe alguma possibilidade de que a decisão possa ser diferente após essa revisão.

Porém, a LGPD não exige a participação humana nessa revisão (isso porque o parágrafo 3º do artigo 20 foi vetado pelo Presidente da República), o que fragiliza o direito do titular, já que a mesma IA poderá ser utilizada novamente e, provavelmente, repetirá a decisão.

---

Direito nº 02: Solicitar acesso aos critérios da IA

Outro direito do titular dos dados é disposto no parágrafo 1º do artigo 20, que fala sobre a possibilidade de solicitar acesso aos critérios utilizados pela IA. Nessa ocasião, o controlador de dados (por exemplo, a empresa que está utilizando a IA) deverá fornecer informações claras e adequadas a respeito dos critérios que levaram à decisão.

Ainda assim, o controlador dos dados poderá se recusar a fornecer esses critérios, alegando, por exemplo, que faz parte de segredo comercial ou industrial. Nesse caso, a Autoridade Nacional de Proteção de Dados (ANPD) poderá fazer uma auditoria nesses critérios, garantindo que não haja aspectos discriminatórios.

---

Direito nº 03: Exercer um direito sem que isso seja um critério para prejudica-lo

O artigo 21 da LGPD apresenta outro direito, de que o exercício de um direito do titular dos dados não seja utilizado como critério para prejudicá-lo em uma decisão automatizada.

Por exemplo, o simples fato de possuir uma ação revisional (aquela que discute juros de financiamento aplicados pelos bancos, geralmente em financiamento de veículos) não pode ser critério para negar crédito ou prejudicar o escore de crédito de uma pessoa. Isso porque ajuizar uma ação judicial é um direito do titular dos dados, não podendo ser utilizado contra ele na decisão automatizada.

---

Diversos outros aspectos da LGPD se aplicam à Inteligência Artificial, razão pela qual indicamos que as empresas procurem o auxílio de uma consultoria jurídica que possa adequar essas regras ao seu negócio, promovendo mudanças na IA e, principalmente, garantindo os direitos dos titulares de dados.