O festejado escritor israelense, YUVAL NOAH HARARI, em seu mais recente livro, NEXUS – Uma Breve História das Redes de Informação, da Idade da Pedra à Inteligência Artificial, apresenta um olhar crítico e aprofundado sobre a inteligência artificial (IA) e suas implicações para a humanidade.
Pode-se destacar alguns pontos de preocupação principais, como a desigualdade trazida pela IA. Harari entende que se desenvolvida e implementada de forma descontrolada e desigual, a IA pode aprofundar as disparidades sociais e econômicas existentes, já que países e corporações que dominarem a tecnologia, terão uma vantagem significativa sobre a sociedade, concentrando poder e riqueza.
Outra preocupação da qual cuida Harari, é a possível manipulação da realidade e a desinformação, já que a IA tem o potencial de manipular a realidade de forma sofisticada, criando fatos e disseminando desinformação em grande escala, o que já vem ocorrendo, especialmente em tempos de eleições. O Autor alerta para o perigo de uma sociedade da pós-verdade, onde a distinção entre fato e ficção se torna cada vez mais difícil.
Uma das questões mais interessantes e preocupantes trazida no livro, reside na intrincada relação entre a IA e a criação de sistemas de crédito social. O Autor argumenta que a IA, ao processar vastas quantidades de dados sobre indivíduos, pode ser utilizada para criar sistemas de classificação social complexos e abrangentes, que teria um enorme potencial de, no mínimo constranger e, no máximo, excluir o indivíduo.
E não sem razão o Autor de NEXUS, na medida em que a IA permite coletar e analisar uma quantidade massiva de dados sobre indivíduos, desde hábitos de consumo até dados biométricos e informações sobre saúde. Com base nesses dados, a IA pode criar perfis comportamentais detalhados, permitindo classificar os indivíduos em diferentes categorias.
Esses perfis podem ser utilizados para construir um sistema de CRÉDITO SOCIAL, onde cada indivíduo recebe uma pontuação que reflete sua confiabilidade, conformidade e valor social.
O famigerado crédito social traz riscos indesejáveis como a perda da privacidade, a discriminação, a desigualdade social, o controle social por governos e corporações que utilizem o sistema, a manipulação política – como já ocorrido, haja vista o escândalo protagonizado nos EUA, a maior democracia do mundo, no caso Cambridge Analytica – a perda da autonomia individual, a criação de uma sociedade de castas e o fortalecimento do autoritarismo.
Para evitar que a IA possibilite, a partir de sistemas de crédito social, um futuro distópico, onde a privacidade é um luxo, a liberdade é restrita e a desigualdade é institucionalizada, a Lei da Inteligência Artificial da União Europeia, o Regulamento Europeu 2024/1689, conhecido como AI Act, proíbe sistemas que implementem técnicas manipulativas que sejam usados para pontuação social, ou seja, para classificar pessoas com base em seu comportamento social, status socioeconômico ou características pessoais.
E assim o fez, por entender que tais sistemas de crédito social poderiam “levar a resultados discriminatórios e à exclusão de certos grupos…além de violar o direito à dignidade e à não discriminação e os valores da igualdade e da justiça”, o que somente referenda a preocupações trazidas pelo escritor israelense.
No âmbito do arcabouço jurídico nacional, ainda não há uma lei específica que proíba explicitamente a criação de sistemas de crédito social. A ausência de uma legislação específica sobre o tema se deve principalmente ao fato de que a tecnologia e as implicações dos sistemas de crédito social são relativamente recentes e em constante evolução. Ademais, a tecnologia evolui rapidamente e, certamente, criar leis específicas para cada nova tecnologia pode ser um processo lento e burocrático
No entanto, diversas leis e princípios constitucionais podem ser utilizados para limitar ou restringir a implementação de sistemas de crédito social no Brasil, como a Constituição Federal e seus direitos e garantias fundamentais, como o Direito à Privacidade, à Igualdade, à Dignidade da Pessoa Humana e à Liberdade.
A Lei Geral de Proteção de Dados Pessoais (LGPD), estabelece regras para o tratamento de dados pessoais, limitando a coleta, o uso e o compartilhamento de informações. Qualquer sistema de crédito social que utilize dados pessoais deve estar em conformidade com a LGPD e, obviamente, com a Carta Magna.
O Código de Defesa do Consumidor exigiria, certamente, que a coleta e o uso de dados pessoais para fins de crédito devem respeitar os direitos do consumidor e, especialmente, os seus princípios norteadores, como o direito à informação e à transparência.
O Marco Civil da Internet estabelece princípios para a governança da internet no Brasil, como a neutralidade da rede e a proteção da privacidade.
Portanto, importante ressaltar que a ausência de uma lei específica não significa que os sistemas de crédito social sejam permitidos no Brasil.
Assim sendo, e de lege ferenda, há que se pensar em leis que protejam especificamente os indivíduos contra eventuais sistemas de crédito social, especialmente em razão do fato de que tais sistemas envolvem questões complexas relacionadas à ética, privacidade, segurança e direitos humanos.
Autor: Mauricio Aude • email: mauricio.aude@ernetoborges.com.br • Tel.: + 5565 99981 0853
