1. Quais os principais riscos da inteligência artificial sem a devida regulamentação? Quais setores podem ser impactados?

A ausência de regulamentação adequada para a inteligência artificial expõe a sociedade a riscos substanciais e multidimensionais. O cerne do problema reside na natureza “caixa-preta” dos sistemas de inteligência artificial avançados, cuja opacidade no processo decisório e na sua lógica adjacente não apenas confunde usuários, mas também desafia a compreensão dos próprios desenvolvedores. Esta falta de transparência pode desencadear uma série de consequências negativas, desde decisões enviesadas e discriminação algorítmica não intencional até violações de privacidade em larga escala. Setores críticos como saúde, finanças, segurança pública e educação tornam-se especialmente vulneráveis, onde erros algorítmicos (vieses e decisões discriminatórias, por exemplo) podem gerar repercussões graves e duradouras.

 

  1. Tem exemplos históricos ou contemporâneos que demonstram os perigos de inovações tecnológicas sem regulamentação?

O contexto digital contemporâneo oferece exemplos contundentes dos perigos de inovações tecnológicas sem regulamentação adequada. As plataformas e redes sociais, inicialmente celebradas como ferramentas de conexão global, rapidamente se tornaram epicentros de desinformação, tensões democráticas e riscos à privacidade. Todavia, no caso da inteligência artificial, alguns especialistas vão além, comparando seu impacto ao desenvolvimento da energia nuclear ou aos desafios ambientais, como as mudanças climáticas, ressaltando a necessidade crucial de uma abordagem cautelosa e bem fundamentada para sua regulação. Sendo assim, a regulação neste caso precisa ser estabelecida, mas antes é necessário um amplo debate e o amadurecimento de um texto técnico adequado, visto se tratar de uma tecnologia com amplo potencial, tanto para os benefícios, como para os riscos. Este processo de elaboração regulatória deve equilibrar a promoção da inovação com a proteção efetiva e eficaz dos direitos fundamentais e valores sociais.

 

  1. Quais as prioridades que devem ser atendidas na regulação brasileira?

A abordagem baseada em risco é fundamental, categorizando aplicações de inteligência artificial de acordo com seu potencial impacto e aplicando níveis proporcionais de supervisão regulatória. É necessário estabelecer uma estrutura normativa robusta que garanta transparência, explicabilidade e accountability dos sistemas de inteligência artificial. Além disso, deve-se implementar mecanismos de fiscalização eficazes, e definir claramente as responsabilidades legais dos desenvolvedores e usuários. Do mesmo modo, se mostra indispensável fomentar a pesquisa e desenvolvimento éticos em inteligência artificial e estabelecer diretrizes para seu uso no setor público, promovendo ao mesmo tempo a educação e conscientização da sociedade sobre essas tecnologias, a chamada alfabetização digital da sociedade.

_____________

*Edson Pontes Pinto, sócio do Ernesto Borges Advogados. Professor Universitário (Católica de Rondônia). Doutor em Ciências Jurídicas (Universidad de Granada). Doutor em Direito (PUC/RS). Mestre em Direito (PUC/SP). Diretor-Geral da ESA/RO (OAB/RO).

Autor:

Inteligência Artificial – Entenda os riscos e como sua regulamentação pode garantir avanços positivos

Responsável pela área

Direito Administrativo e Público

Inteligência Artificial – Entenda os riscos e como sua regulamentação pode garantir avanços positivos

Advogados

Área de atuação

Relacionadas

Direito Administrativo e Público

voltar Icone Mais Direita