Avanços tecnológicos até pouco tempo atrás considerados inviáveis ou temas de filmes de ficção científica têm se tornado realidade, em uma velocidade exponencial como jamais observada na história humana. Uma das tecnologias mais discutidas da atualidade é a inteligência artificial (IA).

Grandes players de tecnologia batalham na arena digital pelas inovações nesse campo, motivados pela grande diferença da inteligência artificial em relação às demais metodologias: enquanto as outras inovações são passivas e dependem da atividade humana para operar, a IA é uma ferramenta ativa, que aprende e age sozinha, tornando-se intuitiva ao agir sem a intervenção humana.

Ao mesmo tempo, ganha importância no cenário econômico mundial a valorização da ética e da transparência nas organizações, colocando em destaque o compliance, responsável por ajudar as empresas a estar em conformidade com normas, normativos internos, valores e objetivos estratégicos da organização.

As ferramentas de IA vêm sendo utilizadas na análise de documentos legais para a descoberta de potenciais problemas, detecção de comportamentos suspeitos, avaliação de transações financeiras irregulares, indícios de lavagem de dinheiro e demais violações legais.

Um exemplo vem da Controladoria-Geral da União, que criou, em 2014, a Analisadora de Licitações, Contratos e Editais (Alice), sistema que coleta diariamente e de forma automática dados sobre compras da Administração Pública Federal, avalia os riscos envolvidos e alerta os gestores sobre situações estranhas ao padrão de referência, de modo a otimizar a fiscalização do uso do dinheiro público, reduzir inconformidades e mitigar fraudes. Até junho de 2022, foram suspensas ou canceladas cerca de 9,7 bilhões de compras públicas, a partir de indicações de Alice.

O risco no uso da IA começa quando é delegada, a um algoritmo, a tomada de decisões que deveria ser preponderantemente humana. Isso porque os algoritmos podem ser tendenciosos, refletindo preconceitos e discriminações existentes na base de dados utilizada para o aprendizado da IA. É o caso, por exemplo, de um banco de dados composto por decisões anteriores,  judiciais ou administrativas, usado para identificação de padrões em crimes ou outros comportamentos. Ora, tais decisões podem conter vieses que viriam a contaminar o resultado da análise feita pela IA.

Embora tenha alta capacidade de processamento, a IA carece de uma habilidade totalmente humana: a de entender a realidade a partir de pontos de vista históricos e ideológicos – considerando a complexidade das relações humanas.

Segundo o Relatório de Índice de IA 2023, da Universidade de Stanford, o número de incidentes e controvérsias envolvendo a IA aumentou 26 vezes desde 2012. Considerando que o número de empresas que usam a inteligência artificial em 2022 mais que dobrou desde 2017, urge discutir as questões éticas envolvidas no tema.

Nessa linha, a própria IA deve ser objeto do compliance, de modo que, desde sua concepção, as ferramentas sejam transparentes, seguras e passíveis de monitoramento contínuo, além de serem delimitadas claramente as responsabilidades sobre as decisões tomadas por essa tecnologia.