Apesar do medo gerado pela possibilidade de perda de controle, ou até mesmo substituição da profissão, a realidade é que a IA está aqui. No cenário jurídico contemporâneo, a compreensão da Inteligência Artificial (IA) se tornou indispensável. Em um episódio especial do podcast Conexão Caixa, a Comissão de Inteligência Artificial trouxe à tona questões importantes sobre o papel dessas tecnologias no contexto legal.
O bate-papo foi com Dierle Nunes, presidente da comissão, que compartilhou insights valiosos sobre os desafios e oportunidades que as IA’s apresentam para o campo jurídico. “O jurista precisa entender como as IA’s funcionam, para aumentar sua produtividade”, ressalta Nunes.
Essa compreensão é vital, uma vez que as IA’s permeiam cada vez mais as operações jurídicas, influenciando desde a pesquisa até a tomada de decisões. Um dos principais tópicos abordados foram os riscos inerentes às IA’s no âmbito jurídico. Exemplos emblemáticos, como a discriminação algorítmica nos casos Compass e Gemini, foram abordados no podcast.
Há uma preocupação com os direitos e premissas éticas aplicáveis, como fairness, responsabilidade, transparência e ética, já que muitos modelos de IA, a depender das escolhas de abordagem e principalmente do conjunto de informações que o alimenta, podem gerar respostas enviesadas, também chamada de discriminação algorítmica, injustas ou antiéticas.
Recentemente o Google enfrentou críticas e problemas de reputação que vem tentando contornar, após o chatbot de inteligência artificial da empresa, Gemini, gerar imagens e textos historicamente e racialmente imprecisos. Entre os problemas identificados estavam representações racialmente diversas de soldados alemães da era nazista, fundadores dos EUA não brancos e até mesmo imprecisões na representação das raças dos próprios cofundadores do Google.
Essas situações, abordadas por Dierle no podcast, evidenciam como algoritmos podem inadvertidamente perpetuar preconceitos e desigualdades, levantando preocupações éticas e legais. Além disso, foi destacado o uso das IA’s para disseminação de fake news, especialmente em campanhas eleitorais.
A regulamentação estabelecida pelo Tribunal Superior Eleitoral (TSE) para mitigar esse problema foi um ponto também destacado no bate-papo.
Outro ponto da conversa foi a “alucinação maquínica”, onde as respostas das IA’s podem divergir da realidade. Em alguns casos, as IA’s podem inventar informações, comprometendo a precisão e confiabilidade das análises legais. Isso traz à tona a importância de vigilância e supervisão cuidadosa ao integrar IA’s em processos jurídicos. Nunes também ressaltou hipóteses em que juristas elaboram fundamentações jurídicas, mas as IA’s fornecem informações fabricadas. Esse cenário destaca a necessidade de transparência no uso de IA’s, garantindo que elas sirvam como ferramentas auxiliares, não substitutos, para o discernimento humano.
O podcast Conexão Caixa está disponível em:
YouTube: https://www.youtube.com/c/CAAMGOAB
Site: https://radio.caamg.org.br