Dados para Justiça

Como construir uma inteligência artificial mais segura e responsável no setor público? A solução parece mesmo vir da colaboração multissetorial. Desde de julho de 2022, por meio da parceria entre o Consulado da Alemanha no Rio de Janeiro, a Defensoria Pública Rio de Janeiro (DPRJ), as diversas organizações da sociedade civil e o ITS foi possível constituir um ambiente seguro para a criação de uma inteligência artificial (IA) mais inclusiva. 

Utilizando dados da justiça, foi desenvolvido  um projeto piloto para incrementar o trabalho da DPRJ  para acesso à saúde. Isso porque, em cerca de 20 anos de existência, os defensores públicos no Brasil alcançaram resultados notáveis ​​para garantir os direitos à saúde. No entanto, os recursos humanos dessa instituição ainda são muito limitados: há, atualmente, um defensor público para cada 150 mil pessoas. . Assim, embora o país tenha um forte arcabouço legal sobre o direito à saúde e um sistema de saúde universal, o número de casos de medicamentos negados aumenta em torno de 5% ao ano, com pelo menos 500 mil  casos ainda pendentes, enquanto 59% da população brasileira está elegível para assistência e orientação jurídica.

Além disso, os cidadãos que os defensores públicos apoiam são os grupos mais vulneráveis ​​e marginalizados. Em especial nas favelas do estado do Rio de Janeiro, onde o projeto foi desenvolvido , 81% das pessoas  atendidas pela DPRJ  têm renda de  até um salário mínimo. Além disso, os casos relacionados a medicamentos negados, só no Rio de Janeiro, superam mais de 100 casos por mês, com picos de 10 mil  casos por mês. 

O uso de dados para melhorar o sistema judiciário é um caso bem conhecido no Brasil, país que possui o maior acervo digital de dados jurídicos. Os defensores públicos, nesse sentido, estão entre os pioneiros no desenvolvimento de equipes de inovação para usar ferramentas digitais de forma mais eficiente. Utilizar-se de técnicas de aprendizado de máquina, portanto, pode ajudar a melhorar drasticamente a análise de dados judiciais, fornecendo feedback exclusivo e aumentando a eficiência do trabalho, mesmo quando a IA aplicada é simples e acessível, o que ficou claro a partir das conclusões desse trabalho. 

Foi com base nessa percepção, portanto, que este projeto buscou aprofundar-se nos dados de litigância em saúde dos mais vulneráveis. Utilizando metodologia de Sandbox operacional de IA, cujo intuito principal é garantir o desenvolvimento seguro e responsável da tecnologia, o projeto iniciou-se a partir da formação de um Comitê Multissetorial que contemplou diferentes pontos de vista para construir uma ferramenta de inteligência artificial inclusiva, que contemplasse diretrizes e princípios éticos. 

No relatório abaixo, são apresentados os resultados de um processo multissetorial que deságua em um possível modelo de desenvolvimento de IA para o setor público brasileiro, tendo como ponto de partida a experiência de uma Sandbox Operacional de Inteligência Artificial para a  DPRJ. São compartilhadas lições aprendidas na construção de uma IA ética e responsável junto a  um passo a passo, obtido por meio de um estudo de caso em parceria com a equipe da instituição.  Os dados obtidos podem apontar caminhos para a melhor concretização do direito à saúde no estado do Rio de Janeiro.

 1. Dados disponíveis em: https://www.defensoria.rj.def.br/noticia/detalhes/20377-Historias-do-Plantao-Noturno-defesa-do-direito-a-saude-e-destaque e https://www.defensoria.rj.def.br/uploads/arquivos/09d3bcf2aa2c44e28fb55498d0a65f3d.pdf. Acesso em: 20 março 2023.

2. O ITS produziu relatório sobre essas iniciativas. Disponível em: https://itsrio.org/en/publicacoes/the-future-of-ai-in-the-brazilian-judicial-system/. Acesso em: 20 de março 2023.

Com o intuito de construir uma IA ética e responsável, a Sandbox operacional de IA procurou garantir a representatividade dos distintos setores da sociedade que pudessem ser impactados pela tecnologia a ser desenhada. Por isso, envolveu diferentes atores interessados, incluindo setores da academia, sociedade civil e corpo técnico. A participação social em projetos de tecnologia promove a formação de grupos multissetoriais para contribuir com a criação de valores e princípios em consonância com os direitos humanos e liberdades fundamentais, particularmente os direitos de pessoas marginalizadas e vulneráveis.

O Comitê Multissetorial apoiou o desenvolvimento do desenho colaborativo de uma tecnologia de Inteligência Artificial por meio da plataforma de teste em um Sandbox Operacional. Fizeram parte do Comitê especialistas da DPRJ , das ONGs PretaLab e Instituto de Estudos para Políticas de Saúde (IEPS), do Instituto FioCruz e da Escola Nacional de Saúde Pública Sérgio Arouca, além de membros do setor técnico de desenvolvimento tecnológico. 

 Os especialistas reunidos no Comitê definiram o caminho e os mecanismos de desenvolvimento a serem institucionalizados na ferramenta tecnológica, assim como delimitaram e validaram os princípios da Sandbox para o seu desenvolvimento responsável. A diversidade de conhecimento e experiência plural dos membros foi de grande valia para o desenho e desenvolvimento do projeto. 

Diagnósticos dos dados de litigância em saúde no estado do Rio de Janeiro 

O painel abaixo busca trazer visualizações estruturadas dos principais litigantes e das regiões de origem da maioria dos casos de litigância em saúde no estado do Rio de Janeiro. As atividades de acompanhamento incluem a triagem de uma lista de 7 mil medicamentos e sua presença em casos nos quais atuaram Defensores Públicos do Rio de Janeiro. 

A partir das discussões do Comitê Multissetorial foram definidas: (i) as perguntas a serem respondidas no desenvolvimento da ferramenta tecnológica; (ii) os parâmetros ético-políticos e (iii) requisitos desejáveis para desenvolvimento seguro da ferramenta. 

Com base nessas definições, foi realizado um diagnóstico da base de dados de litigância em saúde fornecida pela DPRJ , por meio do acesso ao Banco de Dados do sistema Verde (adotado pela DPRJ), da qual foram extraídas 13.812 entradas, referentes a atores (autores, réus, etc), envolvidos em processos de medicamentos e tratamentos. 

O diagnóstico foi seguido por uma análise exploratória para a avaliação de quais inquirições poderiam ser exploradas com a atual base, além de quais melhorias nesta base e estrutura dos dados poderiam promover a resposta a demais questionamentos. E, por fim, realizou-se o desenvolvimento de um código para a resposta de uma pergunta selecionada para um protótipo do que pode vir a ser essa ferramenta tecnológica.

A pergunta principal definida pelo Comitê Multissetorial para guiar a realização do projeto foi: Qual o perfil do requerido (réu)? É órgão público ou privado?

Compreender o perfil do réu pode estimular a tomada de decisões fundamentadas, importantes em políticas públicas de saúde por gestores para todo o estado, como, por exemplo, compreender com base em dados se o Sistema Único de Saúde (SUS) vem sendo mais ou menos utilizado por essa população. Além disso, responder à questão reflete na possibilidade de compreensão global, pelos defensores públicos da litigância em saúde no Rio de Janeiro, o que permite a realização de uma litigância que seja eficiente e estratégica.  

3.1 Consistência

Para a realização dos  estudos estatísticos, é necessário garantir que a informação presente no Banco de Dados represente assertivamente a realidade modelada,  isso é feito por meio  da busca por violações de restrições de integridade, como são chamados os indicadores de discrepâncias entre a realidade e o modelo de dados. Dessa forma, é necessário analisar a consistência dos dados presentes no sistema. As conclusões dessa análise servem também para gerar confiabilidade da base utilizada para o desenvolvimento de futuros projetos em IA.  

Analisando a consistência das informações contidas no Verde, verificou-se que não houve violação de restrições de integridade do banco de dados e que há consistência das chaves estrangeiras (Foreign Key – FK) e primárias (Primary Keys – PK) entre as tabelas do banco de dados, possibilitando os cruzamentos desejados (e possíveis).

Além disso, foi realizada outra validação de consistência: avaliou-se a sobreposição de informações das observações advindas da tabela de pessoa física versus a tabela de pessoa jurídica. O resultado, apresentado na tabela a seguir, indica não haver sobreposições, isto é, não existe nenhuma entrada no banco que representa, ao mesmo tempo, uma pessoa física e uma jurídica. 

3.2 Cruzamentos adicionais

Tendo em vista que o objetivo foi  compreender melhor o perfil do requerido, isto é, averiguar se o réu era órgão público ou privado, foram realizados alguns cruzamentos de caracterização apresentados nesta seção. 

Primeiramente, foi levantado o perfil de personagens para pessoas jurídicas e físicas, conforme pode ser visto na tabela a seguir. Nota-se que, majoritariamente, os autores são pessoas físicas e os réus pessoas jurídicas, validando a proporção esperada dada a natureza dos processos (isso é, que em geral, na saúde, o autor é pessoa física que litiga em face de pessoa jurídica pública ou privada).

Os dados mostram que alguns processos contam com mais de um réu e que os tipos de réus variam entre pessoa física e pessoa jurídica. A partir dessa informação, foi investigada a quantidade de réus nos processos. Essa compreensão é importante para que em sua atuação os defensores compreendam como e a quem melhor direcionar cada demanda.

Na tabela a seguir, observa-se a distribuição dos réus nos processos. As linhas apresentam a quantidade total de réus no processo e as colunas quantos réus são pessoa física. 

Na coluna “Nenhum” aparecem a quantidade de processos que não possuem como réus pessoas físicas. As demais colunas, apresentam a quantidade de processos com um a três réus pessoas físicas. Dos 6.070 processos que têm como réu pelo menos uma pessoa jurídica, apenas 356 (5,86%) também contam com pelo menos uma pessoa física como réu.

Foram também analisados 5.097 processos que tinham pelo menos uma pessoa jurídica como réu. A tabela abaixo indica a quantidade de processos segundo o tipo de pessoa jurídica do réu.*

Nota-se que mais de 97% dos réus são órgãos públicos, sendo mais de 50% deles órgãos municipais, o que era esperado dado o recorte por temas ligados à saúde e o fato de que o Brasil dispõe do SUS capilarizado, com responsabilidades compartilhadas nos três níveis federativos e cujo ente responsável pela oferta de serviço no território e o município.

4. Relevância do cruzamento de dados

O projeto rendeu resultados significativos e diversas lições aprendidas (a exemplo do desafio de converter texto PDF estruturado em dados de texto bruto). As tabelas apresentadas contêm visualizações estruturadas dos principais litigantes. 

Os resultados buscam aumentar os esforços atuais dos defensores públicos para ampliar o direito à saúde em favor dos grupos vulneráveis no Brasil. Nesse sentido, buscou-se desenvolver e transferir tecnologia de IA de código aberto, com base nos dados de justiça fornecidos pela DPRJ , para melhorar seu alcance e eficiência na proteção de medicamentos negados a grupos vulneráveis ​​e marginalizados. 

Para compreender desafios e pormenores do desenvolvimento do projeto, recomendamos o acesso ao Toolkit, no qual são descritos os objetivos, a metodologia do projeto, os desafios e os resultados obtidos.

* Vale ressaltar que é possível haver mais de um réu (pessoa física ou jurídica) num mesmo processo. Também é possível haver diferentes tipos de pessoa jurídica, no mesmo processo. Portanto, a tabela não trata de ocorrências únicas, logo, se um processo tiver como réus uma Empresa Privada e um Órgão Público Municipal, esse processo estará contado em ambas as linhas.