Uma parte substancial das nossas vidas é cada vez mais afetada por decisões que não são tomadas diretamente por humanos. A partir do tratamento de grandes volumes de dados (big data), da ampliação do uso de plataformas de inteligência artificial, ou, ainda, do crescente uso de algoritmos, torna-se possível a tomada de decisões automatizadas que possuem impacto profundo sobre a vida humana.

Dentre os exemplos dessas práticas estão a concessão de um empréstimo, de um visto de viagem, a definição do valor de um seguro, de um plano de saúde, o conteúdo visualizado em uma mídia social, o prestador de serviços que irá atender a uma chamada de transporte urbano, dentre muitas outras atividades cada vez mais comuns.

É preciso compreender como essas dinâmicas envolvendo inteligência artificial, algoritmos e big data atuam dentro do quadro de direitos de um determinado país, além do respeito a princípios éticos e de justiça. Esse debate implica as mais diversas dimensões, desde a proteção aos dados pessoais, transparência, auditabilidade, responsabilidade, dentre vários outros. Outro componente da discussão que vem se materializando progressivamente é o esforço para que essas tecnologias não levem a um agravamento de questões sociais presentes, como a desigualdade ou o aumento da vulnerabilidade de grupos sociais.

Por meio de estudos de caso, este projeto do ITS Rio produz conhecimento especializado na questão a fim de melhor compreender como a inteligência artificial, algoritmos e o big data podem ser desenvolvidos de modo ético e socialmente benéfico.

Dentre as atividades do instituto estão a promoção de discussões multissetoriais com o objetivo de extrair posicionamentos que orientem políticas públicas e práticas privadas sobre o tema. Com base no conhecimento gerado pelo projeto é possível construir decisões informadas com bases empíricas, promovendo boas práticas para uso benéfico dessas tecnologias. São potencializadas, com isso, tecnologias para promoção e desenvolvimento econômico e social, aumentando oportunidades e reduzindo desigualdades. Neste sentido, o projeto interage com governos, sociedade civil, setor privado, comunidade técnica e científica, sociedade civil e outros autores essenciais para esse importante campo.

Os principais objetivos do projeto são: conscientizar os setores público e privado sobre os efeitos das decisões dos algoritmos em populações vulneráveis; promover debates de políticas públicas e boas práticas para proteger esses grupos de análises de risco discriminatórios induzidos por algoritmos; e incentivar debates sobre governança de dados e sua aplicação em tempos de big data.