Papel social da Inteligência Artificial

Moisés Nascimento*

A Inteligência Artificial (IA) despontou como uma das tecnologias recentes mais promissoras, com potencial de mudar a forma como vivemos e trabalhamos. Novas ferramentas têm popularizado a tecnologia, mas as principais empresas do mundo já usam aplicações de IA para customizar soluções para clientes e aumentar a eficiência.

No setor financeiro, há vários exemplos de aplicações. No Itaú, temos evoluído as análises de crédito para que sejam cada vez mais embasadas em informações em tempo real. Assim, é possível avaliar o contexto de relacionamento de cada cliente e oferecer o que há de mais adequado para seu perfil e momento de vida.

Mas a IA também tem se mostrado poderosa para lidar com desafios sociais. Em um artigo escrito por Bill Gates, ele a descreve como algo tão marcante quanto a criação de outras revoluções tecnológicas, como o computador, a internet e o celular. Segundo Gates, ela pode resolver problemas por meio de soluções mais eficientes para questões complexas, desde o combate à fome até a previsão e prevenção de desastres naturais.

No Brasil, um país com tantos problemas estruturais, essa pode ser uma forma para melhorar a qualidade de vida das pessoas. Os algoritmos podem ajudar a prevenir doenças, personalizar o ensino nas escolas e auxiliar na prevenção contra crimes. Mas, em meio a tantas possibilidades, qualquer nova tecnologia disruptiva levanta questões sociais. Há debates relacionados a mão de obra, privacidade, preconceito e mais.

É importante assegurar que a IA evolua de forma ética e responsável, para evitar a ampliação de vieses inconscientes e estereótipos já existentes na sociedade que podem levar a resultados discriminatórios. Há alguns exemplos negativos nos últimos anos, como os carros autônomos nos Estados Unidos que foram treinados para identificar com mais acurácia pedestres de pele clara. Ou o de um jovem negro brasileiro que precisou provar sua inocência três vezes na justiça após ser acusado por conta de erros de reconhecimento facial.

Para que a IA seja realmente capaz de contribuir com a solução desses problemas, é preciso que as ferramentas sejam treinadas de forma a levar em conta a diversidade e as particularidades da população, além de garantir que as ferramentas não reproduzam preconceitos e vieses presentes na sociedade, mas sim que promovam a igualdade e a inclusão. No entanto, é importante lembrar que – assim como a sociedade – a tecnologia também está em constante evolução e a análise e correção de vieses deve ser um processo contínuo. 

Contar com times diversos dentro das companhias que estão trabalhando no desenvolvimento de plataformas é fundamental para a criação de soluções de IA mais representativas da sociedade. Cada pessoa tem uma perspectiva única, e trazer pontos de vista distintos e antagônicos permite convergir para soluções com mais qualidade e maior escalabilidade. Com isso, é possível obter uma solução que tenha representatividade mais fiel ao que é a nossa sociedade para atender às necessidades de todos os grupos sociais. 

Ao abordar todas as questões que envolvem a evolução da Inteligência Artificial, Gates sugere ainda três princípios centrais que devem guiar essa conversa nos próximos anos: o primeiro é o equilíbrio entre os temores sobre a da IA com sua capacidade de melhorar a vida das pessoas. O segundo diz respeito a priorizar os esforços para garantir que as ferramentas sejam usadas para reduzir questões de desigualdade social. Por fim, devemos lembrar que estamos só no começo do que ela pode realizar e que quaisquer limitações de hoje poderão desaparecer antes que percebamos. 

Acrescento ainda que é fundamental que essa discussão sobre o uso da IA de fato aconteça, levando em conta questões sociais, e que seja feita de forma ampla e participativa, envolvendo a sociedade civil, o governo, o setor privado e a academia. Não podemos nos esquecer que essa pode ser uma ferramenta muito valiosa para a construção de um futuro mais inclusivo e com mais oportunidades. Para isso, é fundamental que ela seja usada de forma responsável, transparente e ética, sem violar os direitos fundamentais das pessoas.
 

*Diretor de Tecnologia e líder da área de Dados e Analytics do Itaú Unibanco