UFMG propõe restrições para uso da Inteligência Artificial em ambiente acadêmico

A Universidade Federal de Minas Gerais (UFMG) discutiu, na manhã desta sexta-feira (3), uma proposta de regras e normas para a utilização de ferramentas de Inteligência Artificial (IA) no ensino, na pesquisa, na extensão e na administração da universidade.

As várias análises apresentadas podem compor uma série de documentos que darão origem à construção de uma política interna sobre o uso de IA para a instituição de ensino. O documento depende de aprovação do Conselho Universitário para entrar em vigor.

Durante o encontro, que contou com a presença de uma comissão formada por professores de Direito, Comunicação, Letras, Ciência Política, Engenharia, Medicina e do Instituto de Ciências Exatas (ICE), foram elencados os possíveis pontos disciplinares a serem encaminhados ao Comitê de Ética em Pesquisa (CEP) da UFMG.

UFMG é a primeira a propor restrições de uso de IA

Segundo o professor do Departamento de Ciência da Computação (DCC), Virgílio Almeida, o debate realizado serve como um indicador para um possível debate público no País para as demais instituições. De maneira a analisar e nortear os impactos da IA na UFMG, a federal em Minas Gerais é a primeira a criar propostas de análises reguladoras para usos de tecnologias generativas em espaços acadêmicos.

“A comissão entende que a mera criação de restrições para o uso de IA não é um caminho produtivo. Ou seja, dizer que nós não vamos usar ou impedir os alunos de fazerem uso é pouco realista e não aproveita as oportunidades que estão aí. Então, nós temos que procurar um caminho produtivo para discutir o contexto acadêmico em seu atravessamento por essas tecnologias”, diz Almeida.

Segundo o docente os grupos multidisciplinares de Ciências Sociais e de Ciências Humanas são chamados para o uso responsável dessas inteligências e tecnologias. “Eles devem estabelecer os limites de proteção para a sociedade, para o meio ambiente e, finalmente, para a questão da transparência.

Talvez, uma das grandes mudanças que esse avanço tecnológico vai trazer é a possibilidade de ampliar os processos de tomada de decisão a serem feitos por máquinas”, pontua.

Quais são os pontos de atenção observados pela comissão?

No ensino

• Recomendar que os pontos essenciais de cada disciplina sejam transparentes na explicação do que é autorizado e do que não é permitido em termos de uso de IA.
• Incentivar as discussões em sala de aula sobre o uso de IA no curso com reflexões sobre os pontos positivos e negativos do uso dessas tecnologias. “O uso é por conta de conhecimento? É para resolver uma demanda rapidamente? Ou por não ter um tempo suficiente? Quais são as razões que levam a elaboração de um trabalho ou de um projeto com a IA?”, exemplifica Virgílio Almeida.
• Debater aspectos controversos derivados de IA em atividade de ensino como os direitos autorais, preservação dos direitos autorais e a verificação de viés discriminatório dos algoritmos, privacidade, exclusão digital e desinformação.
• Estabelecer regras para uso e incorporação de tecnologia de IA em trabalhos acadêmicos, e o de fim de curso.

Na pesquisa

• Avaliar com cuidado os resultados produzidos por ferramentas de IA a evitar resultados falsos ou enganosos ao serem tratados como fontes de informação.

“A questão da Inteligência Artificial é interessante, pois observamos que a gente vê sempre uma uma polarização. Há um certo encanto pelo avanço tecnológico de um lado e por outro lado os prognósticos terríveis de riscos existenciais. A tecnologia é importante, mas não podemos esquecer o lado humano”, avalia o professor do DCC.

Na extensão

• Estimular o debate social sobre potencialidades e limites do uso de IA em atividades de projetos de extensão.
• Estimular via edital projetos de extensão sobre o uso social junto à sociedade e escolas públicas.
• Promover cursos on-line de letramento e capacitação de IA para as comunidades externas em projetos sociais.

Na administração

• Recomendar supervisão humana em atividades realizadas com o auxílio de IA para evitar distorções derivadas do uso de IA como discriminações sociais e desinformação.
• Evitar na UFMG o uso de modelos de caixa preta.
• Promover a transparência em decisões críticas que têm impactos sobre indivíduos e sociedade.