Cientistas avaliam os perigos e vantagens da Inteligência Artificial

O primeiro relatório sobre inteligência artificial (IA), produzido por um grupo de 16 cientistas de diferentes áreas e de várias instituições a pedido da Academia Brasileira de Ciências (ABC), alerta sobre os principais riscos e benefícios que essa tecnologia avançada pode trazer ao país. O relatório Recomendações para o avanço da inteligência artificial no Brasil está sendo lançado nesta quinta-feira (09), na sede da ABC, no Rio de Janeiro, e será encaminhado ao governo federal.

A tecnologia está avançando muito rápido e o que está ocorrendo no momento é uma tecnologia disruptiva, ou seja, você dá um passo bastante grande no sentido de alguma coisa. Há uma mudança tecnológica”. A avaliação foi feita à Agência Brasil pelo professor titular do Programa de Engenharia de Sistemas e Computação do Instituto Alberto Luiz Coimbra de Pós-Graduação e Pesquisa de Engenharia (Coppe), da Universidade Federal do Rio de Janeiro (UFRJ), Edmundo Albuquerque de Souza e Silva. Ele é também membro da ABC e um dos porta-vozes do relatório.

Souza e Silva lembrou que durante a Revolução Industrial, iniciada na Inglaterra no século 18, houve também uma tecnologia disruptiva, que mudou a forma de a sociedade sair da agricultura para as fábricas. “Agora, é outro tipo de mudança, mas vai causar impacto muito grande. A diferença é que, a mudança atual se baseia em tecnologia sofisticada. Vai ter impacto muito grande em emprego, não só naqueles repetitivos, mas também naqueles que tenham um patamar de conhecimento maior”.

O professor acredita que, para uma economia emergente como a do Brasil, se não forem tomadas as providências necessárias, será um desastre. “Porque, para dominar a tecnologia, você precisa ter conhecimento bastante especializado. Senão, vai ficar totalmente dependente em termos de tecnologia. Esse é um risco muito grande que a gente precisa estar ciente”, afirmou. O documento alerta que o futuro da sociedade brasileira será moldado pelas escolhas que o governo e a sociedade fizerem em relação à inteligência artificial. Sem investimento adequado na área, o Brasil pode ter um declínio tecnológico e ficar à mercê dos países que se acham na vanguarda nesse campo.

ChatGPT

Souza e Silva advertiu, por exemplo, que se for usada a ferramenta do chatGPT sem conhecimento dessa tecnologia, isso pode gerar respostas erradas com uma profundidade muito grande. O chatGPT é um sistema de IA desenvolvido pela OpenAI em 2022, capaz de conversar sobre os mais variados assuntos com seus usuários, a partir de comandos escritos. “Se não tiver uma consciência crítica e um conhecimento para usar para o bem aquilo que o chatGPT dá como certo, é um desastre. Pode ser a tendência de a população aceitar coisas que uma tecnologia diz e que pode estar certo ou errado”.

O documento da ABC recomenda a necessidade de educar as pessoas não só para o conhecimento da tecnologia, mas para despertar o pensamento crítico, visando o uso da IA de forma benéfica. Souza e Silva admitiu que existe um potencial de aumento de produtividade com o uso da IA, mas é preciso estar atento a eventuais erros que podem causar impacto grande. É preciso investir em pesquisas científicas, disse. A nova tecnologia pode auxiliar pesquisas nas escolas e universidades e desenvolver tutorias especializadas, entre outras coisas. “Mas você tem que estar ciente e desenvolver toda a parte de ciência. Senão, cada vez nós vamos ficar mais para trás”.

Empregos

Em relação a empregos, o professor da Coppe reafirmou que o nível de especialização requerido será cada vez maior. Há necessidade urgente de formar profissionais qualificados em áreas relacionadas à inteligência artificial, como aprendizado de máquina e ciência de dados. Países com liderança tecnológica já iniciaram essa formação há, pelo menos, uma década. O perigo, segundo avaliou, é precisar de gente mais especializada para desenvolver a tecnologia e, por outro lado, perder aqueles empregos mais simples. Com uma tecnologia dessas, programas simples de computação, os chamados softwares, desenvolvidos por empresas de pequeno porte, podem ser totalmente automatizados.

Com aumento de produtividade, podem ser dispensadas pessoas que sabem pouco de programação e ficar somente com os mais especializados ou que entendem mais de vários assuntos. “Vai ser um impacto sobre os empregos menos especializados”. Isso tudo é preocupante se não for desenvolvida rapidamente essa tecnologia e não educar as pessoas para níveis mais altos de conhecimento. Segundo o cientista da UFRJ, essa é a diferença da Revolução Industrial do século 18 para a IA. A transição fica muito mais difícil. “A distância é muito maior. Precisa-se de mais especialização”.

Campanha nacional

O relatório mostra a necessidade de realização de campanha nacional de informação, para que a população entenda o que é inteligência artificial, que o assunto deve ser ensinado nas escolas e se criem centros específicos de pesquisa nas universidades sobre essa matéria. “É imperativo que o Brasil estabeleça políticas públicas e investimentos para reverter a tendência de atraso sem demora”, diz o documento. Souza e Silva indicou que deve haver um pacto em IA entre ciência, setores público e privado, entidades organizacionais e levar ao conhecimento da sociedade o que é essa nova tecnologia e como devemos lidar com ela, criando-se mecanismos que possam diminuir os riscos a fim de evitar problemas para todas as áreas, como medicina e advocacia.

Diretor da ABC, professor da Universidade Federal de Minas Gerais (UFMG) e coordenador do grupo de trabalho, o professor Virgílio Almeida destaca a importância de investimentos em pesquisa e desenvolvimento em IA para que o Brasil não seja apenas um consumidor dessa tecnologia fornecida por outros países. “É preciso começar logo, porque esse desenvolvimento voa e outros lugares estão investindo, acelerando e criando políticas sobre o tema. O Brasil, por seu tamanho e importância, não pode ficar atrás. Do contrário, aumentará a distância entre o crescimento econômico aqui e o do mundo desenvolvido”, comentou.

Benefícios

O professor Souza e Silva assegurou que o potencial de aplicação benéfica da IA é muito grande, por exemplo, na educação. “Poder agilizar a maneira como você educa as pessoas, como apresenta riqueza de material com tecnologia já desenvolvida.”. Para os professores, facilita no ensino das disciplinas e eles podem se concentrar mais na parte crítica, desenvolvendo o conhecimento crítico dos alunos. A nova tecnologia pode ajudar a promover a criatividade e curiosidade e a fornecer conteúdos personalizados aos alunos, entre outras estratégias, com o objetivo de reduzir o abandono escolar.

Na área de saúde, a tecnologia pode ajudar no diagnóstico e identificação de doenças, na personalização de tratamentos e no uso de robôs em procedimentos médicos. Os dados do Sistema Único de Saúde (SUS) podem ser utilizados para desenvolver políticas públicas, “aprendendo com os dados e usando técnicas de IA para tratar essas informações e entender o que está acontecendo com a população”. Souza e Silva ressaltou, contudo, que não se pode delegar à IA a competência de dar o diagnóstico sem o médico, porque o erro que isso pode gerar é muito grande. A IA pode auxiliar o médico a ver coisas que seriam mais difíceis de serem detectadas. “Mas o médico tem que estar preparado para usar essa ferramenta e saber criticar a informação”.

O documento se refere também às aplicações da IA em energia, ajudando na prevenção de fenômenos climáticos e na tomada de decisões. Na biodiversidade, pode ser usada para prever problemas relacionados às mudanças climáticas, acelerar a proteção do meio ambiente, o monitoramento de animais. “Tem uma gama enorme de aplicações onde a IA já está sendo usada”. As empresas podem usar a tecnologia no atendimento a clientes, trazendo informações mais precisas, e ainda na otimização de processos e no avanço de novas formas mais humanas de automação, cita o relatório. “É um facilitador quando usa a IA de maneira correta e crítica”, afirmou o professor.

Riscos

O documento da ABC defende a regulamentação da IA para minimizar os riscos que essa tecnologia avançada pode gerar. Entre as preocupações está a violação de privacidade, uma vez que dados de usuários de internet são utilizados para treinar IAs generativas. Outro risco é que algoritmos usados em sistemas de IA, ao serem treinados por humanos, disseminem preconceitos e aumentem desigualdades. “Há um risco social e ético que nós, como sociedade, temos que estar cientes e educados para o impacto que isso pode causar”, observou o professor da Coppe/UFRJ.

Souza e Silva disse que uma legislação precisa ser criada para punição de responsáveis pela criação de textos falsos. “Tem que ter uma regulação mais complicada, sem tolher a sociedade. O que está sendo debatido é o que existe na legislação que pode ser aprimorado e criar um debate com a sociedade. Nós temos que abrir os olhos e debater o problema”.

O documento recomenda estabelecer regras e limites sobre o uso da IA, mas destaca a necessidade de participação da comunidade científica nas discussões. De acordo com o professor Virgílio Almeida, o desafio é duplo: proteger a sociedade e não atrasar o desenvolvimento tecnológico. Souza e Silva afirmou ainda que a ideia é que este seja um primeiro documento sobre IA que será aprofundado pela ABC.

O grupo de trabalho contou com a participação de pesquisadores de diferentes áreas, como ciências da computação, ciências sociais, física e saúde, entre outras. Além de Virgílio Almeida e Edmundo Albuquerque de Souza e Silva, participaram Adalberto Fazzio, André Carlos Ponce de Leon Ferreira de Carvalho e Fabio Gagliardi Cozman (Universidade de São Paulo); Altigran Soares da Silva (Universidade Federal do Amazonas); Anderson da Silva Soares (Universidade Federal de Goiás); Elisa Reis (UFRJ); Helder Nakaya (Hospital Israelita Albert Einstein); José Roberto Boisson de Marca (Pontifícia Universidade Católica do Rio); Luís Lamb (Universidade Federal do Rio Grande do Sul); Mário Veiga Ferraz Pereira (PSR, agência de consultoria em energia); Nivio Ziviani e Wagner Meira Júnior (UFMG); Soraia Raupp Musse (Pontifícia Universidade Católica do Rio Grande do Sul); e Teresa Bernarda Ludermir (Universidade Federal de Pernambuco).