“Hasta la regulación, IA!”

No filme “O Exterminador do Futuro”, estrelado por Arnold Schwarzenegger em 1984, a Skynet é uma Inteligência Artificial (IA) que ganha “consciência” e se volta contra os humanos. Dispara-se uma guerra sangrenta entre homens e máquinas.

O enredo é um clássico da ficção, onde acompanhamos as máquinas se valendo do recurso da viagem no tempo para enviar um robô – Terminator –  com a missão de exterminar a mãe do principal líder dos homens no futuro, impedindo-o de nascer. No filme 2 da série, o mesmo robô agora deve proteger a mulher de versões mais avançadas da máquina. Nesse e em tantos outros filmes de Hollywood, o que vemos são histórias que representam um fenômeno chamado de Síndrome de Frankenstein, o medo da criatura se voltar contra o criador. 

Mas o embate mais difícil para Schwarzenegger não foi enfrentar um robô com metal líquido. Anos depois de estrelar no filme, o ator governou, de 2004 a 2011, o estado que acolheu e acompanhou a ascensão de empresas de tecnologia – as chamadas big techs – reunidas no Vale do Silício, projetando ainda mais a já conhecida Califórnia. 

Google é a mais famosa delas, mas podemos listar também a Meta (Facebook), Microsoft, Apple e Intel. Essas empresas fizeram incursões perigosas no mundo político, possuem lobby articulado nos governos e se beneficiam financeiramente do caos e dos ruídos de comunicação no ambiente das fake news e pós-verdade. Embora a Google tenha começado com o slogan “Dont be evil” – “não seja mau”, as práticas dessa e das outras empresas são permissivas, como nos mostrou a pesquisadora americana Shoshana Zuboff no provocativo livro “A era do capitalismo de vigilância”. Um bom e recente exemplo foi a votação da PL das Fake News, na qual o lobby das big techs, contrário à proposta, foi tão articulado que dizia em uníssono “hasta la vista, baby” para a própria Democracia. 

Embora distantes da Skynet do filme, os recentes desenvolvimentos tecnológicos das big techs têm despertado igual atenção. O lançamento recente do ChatGPT e de outras inteligências similares nas últimas semanas reacendeu o debate sobre a IA nos dominar. Até que ponto as tecnologias criadas por essas empresas podem “criar” consciência e se voltar contra nós? O C2 conversou com alguns pesquisadores paranaenses que conhecem em profundidade a tecnologia, sobre as pesquisas desenvolvidas por eles e apresenta um panorama complexo de apreensão e aplicações.

Sem precedentes

O pioneiro artigo de Alan Turing “Computing Machinery and Intelligence” publicado em 1950 é tido como um dos primeiros textos sobre o conceito de Inteligência Artificial. Nesse artigo, Turing introduz o conceito de Teste de Turing, quando imagina uma situação hipotética de uma pessoa numa sala conversando com outra (sem a ver). Se a pessoa não souber diferenciar se conversa com uma pessoa ou com uma máquina é porque podemos dizer que a máquina passou no teste de Turing. Aqui, neste momento, não se trata de dizer que a máquina é inteligente ou pensa, mas que ela possui a capacidade de “simular” ou “fingir ser uma pessoa”. 

Para o professor Yandré Costa, da Universidade Estadual de Maringá-UEM, “a IA é uma área bastante abrangente, que abarca muitas técnicas, incluindo os conceitos de Machine Learning e Deep Learning”.

Da publicação do artigo na década de 50 por Turing até os dias atuais, a IA foi aplicada em diversas pesquisas, sendo ela mesmo objeto de estudo no campo das Ciências da Computação. Virou disciplina obrigatória em diversos currículos. 

“De tempos em tempos, os avanços na tecnologia de IA ganharam atenção e visibilidade, mas também viam que não entregavam aquilo que prometiam”, como nos disse a professora e pesquisadora  Carolina Paula de Almeida, que conversou conosco da Universidade Estadual do Centro Oeste-UNICENTRO, em Guarapuava. Ou seja, a atenção nesse momento pode ser mais um desses movimentos. Gera-se muito barulho por pouca coisa. 

Mas por que agora parece que a IA está em debate? Ações pontuais, como a melhora da escrita de uma redação ou escrever um texto do zero, são pontos principais no medo, na crítica ou na adesão a ela. 

Quer saber por quê?  

O fenômeno ganhou destaque recentemente devido à ampla cobertura midiática sobre o ChatGPT, um chatbot que tem a capacidade de manter conversas “naturais” com os usuários, chegando até a passar no Teste de Turing, caso não nos lembremos de que se trata de uma máquina simulando uma interação humana. O diferencial do ChatGPT é sua habilidade em acessar potencialmente milhões de conteúdos disponíveis na Internet, relacioná-los e fornecer respostas e soluções complexas para os usuários. Além disso, ele é capaz de aprender continuamente com as interações realizadas por nós e outras pessoas. 

Para ilustrar as potencialidades, o C2 usou o ChatGPT para melhorar a redação do parágrafo anterior e aqui cabe uma reflexão: a “IA da moda” não apontou se as informações escritas estavam certas ou erradas, apenas rearranjou algumas frases ou pontuações. O leitor mais curioso pode fazer um teste das potencialidades da ferramenta acessando aqui. 

Os melhores exemplos dos usos do ChatGPT vêm justamente quando a ferramenta é usada na “soma” com a inteligência, criatividade e subjetividade humanas, caso das campanhas publicitárias do McDonalds e do Burguer King que se valeram da ferramenta para criação dos seus textos. O que de fato temos nesse momento é que essas interfaces conseguem acessar um banco de dados quase infinito que é a internet e empregam modelos que vão aprendendo cada vez mais a partir da interação com os usuários. 

Isso sim é algo sem precedentes: a escala e a quantidade de dados e pessoas que usam os sistemas inteligentes.

Difusão de modelos profundos

A difusão de sistemas como o ChatGPT e outros nos mostra que eles são baseados em modelos profundos. O professor da UEM explica que o que está em jogo agora na IA são as pesquisas dedicadas a melhorar a capacidade de processamento em games. 

“Placas gráficas popularizadas na comunidade de gamers por uma alta demanda por processamento, acabaram viabilizando o desenvolvimento de pesquisas envolvendo a criação de modelos inteligentes baseados em redes neurais profundas” reforçou.  

Somado a essa capacidade de processamento temos bancos de dados que são infinitos, uma vez que os sistemas conseguem acessar potencialmente todo o conteúdo na internet. Isso explica o boom do deep learning.

O professor Yandré cita pesquisa empreendida por seu grupo, na qual os pesquisadores empregaram técnicas computacionais com sistemas inteligentes (nome mais abrangente para se referir à IA) para identificar padrão em exames de imagem (raio-x) de tórax e identificar pessoas com pneumonia com base na análise da imagem. Para tanto foi preciso acessar um acervo com centenas de imagens dessa natureza e treinar o modelo com um número para identificar o padrão do pulmão “saudável” e do “doente”. 

Quando se tem essa intenção, podemos dizer que a pesquisa emprega técnicas de reconhecimento de padrões. Publicada ainda em 2020 em prestigiada revista científica num momento de esforço mundial para compreender e diagnosticar corretamente a Covid-19, a pesquisa envolveu o professor e doutorando em computação na PUC-PR, Rodolfo Pereira. Os pesquisadores reforçam nos seus artigos que esses sistemas devem ser utilizados como suporte ao diagnóstico por um médico ou profissional da saúde habilitado, ou seja, com o ainda imprescindível componente humano lendo e interpretando os resultados apontados pela máquina. Afinal, trata-se de um sistema com IA de apoio à decisão e não para decidir. 

A pesquisa do grupo mostrou também a importância de treinar os sistemas com dados para evitar os chamados “vieses” – quando algo na informação disponível “suja” ou influencia o resultado final. 

Para demonstrar um pouco dos perigos dos vieses, Costa lembra do debate que se acendeu quando sistemas inteligentes foram usados pela justiça norte-americana para ajudar o juiz na tomada de decisões. Também descrito com preocupação por Cathy O´Neil no livro “Armas de Destruição Matemática”, esse sistema criou um viés preocupante. Os dados de decisões judiciais anteriores usados para alimentar o sistema tendiam a apontar pessoas jovens, moradores de periferia e pretas como aquelas com maior probabilidade de incidências de novos crimes. Assim, se o sistema seguir essa associação aparentemente lógica e enviesada pode-se estar reforçando o racismo e supervalorizando o perfil da raça no resultado final. 

Para esse tipo de fenômeno temos um nome: racismo algorítmico. Ele é facilmente percebido em outras situações, quando os sistemas de reconhecimento de imagem facial, criados e treinados por dados de pessoas de cor branca sentem dificuldades de reconhecer pessoas de cor preta, ou, em casos mais extremos, associaram pessoas pretas a macacos em banco de imagens. No google imagens, profissões como “empregadas” ou “porteiros” eram. quase que exclusivamente. representadas por imagens de pessoas pretas no sistema de busca, enquanto “empresários” e “chefes” são apresentados nas imagens por pessoas brancas. O debate do viés contribuiu para que essas empresas corrigissem algumas distorções do sistema, mas muito ainda deve ser feito. 

Esse movimento prova que a I.A deve ser supervisionada e questionada. Sua potência não a coloca como uma tecnologia neutra. O professor Costa lembra que tecnologia em si não é boa e nem má. “Uma faca pode ser usada para um crime, mas aqui em casa usamos para cortar alimentos”, ressalta. A mesma faca não é permitida em mochilas, em viagens de avião, e a não ser para ser utilizada na cantina e cozinha, não é bom ter facas circulando nas salas de aula. Assim como há certas regras para o uso de facas na nossa sociedade, mesmo não sendo elas as responsáveis diretas pelas mortes e acidentes, deve-se haver regras para o uso de IAs. 

Mas afinal, as IAs vão ganhar consciência?

Assim como quando a IA surgiu, ascendeu o debate sobre o que é “inteligência” e lançou pesquisadores de diversas áreas a definirem o que é algo “inteligente”. Para a pergunta se as IAs vão ganhar consciência é necessário estabelecer uma definição do que é  “consciência”. E quanto a isso há um importante debate que envolve filosofia, biologia, ciência cognitiva e neurociência. 

Se lembrarmos que o que caracteriza Inteligência Artificial é a capacidade de simulação dos processos mentais e vimos que muitos dos processos empregados envolvem a simulação da forma como as sinapses ocorrem no cérebro humano, então podemos pensar que sim,  algo é inteligente. Mas o mundo das emoções, das sensações e da percepção também está envolvido no que podemos chamar de “consciência”. Aquela nossa olhada no espelho e reconhecimento de que existimos no mundo, e pensando e refletimos sobre essa existência, com todo o bom ou mal-estar envolvido nisso, nos parece ser ainda algo inato do humano. Vimos em filmes situações de personagens que se apaixonam por IA, como no filme Her, mas podemos dizer que uma IA pode se apaixonar por alguém? 

O que aprendemos é que o tema de Inteligência Artificial não é apenas algo que deva interessar aos nerds. Ela está embrenhada no nosso cotidiano. Quando selecionamos um filme no serviço streaming, ouvimos uma música no Spotify, tudo está envolvido em um complexo sistema de recomendação, que fica recorrendo ao nosso histórico de consumo e assim aprende a sugerir. 

Costa é pouco otimista com alguns rumos que a IA tem tomado, pois ela “depende de regulamentação que pode passar por diversos níveis  – como se usa a informação, como se difunde, como é feita a tomada de decisão (autônoma) . Até que ponto uma IA pode decidir”. 

Regulamentar é preciso. Quem o fará? Para além de tecnológico, IA é um assunto político.

Google, “não seja mau”. Se for, “hasta la regulación, baby”!

Para saber outros detalhes sobre o que falaram nossos pesquisadores basta acessar o podcast Inteligência Artificial: meu bem, meu mal.

EQUIPE DESTA PÁGINA
Texto: Tiago Franklin Lucena
Revisão: Juliana Daibert
Supervisão de texto: Ana Paula Machado Velho
Arte: Leonardo Rasmussen
Supervisão de arte: Tiago Franklin Lucena
Edição Digital: Gutembergue Junior

A pesquisa que mencionamos contribui para os seguintes objetivos ODS: