Imagine uma pessoa que chega em casa após o trabalho, coloca o aspirador automático para limpar o chão, navega pela internet e depois vai assistir a uma plataforma de streaming. Não se percebe, mas a inteligência artificial (IA) está presente em sequências rotineiras como essa.
O que nada tem de comum é o debate que tomou corpo sobre a proximidade da criação de uma Super IA – superinteligência artificial (ASI, na sigla em inglês) – com capacidade intelectual superior à dos humanos em todas as habilidades cognitivas. Um tema que provoca, ao mesmo tempo, temor e otimismo.
As fronteiras da IA estão em constante expansão. Quando esta reportagem foi publicada, a inteligência artificial estava mais evoluída do que no momento em que começou a ser escrita. Isso se deve a tecnologias como machine learning (aprendizado de máquina) e autoaprimoramento recursivo – a capacidade de melhorar a si mesmo. É a escalada desses processos que gera o risco de surgirem máquinas com uma consciência própria, alheia ao controle e aos interesses humanos.
O debate envolve questões éticas e a capacidade de supervisionar essa tecnologia – classificada pelo filósofo sueco Nick Bostrom como “a última invenção da humanidade”. Por ora, ainda é apenas uma hipótese sobre o terceiro (e provavelmente último) estágio da IA.
Hoje, estamos na primeira etapa – a inteligência artificial estreita (ANI). A expectativa (e o medo), no entanto, é que esse cenário já apareça na segunda etapa: a inteligência artificial geral (AGI), quando as máquinas vão igualar a capacidade intelectual humana.
Principal empresa do setor, a OpenAI, dona do ChatGPT, estima o desenvolvimento da Super IA já para a próxima década.
“A AGI é um passo importante rumo à superinteligência. Uma maneira pela qual ela e tecnologias semelhantes podem chegar lá é através da automação da pesquisa científica”, diz Simon Goldstein, professor de filosofia da Australian Catholic University e pesquisador do Center for AI Safety, dos EUA.
“Uma vez que a IA possa projetar novos sistemas, linguagens de programação e hardwares mais eficientes, a taxa de melhoria nesses recursos pode aumentar. Isso poderia levar a saltos inesperados nas capacidades de IA.”
Pelas nossas pegadas
Um dos exemplos do atual patamar da IA são os algoritmos de web, treinados para personalizar indicações de conteúdos de acordo com os dados gerados pelo comportamento dos consumidores nas plataformas. “Os avanços recentes da IA se baseiam fortemente em novas técnicas de construção de redes neurais a partir de dados”, confirma Fabio Cozman, coordenador do Centro de Inteligência Artificial da USP.
Muitas vezes, é uma forma de tornar a rotina mais prática, como mostram os assistentes virtuais Siri e Alexa, que podem executar tarefas como pesquisar na internet, fazer ligações ou gerenciar dispositivos domésticos, ou os chatbots de suporte ao cliente, capazes de esclarecer dúvidas com rapidez e precisão.
“Muitos dos resultados atuais são frutos da combinação de três fatores: a internet como fonte de dados textuais e de imagem em abundância; placas gráficas com alto poder computacional; e algoritmos de aprendizado capazes de se beneficiar dos outros dois fatores”, analisa Lucas Kupssinskü, professor do Curso de Ciência de Dados e IA da Escola Politécnica da PUCRS.
Nessa toada, a tecnologia vem revolucionando áreas fundamentais, como a medicina. A IA aprimora o diagnóstico e a análise de imagens, devido à capacidade de identificar padrões em ressonâncias e radiografias, permitindo a detecção precoce de doenças.
No Hospital das Clínicas de São Paulo, um algoritmo criado pela startup MaChiron leva 30 segundos para analisar uma tomografia e indicar prioridade ao paciente quando alterações são detectadas. Já os médicos precisam de quase uma hora para fazer o mesmo.
Praticamente todos os setores serão afetados nos próximos anos – a consultoria PwC estima que a IA trará aportes de US$ 15,3 trilhões na economia global até 2030.
No Brasil, segundo o IDC, a projeção era fechar 2023 com investimentos superiores a US$ 1 bilhão pela primeira vez. No segmento de varejo e e-commerce, por exemplo, a IA é utilizada para prever a demanda e controlar estoques, otimizando o planejamento de recursos e contribuindo para a eficiência através da análise de históricos de vendas e tendências de mercado.
A IA também é empregada no campo, com automação do maquinário, uso de GPS para demarcar áreas e agricultura de precisão. No futuro, deve aumentar o emprego de drones que permitem verificar a saúde da lavoura e o aprimoramento de sensores climáticos interligados a sistemas de irrigação automatizados e programados para responder a diferentes cenários – umidade do solo e quantidade de chuva, entre outros.
Super IA e o caminho da revolução
No estágio tecnológico atual, a IA aprende quando é alimentada por uma grande base de dados, passando a reconhecer padrões e elementos e reagindo de forma autônoma a diferentes cenários.
Uma IA direcionada ao xadrez, por exemplo, é abastecida com milhares de movimentos do jogo para poder reagir às jogadas como o cérebro humano faria. A programação dos algoritmos e a velocidade de análise são responsáveis pela habilidade de pensar da IA. “Muitos sistemas já são superiores aos seres humanos em diversas tarefas, como na pilotagem simulada de aviões de caça. Com o tempo, as IAs irão nos superar em uma ampla gama de afazeres”, analisa Simon Goldstein, do Center for AI Safety.
O caminho para a Super IA passa pelo aprimoramento nos processos de machine learning. Um passo adiante, o Deep Learning (aprendizado profundo) compreende e simula redes neurais de modo semelhante à inteligência humana. Por meio desse aprendizado mais sofisticado, a tecnologia atual já consegue entender as informações de modo mais complexo, diminuindo a necessidade de intervenção humana.
“Entendo que se pode desenvolver uma cognição talvez não superior à humana, mas mais rápida, com maior poder de processamento. A vantagem seria realizar tarefas de forma ininterrupta, não atreladas ao cansaço, que pode afetar o processo de tomada de decisão”, pondera João Paulo Papa, professor do Departamento de Computação da UNESP.
Tudo que cerca a IA ganhou forte repercussão após a rápida popularização do ChatGPT, ferramenta que alcançou 100 milhões de usuários em janeiro de 2023, apenas dois meses após seu lançamento, tornando-se o aplicativo de consumo com crescimento mais rápido da história.
O ChatGPT é uma tecnologia generativa, que usa Deep Learning e treinamento de redes neurais artificiais profundas para criar novas informações partindo de conjuntos de dados pré-existentes. O Bard, do Google, segue o mesmo padrão.
“A academia e a indústria estão explorando redes neurais artificiais para resolver uma gama cada vez maior de problemas. Isso tem possibilitado resultados impressionantes em geração de imagens e compreensão de textos”, avalia Lucas Kupssinskü, da PUCRS.
O avanço no processamento da linguagem natural permite que a tecnologia crie conteúdos inéditos, como textos, imagens e músicas, além de desenvolver códigos para softwares e protótipos de fabricação. É possível que o modelo, após obter uma base de textos de Paulo Coelho, consiga gerar uma nova obra seguindo o estilo do escritor brasileiro.
A funcionalidade da IA generativa, entretanto, vai muito além da criação de conteúdos inéditos, como mostra o caso da startup AIsthetic Apparel, de Portugal. Dedicada ao comércio de camisetas com designs desenvolvidos por IA, a empresa deu ao ChatGPT o cargo de CEO. O próprio fundador, João Santos, assumiu como assistente do bot, dedicando uma hora por dia para realizar as tarefas recomendadas pelo sistema. Além de assumir as operações, estabelecendo um plano de negócios com dez pontos, a IA indicou investidores e criou o nome e o logotipo da empresa. O negócio tornou-se lucrativo em uma semana e passou a projetar um lucro de 400 mil euros por ano.
Leia também:
Impacto no trabalho
As questões éticas e trabalhistas também estão em evidência com a popularização da IAs generativas. O avanço dessa tecnologia pode significar a desvalorização de artistas e talentos da indústria criativa. Muitos já incorporam essas ferramentas ao seu processo de trabalho. O temor é que o próximo passo seja justamente uma substituição de suas funções pelos softwares.
Por conta própria, vários setores estabeleceram limites regulatórios, como na recente greve de roteiristas e profissionais de criação norte-americanos, que restringiu a expansão das soluções de IA na indústria cinematográfica. De acordo com a Goldman Sachs, até 300 milhões de empregos (18%) em todo o mundo podem ser automatizados pelos novos modelos de inteligência artificial.
Outro ponto sensível diz respeito a encontrar maneiras de impedir que a tecnologia, por viés próprio ou uso inapropriado, possa disseminar preconceitos e discriminação.
Em julho, o site BuzzFeed publicou uma lista com 195 imagens de bonecas Barbie produzidas através do Midjourney, uma IA geradora de imagens. O resultado foi um show de estereótipos: a boneca do Sudão do Sul, por exemplo, tinha uma arma, enquanto a Barbie libanesa aparecia em meio a destroços de guerra.
Esse é um dos principais questionamentos éticos a respeito de um hipotético desenvolvimento da Super IA: se não houver treinamento e instrução adequados, as máquinas podem se transformar em poderosas ferramentas de perpetuação da discriminação. A Bloomberg revelou que uma análise de milhares de imagens de IA mostravam que cargos de trabalho mais bem remunerados estavam associados a um tom de pele mais claro, e a maioria era ocupada por homens.
Uma análise do site Rest of World também mostrou que IA tende a apresentar uma leitura bastante reducionista de identidades nacionais – as mulheres americanas eram loiras; os homens mexicanos usavam sombreros. A ignorância à diversidade cultural pode causar problemas reais, pois geradores de imagens já estão sendo usados para apresentar retratos forenses de suspeitos.
Para Lucas Kupssinskü, da PUCRS, mais importante do que antever eventuais distopias é observar as questões éticas apresentadas pelo cenário atual. “As preocupações mais urgentes estão relacionadas à privacidade e ao compartilhamento de dados pessoais que podem ser utilizados para treinar modelos, além da necessidade de equidade e justiça nessa aprendizagem das IAs e o resguardo de propriedade intelectual de textos e imagens.”
Os direitos autoriais, aliás, são uma questão ainda não contemplada na legislação atual. No momento, há quatro ações de autores contra as plataformas tramitando nos EUA, cujas decisões podem ter impacto decisivo para o modo de operação das empresas de IA. A mais célebre ação é assinada pelos escritores John Grisham, de A firma, e George R. R. Martin, de Game of Thrones, que tiveram suas obras usadas para o treinamento das ferramentas.
Extinção ou vida eterna
Caso alguma Super IA esteja operando até 2030, há 27% de chances de a humanidade ser extinta. Pelo menos é nisso que acreditam usuários do Manifold Markets, um mercado de previsões online.
Não há qualquer ciência nestas previsões – são mercados de apostas baseados em moedas fictícias em que os participantes tentam advinhar o futuro para depois comemorar seus acertos. Mas dá para ter uma ideia da mobilização que o tema provoca nos debates relacionados ao horizonte tecnológico.
A preocupação com o possível aspecto mais nocivo de uma superinteligência artificial é fundamentada na teoria de que será muito rápida a transição entre a AGI e a Super IA. Conforme essa hipótese, quando uma tecnologia igualar a inteligência humana, no caso da AGI, a sua capacidade de multiplicar esta inteligência sintética fará com que ela nos supere em pouco tempo.
Assim, conhecimentos que os humanos levam tempo para adquirir seriam absorvidos de forma muito rápida pelos sistemas de IA.
“A possibilidade está baseada tanto em processamento quanto em armazenamento, pois temos bases de dados muito grandes que demandam armazenamento considerável e também processamento de máquina para treinar os modelos”, avalia João Paulo Papa, da Unesp. “Esse modelo acaba tentando imitar nosso cérebro, que tem um poder de processamento paralelo muito grande.”
A partir deste ponto, como nos filmes de ficção-científica que se passam no espaço, ainda não se sabe exatamente o que nos espera. Os possíveis benefícios podem auxiliar a humanidade a solucionar alguns dos seus principais desafios – como a cura do câncer e a crise climática.
No entanto, os riscos poderiam assumir proporções catastróficas. Ou seja, há correntes antagônicas no que se refere à Super IA. Em uma rápida pesquisa, é possível encontrar termos que variam entre os extremos, como “extinção humana” ou “conquista da imortalidade”. Hoje nem os maiores especialistas parecem se sentir à vontade para desautorizar por completo qualquer opinião contrária. Em comum, a certeza do potencial que essas máquinas teriam para emular nosso cérebro.
Em 2014, quatro anos antes de morrer, o famoso físico Stephen Hawking afirmou que a Super IA representava um perigo à existência humana, devido às nossas limitações biológicas. Um grupo importante de especialistas, no entanto, acredita que esses riscos estão sendo inflacionados.
Para Michio Kaku, físico teórico do City College da Universidade da Cidade de Nova York, a IA generativa não passa de um “gravador superestimado”. Já para o renomado linguista e filósofo americano Noam Chomsky, “esses programas estão em uma fase de evolução cognitiva pré-humana ou não humana”.
Apesar do avanço constante, não haveria motivos para preocupações de cunho apocalíptico, pois a Super IA ainda estaria muito distante. “No estado atual dos nossos modelos, eu diria que ainda não estamos nem perto de atingir uma IA do nível de um gato ou cachorro”, compara Lucas Kupssinskü.
Em junho, a União Europeia deu os primeiros passos para definir os limites de uso da IA. A disposição do Parlamento Europeu fala, obviamente, do que já conhecemos de tecnologia. A grande questão é regular o que ainda está por acontecer, considerando a velocidade com que se imagina que acontecerá. Um dos principais pontos de debate é justamente o atual ritmo de desenvolvimento da IA, em que não há regras ou limites estabelecidos. Gigantes como Microsoft e OpenAI já se manifestaram para pedir maior regulamentação no setor.
“Se um dia chegarmos a uma IA similar ao processamento humano, significa que estaremos muito próximos de modelar todo nosso cérebro. Sabemos que somos falhos, com pontos positivos e negativos. Então, a tecnologia também poderia se tornar desonesta”, explica Papa, da Unesp.
Caso os sistemas superinteligentes assumam motivações próprias ou sejam controlados por interesses nefastos, existem riscos como manipulação do sistema financeiro, finalidades bélicas ou interferência em infraestruturas energética ou de transportes. No entanto, há também maneiras menos explícitas, mas igualmente danosas, de causar prejuízo à humanidade – como exercer manipulações através da imensa quantidade de informações individuais obtidas, o que já é uma questão sensível atualmente (no Brasil, a Lei Geral de Proteção de Dados vigora desde 2020).
Em entrevista à BBC, o pesquisador de políticas públicas Carlos Ignacio Gutiérrez, do Future of Life Institute, ressaltou que, em casos assim, a manobra sequer seria percebida, pois estaríamos lidando com “uma entidade intelectualmente muito superior aos humanos”.
Rédeas do futuro
No conto A última pergunta, do russo Isaac Asimov, um dos grandes autores de ficção-científica, publicado em 1956, o supercomputador Multivac passa bilhões de anos sendo questionado sobre o que vai acontecer quando o sol se apagar. Por muito tempo, a IA não tinha conclusão a oferecer: “Dados insuficientes para uma resposta significativa”. Em determinado dia, Multivac finalmente encontra a resposta, mas já não havia ninguém para ouvir. O seu senso do dever, no entanto, era muito forte. A resposta precisava ser encontrada, pois era tudo que havia restado da humanidade.
A autoconsciência é um ponto fundamental no conceito de Super IA. E é esse elemento que a torna potencialmente perigosa.
De acordo com um estudo do Instituto Max Planck, da Alemanha, divulgado em 2021 e atualizado no ano seguinte, os humanos não teriam a capacidade de controlar uma Super IA. De acordo com os autores do artigo, publicado no Journal of Artificial Intelligence Research, manejar a tecnologia ASI seria uma tarefa muito além da compreensão humana, o que inclusive impossibilitaria a criação de simulações para tentar dominar sistemas superinteligentes.
“Uma vez que um sistema está trabalhando em um nível acima do escopo de nossos programadores, não podemos mais estabelecer limites”, concluíram os pesquisadores.
Segundo a pesquisa, se não é possível entender os cenários que serão desenvolvidos por uma Super IA, não há como estabelecer regras – incluindo “não causar danos aos humanos”. O raciocínio deriva, em parte, de um problema levantado por Alan Turing, em 1936, quando o matemático e criptógrafo inglês provou, através de cálculos, que é logicamente impossível compreender como cada programa em potencial poderia responder a determinada situação. Conforme afirmou o cientista da computação Iyad Rahwan, um dos líderes do estudo alemão, este cenário “torna o algoritmo de contenção inutilizável”.
À medida que se tornam mais capazes, os sistemas de IA serão colocados no comando de uma proporção cada vez maior da economia. “Há um risco significativo de que os humanos percam o controle sobre os sistemas que criaram”, corrobora Simon Goldstein, do Center for AI Safety.
Com sua capacidade cada vez maior, as IAs vão estar mais propensas a se comportar como agentes, formando planos complexos para alcançar objetivos. “IAs com controle sobre recursos econômicos e militares podem desenvolver objetivos que se dissociam dos nossos. Isso poderia levar a um risco de conflito.”
Esse cenário de incerteza e a falta de regulamentação levou vários líderes, cientistas e pesquisadores do setor de tecnologia, entre eles Elon Musk, proprietário da Tesla e do X, a assinar em março de 2023 uma carta aberta com o pedido de que fosse suspenso, de forma temporária, o desenvolvimento de novas inteligências artificiais. Na carta, eles citavam o temor de “riscos profundos para a sociedade e a humanidade”.
A ação parece não ter surtido o efeito desejado. Na verdade, depois de sua publicação, houve aceleração de vários experimentos. Mesmo Elon Musk criou sua própria empresa de IA, enquanto a OpenAI aprimorou ainda mais o ChatGPT, com a inclusão de pesquisa por imagens. Não houve a adoção de sistemas de identificação capazes de distinguir imagens reais e sintéticas ou mesmo a implementação de certificação e auditoria, como o documento pedia.
Leia também:
Forte aliada
Em outubro, um estudo do hospital UMC Utrecht, da Holanda, apresentou uma IA capaz de identificar um tumor cerebral. A ferramenta tem como objetivo guiar cirurgiões na escolha do melhor procedimento.
No começo de 2023, pesquisadores de Harvard já haviam desenvolvido uma tecnologia para sequenciar, em tempo real, o DNA de um câncer cerebral, o que permite obter informações fundamentais sobre a melhor abordagem para cada caso.
Com sua eventual ultracapacidade de análise, uma Super IA poderia avaliar enormes conjuntos de dados de pacientes com câncer, como informações de genoma, dados clínicos e resultados de testes. Assim, seria possível identificar padrões e correlações muito difíceis de detectar manualmente, além de aprimorar medicamentos e classificar biomarcadores relacionados a cada tipo de câncer, contribuindo para a adoção de tratamentos personalizados.
Recentemente, o CEO da farmacêutica Moderna, Stéphane Bancel, afirmou que a cura do câncer passa pelo aprimoramento da IA, através de vacinas e RNA mensageiro. Hoje, sistemas de aprendizado de máquina já selecionam pacientes com mutações de DNA de células cancerosas e as codificam no mRNA, colaborando para terapias individualizadas.
A IA também pode ser útil para driblar o caos climático. A PwC projeta que, até 2030, essa tecnologia seria capaz de reduzir as emissões de gases causadores do efeito estufa em 4%. O estudo apontou, ainda, que o mercado de aplicações ambientais utilizando IA deverá valer até US$ 5,2 trilhões, com a capacidade de salvar até 32 milhões de hectares de florestas e reduzir em até 2,4 bilhões de toneladas as emissões de CO2.
Já há modelos que monitoram emissões globais de gases e robôs aquáticos que conseguem coletar dados dos oceanos, ajudando a acelerar a tomada de decisões por parte de governos e empresas.
Uma das medidas mais comuns baseadas em IA são os modelos preditivos, utilizados há anos para analisar as transformações climáticas, que vão se tornar ainda mais precisos com a possível criação de uma Super IA. A tecnologia também vai permitir o gerenciamento otimizado de recursos energéticos e transportes, além de contribuir para o planejamento de cidades sustentáveis e incrementar o monitoramento e a conservação de ecossistemas. //