Líderes de tecnologia pedem uma pausa em grandes projetos de IA. Mas será que o mundo vai ouvir?

À medida que a IA se torna mais poderosa e difundida, as preocupações sobre seu impacto na sociedade continuam aumentando. Nos últimos meses, vimos avanços incríveis como o GPT-4, um modelo de linguagem nova versão do ChatGPT, da Open-AI, capaz de aprender tão rápido e responder a uma infinidade de questões com um nível de qualidade surpreendente.

Mas ao mesmo tempo que esses recursos se tornam indiscutivelmente úteis de várias maneiras, os avanços da IA levantam muitas preocupações sobre o futuro da civilização.

Na semana passada, em uma “carta aberta” assinada pelo CEO da Tesla, Elon Musk, o cofundador da Apple, Steve Wozniak, e também por representantes de uma ampla gama de campos, como robótica, aprendizado de máquina e ciência da computação, pediu seis meses de pausa nos “gigantes experimentos de IA”, mencionando catastróficos riscos para a humanidade.

Desde então, venho acompanhando as opiniões de alguns especialistas e convido você a se juntar a mim em uma reflexão sobre esse cenário.

A carta aberta

A “Pause Giant AI Experiments: An open letter”, que atualmente conta com quase 6 mil assinaturas, pede, em caráter de urgência, que os laboratórios de inteligência artificial “parem de pesquisar sistemas mais poderosos que o GPT-4“, diz o destaque no cabeçalho.

A carta adverte: “Laboratórios de IA travados em uma corrida fora de controle para desenvolver e implantar mentes digitais cada vez mais poderosas que ninguém – nem mesmo seus criadores – pode entender, prever ou controlar de forma confiável”.

E também prevê um futuro apocalíptico: “Devemos deixar que as máquinas inundem nossos canais de informação com propaganda e inverdades? Devemos automatizar todos os trabalhos, incluindo os satisfatórios? Deveríamos desenvolver mentes não-humanas que eventualmente nos superassem em número, fossem mais espertas, obsoletas e nos substituíssem? Devemos arriscar perder o controle de nossa civilização?”

Qual é o real “peso” desta carta?

A princípio é fácil simpatizar com a causa, mas vamos refletir sobre todos os contextos globais envolvidos.

Apesar da carta ser endossada por uma longa lista de autoridades líderes em tecnologia, incluindo engenheiros do Google e da Meta, por exemplo, a carta gerou sérias controvérsias em torno de alguns assinantes representativos inconsistentes com suas práticas em relação aos limites de segurança envolvendo suas tecnologias, como o próprio Elon Musk. demitiu sua equipe de ‘IA ética’ no ano passado, conforme relatado por Wired, Futurism e muitos outros sites de notícias na época.

É válido mencionar que Musk, que foi um dos fundadores da Open-AI e deixou a empresa em 2018, os tem atacado repetidamente no Twitter com duras críticas a respeito dos avanços do ChatGPT.

Sam Altman, cofundador da Open-AI, em uma conversa com o podcaster Lex Fridman, diz que as preocupações sobre os experimentos de AGI são legítimas e reconhece que riscos, como a desinformação, são reais.

Além disso, em entrevista ao WSJ, Altman diz que a empresa há muito se preocupa com a segurança de suas tecnologias e que passou mais de 6 meses testando a ferramenta antes de seu lançamento.

Quais são os efeitos práticos da carta?

Andrew Ng, fundador e CEO da Landing AI, fundador da DeepLearning.AI e sócio-gerente geral do AI Fund, publicou em sua conta do Linkedin: “O apelo por uma moratória de 6 meses para fazer o progresso da IA ​​além do GPT-4 é uma péssima ideia. Estou vendo muitas novas aplicações em educação, saúde, alimentação, … que vão ajudar muitas pessoas. Melhorar o GPT-4 ajudará. Vamos equilibrar o enorme valor que a IA está criando com os riscos realistas.”

Ele também disse: “Não há uma maneira realista de implementar uma moratória e impedir que todas as equipes ampliem os LLMs, a menos que os governos intervenham com uma política de inovação”.

Ele também disse: “Não há uma maneira realista de implementar uma moratória e impedir que todas as equipes ampliem os LLMs, a menos que os governos intervenham. Fazer com que os governos suspendam tecnologias emergentes que eles não entendem é anticompetitivo, estabelece um precedente terrível e é uma péssima política de inovação.”

Assim como NG, muitos outros especialistas em tecnologia também discordam do ponto principal da carta, pedindo a interrupção dos experimentos. Na opinião deles, dessa forma, poderíamos prejudicar grandes avanços na ciência e nas descobertas da saúde, como a detecção do câncer de mama, conforme publicado no NY Times no mês passado.

Ética e regulamentação da IA: uma necessidade real

Enquanto ocorre uma verdadeira corrida entre gigantes para colocar no mercado soluções LLM cada vez mais inteligentes, o fato é que pouco se avançou no sentido da regulamentação e de outros cuidados que precisam ser tomados “para ontem”. Se pensarmos bem, nem seria preciso focar nos acontecimentos “apocalípticos”, aqueles de longa duração, como os mencionados na carta, para confirmar a urgência. Bastariam os atuais e fatídicos problemas gerados pela “desinformação”.

Em torno disso, vimos recentemente como a IA pode criar “verdades” com montagens perfeitas de imagens, como a foto viral do Papa usando um casaco puffer que dominou a web nos últimos dias, entre tantas outras produções e circulação de vídeo “falsos”, usando vozes e rostos de celebridades.

Nesse sentido, os laboratórios de IA, incluindo o Open-IA, têm trabalhado em soluções que possam ajudar na identificação de conteúdos (textos, imagens, vídeos etc.) gerados por IA, como, por exemplo, como o uso de marca d’água, conforme mostra esse artigo da What’s New in Publishing (WNIP).

Conclusão

Assim como a política de privacidade implementada nos sites por onde navegamos para garantir o nosso poder de escolha, concordando ou não em compartilhar nossas informações, acredito que é possível pensar num futuro onde a inteligência artificial trabalha, de forma segura, para novos avanços da nossa sociedade.

Quer continuar atualizado com as melhores práticas de Marketing? Então se inscreva na The Beat, o boletim interativo da Rock Content. Lá, você encontrará todas as tendências que importam no cenário do Marketing Digital. Vejo você lá!