O que os avisos do ‘padrinho da IA’ significam para o futuro das relações humanas com a IA?

Enquanto a IA lança seus novos “poderes mágicos” no mercado, as tensões aumentam na comunidade tecnológica e na sociedade como um todo. A que tipo de risco a humanidade estará sujeita? Parece um filme de ficção científica para você? Mas não é! Esta é uma preocupação real e pessoas de várias áreas estão falando sobre isso agora, enquanto você está lendo este artigo.

Muitos cientistas e profissionais de tecnologia estão preocupados com o que podemos esperar nos próximos anos, com o Machine Learning ficando cada vez mais inteligente. Como exemplo disso, em março, foi publicada uma carta aberta assinada por muitos representantes da IA pedindo uma pausa de 6 meses no desenvolvimento da IA.

Paralelamente a isso (e meio controverso), algumas dessas mesmas empresas estão demitindo profissionais especialistas em ética de IA. Parece que os conflitos éticos estão incendiando os gigantes, certo?

Em alguns casos, renomados profissionais de IA estão deixando seus empregos. Esse é o caso do pioneiro da IA Geoffrey Hinton, que deixou o Google na semana passada.

Embora ele tenha feito questão de não vincular sua renúncia aos problemas éticos da empresa, o fato reforçou as preocupações com o desenvolvimento da IA e a falta de transparência enquanto as grandes empresas de tecnologia avançam assustadoramente em suas pesquisas e descobertas, confrontando-se em uma disputa desproporcional.

Quem é Geoffrey Hinton, o “padrinho da IA”?

Geoffrey Hinton é um psicólogo cognitivo e cientista da computação de 75 anos, conhecido por seu trabalho inovador em deep learning e pesquisa de redes neurais.

Em 2012, Hinton ajudou a construir um programa de machine learning capaz de identificar objetos, o que abriu as portas para modernos geradores de imagem de IA, por exemplo, e depois para LLMs como Chat-GPT e Google Bard.

Ele trabalha com seus dois alunos na Universidade de Toronto. Um deles é Ilya Sutskever, cofundador e cientista-chefe da OpenAi, responsável pelo Chat-GPT.

Com uma intensa formação acadêmica em grandes universidades e prêmios como o Award Turing 2018, Geoffrey Hinton largou o emprego na semana passada no Google, onde dedicou 10 anos ao desenvolvimento de IA. Hintons agora quer se concentrar em uma IA ética e segura.

A partida de Hinton e os avisos

Segundo entrevista ao The New York Times, o cientista deixou Google para ter a liberdade de falar sobre os riscos da inteligência artificial.

Para esclarecer suas motivações, ele escreveu em sua conta no Twitter “No NYT hoje, Cade Metz insinua que deixei Google para poder criticar Google. Na verdade, saí para poder falar sobre os perigos da IA sem considerar como isso afeta o Google. O Google agiu com muita responsabilidade”.

Depois que Hinton saiu do Google, levantou fatores que envolvem o excesso de confiança na IA, preocupações com a privacidade e considerações éticas. Vamos mergulhar nos pontos centrais de seus alertas.

Máquinas mais inteligentes que nós: isso é possível?

De acordo com Geoffrey Hinton, as máquinas se tornarem mais inteligentes que os humanos é uma questão de tempo. Em uma entrevista à BBC, ele disse:

“No momento, eles não são mais inteligentes do que nós, pelo que posso dizer. Mas acho que logo poderão ser”, referindo-se aos chatbots de IA, mencionando sua periculosidade como “bastante assustadora”.

Ele explicou que, na inteligência artificial, as redes neurais são sistemas semelhantes ao cérebro humano na forma como aprendem e processam informações. O que faz com que as IAs aprendam com a experiência, assim como nós. Isso é deep learning.

Comparando os sistemas digitais com os nossos sistemas biológicos, destacou: “… a grande diferença é que com os sistemas digitais, você tem muitas cópias do mesmo modelo no mundo e todas elas podem aprender separadamente, mas compartilham seu conhecimento instantaneamente. Portanto, é como se você tivesse 10.000 pessoas e sempre que uma pessoa aprendesse algo, todos automaticamente soubessem. E é assim que esses chatbots podem saber muito mais do que qualquer pessoa”.

IA nas mãos erradas

Ainda assim, para a BBC, Hinton mencionou os perigos reais de ter chatbots de IA nas mãos erradas, explicando a expressão “maus atores” que havia usado antes de falar com o The New York Times. Ele acredita que uma inteligência poderosa pode ser devastadora se estiver nas mãos erradas.

A importância do desenvolvimento responsável da IA

É importante dizer que, diferente dos muitos signatários da carta aberta, mencionados no início deste artigo, Hinton não acredita que devemos parar o progresso da IA e que o governo deve assumir o desenvolvimento de políticas que possam garantir que a IA continue evoluindo com segurança.

“Mesmo que todos nos Estados Unidos parassem de desenvolvê-lo, a China simplesmente conseguiria uma grande vantagem”, disse ele à BBC, mencionado que seria difícil ter certeza se todos realmente parassem de pesquisar, por causa da competição internacional.

Já escrevi alguns artigos sobre IA aqui, e este pode ser o mais difícil porque não é simples equilibrar riscos e benefícios.

Quando penso nas muitas vitórias e avanços que o mundo está alcançando por meio da IA, é impossível não imaginar como a sociedade poderia crescer e obter grandes vantagens se tivermos um desenvolvimento responsável da IA.

Pode ajudar o desenvolvimento humano em muitos campos, como pesquisas e descobertas em saúde que já estão obtendo grandes avanços com recursos de IA.

Aqui na Rock Content, como profissionais de Marketing de Conteúdo, acreditamos que a eficiência da IA pode funcionar em harmonia com a criatividade humana.

Usamos ferramentas de redação de IA diariamente. Claro, de forma responsável, para evitar desinformação ou plágio e priorizar a originalidade.

O mundo certamente poderia ser muito beneficiado se tivéssemos esse arsenal de tecnologias trabalhando para coisas boas, junto a pessoas com suas habilidades humanas não passíveis de serem copiadas por máquinas.

Nossas mentes emocionais e criativas ainda são acessíveis, únicas e exclusivas por natureza. É por isso que acredito que é possível considerar as relações humanos/IA desde que tenhamos políticas e regulamentos bem definidos para garantir um futuro seguro e próspero para a humanidade.

Quer continuar atualizado com as melhores práticas de Marketing? Então se inscreva na The Beat, a newsletter interativa da Rock Content. Lá, você encontrará todas as tendências que importam no cenário do Marketing Digital. Vejo você lá!