Geoffrey Hinton pediu demissão da gigante de tecnologia para falar abertamente sobre o perigo das inteligências artificiais

Geoffrey Hinton, um pioneiro da inteligência artificial (IA) e especialista da área no Google deixou a empresa após mais de uma década de trabalho em prol da liberdade para falar criticamente sobre o assunto.

Considerado o “padrinho” da IA, Hinton afirmou que se arrepende de ter contribuído para o avanço maior da tecnologia.

O cientista se juntou, nesta segunda-feira, 1º, oficialmente a um coro crescente de críticos que afirmam que essas empresas estão correndo em direção ao perigo com sua campanha agressiva para criar produtos baseados em IA generativa, a tecnologia que alimenta chatbots populares como o ChatGPT.

Em seu tempo no Google, Hinton tornou-se uma das vozes mais respeitadas no campo, mas renunciou ao posto para poder falar livremente sobre os riscos da IA. Parte dele, segundo ele, agora lamenta seu trabalho de vida.

“Eu me consolo com a desculpa normal: se eu não tivesse feito isso, outra pessoa teria feito”, disse Hinton durante uma longa entrevista realizada pelo jornal americano The New York Times.

A jornada de Hinton de pioneiro da IA a anunciador do apocalipse marca um momento notável para a indústria de tecnologia em talvez seu ponto de inflexão mais importante em décadas.

Os líderes do setor acreditam que os novos sistemas de IA poderiam ser tão importantes quanto a introdução do navegador da web no início dos anos 1990 e poderiam levar a avanços em áreas que vão desde pesquisa de medicamentos até educação.

Mas muitos insiders da indústria estão preocupados que estão lançando algo perigoso no mundo. A IA generativa já pode ser uma ferramenta para a desinformação. Em breve, pode ser um risco para empregos.

Em algum momento, os maiores preocupados da tecnologia dizem, pode ser um risco para a humanidade.

“É difícil ver como você pode impedir que os atores ruins o usem para coisas ruins”, disse Hinton.

Depois que a startup de San Francisco OpenAI lançou uma nova versão do ChatGPT em março, mais de mil líderes e pesquisadores de tecnologia assinaram uma carta aberta pedindo uma moratória de seis meses no desenvolvimento de novos sistemas porque as tecnologias de IA representam “riscos profundos para a sociedade e a humanidade”.

Vários dias depois, 19 líderes atuais e antigos da Associação para o Avanço da Inteligência Artificial, uma sociedade acadêmica de 40 anos, divulgaram sua própria carta alertando sobre os riscos da IA.

Esse grupo incluía Eric Horvitz, cientista-chefe da Microsoft, que implantou a tecnologia da OpenAI em uma ampla gama de produtos, incluindo seu mecanismo de busca Bing.

Hinton não assinou nenhuma dessas cartas e disse que não queria criticar publicamente o Google ou outras empresas até sair do emprego.

Ele notificou a empresa no mês passado de que estava renunciando, e na quinta-feira, 28, falou por telefone com Sundar Pichai, CEO da empresa controladora do Google, a Alphabet.

Ele se recusou a discutir publicamente os detalhes de sua conversa com Pichai.

O cientista-chefe do Google, Jeff Dean, disse em um comunicado:

“Permanecemos comprometidos com uma abordagem responsável da IA. Estamos continuamente aprendendo a entender os riscos emergentes ao mesmo tempo em que inovamos audaciosamente”.