O pioneiro da IA, Geoffrey Hinton, ganha o Prêmio Nobel, mas alerta sobre os riscos

Geoffrey E. Hinton, importante pesquisador de inteligência artificial e professor emérito da Universidade de Toronto, foi recebeu o Prêmio Nobel de Física de 2024 ao lado de John J. Hopfield da Universidade de Princeton.

A Real Academia Sueca de Ciências concedeu a ambos o prêmio de 11 milhões de coroas suecas (aproximadamente US$ 1,06 milhão), a ser dividido igualmente entre os laureados.

Hinton foi apelidado por vários meios de comunicação e colegas pesquisadores como o “Padrinho da IA”Devido ao seu trabalho revolucionário em redes neurais artificiais, uma tecnologia fundamental que sustenta a inteligência artificial moderna.

Apesar do reconhecimento, Hinton tem se tornado cada vez mais cauteloso quanto ao futuro da IA. Em Em 2023, ele deixou seu cargo na unidade DeepMind do Google falar mais livremente sobre os perigos potenciais representados pelo desenvolvimento descontrolado da IA.

Hinton alertou que os rápidos avanços na IA podem levar a consequências indesejadas e prejudiciais, incluindo desinformação, deslocamento de empregos e até ameaças existenciais – incluindo extinção humanaou o chamado “risco x”. Ele expressou preocupação com o facto de a própria tecnologia que ajudou a criar poder eventualmente ultrapassar a inteligência humana de formas imprevisíveis, um cenário que considera particularmente preocupante.

Como Revisão técnica do MIT relatado após entrevistá-lo em maio de 2023, Hinton estava particularmente preocupado com maus atores, como líderes autoritários, que poderiam usar a IA para manipular eleições, travar guerras ou realizar objetivos imorais. Ele manifestou preocupação com o facto de os sistemas de IA, quando encarregados de atingir objectivos, poderem desenvolver subobjectivos perigosos, como a monopolização de recursos energéticos ou a auto-replicação.

Embora Hinton não tenha assinado as cartas de alto perfil pedindo uma moratória sobre o desenvolvimento de IA, a sua saída do Google sinalizou um momento crucial para a indústria tecnológica.

Hinton acredita que, sem regulamentação global, os sistemas de IA podem tornar-se incontroláveis, um sentimento partilhado por muitos neste campo. A sua visão para a IA é agora moldada tanto pelo seu imenso potencial como pelos riscos iminentes que acarreta.

Mesmo refletindo sobre seu trabalho hoje após ganhar o Nobel, Hinton disse à CNN que IA generativa:

“….será comparável à revolução industrial. Mas em vez de exceder as pessoas em força física, irá exceder as pessoas em capacidade intelectual. Não temos experiência de como é ter coisas mais inteligentes do que nós… também temos que nos preocupar com uma série de possíveis consequências negativas, particularmente a ameaça de essas coisas ficarem fora de controle.”

Por que Hinton ganhou o Nobel

O reconhecimento de Geoffrey Hinton com o Prémio Nobel não surpreende aqueles que estão familiarizados com as suas extensas contribuições para a inteligência artificial.

Nascido em Londres em 1947, Hinton inicialmente fez doutorado na Universidade de Edimburgo, onde abraçou as redes neurais – uma ideia que foi amplamente desconsiderada pela maioria dos pesquisadores da época.

Em 1985, ele e o colaborador Terry Sejnowski criaram a “máquina Boltzmann”, um algoritmo, batizado em homenagem ao físico austríaco Ludwig Boltzmann, capaz de aprender a identificar elementos em dados.

Ingressando na Universidade de Toronto em 1987, Hinton trabalhou com estudantes de pós-graduação para promover ainda mais a IA. Seu trabalho tornou-se central para o desenvolvimento dos sistemas de aprendizado de máquina atuais, formando a base para muitas das aplicações que usamos hoje, incluindo reconhecimento de imagem e processamento de linguagem natural, carros autônomos e até modelos de linguagem como a série GPT da OpenAI.

Em 2012, Hinton e dois de seus alunos de pós-graduação da Universidade de Toronto, Ilya Sutskever e Alex Krizhevsky, fundaram uma empresa spinoff chamada DNNresearch para se concentrar no avanço de redes neurais profundas – especificamente “aprendizado profundo” – que modela a inteligência artificial no cérebro humano. caminhos neurais para melhorar os recursos de aprendizado de máquina.

Hinton e seus colaboradores desenvolveram uma rede neural capaz de reconhecer imagens (como flores, cachorros e carros) com uma precisão sem precedentes, um feito que há muito parecia inatingível. A sua investigação mudou fundamentalmente a abordagem da IA ​​à visão computacional, mostrando o imenso potencial das redes neurais quando treinadas em grandes quantidades de dados.

Apesar das suas conquistas significativas, a DNNresearch não tinha produtos ou ambições comerciais imediatas quando foi fundada. Em vez disso, foi formado como um mecanismo para Hinton e os seus alunos navegarem de forma mais eficaz no crescente interesse no seu trabalho por parte das grandes empresas tecnológicas, o que acabaria por levar ao leilão que desencadeou a corrida moderna pelo domínio da IA.

Na verdade, eles colocaram a empresa em leilão em dezembro de 2012 e enfrentaram uma guerra de licitações competitivas entre Google, Microsoft, Baidu e DeepMind, conforme relatado em um incrível Com fio artigo de revista de Cade Metz de 2021. Hinton acabou optando por vender para o Google por US$ 44 milhões, embora pudesse ter aumentado o preço. Este leilão marcou o início de uma corrida armamentista de IA entre gigantes da tecnologia, impulsionando rápidos avanços na aprendizagem profunda e na tecnologia de IA.

Este contexto é fundamental para compreender o impacto de Hinton na IA e como as suas inovações contribuíram para que hoje lhe fosse atribuído o Prémio Nobel da Física, refletindo a importância fundamental do seu trabalho em redes neurais e aprendizagem automática para a evolução da IA ​​moderna.

O presidente da U of T, Meric Gertler, parabenizou Hinton por sua conquista, destacando o orgulho da universidade por sua conquista histórica.

Hinton é amplamente creditado pelo avanço das redes neurais através do desenvolvimento da máquina Boltzmann, um modelo que pode classificar dados e gerar novos padrões a partir de exemplos de treinamento.

O legado de Hopfield

John J. Hopfield, professor da Universidade de Princeton que partilha o Prémio Nobel com Hinton, desenvolveu um modelo de memória associativa, conhecido como rede Hopfield, que revolucionou a forma como os padrões, incluindo imagens, podem ser armazenados e reconstruídos.

Este modelo aplica princípios da física, especificamente sistemas de spin atômico, a redes neurais, permitindo-lhes trabalhar com dados incompletos ou distorcidos para restaurar padrões completos, e é semelhante a como os modelos de difusão que alimentam serviços de IA de imagem e vídeo podem aprender a criar novas imagens a partir de treinamento em reconstrução de antigos.

Suas contribuições não apenas influenciaram a IA, mas também impactaram a neurociência computacional e a correção de erros, mostrando a relevância interdisciplinar de seu trabalho.

Seu trabalho, intimamente relacionado aos sistemas de spin atômico, abriu caminho para novos avanços na IA, incluindo a máquina Boltzmann de Hinton.

Embora o trabalho de Hinton tenha catapultado as redes neurais para a era moderna, as descobertas anteriores de Hopfield estabeleceram uma base crucial para o reconhecimento de padrões em modelos neurais.

As conquistas de ambos os laureados influenciaram significativamente o rápido crescimento da IA, levando a mudanças transformadoras em indústrias que vão da tecnologia à saúde.

O Comité do Nobel enfatizou que o seu trabalho em redes neurais artificiais já beneficiou uma vasta gama de campos, particularmente na ciência dos materiais e não só.