Veremos um tipo completamente novo de computador, diz Geoff Hinton, pioneiro da IA

As formas de inteligência artificial de aprendizado de máquina produzirão uma revolução nos sistemas de computador, um novo tipo de união de hardware e software que pode colocar a IA em sua torradeira, de acordo com o pioneiro da IA ​​Geoffrey Hinton.

Hinton, oferecendo a palestra de encerramento na quinta-feira no Conferência de Sistemas de Processamento de Informação NeuralNeurIPS, em Nova Orleans, disse que a comunidade de pesquisa de aprendizado de máquina “demorou a perceber as implicações do aprendizado profundo para como os computadores são construídos”.

Ele continuou: “O que eu acho é que veremos um tipo de computador completamente diferente, não por alguns anos, mas há todos os motivos para investigar esse tipo de computador completamente diferente”.

Todos os computadores digitais até hoje foram construídos para serem “imortais”, onde o hardware é projetado para ser confiável para que o mesmo software seja executado em qualquer lugar. “Podemos rodar os mesmos programas em diferentes hardwares físicos… o conhecimento é imortal.”

Também: IA pode ter 20% de chance de senciência em 10 anos, diz o filósofo David Chalmers

Essa exigência significa que os computadores digitais perderam, disse Hinton, “todos os tipos de propriedades variáveis, estocásticas, inconsistentes, analógicas e não confiáveis ​​do hardware, que podem ser muito úteis para nós”. Essas coisas seriam muito pouco confiáveis ​​para permitir que “dois bits diferentes de hardware se comportem exatamente da mesma maneira no nível das instruções”.

Os futuros sistemas de computador, disse Hinton, terão uma abordagem diferente: serão “neuromórficos” e serão “mortais”, o que significa que cada computador será um vínculo estreito do software que representa as redes neurais com o hardware confuso. , no sentido de ter elementos analógicos em vez de digitais, que podem incorporar elementos de incerteza e podem se desenvolver ao longo do tempo.

“Agora, a alternativa para isso, que os cientistas da computação realmente não gostam porque está atacando um de seus princípios fundamentais, é dizer que vamos desistir da separação de hardware e software”, explicou Hinton.

Também: LeCun, Hinton, Bengio: conspiradores de IA premiados com o prestigioso prêmio Turing

“Vamos fazer o que chamo de computação mortal, onde o conhecimento que o sistema aprendeu e o hardware são inseparáveis.”

Esses computadores mortais poderiam ser “crescidos”, disse ele, livrando-se das dispendiosas fábricas de chips.

“Se fizermos isso, podemos usar computação analógica de potência muito baixa, você pode ter um paralelismo de trilhões de vias usando coisas como memristores para os pesos”, disse ele, referindo-se a um tipo de chip experimental que é baseado em elementos de circuito não lineares.

“E também você pode desenvolver hardware sem conhecer a qualidade precisa do comportamento exato de diferentes bits do hardware.”

Também: Os padrinhos do aprendizado profundo Bengio, Hinton e LeCun dizem que o campo pode consertar suas falhas

Os novos computadores mortais não substituirão os computadores digitais tradicionais, disse Hilton ao público do NeurIPS. “Não será o computador responsável pela sua conta bancária e que sabe exatamente quanto dinheiro você tem”, disse Hinton.

“Será usado para colocar outra coisa: será usado para colocar algo como GPT-3 em sua torradeira por um dólar, portanto, funcionando com alguns watts, você pode conversar com sua torradeira.”

Hinton foi convidado a dar a palestra na conferência em reconhecimento ao seu trabalho de uma década atrás, “Classificação ImageNet com Redes Neurais Convolucionais Profundas“, escrito com seus alunos de pós-graduação Alex Krizhevsky e Ilya Sutskever. O artigo recebeu o prêmio “Test of Time” da conferência por um “enorme impacto” no campo. O trabalho, publicado em 2012, foi a primeira vez que uma rede neural convolucional competiu em nível humano na competição de reconhecimento de imagem ImageNet, e foi o evento que deu início à era atual da IA.

Hinton, que recebeu o prêmio ACM Turing por suas realizações em ciência da computação, o equivalente ao Prêmio Nobel na área, formou o Deep Learning Conspiracy, um grupo que ressuscitou o campo moribundo do aprendizado de máquina com seus colegas ganhadores do Turing, Meta’s Yann LeCun e Yoshua Bengio do instituto MILA de Montreal para IA.

Também: IA com esteróides: redes neurais muito maiores virão com novo hardware, dizem Bengio, Hinton e LeCun

Nesse sentido, Hinton é a realeza da IA ​​em sua posição no campo.

Em sua palestra convidada, Hinton passou a maior parte do tempo falando sobre uma nova abordagem para redes neurais, chamada de rede forward-forward, que elimina a técnica de retropropagação usada em quase todas as redes neurais. Ele sugeriu que, removendo o back-prop, as redes de frente para frente podem se aproximar de forma mais plausível do que acontece no cérebro na vida real.

Um rascunho do trabalho de encaminhamento é postado na página inicial de Hinton (PDF) na Universidade de Toronto, onde é professor emérito.

A abordagem forward-forward pode ser adequada para o hardware de computação mortal, disse Hinton.

“Agora, se algo assim acontecer, temos que ter um procedimento de aprendizado que será executado em uma determinada peça de hardware e aprenderemos a fazer uso das propriedades específicas dessa peça específica de hardware sem saber o que todas essas propriedades são”, explicou Hinton. “Mas acho que o algoritmo forward-forward é um candidato promissor para o que esse pequeno procedimento pode ser.”

Também: O novo teste de Turing: você é humano?

Um obstáculo para a construção de novos computadores mortais analógicos, disse ele, é que as pessoas estão apegadas à confiabilidade de executar um software em milhões de dispositivos.

“Você substituiria isso por cada um desses telefones celulares que começaria como um celular de bebê e teria que aprender a ser um telefone celular”, sugeriu ele. “E isso é muito doloroso.”

Mesmo os engenheiros mais adeptos da tecnologia envolvida serão lentos em abandonar o paradigma de computadores imortais perfeitos e idênticos por medo da incerteza.

“Entre as pessoas que estão interessadas em computação analógica, ainda há muito poucas que estão dispostas a desistir da imortalidade”, disse ele. Isso se deve ao apego à consistência, à previsibilidade, disse. “Se você deseja que seu hardware analógico faça a mesma coisa todas as vezes… Você tem um problema real com todas essas coisas elétricas perdidas e outras coisas.”