Principais conclusões
Os avanços na tecnologia de IA têm ocorrido no que parece ser a velocidade da luz desde que o boom da IA realmente começou, há alguns anos. Mas parece que agora o rápido progresso na tecnologia de IA e nos grandes modelos de linguagem (LLMs) pode estar a começar a abrandar.
Relatórios recentes da mídia sugerem que as empresas de IA estão melhorando seus modelos e capacidades de IA de forma mais lenta do que no passado. Por que? Tem a ver com a abordagem que as empresas de IA, como a OpenAI, têm utilizado para avançar os seus grandes LLMs desde o início da corrida à IA, e essa mesma abordagem está agora a mostrar retornos decrescentes. Toda essa abordagem tem a ver com as leis de escalonamento da IA.
RelacionadoO Windows 365 Link parece a versão do Mac mini da Microsoft
A Microsoft anunciou o Windows 365 Link, um mini PC baseado em nuvem voltado para empresas.
Quais são as leis de escalonamento de IA?
As empresas de IA confiam na escala para construir e melhorar LLMs
As leis de escalonamento de IA não são algo que você encontrará em seu livro de direito do ensino médio. Não é uma lei da natureza, da física ou do governo. As leis de escalonamento de IA são os métodos e observações que os laboratórios de IA usam para aumentar o tamanho e a funcionalidade de seus LLMs. Esses modelos de IA melhoram e ficam maiores à medida que obtêm mais poder de computação e dados para treinar.
Mas agora parece que as empresas de IA estão descobrindo que não se pode simplesmente dar aos LLMs mais poder computacional e dados e esperar que eles se transformem em um deus de IA superinteligente. Um relatório recente da Bloomberg diz que os modelos de IA da OpenAI, do Google e da Microsoft estão lutando para melhorar seus LLMs no ritmo acelerado de antes.
A solução para este problema foi sugerida recentemente durante o evento Ignite 2024 da Microsoft, quando o CEO da Microsoft, Satya Nadella, disse “estamos vendo o surgimento de uma nova lei de escala”.
As salvaguardas da IA não conseguem acompanhar o ritmo da inovação
Uma imagem viral falsa de uma “vítima” de furacão ilustra o quanto a tecnologia precisa crescer para se proteger contra o uso indevido da IA.
O que poderia ser essa nova lei de escala de IA? “Computação em tempo de teste” é uma possibilidade (via TechCrunch). Esta nova lei essencialmente dá aos LLMs mais poder de computação quando um prompt é inserido, em vez de focar em todo o seu poder durante a fase de pré-treinamento. Isso dá tempo à IA para pensar. “Vemos, assim, surgir uma nova forma de escalonamento computacional. Não apenas mais dados de treinamento e modelos maiores, mas mais tempo gasto ‘pensando’ em respostas”, disse o pesquisador de IA Yoshua Benjio em um artigo de opinião do Financial Times.
O avanço da IA pode estar a abrandar e a ficar sem gás neste momento, mas se esta nova lei de escala sugerir alguma coisa, pode ser que outro boom da IA esteja ao virar da esquina. Não importa o que aconteça, as empresas de tecnologia em todo o mundo certamente continuarão a investir e a ampliar os limites e capacidades da IA.
O Google ser forçado a vender o Chrome seria uma grande vitória para todos
O Google pode ser forçado a vender seu navegador Chrome, e isso é uma boa notícia para todos.
source – www.pocket-lint.com