Principais conclusões
A OpenAI introduziu uma nova versão menor do GPT-4o que tem como objetivo tornar mais barato para os desenvolvedores incorporar os modelos de IA da empresa em seus aplicativos. O GPT-4o mini é uma versão menor do GPT-4o que é capaz de superar o GPT 3.5 Turbo, sendo 60% mais barato. Isso o torna muito mais acessível para desenvolvedores menores que podem ter sido desencorajados pelo custo de incorporar a inteligência da OpenAI em seus aplicativos. O novo modelo também já está disponível no aplicativo ChatGPT, substituindo o GPT 3.5 para usuários Free, Plus e Team, com o modelo chegando aos usuários Enterprise na próxima semana.
Como atualizei o Siri com o ChatGPT para obter respostas de IA mais inteligentes no meu iPhone
Ainda consigo falar com a Siri, mas agora obtenho respostas melhores geradas pelo ChatGPT. É o melhor dos dois mundos.
O que é GTP-4o mini?
Um pequeno modelo econômico voltado para desenvolvedores
Fiapos de bolso
Modelos de IA podem ser usados por desenvolvedores para tornar seus aplicativos muito mais inteligentes. Usando modelos como GPT-3.5, você pode criar aplicativos de chatbot de suporte ao cliente ou pesquisar e resumir grandes manuais de instruções. No entanto, cada consulta e resposta custa dinheiro, com a OpenAI cobrando uma taxa pelo uso de sua tecnologia. Para alguns desenvolvedores, esses custos superaram os benefícios.
O GPT-4o mini é um modelo pequeno que foi projetado para ser muito mais econômico de usar, mantendo um nível de desempenho além do GPT-3.5 Turbo. Na LMSYS Chatbot Arena, na qual qualquer um pode comparar dois chatbots anônimos e votar em qual é superior, o GPT-4o mini atualmente tem uma pontuação maior que o GPT-4 e está apenas atrás do GPT4-Turbo.
O modelo tem uma janela de contexto de 128 mil tokens, produz até 16 mil tokens por solicitação e foi treinado em dados até outubro de 2023. Ele custa apenas 15 centavos por milhão de tokens de entrada e 60 centavos por milhão de tokens de saída. Em comparação, o GPT-3.5 Turbo custa 50 centavos por milhão de tokens de entrada e US$ 1,50 por milhão de tokens de saída.
Posso usar o GPT-4o mini no aplicativo ChatGPT?
GPT-4o mini substituiu GPT 3.5
O novo modelo GPT-4o mini já está disponível no aplicativo ChatGPT. Ele substitui a opção GPT-3.5, que não está mais disponível. A OpenAI diz que usuários Enterprise terão acesso a partir da próxima semana. Os três modelos disponíveis no aplicativo ChatGPT agora são GPT-4, descrito como o modelo legado, GPT-4o, descrito como sendo o melhor para tarefas complexas, e GPT-4o mini, descrito como sendo mais rápido para tarefas cotidianas. Podemos ver o GPT-4o mini sendo usado pela Siri em algum momento no futuro também.
O GPT-4o mini oferece suporte a texto e visão na API, com suporte para entradas de texto, imagem, vídeo e áudio no futuro.
Ao contrário de seu irmão maior, o GPT-4o mini atualmente não oferece suporte para nada além de entradas de texto; você não pode carregar imagens ou arquivos como você pode no GPT-4o. Você também não pode gerar imagens como você pode com o GPT-4o. De acordo com a OpenAI, “o GPT-4o mini suporta texto e visão na API, com suporte para entradas de texto, imagem, vídeo e áudio chegando no futuro.” Ele não declara explicitamente que esses recursos chegarão ao aplicativo ChatGPT, embora pareça provável.
Uma grande diferença com o GPT-4o mini, no entanto, é a introdução de novos recursos de segurança. É o primeiro modelo a utilizar uma nova técnica chamada hierarquia de instruções para tentar neutralizar alguns dos jailbreaks e injeções de prompts que foram usados em outros modelos. Esse recurso parece dar mais peso a alguns prompts do que a outros, de modo que uma instrução para não revelar o prompt do sistema, por exemplo, teria prioridade sobre uma instrução pedindo para revelá-lo. Será interessante ver o quão bem isso funciona na prática.
source – www.pocket-lint.com
