Na semana passada, a startup de IA Luma postou uma série de vídeos criados usando sua nova ferramenta de geração de vídeo Dream Machine, que a empresa descreve como um “modelo de transformador altamente escalável e eficiente treinado diretamente em vídeos”.
O único problema? Cerca de 57 segundos depois, o trailer gerado pela Dream Machine para Acampamento Monstro – uma história animada sobre criaturas peludas viajando para um acampamento adormecido – apresenta Mike Wazowski, um pouco manchado de IA, mas ainda reconhecível, da Pixar. Monstros SA. Muitas pessoas notaram que vários personagens e sua aparência estética geral foram emprestados da franquia, e as perguntas rapidamente começaram a surgir.
Foi alimentado com um prompt pedindo animação no estilo Pixar? É treinado em material que inclui o trabalho do estúdio Disney? Essa falta geral de transparência é uma das maiores preocupações sobre esses tipos de modelos, já que Dream Machine se junta ao Sora da OpenAI, ao VideoPoet do Google e ao Veo como uma das muitas ferramentas de IA de texto para vídeo exibidas nos últimos meses.
Luma exaltou seu modelo Dream Machine como o futuro do cinema, apresentando “cenas realistas e de alta qualidade” criadas simplesmente digitando instruções em uma caixa. Assistindo a vídeos mostrando carros correndo em uma rodovia em ruínas ou um curta de ficção científica narrado de maneira estranha, você pode ver por que os fãs otimistas dessa tecnologia foram rápidos em chamá-la de uma nova inovação.
Atualmente, a Luma está incentivando as pessoas a se inscreverem e jogarem no Dream Machine gratuitamente, mas a empresa também tem “Pro” e outros níveis que cobram taxas dos usuários por mais recursos. Entramos em contato com a Luma para comentar sobre a origem das filmagens nas quais Dream Machine foi treinado, mas não recebemos resposta até o momento da publicação.
A Disney não comentou publicamente o que Luma parece estar fazendo e é possível que a empresa nem tenha notado. Mas numa altura em que as pessoas têm pressionado por mais transparência sobre os conjuntos de dados que alimentam as ferramentas de IA como as que a Luma está a construir, coisas como Acampamento Monstro torna difícil não considerar o ecossistema generativo de IA propenso ao plágio.
Correção, 18 de junho: Esta história inicialmente foi distorcida quando os vídeos de IA foram postados pela primeira vez. Foi na semana passada, não no fim de semana.
source – www.theverge.com