Cuidado com os algoritmos de IA do YouTube para crianças em 2022 nas legendas dos videoclipes
Com as crianças se tornando atores bastante proativos no mundo digital, não é de admirar que o YouTube esteja intensificando sua IA para crianças. A questão não é apenas expandir o algoritmo de IA para induzir a participação das crianças. A maior preocupação também envolve explorar formas e meios de tornar os vídeos infantis seguros para crianças, sem qualquer linguagem sem censura na IA. Pode parecer estranho mas é verdade. O progresso ‘maravilhoso’ da TI também tem o efeito malicioso de as crianças não apenas acessarem o conteúdo adulto à vontade, mas também terem conteúdo adulto impróprio em vídeos destinados a elas. Qualquer organização responsável procurará combater isso para manter sua credibilidade. Não há razão para que o YouTube seja uma exceção com algoritmo de IA para crianças.
A maior preocupação do YouTube é com a linguagem explícita, uma questão que prova que a IA também tem alguma vulnerabilidade. Acontece que a Transcrição Automática de Fala (AST) inadvertidamente inseriu palavras como ‘puta’ no lugar de praia. E o problema é que há muito mais palavras, algumas ainda mais ‘orientadas para adultos’ do que isso. ‘Estupro’ é uma dessas palavras, que aparece na legenda frequentemente substituindo a palavra ‘corajoso’ como linguagem sem censura na IA.
Apesar de sua sofisticação, o modelo de IA tem dificuldade em reconhecer as palavras exatas pronunciadas por crianças com certos sotaques e pronunciamentos errados. Isso se reflete especialmente nas legendas e palavras dos vídeos, tornando as situações altamente problemáticas pelo algoritmo de IA para crianças. Não é apenas a questão de ‘qualquer’ erro ou falha. É um grande exemplo de toxicidade com linguagem sem censura na IA.
Analistas encontraram a raiz do problema na geração dos vídeos infantis, e não nas plataformas com controle parental. A plataforma principal está sendo usada também para vídeos infantis. O YouTube está se esforçando para corrigir tecnologicamente o idioma sem censura na IA. Mas o fato de estar prestando atenção à sugestão de especialistas de ajustar os modelos de linguagem para combater o problema prova que a questão da tecnologia não é apenas uma questão de tecnologia.
Em um mundo em que a infância está sob severa pressão de várias maneiras, é melhor que o problema seja resolvido o mais rápido possível e renove a linguagem censurada na IA.
Mais informações
source – www.analyticsinsight.net
