Depois de liderar a empresa Grupo de consultoria de BostonO relatório de 2023 da concluiu que seus consultores de TI eram mais produtivos usando a ferramenta GPT-4 da Open AI. A empresa e outras receberam críticas de que seria melhor usar o ChatGPT gratuitamente em vez de contratar serviços de consultoria por milhões de dólares.
Aqui está o raciocínio: os consultores simplesmente obterão suas respostas ou conselhos do ChatGPT de qualquer maneira, portanto, devem evitar terceiros e ir direto para o ChatGPT.
Também: Domine a IA sem habilidades tecnológicas? Por que sistemas complexos exigem aprendizado diverso
Há uma lição valiosa para qualquer um que esteja contratando ou buscando ser contratado para trabalhos intensivos em IA, sejam desenvolvedores, consultores ou usuários empresariais. A mensagem dessa crítica é que qualquer um, mesmo com habilidades limitadas ou insuficientes, agora pode usar IA para progredir ou parecer que está no topo das coisas. Por causa disso, o campo de jogo foi nivelado. São necessárias pessoas que possam fornecer perspectiva e pensamento crítico às informações e resultados que a IA fornece.
Até mesmo cientistas, tecnólogos e especialistas qualificados podem cair na armadilha de confiar demais na IA para seus resultados — em vez de sua própria experiência.
“As soluções de IA também podem explorar nossas limitações cognitivas, tornando-nos vulneráveis a ilusões de compreensão nas quais acreditamos que entendemos mais sobre o mundo do que realmente entendemos”, de acordo com pesquisas sobre o tema Publicados na natureza.
Até mesmo cientistas treinados para revisar informações criticamente estão caindo na tentação dos insights gerados por máquinas, alertam os pesquisadores Lisa Messer, da Universidade de Yale, e MJ Crockett, da Universidade de Princeton.
“Tais ilusões obscurecem a capacidade da comunidade científica de ver a formação de monoculturas científicas, nas quais alguns tipos de métodos, questões e pontos de vista passam a dominar abordagens alternativas, tornando a ciência menos inovadora e mais vulnerável a erros”, afirmou a sua investigação.
Messer e Crockett afirmam que, para além das preocupações sobre a ética, o preconceito e a deslocação de empregos da IA, os riscos de uma dependência excessiva da IA como fonte de conhecimentos especializados estão apenas a começar a ser conhecidos.
Em ambientes empresariais tradicionais, há consequências da dependência excessiva do usuário em IA, desde a perda de produtividade e confiança mal colocada. Por exemplo, os usuários “podem alterar, mudar e alternar suas ações para se alinharem às recomendações de IA”, observam Samir Passi e Mihaela Vorvoreanu da Microsoft em um visão geral de estudos sobre o tema. Além disso, os usuários “terão dificuldade em avaliar o desempenho da IA e compreender como a IA impacta suas decisões”.
Esse é o pensamento de Kyall Maidiretor de inovação do Esquire Bank, que vê a IA como uma ferramenta crítica para o engajamento do cliente, ao mesmo tempo em que alerta contra seu uso excessivo como um substituto para a experiência humana e o pensamento crítico. O Esquire Bank fornece financiamento especializado para escritórios de advocacia e quer pessoas que entendam o negócio e o que a IA pode fazer para avançar o negócio. Recentemente, conversei com Mai na conferência da Salesforce em Nova York, que compartilhou suas experiências e perspectivas sobre IA.
Mai, que subiu na hierarquia de codificador para CIO multifacetado, não discute que a IA seja talvez uma das ferramentas de aumento de produtividade mais valiosas que surgiram. Mas ele também está preocupado que depender demais da IA generativa — seja para conteúdo ou código — diminuirá a qualidade e a nitidez do pensamento das pessoas.
Além disso: Além da programação: a IA gera uma nova geração de cargos
“Percebemos que ter cérebros e resultados fantásticos não é necessariamente tão bom quanto alguém que está disposto a ter pensamento crítico e dar suas próprias perspectivas sobre o que a IA e a IA generativa lhe dão em termos de recomendações”, diz ele. “Queremos que as pessoas tenham o emocional e a autoconsciência para dizer, ‘hmm, isso não parece muito certo, sou corajoso o suficiente para conversar com alguém, para ter certeza de que há um humano por perto’”.
O Esquire Bank está empregando ferramentas do Salesforce para abraçar ambos os lados da IA — generativa e preditiva. A IA preditiva fornece aos tomadores de decisão do banco insights sobre “quais advogados estão visitando seu site e ajudando a personalizar serviços com base nessas visitas”, diz Mai, cuja função de CIO abrange tanto o engajamento do cliente quanto os sistemas de TI.
Como um banco totalmente virtual, a Esquire emprega muitos de seus sistemas de IA em equipes de marketing, fundindo conteúdo generativo fornecido por IA com algoritmos de IA preditivos de back-end.
“A experiência é diferente para cada pessoa”, diz Mai. “Portanto, estamos usando IA para prever qual deve ser o próximo conjunto de conteúdo entregue a eles. Eles são baseados em todas as análises por trás e no sistema sobre o que podemos fazer com aquele cliente em potencial específico.”
Além disso: a IA generativa é a tecnologia que a TI sente mais pressão para explorar
Ao trabalhar em estreita colaboração com a IA, Mai descobriu uma reviravolta interessante na natureza humana: as pessoas tendem a desconsiderar o seu próprio julgamento e diligência à medida que se tornam dependentes destes sistemas. “Por exemplo, descobrimos que alguns humanos se tornam preguiçosos – eles solicitam algo e então decidem, ‘ah, isso parece uma resposta muito boa’, e enviam-na.”
Quando Mai sentir esse nível de dependência excessiva da IA, “eu os levarei até meu escritório, dizendo: ‘Estou pagando pela sua perspectiva, não por um aviso e uma resposta em IA que você vai me fazer fazer'”. leia. Apenas pegar os resultados e devolvê-los não é o que estou procurando, estou esperando seu pensamento crítico.
Ainda assim, ele incentiva os membros de sua equipe de tecnologia a transferir tarefas mundanas de desenvolvimento para ferramentas e plataformas generativas de IA e a liberar seu próprio tempo para trabalhar mais próximo do negócio. “Os programadores estão descobrindo que 60% do tempo que gastavam escrevendo era para código administrativo que não é necessariamente inovador. A IA pode fazer isso por eles, por meio de comandos de voz.”
Também: A IA prejudicará ou ajudará os trabalhadores? É complicado
Como resultado, ele está vendo “a linha entre um programador clássico e um analista de negócios se fundindo muito mais, porque o programador não está gastando muito tempo fazendo coisas que realmente não agregam valor. Isso também significa que os analistas de negócios podem se tornar desenvolvedores de software.”
“Será interessante quando eu puder sentar na frente de uma plataforma e dizer: ‘Quero um sistema que faça isso, isso, isso e isso’, e ele faz.”
source – www.zdnet.com
