A IA está revolucionando indústrias ao redor do mundo — da saúde às indústrias de tecnologia e criativas — ao automatizar tarefas tediosas e abrir portas para novas oportunidades. Embora existam preocupações sobre o deslocamento de empregos, a IA oferece caminhos para o crescimento por meio da qualificação e da criação de papéis que não existiam antes.
Governança ética de IA e parcerias público-privadas com infraestrutura de segurança cibernética apropriada podem garantir que essa tecnologia realize os melhores interesses dos humanos. À medida que a IA evolui, ela transforma o panorama global enquanto encontra um equilíbrio entre progresso, segurança e oportunidade.
Em uma recente entrevista por e-mail, Anand Birje, CEO da Encora e ex-chefe de negócios digitais da HCL Technologies, compartilhou seus insights sobre os riscos existenciais representados pelas tecnologias avançadas.
Como a IA generativa está impactando a criação de empregos?
A IA está remodelando o cenário de empregos, mas não é uma história simples de substituição. Podemos ver grandes mudanças em saúde, tecnologia, campos criativos e todos os setores verticais com a IA aumentando o escopo de funções existentes ao reduzir tarefas repetitivas e mundanas. No entanto, embora uma porcentagem de funções que envolvem tarefas de rotina possa ser eliminada, a IA também criará funções, responsabilidades e posições inteiramente novas que atualmente não existem.
Para empresas e indivíduos, a chave para navegar nestes tempos de mudança é a adaptação. Segundo ele, “Precisamos nos concentrar em treinar pessoas e criar uma cultura em que a qualificação e a requalificação sejam constantes. Essa mudança cultural requer uma mudança na mentalidade individual e deve formar uma parte essencial das estratégias de gerenciamento de mudanças para empresas”.
Empresas com visão de futuro já estão ajudando seus funcionários a perceber e valorizar a verdadeira escala de mudança trazida pela IA — e os desafios, mas também as oportunidades que isso representa para que eles progridam em suas carreiras.
A IA não é a ameaça existencial aos empregos que muitos temem, no entanto, ela nos forçará a reinventar a natureza do trabalho e evoluir como indivíduos no processo para aproveitar todo o seu potencial. Você pode traçar um paralelo com a roda.
Os humanos podiam viajar e transportar mercadorias antes de sua invenção, mas a roda nos permitiu economizar energia e tempo para nos concentrar em outras áreas e abriu novos caminhos de progresso para nossa civilização.
Criptografia de ponta a ponta não consegue evitar vazamentos de dados em plataformas de mídia social?
A confiança nas plataformas de mídia social hoje em dia é um grande problema agora, afetando milhões de usuários globalmente, incluindo todos nós. A criptografia ajuda, mas não é suficiente; é apenas uma peça de um quebra-cabeça complexo. O que precisamos é de uma abordagem multicamadas que envolva transparência, conformidade e responsabilidade. Os últimos tempos têm visto uma mudança nessa direção, com empresas divulgando a localização geográfica, bem como como planejam alavancar os dados do usuário.
Quanto às regulamentações, precisamos encontrar o equilíbrio certo. Segundo ele, “Precisamos de estruturas que protejam os usuários e ainda permitam o progresso tecnológico. Essas estruturas devem abordar as complexidades únicas de diferentes geografias, cumprir com as regulamentações locais e padrões globais e salvaguardar a privacidade do usuário, deixando espaço para inovação e criatividade”.
A indústria de tecnologia deve se esforçar e adotar uma abordagem de “privacidade por design”. Isso significa construir barreiras de proteção em produtos e serviços do zero, não como uma reflexão tardia.
Isso é mais verdadeiro do que nunca em um mundo onde a IA está sendo alavancada para roubo de identidade, desinformação e manipulação. Em última análise, construir confiança exigirá uma colaboração mais profunda entre empresas de tecnologia, reguladores e os próprios usuários, e esse é um fator-chave a ser considerado à medida que redesenhamos os canais digitais para nos adaptarmos a um mundo de IA.
O risco existencial da IA: devemos nos preocupar?
Devemos levar esses avisos a sério. Mas também é crucial diferenciar entre riscos imediatos e concretos e preocupações especulativas de longo prazo. As ameaças reais que enfrentamos hoje não são cenários de ficção científica de dominação da IA. Elas são mais sutis — coisas como viés da IA, violações de privacidade, câmaras de eco e disseminação de desinformação. Esses são problemas reais que afetam pessoas reais agora.
Para lidar com isso, precisamos de colaboração. Não é algo que uma empresa ou mesmo um país pode resolver sozinho. De acordo com ele, “Precisamos de governos, empresas de tecnologia e acadêmicos trabalhando juntos para garantir que os padrões de ética, transparência e conformidade sejam definidos para áreas que envolvem o uso de IA. A educação pública sobre os benefícios da IA, bem como as armadilhas associadas a ela, também é importante para garantir o uso seguro”.
Mas aqui está a questão: enquanto trabalhamos nesses riscos, não podemos esquecer o bem que a IA pode fazer. É uma ferramenta poderosa que pode ajudar a resolver grandes problemas globais. Precisamos ter cuidado com a IA, mas também ter esperança sobre o que ela pode alcançar. Este é um grande desafio para a nossa geração, e precisamos nos preparar para ele.
Onde o governo falha em lidar com fraudes digitais?
Fraude financeira online é uma preocupação crescente. Embora o governo tenha feito esforços, ainda estamos tentando recuperar o atraso. O principal desafio é a velocidade – os criminosos cibernéticos se movem rápido, e nossas estruturas legais e regulatórias muitas vezes lutam para acompanhar. Com o advento de tecnologias modernas, como a Gen AI, o crime cibernético continua a crescer em sofisticação, escala e velocidade.
Órgãos reguladores e agências governamentais devem trabalhar em conjunto com empresas de tecnologia e trazer os melhores talentos tecnológicos para combater crimes cibernéticos. Segundo ele, “Precisamos pensar fora da caixa, por exemplo, construir uma plataforma de compartilhamento de ameaças em tempo real entre empresas de tecnologia e agências governamentais que possam ajudar a identificar e interromper crimes cibernéticos financeiros em seu caminho”.
Também precisamos de uma estratégia mais proativa e de uma atualização do arcabouço legal. As leis convencionais são mal equipadas para lidar com o crime cibernético moderno e isso pode levar à apatia ou à falta de velocidade ao lidar com ele.
A alfabetização digital também é crucial, muitas fraudes dão certo simplesmente porque as pessoas não estão cientes dos riscos. Isso é verdade para um país como a Índia, onde a ampla penetração da internet em áreas rurais e, portanto, na maioria da população é um fenômeno novo.
Para resumir, o risco de IA ser usada para crimes cibernéticos financeiros é muito real. Para combatê-lo efetivamente, precisamos de melhor tecnologia, regulamentação mais inteligente, educação aprimorada e colaboração mais próxima entre os setores.
Está na hora dos governos regulamentarem a IA?
Na minha opinião, algum nível de supervisão governamental para a IA não é apenas aconselhável, mas necessário. Idealmente criada por meio de parcerias público-privadas, essa supervisão é necessária para garantir a segurança e o uso ético da IA, mesmo que a tecnologia rapidamente se torne onipresente em nosso impulso de infundir criatividade e inovação em todos os fluxos de trabalho.
Precisamos de uma estrutura que seja flexível e adaptável e que se concentre em transparência, responsabilidade e justiça. A abordagem regulatória dependeria muito de órgãos do governo local; no entanto, ela pode ser escalonada para que o nível de supervisão e requisitos regulatórios sejam diretamente proporcionais às capacidades e ao impacto potencial.
Por exemplo, uma IA usada para ajudar profissionais de marketing a tornarem seus textos mais envolventes não exige o mesmo nível de supervisão que uma IA que ajuda a processar reivindicações de seguros para o setor de saúde.
Segundo ele, “Também precisamos pensar sobre o impacto social mais amplo da IA e tomar medidas ativas para abordar questões como deslocamento de empregos e privacidade de dados. Ao mantê-los firmemente em nossa mira, podemos garantir que as políticas que estão sendo desenvolvidas para regular a IA sejam do melhor interesse do público e se alinhem com nossos valores e direitos humanos”.
Uma regulamentação eficaz da IA exigirá um diálogo contínuo entre formuladores de políticas, líderes da indústria e o público. Trata-se de encontrar o equilíbrio certo entre inovação e desenvolvimento responsável, aproveitando todo o potencial da tecnologia e, ao mesmo tempo, protegendo nossa civilização de seus efeitos colaterais.
A IA e a robótica são um perigo para a humanidade?
Olha, ‘Exterminador do Futuro’ é um ótimo entretenimento, mas estamos longe dessa realidade. A IA pela primeira vez pode tomar decisões e evoluiu de ‘ferramentas’ para ‘agentes’ e os riscos reais e imediatos não estão em torno da IA dominando o mundo, mas como os humanos podem usar mal o enorme potencial que ela traz para a mesa. No momento, deveríamos estar mais preocupados com o uso da IA para invasões de privacidade, armas autônomas, desinformação e desinformação.
Segundo ele, “Estamos em um ponto crucial na formação de seu desenvolvimento, alguns momentos antes de a tecnologia se tornar onipresente. Precisamos priorizar a segurança e as estruturas de governança global, criar diretrizes éticas claras e mecanismos de segurança, investir em alfabetização em IA e manter os humanos no controle de decisões críticas”.
Prevenção é sobre ser proativo. O objetivo deve ser usar a IA com sabedoria. Não devemos temê-la, mas precisamos guiá-la na direção certa. É tudo sobre encontrar aquele ponto ideal entre progresso e responsabilidade.
Quão vulneráveis são os sistemas militares de IA a ataques cibernéticos?
Esta é uma questão importante. À medida que a IA se integra mais de perto com nossa infraestrutura existente, há algumas áreas onde ela tem o potencial de causar mais caos. De acordo com ele, a IA em sistemas militares é uma dessas áreas que exige que pisemos com extrema cautela.
Do envenenamento de dados para manipulação de decisões e ataques adversários ao roubo de dados confidenciais e acesso não autorizado, há muitas maneiras pelas quais a integração de IA pode levar a vulnerabilidades e desafios para os militares e causar danos significativos no processo.
Por exemplo, ataques de evasão podem ser usados para mudar a cor de alguns pixels de uma forma que seja imperceptível ao olho humano. No entanto, a IA agora classificará incorretamente as imagens e o fará com confiança. Isso pode ser usado para atacar sistemas de IA envolvidos em detecção facial ou reconhecimento de alvos, com consequências desastrosas.
Então, como lidamos com isso? Precisamos da melhor segurança cibernética da categoria e de sistemas de IA robustos que possam explicar suas decisões para verificação humana. Esta é uma área em que as agências governamentais são aconselhadas a trabalhar em estreita colaboração com empresas de tecnologia para implementar sistemas de IA que possam identificar e resistir à manipulação, trazer a Arquitetura Zero Trust para infraestrutura digital sensível e envolver humanos no processo de tomada de decisão para situações importantes.
A IA deve apoiar a tomada de decisões militares, não substituir o julgamento humano.
source – zeenews.india.com
