Código HTML do Conteúdo

Post: Inteligência Artificial Generativa: Crescimento Explosivo e Desafios de Segurança - Against Invaders - Notícias de CyberSecurity para humanos.

<div> <div data-element_type="widget" data-id="914a4f5" data-widget_type="shortcode.default"> <div> <div> <p><span><b><a href="https://www.redhotcyber.com/post/author/redazione/" target="_blank">Redazione RHC</a>:19 Setembro 2025 07:14</b></span></p> <p><i>Por Umberto Pirovano, Gerente Sênior de Soluções Técnicas da Palo Alto Networks</i></p> <p>A Inteligência Artificial Generativa (GenAI) está redefinindo a tecnologia e o cenário de negócios em um ritmo surpreendente. De acordo com o relatório da Palo Alto Networks “The State of Generative AI in 2025”, espera-se que o tráfego GenAI aumente mais de 890% em 2024. Esse crescimento explosivo pode ser atribuído ao amadurecimento dos modelos de IA, ao aumento da automação dos negócios e ao aumento da implantação, impulsionado por retornos de produtividade cada vez mais evidentes. O aumento da adoção e do uso marca uma mudança definitiva: o GenAI não é mais uma novidade, mas uma utilidade essencial.</p> <p>De acordo com <a href="https://www.osservatori.net/blog/artificial-intelligence/come-funziona-ai-generativa-significato-applicazioni/" target="_blank">Pesquisa do Observatório de Inteligência Artificial</a> da Universidade Politécnica de Milão, em 2024, a GenAI impulsionou o mercado de inteligência artificial na Itália: 43% dos gastos com esse tipo de solução foram exclusivamente em projetos GenAI ou híbridos, que também incluíam IA tradicional.</p> <p>No entanto, essa rápida expansão traz consigo desafios significativos, principalmente em relação à segurança de dados. Os incidentes de prevenção de perda de dados (DLP) relacionados à GenAI mais que dobraram: até 2025, o número médio mensal aumentou 2,5 vezes, agora respondendo por 14% de todos os incidentes de dados. Os aplicativos GenAI amplificam um vetor crescente de perda de informações, pois o uso não autorizado ou descuidado pode levar a vazamentos de propriedade intelectual, problemas de conformidade regulatória e violações.</p> <p>As empresas detectaram uma média de 66 aplicativos GenAI em uso, 10% dos quais foram classificados como de alto risco. O uso generalizado de ferramentas não autorizadas, a falta de políticas claras de IA e a pressão para adotar rapidamente essa tecnologia – sem controles de segurança adequados – podem expor as empresas a riscos significativos.</p> <p>A maioria das transações GenAI (83,8%) vem de quatro casos de uso principais: assistentes de redação, agentes de conversação, pesquisa corporativa e plataformas de desenvolvedor. Essas ferramentas são populares entre os funcionários porque executam diretamente tarefas diárias e repetitivas. Os assistentes de redação, por exemplo, apoiam os usuários nas várias etapas da escrita, desde a redação de e-mails até a geração de postagens e a criação de relatórios. Os agentes de conversação, por outro lado, oferecem respostas instantâneas e em linguagem natural a uma ampla gama de perguntas, tornando-os úteis para atendimento ao cliente, aprendizado e produtividade.</p> <p>É claro que as tecnologias GenAI já estão tendo um impacto positivo em várias áreas, conforme destacado no relatório do Gartner “<a href="https://www.gartner.com/en/documents/5178263" target="_blank"><i>Informe sua estratégia de IA generativa com exemplos de casos de provedores de saúde</i></a>No setor de saúde, por exemplo, documentação clínica automatizada, suporte à decisão clínica e caminhos personalizados de atendimento ao paciente estão entre as áreas que podem ser citadas.</p> <p>Mesmo na Itália, setores cruciais como petróleo e gás estão experimentando um impacto significativo. Os setores de gás, serviços financeiros, seguros e saúde, que gerenciam e armazenam dados e informações altamente confidenciais, estão integrando o GenAI em suas operações para otimizar operações, agilizar processos e aumentar a eficiência e a produtividade. No entanto, seu uso representa um risco inerente, dado o potencial de os usuários inserirem informações confidenciais, expondo-as a roubo ou exfiltração. De fato, apesar de ter aplicativos controlados e protegidos por sua empresa, nem todos os funcionários os utilizam, confiando em aplicativos de terceiros, talvez percebidos como mais eficientes, convenientes ou simplesmente mais fáceis de usar.</p> <p>Em virtude de seus recursos avançados de análise preditiva, a inteligência artificial também representa um pilar fundamental da prevenção. Ao processar dados históricos e informações em tempo real, os sistemas de IA são capazes de prever e sinalizar possíveis problemas antes que eles possam levar a consequências negativas. Por exemplo, no contexto financeiro, isso se traduz na capacidade de detectar transações fraudulentas, mitigando perdas econômicas; na área da saúde, a IA pode ajudar a salvar vidas, prevendo os resultados dos pacientes e sugerindo medidas preventivas apropriadas.</p> <h2>Desafios e riscos do GenAI</h2> <p>A inteligência artificial é uma tecnologia emergente que está atraindo considerável interesse. No entanto, é crucial estar ciente dos possíveis desafios e complexidades que isso acarreta. Com um número crescente de empresas experimentando aplicativos GenAI de terceiros, é importante entender completamente o cenário de risco:</p> <ul> <li><strong>Falta de visibilidade do uso da IA: </strong>A “IA oculta” torna difícil para as equipes de segurança monitorar e controlar como as ferramentas GenAI estão sendo usadas em toda a empresa.</li> <li><strong>Não autenticadoAcesso Organizado e Exposição de Dados: </strong>Dificuldade em restringir o acesso às ferramentas GenAI por meio de contas pessoais ou detectar (e bloquear) quando os usuários carregam dados confidenciais.</li> <li><strong>Interações de IA inseguras: </strong>Modelos de IA “desbloqueados” ou manipulados podem responder com links maliciosos e malware, ou permitir seu uso para fins não intencionais.</li> <li><strong>Proliferação de plug-ins, copilotos e agentes de IA: </strong>Ecossistemas complexos de IA com plug-ins de navegador, agentes de IA, bots e copilotos criam uma “entrada lateral” frequentemente negligenciada, aumentando as vulnerabilidades.</li> </ul> <p>Em conclusão, embora o GenAI ofereça oportunidades sem precedentes de inovação e eficiência, é imperativo que as empresas adotem uma abordagem proativa e estratégica para o gerenciamento de riscos. A conscientização, o treinamento do usuário e a implementação de políticas robustas e medidas concretas de segurança são etapas essenciais para explorar plenamente o potencial do GenAI e proteger seu ativo mais valioso: os dados.</p> <div> <div> <div> <div> <p><b><span>Redação</span></b><br /><span>A equipe editorial da Red Hot Cyber é composta por um grupo de indivíduos e fontes anônimas que colaboram ativamente para fornecer informações e notícias antecipadas sobre segurança cibernética e computação em geral.</span></p> <p><a href="https://www.redhotcyber.com/post/author/redazione/" target="_blank">Lista degli articoli</a></p> </div> </div> </div> </div> </div> </div> </div></div>