As empresas britânicas foram instadas a priorizar a governança de IA ao adotar a tecnologia em novos projetos, depois que novos dados da EY revelaram que a empresa média perdeu milhões devido a riscos não gerenciados.
A gigante da consultoria entrevistou 100 empresas do Reino Unido como parte de um Pulso de IA Responsável (RAI)pesquisa, que foi compilada a partir de entrevistas com 975 líderes de alto escalão em 21 países.
Quase todos (98%) os entrevistados do Reino Unido relataram perdas no ano passado devido a riscos relacionados à IA, com 55% alegando que tais riscos custaram mais de US$ 1 milhão (£ 750.000). Os riscos mais comuns incluíram não conformidade regulatória (57%), dados de treinamento imprecisos ou de baixa qualidade (53%) e alto uso de energia impactando as metas de sustentabilidade (52%).
As perdas médias foram estimadas em US$ 3,9 milhões (£ 2,9 milhões) por empresa.
O relatório identificou várias áreas em que as empresas do Reino Unido poderiam estar se saindo melhor em termos de governança. Por um lado, apenas 17% dos entrevistados da diretoria foram capazes de identificar corretamente os controles apropriados para gerenciar riscos específicos, como não conformidade, dados de baixa qualidade ou vulnerabilidades de segurança cibernética.
O estudo identificou outro fator de risco potencial: apenas metade (53%) das organizações que permitiam que funcionários regulares criassem e implantassem agentes de IA de forma independente tinham políticas formais em vigor para garantir uma IA responsável. No entanto, dois terços (64%) dos entrevistados permitem que esses “desenvolvedores cidadãos” operem em sua organização.
Apenas 34% das equipes de RH nas empresas respondentes disseram que começaram a desenvolver uma estratégia para gerenciar uma força de trabalho humana/IA, afirmou a EY.
Conquistando vantagem competitiva
Matthew Ringelheim, líder de IA e dados da EY UK&I, argumentou que as empresas que veem a IA responsável como uma vantagem estratégica em vez de um custo extra acabarão liderando o grupo.
“Eles construirão confiança dentro e fora de sua organização e acelerarão a velocidade de lançamento no mercado – trazendo as tecnologias mais recentes para a produção antes de seus concorrentes”, acrescentou.
“À medida que as organizações continuam a navegar pelas complexidades da integração da IA, priorizar a governança responsável será essencial para impulsionar o crescimento sustentável e manter uma vantagem competitiva no mercado.”
A boa notícia para as organizações pesquisadas é que 81% afirmaram ter monitoramento contínuo para garantir que os processos e modelos de IA sigam os princípios de IA responsável. Uma parcela semelhante disse que tem procedimentos de escalonamento de incidentes em vigor no caso de um agente se comportar inesperadamente.
Os entrevistados do Reino Unido com um comitê de supervisão para seus esforços de IA relataram 35% mais crescimento de receita, um aumento de 40% na economia de custos e um aumento de 40% na satisfação dos funcionários, afirmou o relatório.
A EY recomendou que os líderes de alto escalão:
- Adote uma abordagem abrangente para a IA responsável – incluindo articular e comunicar os princípios-chave de tal abordagem, executá-los com controles, KPIs e treinamento e estabelecer uma governança eficaz
- Melhore o conhecimento e a conscientização da diretoria sobre IA responsável com treinamento direcionado, especialmente em áreas como salvaguardas apropriadas
- Identifique e gerencie os riscos de IA agêntica adotando políticas apropriadas e implementando governança e monitoramento