A Ascensão e Riscos da IA Generativa nas Empresas

A inteligência artificial (IA) tem se infiltrado em todos os aspectos do mundo corporativo, e a IA generativa (genAI) está na vanguarda dessa revolução. Aplicativos genAI, como ChatGPT, Grammarly e Microsoft Copilot, estão transformando a maneira como as empresas operam, oferecendo suporte em codificação, assistência na redação, criação de apresentações e geração de conteúdo visual e de vídeo. No entanto, enquanto as organizações colhem os benefícios dessas tecnologias, elas também enfrentam desafios significativos de segurança de dados e privacidade. Para mitigar esses riscos, é essencial uma abordagem robusta de gerenciamento que combine expertise técnica, planejamento estratégico e vigilância contínua. Ao navegar no cenário em evolução dos riscos relacionados à IA, as empresas podem proteger seus dados, reputação e continuidade dos negócios, ao mesmo tempo em que aproveitam os benefícios transformadores da IA generativa.

Crescimento Acelerado do Uso de genAI

De acordo com o relatório “Cloud and Threat Report: AI Apps in the Enterprise” da Netskope Threat Labs, 96% das organizações pesquisadas têm usuários utilizando aplicativos genAI, um aumento notável em comparação aos 74% do ano anterior. Além disso, o número de aplicativos genAI usados por organização mais que triplicou, passando de uma mediana de 3 para mais de 9,6 aplicativos. Esse crescimento é impulsionado pelo entusiasmo em torno das oportunidades que esses aplicativos oferecem para aumentar a eficiência organizacional.

Principais Aplicativos e Suas Aplicações

Os aplicativos genAI mais populares incluem ChatGPT, Grammarly e Google Bard (agora Gemini). ChatGPT permanece dominante, sendo utilizado por 80% das organizações, enquanto o Microsoft Copilot, lançado em janeiro de 2024, já é usado por 57% das empresas. Novos aplicativos, como Beautiful.ai para apresentações, Writesonic para redação e Github Copilot para codificação, estão ganhando popularidade rapidamente.

Riscos Associados ao Uso de genAI

Embora os aplicativos genAI ofereçam muitas vantagens, eles também trazem riscos significativos, principalmente relacionados à segurança de dados. O maior desafio é proteger dados sensíveis, como códigos-fonte proprietários e informações regulamentadas, de serem enviados para aplicativos não aprovados. Outros riscos incluem:

• Vazamento de Dados: Compartilhamento inadvertido de informações pessoais, credenciais, segredos comerciais e dados protegidos por regulamentações como HIPAA/GDPR/PCI.
• Informações Incorretas: Riscos de “alucinações” geradas pela IA, desinformação e violações de direitos autorais.
• Engenharia Social: Uso malicioso de genAI para phishing, criação de deepfakes e chantagem.

Controles e Medidas de Mitigação

Para enfrentar esses riscos, as organizações estão adotando diversas medidas de controle:

1. Prevenção de Perda de Dados (DLP): O uso de políticas DLP aumentou de 24% para mais de 42%, refletindo a crescente compreensão sobre como mitigar riscos de dados. Essas políticas são essenciais para bloquear prompts genAI que contenham informações sensíveis.
2. Treinamento de Usuários: Diálogos de orientação (coaching) são uma técnica eficaz para informar os usuários sobre os riscos enquanto eles interagem com aplicativos genAI. Essas orientações ajudam a prevenir ações arriscadas sem bloquear a produtividade.
3. Análise Comportamental: A detecção de comportamentos suspeitos de movimentação de dados é crucial para identificar ameaças difíceis de detectar, como credenciais comprometidas e exfiltração de dados por atores mal-intencionados.

Orientações para o Futuro

Baseado nas tendências observadas, as organizações devem adotar uma abordagem proativa para gerenciar os riscos associados ao uso de genAI:

• Criar uma Linha de Base de Uso de Aplicativos: Utilizar logs de gateways web seguros e proxies para reunir métricas-chave e identificar mudanças e outliers ao longo do tempo.
• Reduzir Desconhecidos: Remover aplicativos desconhecidos ou suspeitos e impor uma lista de aplicativos aceitáveis para reduzir a superfície e os vetores de ataque.
• Refinar a Estrutura de Risco: Adaptar frameworks de risco, como o NIST AI Risk Management Framework, para abordar riscos específicos de IA/genAI.

A S4 Digital tem expertise global para ser parceira da sua empresa e executar projetos de forma acelerada! Clique aqui e agende uma reunião conosco!