Adoção do GenAI aumenta em meio a preocupações com segurança

Embora as empresas estejam adotando o GenAI em grande escala, apenas cinco por cento dos 1.000 especialistas em segurança cibernética que responderam a uma nova pesquisa confiam nas medidas de segurança que protegem seus aplicativos GenAI, embora 90 por cento estejam usando ou explorando ativamente seu uso.

A pesquisa da Lakera mostra que métodos de ataque específicos do GenAI, ou ataques rápidos, são facilmente usados ​​por qualquer pessoa para manipular aplicativos, obter acesso não autorizado, roubar dados confidenciais e realizar ações não autorizadas.

Gandalf, um jogo educacional de IA criado pela Lakera, convida os jogadores a tentar enganar a IA para revelar uma senha. Ele atraiu mais de um milhão de jogadores, incluindo especialistas em segurança cibernética, tentando violar suas defesas. Notavelmente, 200.000 desses jogadores completaram com sucesso sete níveis do jogo, demonstrando sua capacidade de manipular modelos GenAI para realizar ações não intencionais.

“Com apenas algumas palavras bem elaboradas, até mesmo um novato pode manipular sistemas de IA, levando a ações não intencionais e violações de dados”, diz David Haber, cofundador e CEO da Lakera. “À medida que as empresas dependem cada vez mais da GenAI para acelerar a inovação e gerenciar tarefas sensíveis, elas se expõem inconscientemente a novas vulnerabilidades que as medidas tradicionais de segurança cibernética não abordam. A combinação de alta adoção e baixa preparação pode não ser tão surpreendente em uma área emergente, mas os riscos nunca foram tão altos.”

Entre outras descobertas da pesquisa, a confiabilidade e a precisão do LLM são vistas como a barreira número um para a adoção. 35% dos entrevistados têm medo da confiabilidade e precisão do LLM, enquanto 34% estão preocupados com a privacidade e a segurança dos dados. A falta de pessoal qualificado responde por 28% das preocupações.

Apesar dessas preocupações, 45% dos entrevistados estão explorando casos de uso do GenAI, 42% estão usando e implementando ativamente o GenAI e apenas nove por cento não têm planos atuais para adotar LLMs. Apenas 22% dos entrevistados adotaram modelagem de ameaças específicas de IA para se preparar para ameaças específicas do GenAI.

Você pode obter o relatório completo no site do Lakera.

Crédito da imagem: sdecoret/depositphotos.com