Francis de Souza, COO do Google Cloud, afirmou que a segurança de IA é um território que todos, inclusive o Google, estão explorando em tempo real. Ele destacou a necessidade de tratar segurança, governança e auditabilidade como elementos centrais desde o primeiro dia, em vez de adicioná-los depois.
Transição para uma defesa mais madura
De acordo com de Souza, existe um período de transição até que as empresas alcancem um nível mais avançado de proteção. A segurança não pode ser um pensamento posterior, e qualquer estratégia de IA exige estratégias paralelas de dados e segurança. O Google Cloud adota uma postura multicloud para garantir consistência na proteção.
Novas superfícies de ataque e velocidades inéditas
O tempo médio entre a brecha inicial e a próxima etapa do ataque despencou de oito horas para 22 segundos. Elementos que agora precisam de proteção incluem modelos, pipelines de dados, agentes e prompts. Agentes de IA podem expor repositórios esquecidos, como antigos servidores SharePoint.
Defesa agentic com supervisão humana
A resposta, segundo o executivo, passa por uma defesa nativa de IA, totalmente agentic, com humanos no comando. Trata-se de uma questão de nível de conselho e equipe executiva. Lea Kissner, CISO do LinkedIn, complementou que a indústria não entenderá a segurança de IA de forma sustentável por pelo menos vários anos.
Incidentes reais com chaves de API do Gemini
Relatos do The Register mostraram que desenvolvedores do Google Cloud receberam contas de cinco dígitos por chamadas não autorizadas à API Gemini. Chaves de API do Google Maps passaram a acessar o Gemini após expansão de escopo sem aviso claro. Exemplos incluem Rod Danan, faturado em US$ 10.138 em 30 minutos, e Isuru Fonseka, cobrado em AUD 17 mil apesar de limite de US$ 250. O Google reembolsou os afetados, mas mantém a política de upgrade automático de faturamento até US$ 100 mil.