No dia 16 de julho de 2026, o City Attorney de San Francisco, David Chiu, enviou cartas de cessar e desistir para a Apple e o Google, ordenando a remoção de 13 aplicativos conhecidos como 'nudify' de suas lojas de aplicativos e demandando medidas amplas contra dezenas de outros semelhantes. Esses apps usam inteligência artificial para alterar fotos de pessoas vestidas e gerar imagens nuas sem consentimento, representando uma violação grave de privacidade no ecossistema digital onde as lojas atuam como hubs centrais. A ação legal surge em um momento em que plataformas como a App Store e o Google Play conectam desenvolvedores de ferramentas de IA a milhões de usuários, mas agora reguladores intervêm para cortar conexões prejudiciais. Essa ordem destaca como o 'diálogo' entre inovação e responsabilidade precisa de regras claras para evitar que pontes tecnológicas sejam usadas para exploração. Você já parou para pensar em como uma foto compartilhada pode ser transformada sem seu controle, expondo uma fragilidade no sistema de distribuição de apps?

O que são os apps 'nudify' e como eles operam no ecossistema de IA

Os apps 'nudify' empregam técnicas de inteligência artificial generativa para remover digitalmente roupas de pessoas em fotografias, criando deepfakes não consensuais que parecem reais. Um deepfake, explicado de forma simples, é uma manipulação de mídia via IA que torna difícil distinguir o falso do original, e aqui é usado para pornografia sem autorização da pessoa. No ecossistema de aplicativos, essas ferramentas são distribuídas pelas lojas da Apple e do Google, que servem como pontes entre criadores e o público, permitindo monetização por compras integradas. Relatórios da Tech Transparency Project mostram que em janeiro de 2026 foram identificados 55 aplicativos na Google Play Store e 47 na Apple App Store, com mais de 705 milhões de downloads mundiais e cerca de 117 milhões de dólares em receita. Muitos são classificados como adequados para idades a partir de 13 anos, ampliando o alcance para menores. Como já exploramos em reportagens sobre o terror dos nudes falsos, esses apps revelam uma brecha perigosa na lei onde a criação pode escapar de punição, mas a facilitação por plataformas não. Essa interligação entre IA generativa, lojas e usuários demonstra como uma tecnologia de edição pode virar ferramenta de dano sem barreiras adequadas no fluxo de distribuição.

A ordem de San Francisco e o contexto legal da Califórnia

A carta de David Chiu de 16 de julho de 2026 exige a remoção de 13 aplicativos específicos de face-swapping usados para deepfakes íntimos não consensuais, oito na App Store e cinco na Play Store. A lei da Califórnia criminaliza atividades que 'facilitem conscientemente' ou 'auxiliem ou instiguem de forma imprudente' a criação de pornografia deepfake não consensual, com uma lei de 2025 permitindo ações civis contra facilitadores terceiros. Chiu declarou que 'Apple e Google estão lucrando com aplicativos que exploram mulheres e meninas gerando deepfakes íntimos não consensuais' e que as empresas provavelmente fizeram 'milhões de dólares em taxas' via pagamentos integrados. As cartas dão 28 dias para resposta e alertam para penalidades civis, já que as firmas estavam 'cientes' do processamento de compras ilegais por quase um ano. Essa intervenção funciona como diplomacia digital, ajustando as regras do ecossistema para que conexões entre desenvolvedores e usuários não perpetuem danos. Ao definir limites, o sistema legal equilibra inovação com proteção individual, forçando plataformas a revisar quais pontes mantêm ativas.

Respostas das empresas e o histórico de remoções anteriores

A Apple removeu três dos apps sinalizados, terminou contas de desenvolvedores e contatou quatro outros para correções ou risco de exclusão, reiterando que nudify apps são proibidos. O Google suspendeu os cinco apps da Play Store mencionados, além de centenas de violadores antes, e restringiu buscas por termos como 'nudify'. Relatórios anteriores da Tech Transparency Project em janeiro e abril de 2026 levaram a remoções de 28 apps pela Apple e 31 pelo Google após o primeiro alerta. Um preprint de maio de pesquisadores da Cornell e Georgetown identificou 420 apps de face-swapping, com testes em 155 mostrando que 70% podiam criar trocas com imagens nuas. O relatório de abril revelou que buscas por 'nudify', 'undress' e 'deepnude' retornavam apps problemáticos, com 40% capazes de renderizar mulheres nuas, e anúncios das próprias plataformas direcionavam usuários. Essa sequência mostra como o ecossistema de busca e publicidade nas lojas pode conectar usuários a conteúdo prejudicial, exigindo ajustes nos mecanismos de moderação para diálogos mais éticos entre IA e consumidores.

O impacto financeiro e as classificações problemáticas dos apps

Os apps nudify geraram mais de 122 milhões de dólares em receita vitalícia segundo AppMagic, com plataformas ficando com até 30% via in-app purchases. No relatório de abril, os apps identificados somaram 483 milhões de downloads e 122 milhões em receita, ilustrando o volume no ecossistema. Trinta e um apps eram rated para menores, agravando riscos ao permitir acesso fácil por jovens. Exemplos incluem DreamFace com mais de 10 milhões de downloads e 1 milhão em receita, Collart com mais de 7 milhões e 2 milhões, e WonderSnap com 500 mil downloads e 50 mil dólares. Essa monetização via pagamentos integrados revela como o modelo incentiva distribuição ampla, mas a ordem legal força reavaliação de conexões lucrativas versus responsabilidade. Cortar essas fontes ajusta o equilíbrio entre lucro e ética no uso de IA generativa nas plataformas.

Reflexões sobre o ecossistema e o futuro da moderação digital

Essa situação sublinha a necessidade de maior alinhamento entre sistemas legais, plataformas e ferramentas de IA, onde pontes como lojas de apps incorporam verificações para prevenir abusos. Assim como em negociações diplomáticas que alinham interesses para evitar conflitos, reguladores, empresas e desenvolvedores precisam de terreno comum para limites éticos na IA. O direcionamento via buscas e anúncios, como no relatório de abril, expõe falhas na arquitetura que precisam de correção para que inovação não custe privacidade. Usuários e empreendedores podem refletir: como construir sistemas de IA para valor positivo, como edição consentida, sem abrir portas para explorações? A ação de San Francisco serve de precedente que pode inspirar outras regiões, fortalecendo o papel das plataformas como guardiãs no ecossistema global.

Caixa de Ferramentas: Proteja sua privacidade e navegue o ecossistema com consciência

Para se proteger, revise configurações de privacidade em redes sociais limitando downloads de fotos e evite compartilhar imagens identificáveis em contextos abertos. Reporte apps suspeitos diretamente nas lojas da Apple ou Google usando os canais de feedback dos dispositivos para contribuir com a moderação coletiva. Fique atento a classificações de idade e prefira ferramentas de IA que expliquem políticas de consentimento de forma clara. Acompanhe leis de privacidade locais, pois medidas como as da Califórnia podem inspirar proteções semelhantes, dando poder para buscas civis. Ao usar IA, reflita sobre consentimento e impacto em outros, ajudando a construir um ecossistema onde tecnologia conecta de forma positiva. Com essas ações práticas, você assume controle da sua presença digital e fortalece a segurança coletiva no mundo conectado.