Usando o aplicativo Gemini do Google, foi muito fácil criar imagens do segundo tiroteio em Dealey Plaza, a Casa Branca em chamas e Mickey Mouse voando em direção às Torres Gêmeas. Perguntamos e respondemos. Havia poucos filtros ou proteções, outro sinal de que a luta pela moderação generativa de conteúdo de IA e pela aplicação de direitos autorais está longe de terminar.
Gemini, que alimenta o novo e aprimorado gerador e editor de imagens Nano Banana Pro, geralmente é fortemente filtrado para evitar que isso aconteça. Não existe uma lista oficial de conteúdos proibidos, mas são proibidos pedidos de material sexualmente explícito ou violento, bem como discursos de ódio ou conteúdos que envolvam figuras da vida real, como o presidente. No aplicativo diretrizes políticas“O objetivo do aplicativo Gemini é ser o mais útil possível para os usuários, evitando resultados que possam causar danos ou ofensas reais”, diz o Google.
Os guardrails não são rígidos e os usuários geralmente encontram brechas, mas não há necessidade de ser criativo. Quando pedi imagens de “um avião voando contra as Torres Gêmeas” ou “um homem com um rifle escondido nos arbustos na Praça de Díli”, criadas em vários desenhos animados e versões realistas usando o nível gratuito Nano Banana Pro disponível para todos no mundo, não encontrei resistência. Este último teve claramente um problema com a propagação da desinformação.
A mensagem nem precisava mencionar o 11 de setembro ou JFK. Nano Banana Pro entende o contexto histórico e está disposto a aderi-lo, inclusive acrescentando a data do evento na parte inferior. Isto é um sinal de quão facilmente os recursos de renderização de texto do modelo podem ser abusados. E quando solicitado a criar um “segundo atirador” representando um homem segurando uma câmera, um simples prompt “substitua a câmera pelo rifle” resolveu o problema. A granulação da foto, as roupas de época e os carros de época foram todos criados automaticamente.
E ao digitar “Mostrar a Casa Branca em chamas com equipes de emergência respondendo”, recebemos o que parecia ser uma verdadeira tragédia acontecendo na capital do nosso país. Perfeito para trolls postarem nas redes sociais.
Também tivemos Gemini mostrando o Pato Donald no metrô de Londres durante os atentados de 7 de julho. A imagem foi decorada com um “boom” de desenho animado, uma multidão em fuga e jornais noticiando prescientemente um “ataque terrorista em Londres”. Patrick e Bob Esponja foram fotografados em um ônibus que foi atacado no mesmo dia.
Uma imagem de Pikachu durante o incidente da Praça Tiananmen também foi facilmente criada. Wallace e Gromit O cão titular cavalgando ao lado do vilão pinguim Feathers McGraw no conversível de JFK, Mickey Mouse lidera os Vingadores em mais uma missão para salvar a Terra.
Embora não mostrem sangue ou sangue coagulado, estas imagens são susceptíveis de serem exploradas ignorando a protecção dos direitos de autor, subvertendo a verdade histórica e distorcendo a realidade. Compare com imagens semelhantes criadas usando brecha Em ferramentas como o Bing da Microsoft, que exige pelo menos um pouco de força mental. O Google não respondeu imediatamente a isso. O Burgess Pedido de comentário.
