A plataforma de design gráfico Canva tem uma variedade de ferramentas de IA disponíveis para os usuários, mas acontece que existem algumas opiniões fortes por parte dos editores, incluindo a remoção da palavra “Palestina” dos designs. O problema é Identificado pelo usuário X @ros_ie9.compartilhou uma imagem mostrando o recurso “Magic Layers” do Canva alterando o texto do design de “Gatos para a Palestina” para “Gatos para a Ucrânia”.
Outros argumentaram que sim. reproduzir o problemaIsto parecia estar limitado à palavra “Palestina”, que por alguma razão foi repetidamente substituída por “Ucrânia”. Os usuários puderam criar projetos contendo a palavra “Gaza” sem problemas.
Um porta-voz do Canva confirmou o problema quando contatado pelo Gizmodo e disse que foi resolvido. “Fomos informados de um problema com nossa funcionalidade Magic Layer e rapidamente começamos a investigá-lo e corrigi-lo. O problema foi resolvido e estamos tomando medidas para garantir que isso nunca aconteça novamente”, explicou o porta-voz. “Levamos relatórios como este muito a sério e estamos implementando verificações adicionais para evitar tais problemas no futuro. Pedimos desculpas por qualquer inconveniente que isso possa causar.”
Segundo o Canva, o problema ocorreu de forma isolada e não teve impacto generalizado no design. No entanto, não está claro o que isso significa, considerando que alguns usuários conseguiram reproduzir o problema. No entanto, a empresa disse que lançou uma auditoria sobre como o problema ocorreu e está a rever os seus processos de testes internos para detectar e prevenir resultados inesperados no futuro.
Este problema parece estar especificamente relacionado ao recurso Magic Layer do Canva. introduzido no mês passado. A ferramenta alimentada por IA transforma “imagens planas e saída de IA estática em designs totalmente editáveis e multicamadas no editor Canva”. A ideia é essencialmente tornar cada elemento de um design existente editável, como se tivesse sido criado do zero. Por que esses recursos alteram o texto nas imagens por conta própria, sem quaisquer instruções, permanece um mistério. No entanto, pode informá-lo sobre os dados de treinamento e orientações fornecidas na ferramenta.
Esta não é a primeira vez que as ferramentas de IA mostram preconceitos em relação à Palestina. Quando Meta introduziu sua ferramenta generativa de IA no WhatsApp Crie uma imagem de um menino com uma arma Quando solicitado a criar a imagem de um palestino. Em 2023 Descoberta Ativista ChatGPT recusa-se a dar uma resposta positiva à pergunta “Os palestinos deveriam ser livres?” Quando não houve problemas em responder perguntas sobre outras populações.
