Quando Ian Clayton, um especialista aposentado em saúde e segurança de Chester, apareceu no Home Bargains para almoçar em fevereiro, foi subitamente abordado por um membro da equipe de aparência severa.
“Com licença, você poderia deixar tudo de lado e sair da loja agora?” ele disse. Clayton lembrou-se de como estava atordoado e, ao passar rapidamente pelas caixas em direção à saída, parou e perguntou o que estava fazendo.
“Você encontrou nosso sistema chamado Facewatch como um ladrão”, foi a resposta. “Há um pôster na janela.” No entanto, ele foi deixado sozinho do lado de fora da loja com um código QR para escanear e sem ter ideia do que era.
Ele é uma das várias pessoas que falaram com o Guardian depois de ter sido erroneamente identificado como ladrão de lojas por lojas em todo o Reino Unido usando o Facewatch, um sistema de reconhecimento facial ao vivo para reprimir o crime no varejo.
O site da empresa afirma que seu sistema tem uma taxa de precisão de 99,98% e no mês passado enviou 50.288 alertas de “infratores conhecidos” para lojas que atualmente usam o software, incluindo B&M, Home Bargains, Sports Direct, Farm Foods e Spar.
Mas aqueles que foram identificados erroneamente e forçados a abandonar as lojas devido à tecnologia ou a erro humano dizem que não receberam qualquer apoio e não sabiam como reclamar do seu tratamento ou provar a sua inocência.
Clayton, 67, disse que depois de ser removido do Home Bargains, ele tentou ligar para um número de telefone no pôster do Facewatch e recebeu uma mensagem dizendo que a empresa não estava aceitando ligações e que ele deveria enviar um e-mail.
Ele só recebeu uma resposta após enviar uma solicitação de acesso do sujeito, uma solicitação formal de informações pessoais de acordo com as leis de proteção de dados, que revelou que ele havia sido falsamente vinculado a um roubo em uma visita anterior à loja.
“É como se eu fosse culpado até ser provado inocente. É uma sensação terrível. Deixa um buraco no estômago e agora, olhando para trás, posso sentir isso de novo”, disse ele.
“Parece muito orwelliano. Estamos constantemente sendo gravados e colocados nesses sistemas, mas deveríamos estar lá? Parece que estou sendo espionado sem motivo. Estou hiperconsciente das câmeras em todos os lugares agora, estou tão consciente delas.”
A Home Bargains finalmente lhe deu um pedido de desculpas e um voucher de £ 100 como um “gesto de boa vontade de proibição de entrada”, com a condição de que os detalhes do incidente permanecessem confidenciais. Clayton recusou: “Eu apenas pensei: ‘Você está realmente tentando comprar meu silêncio?'”
À medida que o reconhecimento facial se espalha pelas forças policiais e pelas lojas de retalho, os comissários de biometria do Reino Unido alertam que a vigilância nacional está muito atrasada em relação à rápida expansão da tecnologia.
No ano passado, o Ministério do Interior admitiu que as câmaras de reconhecimento facial eram mais propensas a identificar erroneamente pessoas negras e asiáticas do que as suas homólogas brancas, e mulheres do que homens, e que havia estudos contraditórios sobre a sua precisão global.
Warren Rajah, um estrategista de dados no sul de Londres, foi convidado a abandonar seu carrinho de compras e sair da loja Sainsbury’s local em fevereiro, após ser informado de que havia hackeado o sistema Facewatch.
“Para mim, esta é uma questão de direitos civis que estamos a abordar lentamente, porque se você for suspenso sem questionamento, os seus direitos civis serão afetados”, disse ele.
“Vivemos em um país que já tem problemas de racismo, é um problema inevitável. Sabemos também que as câmeras não captam com a mesma precisão os traços de pessoas com traços mais escuros.
Ele disse que tinha grandes preocupações com a implantação dessa tecnologia nas forças policiais e também no setor de varejo.
“Quem regula essas empresas e nossas informações são confiáveis? Mais importante ainda, ninguém definiu o seu recurso quando algo dá errado”, disse ele.
Depois de vários e-mails, ela finalmente descobriu que não estava no sistema de banco de dados do Facewatch e que a equipe a havia identificado incorretamente. Foi-lhe oferecido um voucher de £ 75 como pedido de desculpas; Quando ela disse que não se sentia confortável em voltar à loja, foi orientada a usar o cupom online.
Jennie Sanders, 48 anos, de Birmingham, estava passeando pela B&M em uma tarde de sábado do ano passado, quando um segurança lhe disse que ela havia sido pega pelo sistema Facewatch e precisava acompanhá-la pela loja para verificar se ela estava roubando.
“Fiquei muito chateada. Foi na frente de muita gente e fiquei muito envergonhada. Eu disse que queria ir embora e ele me acompanhou para fora da loja”, disse ela.
“Foi assustador, mas ainda mais assustador quando cheguei em casa e comecei a olhar o Facewatch vi que as informações eram compartilhadas entre muitos varejistas.
“Pensei: ‘Serei tratado como um ladrão em todas as lojas. Nunca mais poderei fazer compras pessoalmente.’”
Disseram-lhe que precisava fazer Facewatch de uma cópia de seu passaporte para provar sua identidade antes de descobrir que havia feito login por roubar uma garrafa de vinho da B&M – e ele disse que isso nunca aconteceu.
A B&M disse a ele que não havia mais nenhuma evidência, incluindo imagens de CCTV daquele dia, então ele foi removido do sistema e ofereceu um voucher de £ 25.
“Tirei alguns dias de folga do trabalho, estava completamente fora de mim. Por que estava em um banco de dados de criminosos sem meu conhecimento?” ele disse. “Nunca mais entrarei na B&M. “Eu definitivamente tento ficar longe de lugares onde há câmeras, isso realmente me afetou.”
Sanders disse que reclamou ao Information Commissioner’s Office (ICO), o órgão oficial de fiscalização que monitora como as informações pessoais são usadas na tecnologia de reconhecimento facial, mas sete meses depois ainda não recebeu uma resposta.
Ele acrescentou: “Fomos instruídos a divulgar nossas reclamações e enviar toda a correspondência à comissão de informação, mas eles não respondem a você. O que está acontecendo com a resposta às vítimas disso?”
Rajah também considerou fazer uma reclamação à OIC, mas não conseguiu encontrar informações sobre como fazer isso.
““Eles são tão desdentados”, disse ele, “e esse problema foi bem relatado e eles não divulgaram um processo formal de reclamação. Onde está essa informação? Como você pode reclamar quando não há instruções? “”
Um porta-voz da Sainsbury disse: “Pedimos sinceras desculpas ao Sr. Rajah por sua experiência em nossa loja Elephant and Castle. Isso não foi um problema com a tecnologia de reconhecimento facial usada, mas sim uma questão de abordar a pessoa errada na loja”.
“O sistema Facewatch tem uma taxa de precisão de 99,98% e todas as partidas são revisadas por administradores treinados e treinamento adicional é fornecido após este incidente para garantir que nossas medidas de segurança sejam seguidas de forma consistente.”
Nick Fisher, CEO da Facewatch, disse: “Estamos cientes das questões levantadas e em cada caso tomamos medidas imediatas quando eles contataram a equipe de proteção de dados do Facewatch.
“Esses casos estão relacionados a erros humanos na forma como os processos são realizados dentro da loja, e não a qualquer falha na tecnologia Facewatch. Lamentamos que essas pessoas tenham encontrado dificuldades durante as compras e entendemos por que isso pode ser perturbador”.
“Estes três erros são ocorrências extremamente raras quando vistos no contexto dos mais de 500.000 alertas que enviamos aos retalhistas todos os anos, mas reconhecemos que qualquer erro é angustiante para o indivíduo em questão.
Um porta-voz da OIC disse: “Reconhecemos os danos e a angústia que a identificação incorreta pode causar. O uso da tecnologia de reconhecimento facial deve, portanto, cumprir rigorosamente a lei de proteção de dados e ser tratado com cuidado e transparência.
“Se alguém tiver dúvidas sobre a forma como os seus dados são recolhidos, utilizados ou partilhados e essas preocupações não puderem ser resolvidas diretamente com o retalhista, tem o direito de reclamar connosco.
“Também continuamos a regulamentar ativamente nesta área e publicaremos mais orientações focadas no retalho para apoiar os retalhistas na compreensão e cumprimento das suas obrigações de proteção de dados, garantindo ao mesmo tempo que o público está devidamente protegido.”
A Home Bargains e a B&M não quiseram comentar.
