Na manhã de quinta-feira, participei de um painel de perguntas e respostas com quatro dos principais executivos de smartphones da Samsung. Em 2025, a Samsung será o maior fabricante mundial de smartphones e, por associação, o maior fabricante mundial de câmeras. Ainda é o segundo maior depois da Apple.
A Samsung me deu um microfone primeiro. Eu pergunto:
Vemos uma divisão na sociedade entre as pessoas que querem que a IA faça coisas impressionantes com as suas fotos e vídeos, e aquelas que não querem que a IA faça essas coisas. qualquer que seja com fotos e vídeos porque corroem a nossa capacidade de acreditar que o que vemos é real, destruindo assim o conceito de evidência fotográfica.
Ferramentas de metadados como o C2PA falharam completamente em conter esta maré. A Samsung tem alguma ideia nova e diferente sobre como evitar que as imagens de IA dominem o mundo?
Os quatro executivos da Samsung não tinham ideias novas e diferentes para partilhar.
Elogiarei Won-Joon Choi, COO e chefe de P&D da divisão móvel, por não se esquivar da questão. Ele diz à sala que a erosão da realidade é um problema e que quer resolvê-lo.
Mas ele e outros executivos da Samsung sugeriram que a empresa precisa equilibrar o desejo pela realidade fotográfica com permitir que os compradores de smartphones sejam “mais criativos”. Eles ignoram a responsabilidade afirmando que este é um problema de toda a indústria, que requer uma discussão mais ampla, e afirmando que a Samsung já resolveu parcialmente o problema simplesmente adicionando uma marca d’água às imagens geradas por IA. Marca d’água que pode ser facilmente removida.
Relembrando a inauguração mais tarde, um executivo afirmou que nossos sentimentos em relação ao conteúdo gerado por IA podem ser melhores no futuro.
Aqui estão algumas respostas.
“Estamos cientes desse problema porque muito conteúdo é gerado pela IA”, começou Choi. “Por um lado, as pessoas querem ser mais criativas, por isso acreditamos que temos de fornecer soluções para que as pessoas possam ser mais criativas”, disse. “Por outro lado, hoje em dia é muito difícil distinguir fotos e vídeos reais de falsos. Acho que isso é um problema, estamos cientes disso, e acho que é um problema que temos que resolver a nível da indústria.”
“C2PA, você pode ver isso como um fracasso, mas ainda é suficiente fornecer um mecanismo se as pessoas quiserem validar que as imagens e vídeos são gerados pela IA. Acho que temos que fornecer um mecanismo para as pessoas usá-lo. Acho que este é um esforço contínuo em toda a indústria para resolver este problema”, acrescentou.
“Penso que se fizermos um esforço concertado para resolver este problema, acredito que seremos capazes de o fazer”, concluiu.
Como escreveu a minha colega Jess Weatherbed no início desta semana, estamos a começar a temer que a retórica “a indústria resolverá isto em conjunto” e que a própria C2PA substitua ações reais e significativas.
Talvez respondendo ao nosso relatório Samsung AI slop watch, o executivo americano da Samsung, Dave Das, também disse que a empresa ainda está aprendendo o quanto a IA é aceitável ao criar seus próprios anúncios. Ele reconheceu que sua empresa “começou a aproveitar algum conteúdo de IA em nosso criativo e a resposta foi bastante clara”.
“Estamos tentando descobrir os lugares certos para usá-lo e como esclarecer quando usamos conteúdo gerado por IA versus conteúdo gerado naturalmente”, disse Das.
Mas Das ainda o enquadra como um ato de equilíbrio entre prioridades empresariais, e não como responsabilidade social. “Na verdade, tudo se resume a dar escolhas aos criadores”, disse ele, indicando que o trabalho da Samsung é encontrar “o equilíbrio certo”.
Mais tarde naquela manhã, o repórter de tecnologia da KTLA-TV Rico DeMuro senti a postura da Samsung com uma pergunta bem diferente. Ele perguntou se a Samsung poderia querer fazer um mais fácil para os clientes removerem marcas d’água de IA de fotos geradas por IA.
“Se eu estivesse fazendo um cartão de Natal com todos os seus gadgets divertidos, eu realmente gostaria que dissesse ‘conteúdo gerado por IA?’” perguntou DeMuro.
Drew Blackard, vice-presidente sênior de gerenciamento de produtos móveis da Samsung América, adota essa abordagem. Ele concluiu dizendo que “Se sentirmos que os consumidores realmente desejam a capacidade de remover marcas d’água, e se houver outras maneiras de abordar o primeiro ponto em torno da autenticidade ao mesmo tempo, faremos as duas coisas e entregaremos o melhor que as pessoas desejam da experiência”.
“Pelo menos neste momento, há muita preocupação dos consumidores com a autenticidade, e essa é a principal coisa que resolvemos, em termos de marcas d’água tanto nos metadados quanto nas próprias fotos. Nem todos os serviços fazem isso”, disse ele.
Blackard também sugere que algum dia poderemos olhar para trás e perceber que o conteúdo gerado pela IA não era grande coisa, que as nossas percepções podem ter mudado ao longo do tempo, tal como as percepções do conteúdo gerado pelo utilizador mudaram. Na época, as pessoas estavam preocupadas com “a quantidade de conteúdo que agora fluía para o sistema” e como não era o produto de vídeo profissional com o qual estavam acostumadas, disse ele.
Eu me pergunto se a Samsung e outros fabricantes de smartphones consideraram o contrário: que a percepção das imagens geradas por IA pode ser equilibrada menos tornou-se lucrativo depois que as pessoas perderam seus empregos em favor de produtos baratos de IA e, depois disso, tornou-se muito mais fácil mentir, trapacear e roubar sem qualquer evidência registrada confiável.
Eu me pergunto se eles consideraram resolver este problema “em nível industrial” antes eles quebraram a barragem e as percepções mudarão opor Samsung por ajudar a criar a inundação que se seguiu.
