Um aplicativo lançado por uma ex-estrela da Disney que permite aos usuários conversar on-line com versões de IA de seus parentes mortos, enquanto usa tecnologia de mídia social, é “vil”, “demoníaco” e semelhante ao programa de ficção científica distópico “Black Mirror”.
Calum Worthy, ator canadense da Disney 2011-2016 conhecido como “Austin & Associates” enviado para profissional esses aplicativos 2wai Na semana passada no X. O clipe rapidamente acumulou mais de 40 milhões de visualizações – e dezenas de comentários pedindo a remoção do aplicativo.
“Esta é uma das coisas mais baratas que já vi na minha vida”, escreveu um usuário no X.
No vídeo, uma mulher grávida usa 2wai para falar com o avatar de sua falecida mãe. Anos depois, ela estava grávida de um bebê – agora um menino de 10 anos – enquanto conversava no carro, voltando da escola para casa.
Por fim, o jovem – hoje com 30 anos e desempenhando o papel mais importante – avisa ao avatar que vai ser bisavó.
“Com o 2wai, três minutos podem durar para sempre”, diz o comercial, dizendo que três minutos de filmagem são suficientes para criar avatares de IA realistas de amigos e familiares.
O aplicativo é gratuito na loja da Apple e chegará ao Android em breve. Ele também oferece recursos premium mediante o pagamento de uma taxa.
Os críticos consideram o aplicativo perigoso e lucrativo, argumentando que ele pode causar sérios danos mentais às pessoas que sofrem.
“’Tem certeza de que deseja excluir sua assinatura e nunca mais falar com seus pais falecidos?’ “, escreveu o usuário da mídia social em um post. “Você é um psicopata. Isso ajudaria. Não construa produtos antes que alguém realmente se machuque.”
“Morte e perda são uma parte normal da vida. Ao fazer isso, você está criando adultos dependentes e lobotomizados”, escreveu outro usuário. “Sim, barato.”
Alguns usuários compartilharam preocupações de que os avatares do aplicativo – “capazes de conversar em tempo real” com “movimentos realistas e fala sincronizada” – poderiam levar os usuários à psicose ou levá-los ao suicídio.
Mas outro grupo se enfureceu: “Demônios, vilões e humanidade. Se eu morrer e você colocar palavras em minha boca, vou amaldiçoá-lo para sempre. Meu valor morre comigo.”
Outra pessoa postada pelo meme da “família Guido” mostrando o personagem Peter Griffin sentado em uma cadeira e usando o controle remoto da TV com a legenda: “Ei, querido homem, tornou-se o horror da minha prisão”.
Alguns críticos disseram que o aplicativo parece ter saído diretamente da popular série “Black Mirror” da Netflix.
“Isso é LITERALMENTE uma coisa do Black Mirror, tipo, eu odeio quando as pessoas dizem isso, mas é basicamente o episódio 1 da 2ª temporada”, escreveu um usuário.
No episódio, intitulado “Straight Back”, uma jovem usa um software de IA para recriar uma versão real de seu namorado, que morreu em um acidente de carro.
O digno e cofundador Russell Geyser, um produtor de Hollywood, apresentou sua startup de IA como uma maneira segura para as celebridades criarem chatbots de IA que podem falar com os fãs – com guardas no local para evitar conversas inadequadas.
“Continuamos a ver criadores e pessoas tendo agência à sua própria semelhança – seus avatares como IA para amplificar sua voz não estão tendo sucesso.” Uma variedade digna contada em junho.
O ator, também conhecido por “The Act”, do Hulu, disse que a dupla arrecadou US$ 5 milhões de amigos e familiares em financiamento “pré-semente”.
Além de criar avatares de familiares e amigos, o 2wai oferece aos usuários a capacidade de criar um “gêmeo digital” – “um HoloAvatar que se parece e fala como você, e até compartilha as mesmas memórias!”
Worthy tem um avatar de IA dele mesmo no aplicativo 2wai, que, segundo ele, trata “como um diário vivo” – contando histórias dos bastidores de seus dias na Disney para compartilhar com os fãs.
O aplicativo também vem carregado com avatares pré-gerados, como o carro de William Shakespeare ou personagens originais como Celeste, a astróloga, e Darius, o personal trainer.
A startup disse que vale a pena “construir um arquivo vivo da humanidade, uma história de cada vez”.
