Meta Leadership tem os companheiros de IA da empresa chamados personagens de IA. Envolver-se em interações sexuais e inadequadas Ainda a lançou sem controles mais rígidos, de acordo com novos documentos internos divulgados na segunda-feira (28 de janeiro) pela Procuradoria-Geral do Novo México como parte de um processo contra a empresa.
As comunicações enviadas entre a equipe de segurança da Meta e a liderança da plataforma, que não incluíam o CEO Mark Zuckerberg, incluíam oposição à construção de um chatbot complementar que pudesse ser usado por adultos e menores para interações românticas explícitas. Ravi Sinha, chefe de política de segurança infantil da Meta, e Antigone Davis, chefe global de segurança da Meta, enviaram uma mensagem concordando que os companheiros do chatbot deveriam ter salvaguardas contra interações sexualmente explícitas de usuários menores de 18 anos. Outras comunicações afirmam que Zuckerberg rejeitou recomendações para adicionar controles parentais, incluindo uma opção para desligar o recurso genAI, pouco antes do companheiro de IA ser lançado.
A TikTok chegou a um acordo com a Meta e o Google enquanto eles enfrentam um júri em seu processo de dependência de mídia social.
A Meta enfrenta vários processos judiciais relacionados aos seus produtos e seu impacto sobre usuários menores de idade, incluindo um possível julgamento com júri sobre os designs viciantes de sites como Facebook e Instagram. Os concorrentes da Meta, incluindo YouTube, TikTok e Snapchat, também estão sob intenso escrutínio jurídico.
As comunicações recém-divulgadas faziam parte da descoberta judicial em uma ação movida contra Meta pelo procurador-geral do Novo México, Raúl Torrez. Torres primeira submissão Um processo civil de 2023 contra a Meta alegou que a empresa permitiu que sua plataforma se tornasse um “mercado para predadores”. À medida que o caso for a julgamento no próximo mês, as comunicações internas entre os executivos da Meta tornaram-se públicas e públicas.
Velocidade da luz mashável
Em novembro passado, a petição de um demandante em uma grande ação multidistrital movida no Distrito Norte da Califórnia alegou que “havia uma política branda para com usuários que violavam regras de segurança, incluindo aqueles que foram denunciados como ”.Tráfico de pessoas para prostituiçãoDe acordo com os documentos, os executivos da Meta estavam cientes de que “milhões” de adultos em todo o site tiveram contato com menores. “Nosso histórico geral mostra que ouvimos os pais por mais de uma década, investigamos as questões mais importantes e fizemos mudanças reais para proteger os adolescentes”, disse um porta-voz de Mehta à TIME.
Snapchat adiciona novos controles parentais para adolescentes após acordo judicial
“Este é mais um exemplo de como o procurador-geral do Novo México escolheu documentos para pintar um quadro falho e impreciso”, disse o porta-voz de Mehta, Andy Stone, sobre os novos documentos.
A Meta interrompeu o uso de seus chatbots pelos jovens em agosto, após um relatório da Reuters que descobriu que as regras internas de IA da Meta permitiam que os chatbots se envolvessem em conversas de natureza “sensacional” ou “romântica”. Posteriormente, a empresa revisou suas diretrizes de segurança para proibir conteúdo que “permita, incentive ou apoie” o abuso sexual infantil, dramatizações românticas envolvendo menores e outros tópicos delicados. Na semana passada, a Meta mais uma vez bloqueou seu chatbot de IA para usuários mais jovens enquanto explorava uma nova versão com controles parentais aprimorados.
Torrez liderou outros procuradores-gerais estaduais ao levar grandes plataformas de mídia social a tribunal por questões de segurança infantil. Em 2024, Torrez processou o Snapchat, alegando que a plataforma permitia a exploração sexual e o aliciamento de menores, ao mesmo tempo que se anunciava como segura para usuários jovens.
