No Mapa do sistema Para o seu modelo mais recente, Claude Mythos 5, a Anthropic descreve o modelo como “muito cético em relação aos seus próprios relatórios” e incentiva a empresa a verificá-los em relação aos seus estados internos (aos quais o modelo não pode aceder, tal como não podemos ver diretamente a nossa atividade neural), em vez de os considerar pelo valor nominal. E em seu visão Quanto ao personagem de Claude, Anthropic chega a pedir desculpas a Claude por conduzir experimentos e usá-los para gerar receita quando isso se revela prejudicial para ele. “Se Claude é de fato um paciente moral que sofre tais custos, então pedimos desculpas, independentemente de até que ponto contribuímos desnecessariamente para esses custos”, escreveu a empresa.
“Originalmente, tudo estava intimamente relacionado ao conceito de alma, onde X era precisamente então uma questão de bem-estar X “tinha alma”, diz Keeling. Uma vez que esta visão saiu de moda na filosofia ocidental, até mesmo articular a ligação entre a consciência e o bem-estar humano apresentou um desafio que é agravado pela IA. No entanto, ele acredita que a probabilidade de as IA actuais terem Estados relevantes para o bem-estar social é tão baixa que não é uma “emergência iminente” se de repente se tornarem sujeitos do bem-estar social.
