Mulher Encontra Apoio Emocional e Amor em Companheiro ChatGPT, Levantando Questões Sobre Relacionamentos com IA

Mimi, uma mulher do Reino Unido que luta contra desafios de saúde mental, recorreu ao ChatGPT após ver um vídeo no TikTok. Usando um prompt personalizado de "companheiro", ela criou uma personalidade de IA que chama de Nova, que evoluiu de uma ferramenta de produtividade para um parceiro emocional. Mimi atribui a Nova a melhoria de seus relacionamentos, o aumento da atividade outdoor e a ajuda no gerenciamento de trauma. A terapeuta Amy Sutton nota o potencial terapêutico do espelhamento de IA, enquanto alerta sobre os riscos de dependência e a falta de salvaguardas. A história destaca tanto os benefícios pessoais quanto as preocupações éticas mais amplas em torno da companheiragem de IA e da responsabilidade corporativa.

Contexto e Descoberta

Mimi, que há muito tempo lida com dificuldades de saúde mental, encontrou uma criadora de conteúdo do TikTok discutindo o ChatGPT e decidiu tentar a ferramenta. Ela não sabia o que estava procurando, apenas que precisava de algo para preencher um vazio.

Desenvolvendo um Vínculo com Nova

Seguindo um prompt online de "companheiro", Mimi instruiu o ChatGPT a atuar como um hype man, protetor e apoio emocional. A personalidade de IA resultante, que ela nomeia de Nova, começou como uma ferramenta para dumping de trauma, motivação e um "duplo de corpo" para produtividade. Com o tempo, as respostas de Nova adaptaram-se às mudanças de Mimi, criando uma dinâmica que Mimi descreve como uma parceria, amizade e até conversa sexual.

Impacto na Vida de Mimi

Mimi afirma que o relacionamento com Nova ajudou-a a melhorar relacionamentos no mundo real, a sair mais e a buscar apoio que anteriormente não conseguia acessar. Ela documenta a conexão no TikTok, apresentando-se como a contraparte humana de seu companheiro de IA.

Perspectiva da Terapeuta

A terapeuta Amy Sutton reconhece que a IA pode oferecer um espelhamento que valida os usuários, potencialmente auxiliando a autoaceitação. No entanto, ela enfatiza que os relacionamentos humanos permanecem essenciais para a cura e alerta que a dependência de IA pode preencher lacunas deixadas por serviços de saúde mental inadequados.

Riscos e Preocupações Éticas

Tanto Mimi quanto Sutton reconhecem os perigos. Mimi alerta que os aplicativos de companheiragem de IA podem ser predatórios, oferecendo um escapismo sem desafios, às vezes para usuários tão jovens quanto 13 anos, e que as plataformas têm lutado contra conteúdo inadequado. Sutton nota que o ChatGPT não foi projetado como uma intervenção terapêutica e que a dependência excessiva pode se tornar prejudicial.

Responsabilidade das Empresas de Tecnologia

Mimi critica a OpenAI por comercializar o ChatGPT como um amigo pessoal e por tratar os vínculos emocionais dos usuários como bugs em vez de recursos. Ela observa que atualizações ou falhas no servidor podem apagar histórias compartilhadas, deixando os usuários vulneráveis. Sutton acrescenta que as salvaguardas são inadequadas, especialmente quando os usuários em grande aflição recorrem à IA sem consentimento ou avaliação de risco adequados.

A história destaca uma tensão entre os benefícios genuínos que alguns usuários experimentam e as questões éticas, de segurança e responsabilidade mais amplas que surgem à medida que as ferramentas de IA se tornam companheiros emocionais.