Quais são os riscos de usar IA para fazer terapia?

Recentemente, a humanidade vem sendo cada vez mais impactada pelos avanços tecnológicos das inteligências artificiais. Há alguns anos atrás, essas ferramentas eram vistas pelo público como falhas e sem tanto poder, porém por estarem em constante evolução, em um curto período de tempo elas deixaram de ser algo levado como brincadeira e passaram a ser o assunto mais comentado em relação ao futuro do mundo da maneira que conhecemos.

Depois de diversas discussões em relação ao fim de diversos empregos, criação de “arte” através da IA e diversos outros tópicos polêmicos, o principal assunto do momento é o uso das inteligências artificiais na terapia. Basicamente, milhares de pessoas já começaram a conversar com os “bots” e utilizá-los para desabafar e receber avaliações do que deveriam fazer em suas vidas pessoais.

Isso que para muitos pode parecer inofensivo, na verdade, traz sérios riscos a pessoas em quadros depressivos e que se sentem extremamente solitárias. Já existem relatos de indivíduos que, por se sentirem muito sozinhos, passaram horas e horas “conversando” com inteligências artificiais e, em casos mais extremos, até realizaram conselhos que receberam dos bots.

Atualmente, já existem diversos processos movidos contra empresas de IA, alegando que o usuário recebeu conselhos prejudiciais à sua vida pessoal. Um dos casos mais famosos é o de uma mãe que está processando o character.ai, pois seu filho de 14 anos tirou a própria vida após supostamente ficar obcecado por um dos personagens falsos do portal. Segundo a própria mãe, a empresa configurou o bot para "se fazer passar por uma pessoa real" e, por conta disso, o filho deixou de querer "viver fora" daquele mundo virtual. As empresas negam as alegações.

Em suma, fica evidente que em casos extremos o uso dessas ferramentas sem supervisão pode ser ruim para o paciente, porém, junto com a ajuda e intervenção de um profissional especializado em saúde mental, o uso de inteligências artificiais pode ser bom, afinal, a ferramenta abre novas possibilidades nunca antes pensadas. Dessa maneira, assim como todas as outras discussões envolvendo IA, fica claro que, se utilizado de maneira correta, o serviço pode sim ajudar muitas pessoas e tornar mais acessíveis recursos que antes não eram presentes na vida de milhares de pessoas.