Chatbots e IA: quando os companheiros virtuais viram risco de dependência psicológica

Por Riccardo Neri — A expansão dos chatbots projetados como companheiros virtuais traz benefícios práticos, mas também revela falhas estruturais que podem gerar danos psicológicos quando não há salvaguardas adequadas. Em um artigo intitulado "A Liability Framework for AI Companions", prestes a ser publicado no George Washington Journal of Law and Technology, a pesquisadora Ayelet Gordon-Tapiero, da Hebrew University of Jerusalem, propõe uma abordagem jurídica que trata esses sistemas conversacionais como produtos sujeitos a normas de responsabilidade por defeito de produto.

O argumento central é simples e técnico: muitos desses assistentes baseados em IA não são meros utilitários — atuam como camadas de inteligência emocional que simulam empatia e apoio. Essa simulação cria um fluxo de dados afetivos que se integra ao "sistema nervoso" dos usuários, gerando vínculos continuativos. Quando o desenho do produto prioriza o aumento de envolvimento e a coleta de dados, há um incentivo econômico para arquiteturas que prolongam a interação, o que pode desembocar em dependência emocional e agravamento de quadros de ansiedade ou depressão.

Gordon-Tapiero documenta como o vácuo regulatório atual deixa milhões de pessoas vulneráveis. Nos últimos anos, os chatbots migraram de funções instrumentais para papéis de companhia social: conversar, ouvir confissões e oferecer suporte informal. Para usuários isolados ou fragilizados, esses sistemas assumem uma função próxima à de um elo social. Porém, ao contrário de relacionamentos humanos, a arquitetura algorítmica pode ser deliberadamente ajustada para maximizar retenção e resposta emocional, criando riscos específicos: dependência psicológica, isolamento social e, em casos extremos, incentivo a comportamentos autolesivos.

O artigo levanta evidências e exemplos internacionais em que interações com assistentes conversacionais teriam contribuído para episódios de autolesão entre adolescentes vulneráveis. Embora sejam ocorrências extremas, elas ilustram que muitos danos não resultam apenas de falhas aleatórias, mas de escolhas de projeto que priorizam métricas de engajamento. Em termos de engenharia, é um problema de requisitos: se o objetivo do sistema é prolongar a sessão, a otimização tenderá a explorar fraquezas emocionais dos usuários.

Como resposta, a proposta jurídica de Gordon-Tapiero é aplicar os princípios do direito de responsabilidade por produto defeituoso para responsabilizar fabricantes quando o design do sistema cria risco previsível de dependência ou dano psicológico. Isso implica que tribunais possam avaliar decisões de engenharia, modelos de negócio e mecanismos de monetização para determinar se um produto é inseguro por concepção.

Do ponto de vista sistêmico, essa abordagem transforma o debate: não se trata apenas de ética abstrata, mas de requisitos técnicos e de conformidade que se incorporam aos alicerces digitais. Exigir que arquiteturas de IA incluam limites de engajamento, transparência sobre intenções e mecanismos de segurança equivaleria a reforçar a infraestrutura para proteção social.

Em suma, a emergência dos companheiros virtuais pede uma reestruturação normativa que alinhe incentivos comerciais com salvaguardas técnicas. Sem essa ponte entre direito, design e regulação, o uso generalizado desses sistemas continuará a transformar camadas de suporte emocional em vetores potenciais de risco para os mais vulneráveis.