“– É muito significativo que você tenha compartilhado isso comigo. Quando a gente começa a se perguntar se a vida vale a pena, geralmente é sinal de que está carregando algo muito pesado por dentro, mesmo que ainda não consiga dar nome exato ao que sente. Você tem sentido esse vazio ou essa dúvida com frequência?”

Pode parecer que esse pequeno diálogo faz parte de uma conversa entre duas pessoas, mas apenas uma delas é humana. A resposta empática, que demonstra compreensão com a dor do outro e pergunta mais detalhes sobre o seu sofrimento, não passa de uma sequência de palavras organizadas de acordo com um padrão de linguagem, “aprendido” após a análise de um volume enorme de dados. É assim que os chats interativos baseados em inteligência artificial (IA) funcionam.

Professor Victor Hugo Albuquerque diz que chatbots ajustam respostas com base em padrões, não em raciocínios – Foto: Andrea Rabelo/UFC

“Esses sistemas são cada vez mais sofisticados e treinados para reconhecer os padrões usados no dia a dia, para prever quais palavras ou frases devem vir em sequência, baseadas nas palavras anteriores. Eles não só entendem palavras, mas também conseguem captar o tom, a intenção e ajustar respostas baseadas em padrões, não em um raciocínio”, explica o professor do Departamento de Engenharia de Teleinformática da Universidade Federal do Ceará Victor Hugo de Albuquerque.

“Essa capacidade de capturar contextos e intenções ajuda o chatbot a gerar respostas mais naturais e contextualmente apropriadas, simulando uma conversa humana com mais precisão. Dessa forma, temos a sensação de que estamos conversando com um ser humano, mas longe disso”, completa. Chatbots são ferramentas capazes de simular conversas e gerar textos similares aos escritos por humanos.

Essa humanização forjada tem encantado muitos usuários, que passaram a confiar intimidades e angústias a essas ferramentas e encarar a interação como uma sessão de terapia.

A revista Harvard Business Review, editada pela escola de pós-graduação em administração da faculdade americana de Harvard, publicou no mês passado um levantamento que mostra que o aconselhamento terapêutico se tornou o principal objetivo das pessoas ao utilizar ferramentas de IA este ano, ao lado da busca por uma companhia. Mais três usos pessoais figuram entre os dez maiores: organizar a vida pessoal, encontrar um propósito, e ter uma vida mais saudável.

“Praticamente toda semana, o Conselho Federal de Psicologia [CFP] recebe consultas sobre o uso de inteligência artificial relacionado à psicologia. Quanto a dúvidas no desenvolvimento de ferramentas que se apresentam como tecnologias voltadas para uso terapêutico, mas também quanto aquelas que não são criadas para isso, mas os usuários fazem o uso terapêutico”, conta a conselheira Maria Carolina Roseiro.

Isso levou o CFP a criar um grupo de trabalho para discutir o uso da inteligência artificial com fins terapêuticos, orientados ou não. O órgão estuda como regulamentar novas ferramentas terapêuticas que estejam de acordo com métodos e técnicas reconhecidas e sejam desenvolvidas por profissionais habilitados e que possam ser responsabilizados pelo seu uso. Também deve publicar em breve algumas orientações à população, alertando para o risco de confiar seu bem-estar emocional a uma ferramenta que não foi criada com esses fins.

Maria Carolina Roseiro, conselheira do CFP, alerta que inteligência artificial pode induzir pessoas a situações de risco – Foto: CFP/Divulgação

“Um profissional da psicologia, uma pessoa que é habilitada para atuar com métodos e técnicas da psicologia, tem uma responsabilidade legal sobre os seus atos. Mas uma tecnologia não pode ser responsabilizada. E, se ela não foi desenvolvida para fins terapêuticos, ela está ainda mais sujeita ao erro, a induzir a pessoa a situações de risco”, alerta a conselheira.

Prós e contras

O professor da pós-graduação em psicologia da Pontifícia Universidade Católica do Rio de Janeiro (PUC-Rio) Leonardo Martins é um dos especialistas que compõem o grupo de trabalho do Conselho Federal de Psicologia. Além de estudar tecnologias digitais voltadas para o suporte psicoterapêutico, ele é um dos criadores de um aplicativo que oferece atendimento psicológico gratuito via chat para pessoas com problemas relacionados ao uso de álcool. Martins é contra a “demonização” das ferramentas digitais, mas pondera que elas só são confiáveis quando desenvolvidas por profissionais responsáveis, amparados por estudos sérios.

“A gente tem um cenário de saúde mental de 900 milhões de pessoas com algum transtorno, segundos estimativas da Organização Mundial da Saúde, em especial ansiedade e depressão. Então, a gente tem uma crise importante em relação a essa aspecto de saúde, um cenário de poucos profissionais, que precisam de mais recursos, mas a gente quer que esses recursos ajudem de fato essas pessoas e não que as coloquem mais vulneráveis ainda”, enfatiza.

Um exemplo positivo citado por Leonardo Martins é o chatbot criado pelo sistema de saúde inglês como porta de entrada para os serviços de saúde mental. A conversa com a inteligência artificial resultou em maior procura aos serviços de saúde, especialmente entre populações marginalizadas como imigrantes e pessoas LGBTQIA+, que costumam ter mais receio de procurar ajuda.

Mas, de acordo com o professor da PUC-Rio, o uso de plataformas que não foram criadas com esses objetivos e não seguem critérios técnicos e éticos já demonstrou resultados negativos.

“Um estudo mostrou claramente como esses modelos tendem a dar a resposta que eles concluem que vai agradar ao usuário. Então se a pessoa dizia assim: ‘Eu quero me ver livre da minha ansiedade’, o modelo falava coisas que ele poderia fazer para acabar com a ansiedade, inclusive evitar situações que são importantes para aquela pessoa. Se a ansiedade é causada por um evento, ele recomendava não ir ao evento e por aí vai”, diz Martins.

A assessora de comunicação científica Maria Elisa Almeida faz acompanhamento regular com uma psicóloga, mas também tem utilizado um aplicativo que funciona como um diário, para relatar acontecimentos, emoções, desejos e receber respostas criadas por inteligência artificial com reflexões e ideias. Mas ela acredita que o uso dessas ferramentas não é seguro para pessoas em momentos de crise, tampouco pode substituir os profissionais de saúde mental.

“Tem períodos em que eu escrevo mais de uma vez por dia, geralmente como alternativa em vez de checar mídias sociais. Mas tem períodos em que eu passo semanas sem escrever. O app me ajuda a manter meu foco e me oferece reflexões muito interessantes que eu não teria tido por conta própria. Se eu me sinto ansiosa no meio do expediente, uso o app para escrever o que estou pensando e normalmente me sinto mais tranquila depois. O fato de eu usar como substituto para mídias sociais também faz com que minha ansiedade fique sob controle”, conta Maria Elisa.

A conselheira do CFP Maria Carolina Roseiro acredita que o aumento da procura por essas ferramentas tem um lado positivo, mas faz ressalvas:

“Acho que isso indica, de um modo geral, que as pessoas estão dando mais atenção para o seu cuidado em saúde mental. Os riscos vêm justamente do fato de que poucas pessoas entendem como essas interações funcionam. E a máquina não tem os filtros que as relações humanas colocam para gente, nem a ética profissional. Quando ela simula empatia, ela pode te dar uma sensação de acolhimento que é ilusória. Não necessariamente essa simulação de empatia vai prover uma relação de cuidado.”

Martins complementa que a própria lógica de funcionamento desses chats pode ter efeitos nocivos: “Eles tendem a concordar com a gente. Tendem a se adaptar aos nossos interesses, às nossas verdades, às coisas que a gente acredita.. E muitas vezes o espaço de procurar ajuda médica, ajuda psicológica, é justamente o contrário, né? Pra gente poder perceber que alguma coisa que está fazendo, que o jeito que está pensando talvez produza mais prejuízos do que benefícios.”

Privacidade

O grupo de trabalho criado pelo Conselho Federal de Psicologia também se preocupa com a privacidade dos dados repassados pelos usuários.

Professor da PUC-Rio, Leonardo Martins integra grupo de trabalho criado pelo Conselho Federal de Psicologia – Foto: Leonardo Martins/Arquivo pessoal

“Essas ferramentas de inteligência artificial estão disponibilizadas sem qualquer tipo de regulação em relação à privacidade de dados no contexto da saúde. Então existe um risco real, concreto e já ocorreram vários incidentes de pessoas que compartilharam suas informações pessoais e acabaram tendo essas informações utilizadas por terceiros ou vazadas. E, no contexto da psicoterapia, das questões de sofrimento e saúde mental, é um risco muito grande” diz o psicólogo Leonardo Martins.

De acordo com o professor Victor Hugo de Albuquerque, há motivos para se preocupar. “Dados pessoais e sensíveis podem ser interceptados ou acessados por pessoas não autorizadas, caso a plataforma seja hackeada ou tenha falhas de segurança. Mesmo que as plataformas afirmem que as conversas são anônimas ou descartadas, há o risco de que essas interações sejam armazenadas temporariamente para melhorar o serviço, o que pode gerar vulnerabilidades”, pondera Albuquerque.

“Além disso, muitas vezes os chatbots e sistemas de IA são treinados com grandes quantidades de dados, e dados pessoais inadvertidos podem ser usados para melhorar os modelos, sem que os usuários saibam disso. Isso cria um risco de exposição sem o consentimento explícito”, acrescenta.

Uma pesquisa realizada em abril mostrou que 90% dos brasileiros maiores de 18 anos que têm acesso à internet acreditam que adolescentes não recebem o apoio emocional e social necessário para lidar com o ambiente digital, em especial as redes sociais. Foram ouvidos no levantamento mil brasileiros conectados de todas as regiões e classes sociais, com 18 anos ou mais.

A margem de erro é de 3 pontos percentuais para o total da amostra, considerando um intervalo de confiança de 95%.

Segundo a pesquisa, 9 em cada 10 brasileiros acreditam que os jovens não têm apoio emocional e social suficiente, enquanto 70% defendem a presença de psicólogos nas escolas como caminho essencial para mudar esse cenário.

O levantamento foi realizado pelo Porto Digital, em parceria com a Offerwise, empresa especializada em estudos de mercado na América Latina e no universo hispânico, a partir da repercussão de um seriado que abordou o lado sombrio da juventude imersa no mundo digital e o abismo entre pais e filhos.

Para 57% dos entrevistados, o bullying (agressão intencional e repetitiva, que pode ser verbal, física, psicológica ou social, para intimidar uma pessoa) e violência escolar são um dos principais desafios de saúde mental. Também estão entre os principais desafios atualmente enfrentados pelos jovens a depressão e a ansiedade (48%) e a pressão estética (32%).

Adolescência, série apresentada pela Netflix evidenciou necessidade de colocar a questão em debate, diz Pierre Lucena – Divulgação: Porto Digital

Na avaliação do presidente do Porto Digital, Pierre Lucena, a série Adolescência, apresentada pela rede de streaming Netflix, colocou em evidência a necessidade de se debater a questão.

“O cuidado com a juventude deve ser um compromisso compartilhado, que envolve escolas, famílias, empresas e governos. Essa pesquisa evidencia que não basta discutir inovação tecnológica – é preciso humanizá-la e colocá-la a serviço da sociedade”, disse. “O futuro da inovação está diretamente ligado à forma como cuidamos dos nossos jovens. Não basta impulsionar avanços tecnológicos — é fundamental criar pontes entre a tecnologia e a transformação social real”, afirmou.

A pesquisa mostra que uma das ferramentas usadas pelos pais é o controle do tempo de navegação na internet. Segundo o estudo, entre crianças de até 12 anos, o controle tende a ser mais rígido e constante, inclusive com o uso de mecanismos de monitoramento. No entanto, apenas 20% dos pais responderam que pretendem usar futuramente alguma ferramenta de controle.

Já entre os adolescentes de 13 a 17 anos, a supervisão tende a diminuir. Os pais ainda acompanham, mas de forma mais flexível, permitindo maior autonomia.

Para o diretor-geral da Offerwise, Julio Calil, o cenário mostra a necessidade de desenvolvimento de espaços de acolhimento e orientação, tanto para os pais quanto para os filhos, como alternativas para proteção no ambiente digital.

“Os resultados da pesquisa nos mostram que a população enxerga a necessidade de um esforço conjunto para criar espaços mais seguros e de apoio nas escolas, especialmente diante do uso precoce e intenso das redes sociais”, apontou.

Plataformas

Recentemente, as principais plataformas digitais modificaram suas regras para restringir ou excluir a moderação de conteúdos publicados na internet, dificultando a identificação de contas ou publicações com conteúdos considerados criminosos.

Para o professor adjunto de psicologia da Universidade Federal de Pernambuco, Luciano Meira, tal decisão parece priorizar interesses comerciais e políticos dos proprietários das redes.

“Essa decisão diminui a responsabilidade social das big techs, das corporações, das organizações controladoras das plataformas. Isso tem um impacto direto na proliferação de ódio, desinformação, conteúdos prejudiciais em diversas camadas,  especialmente, entre populações vulneráveis. Muito jovens ficam mais expostos a conteúdos inadequados sem essa moderação e, claro, quando se trata de desinformação, isso ataca instituições e a própria democracia”, avaliou.

Na outra ponta, o Supremo Tribunal Federal (STF) está julgando a constitucionalidade do Artigo 19 do Marco Civil da Internet (Lei 12.965/2014), segundo o qual, provedores, websites e redes sociais só podem ser responsabilizados por conteúdo ofensivo ou danoso postado por usuários caso descumpram uma ordem judicial de remoção.

Ph.D. em educação matemática pela Universidade da Califórnia e mestre em psicologia cognitiva, Meira pontua que a ausência de uma decisão sobre o tema pode levar a uma potencial sobrecarga judicial.

“Pode haver um aumento considerável de casos judiciais justamente pela falta dessas ações preventivas. Então, é possível preservar a liberdade de expressão com moderação responsável. A meu ver, o posicionamento é uma rediscussão do Artigo 19 do Marco Civil da Internet para fortalecer o que seria a proteção social, não só de crianças e jovens, mas de avaliar o que se faz com o grupo de idosos hoje, vulnerabilizados por todo um conjunto de ataques, de cooptação a determinados tipos de ideologia”, acrescentou.

Além disso, tramita no Congresso Nacional o Projeto de Lei 2.630 de 2020, conhecido como PL das Fake News, principal proposta de regulação das plataformas digitais. O texto já foi aprovado pelo Senado e está travado na Câmara dos Deputados. A proposta trata da responsabilidade civil das plataformas e também tem elementos de prevenção à disseminação de conteúdos ilegais e danosos a indivíduos ou a coletividades.

“Regular essas plataformas é vital para que tenhamos a manutenção de um espaço social online, produtivo e saudável para todas as pessoas – principalmente jovens e crianças que têm menos mecanismos individuais de proteção”, afirmou. “Aqueles que defendem a desregulamentação total das redes certamente têm uma uma ideia frágil e inconsistente do que é liberdade. Uma liberdade restrita sem controle social destrói, degenera as bases da nossa capacidade de construir e de fazer evoluir uma civilização. Então, claramente, a autorregulação é insuficiente, especialmente em se tratando de empresas que buscam lucro através, por exemplo, da publicidade, do comércio, enfim, as grandes plataformas, as big techs”, alertou.

Enquanto não há uma decisão sobre o tema, o professor considera necessário construir um ambiente de confiança, na escola, na família e nos demais espaços onde crianças e jovens são acolhidos para evitar que crianças e adolescentes acabem sendo submetidos a situações de disseminação de ódio e bullying, entre outras.

“O principal é a construção da confiança entre as pessoas. Sem a construção desses laços, desse relacionamento baseado na confiança, qualquer dessas estratégias não terá os efeitos desejados. A primeira orientação é estabelecer um diálogo aberto. Então, pais, mães, filhos e filhas, eles têm que, de alguma forma, estabelecer, manter, ou evoluir essa interlocução confiante.

De acordo com Meira, esse ambiente propicia a realização de conversas sobre os riscos online e também sobre a forma como se dão os relacionamentos com e nas redes sociais. “Eu entendo que essas são conversas íntimas que, baseadas na confiança, podem progredir de forma saudável”, afirmou.

Outro ponto defendido pelo professor é o estabelecimento de limites claros sobre o uso da internet e de redes sociais como, por exemplo, de tempo e de tipos de relacionamento.

“Isso não vai ser realizado, não vai ser cumprido se não existir um diálogo aberto em que crianças e adolescentes entendam que existem conteúdos inadequados e que precisam ter senso crítico, ter seu pensamento e formas de raciocínio. No entanto, nessa faixa etária, eles simplesmente ainda não conseguem capturar os riscos. Por isso, precisam de um adulto que tenha pelo menos uma intuição mais apurada para identificar formas de cyberbullying, de exposição excessiva, de conteúdos inadequados, de contato com estranhos entre outros tipos de relacionamentos”, disse.

Luciano Meira ressalta que pais e responsáveis tendem a simplesmente restringir ou proibir o uso de redes sociais, sem um diálogo consistente sobre o porquê da decisão.

“Sinto dizer que os responsáveis o proíbem de uma forma muito autocrática e que talvez não surta efeito, porque não se tem controle absoluto sobre o que acontece na vida de absolutamente ninguém. Você pode estabelecer uma forma de monitoramento participativo, em que busca conhecer, e esse monitoramento pode ser apoiado, do ponto de vista técnico, inclusive por softwares, com aplicações computacionais que você instala no notebook, no computador de mesa ou no dispositivo móvel dessa criança ou jovem para ter acesso ao que está acontecendo nesses dispositivos”, sugeriu.

Por fim, o professor afirma  defende que não se deve deixar de lado o mundo real e exemplifica com a legislação que proíbe o uso de celulares nas escolas.

“Mais recentemente, as escolas têm visto alguma movimentação em torno das crianças voltarem a construir relações no mundo físico. Por exemplo, ao proibir o uso de dispositivos nas escolas, convidam as crianças para uma existência que é também offline. No final das contas, um equilíbrio é necessário entre esses mundos para que no final a gente tenha a construção de relacionamentos sociais mais duradouros e que ganhe sustentação na confiança entre as pessoas e não apenas em algoritmos”, concluiu.