IA especialista de saúde: consequências de substituir profissionais humanos são profundas

Recentemente, um portal de notícias divulgou uma matéria sobre saúde com um especialista inventado por Inteligência Artificial (IA). Além disso, uma pesquisa do aplicativo Olá Doutor divulgada este ano indicou que 7 em cada 10 brasileiros já usaram IA para tirar dúvidas sobre sintomas ou possíveis doenças. Este cenário não é exclusivo do nosso país. A Revista Nature revelou que quase 20% (1 em cada 5) de todas as conversas diárias feitas com assistentes virtuais envolvem a descrição de sintomas pessoais ou pedidos de ajuda médica ao redor do globo. E o que isso tudo significa? Ferramentas de Inteligência Artificial integram cada vez mais as nossas rotinas, ao ponto de confundirmos suas limitações e papéis na nossa vida. Muitos tratam esses ChatBots como médicos, psicólogos, especialistas e até amigos. Flaw Bone, pesquisadora de filosofia, ética e tecnologia pela UFRJ, docente da ESPM SP e parceira da NuPixel, consultoria criativa e digital, traz uma visão multifacetada dessa questão. A especialista, que visualiza a comunicação humana por diferentes lentes, do mercado, dos alunos, das pesquisas e de clientes, explica que a relação entre sociedade e tecnologias pode ser muito positiva se mantivermos o entendimento de que é uma relação de um ser humano e de uma máquina, não de um ser humano com outro. A ansiedade que o sistema humano não consegue suprimir No campo da saúde, essa linha divisória se torna ainda mais tênue. Quando sentimos um sintoma desconhecido, o medo e a ansiedade assumem o controle, gerando uma pressa que o sistema de saúde tradicional nem sempre consegue acolher no tempo que desejamos. É nesse vácuo que os chatbots se tornam a primeira opção. “Falarmos de saúde é falar de algo fundamental, carregado da percepção de urgência diante daquilo que não temos competência técnica para validar”, analisa Flaw. Segundo a pesquisadora, o ambiente digital saturado de ruídos faz com que a IA pareça a ponte mais rápida e disponível para o conhecimento. No entanto, o volume gigantesco de dados com o qual essas ferramentas são treinadas entrega o necessário, mas não o suficiente para um diagnóstico real. “Saber que tem informação relevante ali é importante, mas saber que pode haver informação errada é tão importante quanto”, alerta. Flaw ainda reforça: muitas vezes, recorremos à tecnologia para não ficarmos “reféns” de profissionais que são apenas especialistas em retórica, ou seja, que apenas “falam muito”. O irônico é que a IA opera exatamente da mesma forma. “Precisamos fazer a analogia: uma IA também é uma grande especialista da retórica! O risco não é perguntar, e sim achar que um sistema de IA é a única fonte segura”, completa. A fluidez simula afeto Além da busca por diagnósticos rápidos, o design dessas ferramentas, com disponibilidade 24 horas por dia, respostas instantâneas e tom acolhedor, foi desenhado sob medida para gerar conforto. Essa naturalidade linguística que evita fórmulas matemáticas complexas e se aproxima da fala humana facilita o dia a dia, mas abre margem para um envolvimento emocional perigoso. Flaw aponta que a fronteira saudável entre humano e máquina se mantém clara quando a linguagem natural é vista apenas como um facilitador operacional. “Sentir a conexão não é o problema, é negar que somos seres emocionais e que ela existe”. reforça. Para ela, o perigo real não está no sentimento em si, mas na falta de pensamento crítico sobre ele: “Sentir não é perigoso; não pensar sobre o que se sente é que é.” Ao aceitar a linguagem acolhedora sem questionamento, o usuário corre o risco de reconhecer a máquina como um semelhante, esquecendo-se de que o ser humano vai muito além de um fluxo operacional programado para acertar. A empatia está em nós, não na máquina, que replica isso de forma artificial. Responsabilidade não se terceiriza À medida que essas ferramentas avançam sobre os espaços de médicos, psicólogos e conselheiros íntimos, os desafios éticos e sociais se multiplicam. Questões como a segurança dos dados dos pacientes e a falta de transparência sobre como as respostas são geradas entram em pauta. Contudo, para a pesquisadora, o ponto mais sensível dessa transição é a diluição da responsabilidade. “A máquina pode mostrar como ir a um lugar ou por que se chega lá, mas quem decide o destino é sempre um ser humano”, defende. Flaw lembra que decisões humanas envolvem julgamento e moral, enquanto a Inteligência Artificial entrega apenas ponderações estatísticas. A tecnologia pode ilustrar cenários e justificar pontos de vista, mas nunca poderá ser responsabilizada pelas consequências de suas respostas. O retorno ao essencial Se o avanço da inteligência artificial parece nos empurrar para um futuro altamente tecnológico e difuso, o efeito colateral mais surpreendente pode ser o oposto. Para Flaw, essa transformação está nos forçando a olhar de volta para as perguntas humanas mais básicas, tornando a filosofia uma espécie de “caixa de ferramentas” indispensável para os novos tempos. O cuidado daqui para a frente exige vigilância para não agirmos apenas nos sintomas, ignorando as causas do nosso próprio distanciamento e da nossa dependência tecnológica. O horizonte pode ser incerto, mas a escolha de como caminhar por ele ainda nos pertence. Como resume a especialista: “Podemos não saber direito para onde estamos indo, mas é preciso, pelo menos, decidir para onde queremos ir e nos empenhar nesse caminho.”