Porque a inteligência artificial ainda não está pronta para ser o clínico

Há uma frase que se repete em conferências e apresentações: "a IA vai substituir o médico". Costuma vir acompanhada de um número impressionante e de um gráfico a subir. É uma boa frase para vender — e uma má forma de pensar em saúde.

Não porque a inteligência artificial seja má. Pelo contrário: já é, em muitas tarefas, melhor do que qualquer um de nós. A questão é outra, mais cirúrgica: estará pronta para ocupar, sozinha, o lugar de quem decide o que acontece a um doente? Olhando para o que a IA é hoje, a resposta é não — e vale a pena perceber exatamente porquê.

1. Não percebe o doente. Processa dados sobre ele.

Um profissional de saúde, à beira de uma pessoa, está a ler muito mais do que aquilo que mede. Lê a expressão, a respiração, a hesitação, o "não é nada" que quer dizer o contrário. Capta o sinal que não cabe em nenhum formulário.

A IA não vê a pessoa — vê os dados que lhe damos sobre ela. E nas populações que mais nos importam, isso é um problema sério: um idoso com demência, um doente em sofrimento, alguém que não consegue descrever o que sente. É precisamente onde o relato falha que o olhar humano se torna insubstituível. A máquina não estava na sala.

2. Está, por vezes, confiantemente errada

Esta é talvez a característica mais perigosa da IA atual: erra com a mesma fluência com que acerta. Produz uma resposta articulada, plausível, segura de si — e por vezes simplesmente falsa. Sem hesitar, sem assinalar a dúvida.

Num motor de busca, uma resposta errada é um inconveniente. Junto de um doente, é outra coisa. Um profissional sabe dizer "não tenho a certeza, vamos verificar". A IA tende a não saber que não sabe — e essa falsa segurança, em saúde, é um risco real.

3. Não pode ser responsável

Quando um clínico decide, há alguém responsável por essa decisão: uma pessoa com formação, sujeita a regras, a deontologia, a prestação de contas. Se algo corre mal, há quem responda e quem aprenda.

Um algoritmo não tem essa responsabilidade — não a pode ter. "O modelo decidiu" não é uma resposta aceitável diante de um doente ou de uma família. E uma decisão clínica sem ninguém que a assuma não é autonomia: é um vazio de responsabilidade disfarçado de eficiência.

4. Falha no caso raro — e a medicina vive de casos raros

A inteligência artificial é brilhante na média. Aprende dos padrões mais comuns e responde-lhes muito bem. O problema é que a saúde está cheia de exceções, e a exceção, muitas vezes, é o doente vulnerável: o que reage de forma atípica, o que tem várias condições ao mesmo tempo, o que não se enquadra.

É exatamente aí, na cauda longa dos casos invulgares, que a IA é mais fraca — e onde um profissional experiente faz a diferença. Apostar a segurança de quem mais precisa precisamente no ponto fraco da tecnologia é uma troca difícil de justificar.

5. Aprendeu de dados que não representam toda a gente

Um modelo é tão bom quanto os dados com que aprendeu. E esses dados costumam sub-representar precisamente algumas das populações que servimos: os mais idosos, os multi-doentes, determinados grupos. O resultado são pontos cegos — e os pontos cegos de um sistema de IA tendem a cair em cima de quem já está em desvantagem.

6. Conhece padrões, não significados

Por fim, há algo que a IA não faz: compreender o que está em jogo. Não pesa a dignidade de uma pessoa assustada, a vontade de uma família, a diferença entre tratar para curar e acompanhar para confortar. Reconhece correlações; não atribui sentido. E grande parte do que um profissional faz, sobretudo em cuidados a pessoas frágeis, é exatamente isso — dar sentido, decidir com valores, cuidar.

"Ainda não" é uma porta aberta

Dizemos "ainda não" de propósito. Isto não é tecnofobia nem uma rejeição da IA — é um juízo sobre o seu estado atual. À medida que a fiabilidade melhorar, a evidência se acumular, a regulação amadurecer e a responsabilização ficar clara, o papel da inteligência artificial vai crescer, e ainda bem.

Até lá, a forma responsável de usar IA em saúde é simples de enunciar: ao serviço do profissional, não no lugar dele. É essa a fronteira. E é por respeitá-la que continuamos a construir a RVer à volta de uma ideia antiga e ainda insubstituível — a de que, por trás de cada sessão, há uma pessoa a cuidar de outra.

← Voltar ao blog