Publicado originalmente por MIT Technology Review
Você confiaria em conselhos médicos gerados por inteligência artificial? É uma questão que tenho pensado esta semana, tendo em vista ainda mais manchetes proclamando que as tecnologias de IA podem diagnosticar uma série de doenças. A implicação é muitas vezes que eles são melhores, mais rápidos e mais baratos do que os profissionais com formação médica.
Muitas dessas tecnologias têm problemas bem conhecidos. Eles são treinados em dados limitados ou tendenciosos e geralmente não funcionam tão bem para mulheres e pessoas de cor quanto para homens brancos. Não apenas isso, mas alguns dos dados em que esses sistemas são treinados estão totalmente errados.
Há outro problema. À medida que essas tecnologias começam a se infiltrar nos ambientes de assistência médica, os pesquisadores dizem que estamos vendo um aumento no que é conhecido como paternalismo da IA. O paternalismo na medicina tem sido problemático desde o início da profissão. Mas agora, os médicos podem estar inclinados a confiar na IA em detrimento das próprias experiências vividas pelo paciente, bem como de seu próprio julgamento clínico.
A IA já está sendo usada na área da saúde. Alguns hospitais usam a tecnologia para ajudar na triagem de pacientes. Alguns o usam para auxiliar no diagnóstico ou para desenvolver planos de tratamento. Mas a verdadeira extensão da adoção da IA não é clara, diz Sandra Wachter, professora de tecnologia e regulamentação da Universidade de Oxford, no Reino Unido.
“Às vezes não sabemos realmente que tipos de sistemas estão sendo usados”, diz Wachter. Mas sabemos que sua adoção provavelmente aumentará à medida que a tecnologia melhorar e os sistemas de saúde procurarem maneiras de reduzir custos, diz ela.
A pesquisa sugere que os médicos já podem estar colocando muita fé nessas tecnologias. Em um estudo publicado há alguns anos, oncologistas foram solicitados a comparar seus diagnósticos de câncer de pele com as conclusões de um sistema de IA. Muitos deles aceitaram os resultados da IA, mesmo quando esses resultados contradiziam sua própria opinião clínica …
Veja o artigo completo no site MIT Technology Review