Medicina nas entrelinhas

“I’m sorry dave, I’m afraid I can’t do that”

Por Rafael Araújo

“I’m sorry dave, I’m afraid I can’t do that” – uma breve discussão sobre IA: a opacidade de seus algoritmos,  o entusiasmo dos que não sabem como eles funcionam, e o caminho do meio.

A Inteligência Artificial, ou simplesmente “IA”, dia-a-dia se faz mais presente em nossas vidas: acolhida por uns como solução de todos os males da humanidade, considerada por outros como nossa derrocada, sua presença não se dá sem causar alardes, dúvidas, ou medo.

O título do post alude ao filme “2001: uma odisséia no espaço” de Stanley Kubrick, onde o computador Hal 9000 que deveria auxiliar uma tripulação de astronautas se volta contra os mesmos, perdendo-se numa espiral de disfuncionalidades que culminam em drásticas consequências. No entanto, repare que o desvario de Hal – os bits  que lhe sobem à cabeça (ou à CPU) – se dá por possuir sentimentos humanos: o ego, a desconfiança, o desvirtuam. 

Tal discussão pode ser facilmente ignorada se levarmos em conta que “máquinas não têm sentimentos” nem sofrem de qualquer “mal dos homens”, portanto problemas como o citado acima nunca ocorreriam.  Engana-se quem assim pensa: apesar da ciência estar longe de produzir uma máquina “inteligente” como a do filme 2001, há vários erros em IA que são corriqueiros, erros que agora-neste-exato-momento impactam a vida de muitos. Em geral, são equívocos-enganos que ocorrem por delegarmos à máquinas aquilo que conhecemos por “tomada de decisão”: um software que buscaria estabilizar aviões levou dois Boeings 737 MAX a caírem;  um carro sem motorista e auto-guiado (por IA) atropelou uma pessoa nos Estados Unidos em 2018; um homem acusado de um crime por que um computador associou seu rosto à imagem de câmeras de segurança, dentre tantos outros casos. 

Como luditas que nos primórdios da industrialização destruíam máquinas, é de se perguntar: deveríamos pôr fim a computadores e livros de IA? Nos negar tais avanços ou seus frutos?  

De maneira alguma. Como ressalta o Nobel em economia Daniel Kahneman em seu livro “rápido, devagar”, a presença de métodos e algoritmos que nos ajudam na tomada de decisões é importante, pois são eles que nos dão uniformidade diante da arbitrariedade e viés com pessoas de todos os tipos tomam decisões, mesmo profissionais ou especialistas.

Há de fato situações em que máquinas podem fazer um mesmo serviço com mais precisão que humanos; não à toa temos diversos robôs em linhas de produção mundo afora. Em tais casos, seria desonesto, contraproducente – pra não dizer antiético – exigirmos que humanos ainda façam tais serviços, ou se submetam a tantos outros que seriam perigosos. 

Por outro lado, há tarefas nas quais máquinas estão longe de ser tão eficientes quanto humanos, são simplesmente “imprestáveis”, ou poderiam produzir erros cujo impacto humano seria devastador, como nos exemplos citados acima. Acrescento aqui algo que me ocorreu no começo de 2020, durante uma visita aos Estados Unidos: fui questionado por uma senhora – que se dizia leiga em IA – se esta deveria adotar um aparelho “inteligente” que liberaria um remédio diretamente na sua corrente sanguínea; o tal aparelho, cujo funcionamento se baseava dentre outras coisas em medições de batimentos cardíacos, havia sido recomendado por seu médico. Minha resposta foi a seguinte: “se você não tiver um histórico de perda de memória, ou for descuidadamente relapsa quanto ao uso do remédio, com danos enormes pra tua saúde, eu diria que sim, adote-o. Do contrário, se nem memória nem indisciplina forem um problema, e se você mesma ou uma pessoa confiável puder te aplicar essa injeção, então esqueça esse aparelho ‘caixa-preta’ e siga com teu tratamento à moda antiga, simples, confiável, da maneira que você sabe como e porquê funciona.”

Talvez você esperasse desse texto uma resposta (um algoritmo!) que te desse uma regra pra saber quando acreditarmos em IA ou não. Infelizmente, tal critério ainda não existe. 

O que podemos fazer é darmos familiaridades à sociedade quanto ao tema, conscientizando as pessoas de como decisões são tomadas em diversos contextos pertinentes à vida delas. O futuro  não se faz com imposições de tecnólogos sobre o resto da população nem com reações luditas desta última.  Desenvolvedores de IA e empresas que fazem uso dessa tecnologia deveriam se abrir a um diálogo honesto com o restante da sociedade e seus legisladores. Que crises como a de 2008 tenham nos ensinado que entusiasmo em demasia que nos induz a um excesso de confiança, e que ao adotarmos modelos de maneira cega seguimos para um outro abismo. Que especialistas possam conversar com a sociedade independentemente do conhecimento técnico desta; IA é, não esqueçamos nunca, fruto do trabalho de humanos, e a estes deve servir. Caso contrário seguiremos curvados diante de decisões adotadas sem crítica, sem discussão alguma, para o benefício de poucos e o pesar de muitos.

————————————————————————-

INCERTO: Recomendações dos três livros abaixo, muito interessantes e que dão um parecer sobre IA

Kasparov

Nate Silver

TODO + exemplos

sacrificio de rainha no xadrez entrevista Kathleen (Kathe) Spracklen

Deixe uma resposta