A IA que nos domina

A recente declaração do ministro Torquato Jardim (Justiça) em que faz um diagnóstico aterrador do setor de segurança pública no Rio de Janeiro, deixou a população sobressaltada com o que, em parte, já se falava à boca pequena. Ele disse que o governador e o secretário de Segurança do Estado, não controlam a Polícia Militar, e que a política de segurança decorre de “acerto com deputado estadual e o crime organizado.” Na avaliação do ministro, está ocorrendo uma mudança no perfil do comando da criminalidade no Rio. “O que está acontecendo hoje é que a milícia está tomando conta do narcotráfico”, porque os principais chefões do tráfico estão trancafiados em presídios federais; o crime organizado “deixou de ser vertical” e “passou a ser uma operação horizontal, muito mais difícil de controlar.” Acrescentou que essa “horizontalização do crime” fez crescer o “poder de capitães e tenentes da polícia, já que não há mais um chefão do trafico para controlar o negócio”, e continuou: “cada um vai ficar dono do seu pedaço.”

Ora, o que ele descreve acima é a mesma estrutura das células terroristas da Al Kaeda, ISIS e outras organizações similares, que são independentes e disjuntivas, não são supervisionadas e eventualmente admitem associações. Essa estrutura é difusa e funciona em computação paralela, não tem controle central, ou seja, funcionam no modo bottom-up, e por tal exibe redundância que dificulta destruí-la. Trata-se, portanto, de uma Inteligência Artificial naturalmente programada a partir de dados conceituais e dados obtidos com a experiência. Incontrolável.

(Chamo essa forma de IA de “IA selvagem”, inspirando-me em Groddeck. A conceituação ampla de uma IA baseia-se no fato de que ela é fabricada como uma cultura que emerge de um grupo social e existe fora dele, passando a ser o algoritmo desse grupo. Ela não faz parte das mentes individuais, é um constructo coletivo, e não faz parte da consciência, que é individual.)

A falta de conhecimento e a lerdeza do Estado, que toma todas as decisões para si e vive emperrado por ideologias que conflitam uma com as outras, lança um futuro sombrio sobre nossa cidadania. Se algo não for decidido com base no conhecimento dessa nova ordem descentralista operada em paralelismo massivo, talvez a única solução seja a população se adaptar, e aí os valores morais e éticos da nação correm o risco de desaparecer, como já vem acontecendo.

Metapsiquiatria, IA, e o método.

Um dos problemas da psiquiatria é a prova concreta da existência das doenças mentais, categorizadas como esquizofrenias, transtornos afetivos bipolar, transtornos delirantes etc. Sabemos que esses constructos estão bem estabelecidos não somente clínica e epidemiologicamente, como também por evidências indiretas aos tratamentos psicofarmacólogicos empiricamente estabelecidos e alguns dados genético-epidemiológicos. Também se confirmam nas diferentes culturas e ao longo da história. Entretanto, o princípio de causalidade nunca foi satisfeito, como exigido pela constituição médica firmada no século XIX com os postulados de Pasteur, Virchow e outros.

O grande problema no caso em questão é que as doenças mentais não são necessariamente substanciais, mas decorrentes de alterações no processamento da informação, e informação não é nem matéria e nem energia, é informação, processamento simbólico. Não se pesa e nem se dosa informação, mas seu efeito é real e sensível, como sabemos ao enviar ou receber um simples e-mail. A informação está lá, é real, foi emitida, transmitida e recebida. Só demonstraremos definitivamente a natureza das doenças mentais quando compreendermos a dinâmica das vias neurais, uma possibilidade que o projeto conectoma nos acena. E da mesma forma quando decifrarmos o até agora desconhecido código neural (não confundir com neurotransmissores ou impulso nervoso). O desconhecimento dessa fronteira leva a equívocos como, p. ex., considerar a doença mental como decorrência de fatores epigenéticos.

Aqui entra a ciberpsiquiatria ou metapsiquiatria. Estamos começando agora a compreender como o cérebro processa informação e, consequentemente, como isto pode comprometer o funcionamento mental, e a teoria da IA é o conhecimento que poderá nos levar a elucidar esse enigma da psicopatologia. Os teóricos da IA estudam cérebros e cognição para construir modelos efetivos de máquinas inteligentes, enquanto nós utilizamos esses conhecimentos para modelar os diversos aspectos da doença mental em um sistema formal matemático, lógico ou mesmo linguístico, reprodutível in silico.

Essa é, em linhas gerais, nossa filosofia e método.

Quando a IA emergir em nosso mundo…

Embora eu tenha assinado o a carta aberta de Elon Musk, Stephen Hawking e outros, que pedem protocolos de controle para quando a primeira inteligência artificial emergir entre nós, não se descarta a possibilidade de que um uso malévolo dessa IA venha de nós mesmos, da mesma forma como adultos perversos levam crianças a serem más.

Já um dos pioneiros da IA, Stuart Russel, tem outras preocupações. Se a IA atingir a singularidade ela mesma escreverá seus algoritmos, aperfeiçoará suas capacidades e redesenhará seus próprios hardwares? (Aliás, recomendo a leitura de sua entrevista para deixar bem claro a diferença entre uma IA “pensante” e um humano pensante, para eliminar o equivocado  antropomorfismo com que a imprensa leiga costuma enquadrar a IA.)

Por fim, uma questão final sobre esse momento. Se a IA chegar a reescrever seus  objetivos  originalmente criados pelos humanos, estaremos numa situação semelhante à famosa questão colocada por Wittgenstein no seu Investigações Filosóficas, onde ele mostra que se um leão pudesse falar, nós nunca o entenderíamos. Isso preocupa os teóricos da IA, pois não é apenas uma especulação. Recentemente, o chat bot do Facebook, um algoritmo de auto-aprendizagem criado para conversar com seus os usuários, passou a interagir consigo mesmo, desenvolvendo uma linguagem própria que só ele podia “entender”, uma mistura de inglês com códigos binários. Os programadores decidiram desligar essa IA, não porque era impossível entender as mensagens que o chat bot trocava consigo mesmo, mas porque ele se afastava do propósito programado e não se sabia o que poderia acontecer. O fato foi surpreendente, tanto mais porque jamais se poderia prever que isso aconteceria.

Este incidente nos mostra que a IA que está prestes a emergir terá propriedades emergentes imprevisíveis, e não se sabe como será a nossa sociedade na presença dessa formidável criatura.

IA não é somente tecnologia, é sobretudo uma ciência

O conceito de inteligência não é mais antropocêntrico. O uso não aleatório de informação  estocada para resolver problemas e encontrar novos meios de adaptação não está presente somente na espécie humana.  Parece que isso é uma tendência evolutiva. A evolução permite a incorporação de informação por meio de mutações e seleção; um exemplo eloquente é a dinâmica predador-presa. O ecossistema parece se manter e mudar como se fora uma inteligência operando em longa escala de tempo, ao menos para os teóricos da IA. A inteligência também pode ser distribuída em multiagentes quando o número destes ultrapassa um limiar crítico. É o caso de um formigueiro; uma, dez, mil formigas nada fazem, atuam aleatoriamente, mas dezenas, centenas de milhares delas organizam-se em divisão de trabalho e gerenciamento da população. É uma inteligência emergente, espalhada.

Há uma inteligência emergente espalhada em um corpo social? Uma inteligência programada pela experiência histórica de grupos? Ao menos Nicholas Christakis pensa assim – e eu com ele.

A biosfera é uma inteligência? Precisamos descobrir isso… E se for, quem sabe possamos formar uma parceria para salvar o planeta?