11/01/18

Considerações sobre a inteligência artificial

Está na berra falar de inteligência artificial e até num paraíso do futuro onde as máquinas inteligentes tratariam da nossa vidinha, podendo nós simplesmente repousar à sombra da bananeira e suspender o trabalho esgotante da nossa própria inteligência. Deixo aqui alguns reparos a esse propósito, juntamente com uma homenagem final a Isaac Asimov.
 
Comecemos por umas quantas pérolas de tautologia colhidas na Wikipedia:
  • «O principal objectivo dos sistemas de [inteligência artificial] é executar funções que, caso um ser humano fosse executar, seriam consideradas inteligentes.» (https://pt.wikipedia.org/wiki/Intelig%C3%AAncia_artificial)
  • «A inteligência artificial (IA) é o conjunto das teorias e técnicas aplicadas com vista a realizar máquinas capazes de simular a inteligência». (Enciclopédia Larousse, via https://fr.wikipedia.org/wiki/Intelligence_artificielle)
Na mesma Wikipedia, contudo, vemos que o artigo francês se arma de cautelas ausentes nos artigos em português e em inglês:
«(…) existe um certo número de definições diferentes de IA que variam a respeito de dois pontos fundamentais:
  • As definições que aliam a definição de IA a um aspecto humano de inteligência, e aquelas que a ligam a um modelo ideal de inteligência, não necessariamente humana, dita racional.
  • As definições que insistem no facto de a IA ter por fim assemelhar-se à inteligência (humana ou racional), e aquelas que insistem no facto de o funcionamento interno da IA ter de assemelhar-se igualmente ao dos seres humanos e ser pelo menos igualmente racional.» (https://fr.wikipedia.org/wiki/Intelligence_artificielle)
Se, como afirmam alguns autores, a IA trata de construir «agentes» capazes de desempenharem certas tarefas melhor do que os seres humanos, e tendo em conta que esses «agentes» são construídos pelos humanos, então temos de considerar que a cabeça de um fémur de vaca, quando é utilizada para partir um coco, é tão inteligente ou mais do que os humanos, porque efectua a tarefa proposta com maior eficiência.

Em linguagem comum tanto vale eu dizer que uma máquina é inteligente, como dizer que ela é fixe. Em ambos os casos estamos perante conversa da treta – uma conversa onde encontramos interesse em falar, em dizer coisas, em comunicar, mas nenhum interesse em definir os conceitos de «inteligente» ou «fixe». Posso seguramente dizer «esta máquina é fixe» sem correr o risco de ser gozado; com sorte, posso até ser aplaudido perante uma plateia da academia. Em compensação, não posso dizer: «esta máquina é uma banana artificial», porque o termo banana tem conotações demasiado concretas para fazer colar o seu barro à parede. A questão de fundo é mesmo essa: enquanto nos mantivermos no domínio das abstracções (e quanto mais indefinidas estas forem, melhor), podemos dizer o que nos vier à cabeça, sem grande perigo de ridículo; podemos proclamar: «vamos criar santos artificiais», ou «justiça artificial», ou «amor artificial» … porque não?

O conceito de inteligência é talvez a coisa menos científica de que falam as ciências actuais. Aliás, em cada cultura significa coisas diferentes. Ninguém se entende quanto ao seu significado. Uns dizem que é a capacidade de aprender, criar ou prevalecer face às variáveis do meio ambiente. Outros dizem que há sete ou oito tipos distintos de inteligência; há mesmo quem diga que podemos falar de dezenas de tipos de inteligência. Uns falam de inteligência interpessoal, outros de inteligência intrapessoal ou reflexiva. É fácil detectar o problema que reside por detrás desta babel: a inteligência é uma categoria da linguagem comum; e embora essa categoria seja útil e funcional ao nível dessa linguagem, não pode (ou não pôde até hoje) ser correspondida por uma definição rigorosa na linguagem científica.

Se admitirmos que a inteligência consiste na capacidade de prevalecer face às variáveis exteriores, como propõem alguns autores, esbarramos numa conclusão chocante: numerosos microrganismos unicelulares são mais inteligentes que nós, os humanos, porque existem há centenas de milhões de anos, multiplicaram-se por todo o planeta, resistem e adaptaram-se «inteligentemente» a todas as mudanças de ambiente e são até capazes de invadir o organismo humano e viver à conta dele.

É claro que se me apresentarem um «agente» artificial concebido e construído por outro «agente» artificial para desempenhar tarefas inesperadas, tenho de dar o braço a torcer – ainda que continuasse a não dispor duma definição rigorosa de inteligência, nesse caso eu não hesitaria em chamar inteligente a essa máquina. Note-se: não ponho em causa a possibilidade de um dia isto acontecer; não tenho indícios que tornem esse curso da história proibitivo. Até lá, permitam-me que mantenha as minhas reservas.

Tanto quanto sei, quando foi inventado o uso de um osso longo como braço de alavanca ou martelo, o objecto não foi mitificado. O mesmo se pode dizer de todas as invenções seguintes, da roda aos circuitos eléctricos, passando pelo motor de combustão interna. Nenhuma delas deu origem a mitos permanentes (com a possível excepção da escrita, que manteve um carácter mais ou menos sagrado durante algum tempo; mas afinal esse carácter ruiu quando a escrita passou a ser acessível a todos, deixando de ser um instrumento exclusivo das elites dominantes). Mas quando o fogo foi domesticado, imediatamente foram criados mitos à sua volta; os deuses foram chamados à liça e os humanos olharam (e olham ainda hoje) com um respeito mais ou menos sagrado as suas labaredas. Esta diferença de atitudes deve-se a duas coisas: primeiro, ao facto de o fogo não ter sido inventado, mas sim domesticado; segundo, devido ao facto de o fogo selvagem ser temível e parecer ter uma alma, agitar-se com «vida» própria, tender a tornar-se outra vez selvagem se não mantivermos a sua domesticação com rédea curta. 

Não é difícil ver as similitudes entre o fogo e as chamadas «máquinas inteligentes». Embora estas tenham sido inventadas e não domesticadas, semelham frequentemente ter vida própria. Daí à mitificação vai um passo.

Algumas das definições de inteligência artificial assentam na capacidade dessas máquinas para se manterem em equilíbrio óptimo com o meio ambiente, com suas variáveis e desafios. Mas isto não é inteligência, é homeostase (que é um precursor da inteligência, como aponta António Damásio no seu livro mais recente). O mal-entendido entre homeostase e inteligência alimenta-se da ausência duma definição de inteligência e da possibilidade de, na linguagem comum, chamarmos inteligente ao que nos apetecer. Nas conversas banais podemos dizer coisas como: «este horário de comboios é muito inteligente». Esta frase é perfeitamente compreensível para nós, humanos, apesar de conter uma quantidade de metáforas, metonímias e erros.1 É claro para o ouvinte que a frase remete metonimicamente a inteligência para quem fez o horário, e não para o papel onde estão escritas as chegadas e partidas.

Acabo de mencionar o erro como sinal de inteligência. A afirmação é ousada, eu sei, mas ainda assim arrisco-me a aventar que o erro produtivo é uma das características de um certo tipo de inteligência – distinguindo-se o erro produtivo dos outros tipos de erro, por o primeiro gerar situações criativas e soluções imprevistas, enquanto os segundos geram situações negativas ou de fracasso. Ora o erro, até à data, é uma operação impenetrável às máquinas «inteligentes», que podem ter avarias, mas nunca, jamais, cometem erros. Daí o ditado «a máquina tem sempre razão», invocado sempre que, ao lidarmos com uma máquina, ela não se comporta conforme previsto nem desempenha as tarefas propostas no seu manual – e neste caso reconhecemos tratar-se de um erro humano e não de um erro da máquina. O erro criativo é tão típico do ser humano, que temos de suspeitar que faça parte daquilo que chamamos inteligência. Esta hipótese também está implícita na forma como Vilém Flusser define algumas das máquinas criadas na actualidade (às quais chama «caixas negras», por não ser evidente o mecanismo que têm lá dentro) e a forma como os erros (humanos) de utilização dessas máquinas, quando são erros criativos, produzem um progresso inovador nos modelos seguintes. Mas Flusser alerta do mesmo passo para um facto que me parece elementar: o perigo de a caixa negra condicionar o comportamento humano a um número restrito de opções, produzindo um défice de inteligência.


O pendor actual do debate sobre inteligência artificial parece-me pueril e bastante perigoso. Este desenvolvimento é tanto mais desconcertante quanto os seus precursores, logo na década de 1940, já o tinham elevado a um nível de excelência, com destaque para as obras de Isaac Asimov. Nos seus romances e ao longo de várias décadas, Asimov foi matutando nos princípios que devem orientar os robôs, acabando por formular 3 leis fundamentais:
  1. Um robô não pode atentar contra um ser humano, nem, por passividade, permitir que um ser humano seja exposto a perigo.
  2. Um robô deve obedecer às ordens humanas, salvo se essas ordens entrarem em conflito com a primeira lei.
  3. Um robô deve proteger a sua própria existência, desde que essa protecção não entre em conflito com a primeira ou a segunda leis.
Ao longo das suas obras Asimov foi desenvolvendo e testando estes temas, até concluir que era necessário acrescentar uma lei zero:
  1. Um robô não pode atentar contra a humanidade nem, por inacção, permitir que a humanidade seja posta em perigo. (acrescentando-se às outras três leis a respectiva cláusula de não contradição com a lei zero; nestas condições, um robô seria obrigado a travar um ser humano se isso salvasse a humanidade de um desastre)
Curiosamente, este notável salto para um conceito abstracto de humanidade não aparece nos romances de Asimov pela mão de um humano; resulta das congeminações de um robô que adquiriu a capacidade de filosofar.

Ao longo do ciclo da Fundação (série de romances descrevendo a «história do futuro»), Asimov inventa o planeta Gaia, levando ainda mais longe a sua visão universal dos problemas éticos e políticos da comunidade humanos/robôs. Gaia é um planeta distante onde um grupo de colonizadores, obrigado, em consequência do desaparecimento de todos os robôs que os serviam, a reinventar a sua própria existência, adopta um princípio de unidade total. Estes habitantes do futuro recriam a sua própria linguagem e numa só palavra passam a designar «eu/nós/Gaia». As decisões são tomadas por todo o planeta, não sendo possível atribuir individualmente a autoria da sua ideia a este ou àquele – tudo faz parte da memória colectiva e nestas circunstâncias nenhum conflito generalizado é possível. Em suma, a noção de cultura é em Asimov mais poderosa do que a de inteligência individual ou instrumental ou corporativa. É espantoso que, 70 anos passados, o debate sobre o assunto tenha caído tão baixo. Sinais da época neoliberal?

Deixo ainda uma simples nota, por ser impossível desenvolver num curto espaço o tema: todas as máquinas inteligentes até hoje produzidas, tanto quanto sei, são estruturadas programaticamente sobre uma lógica desactualizada e muito curta de vistas: a lógica linear, dicotómica, aristotélica. Enquanto as outras ciências já deram o salto para as lógicas e os sistemas complexos, a informática continua a usar uma lógica que, comprovadamente, não permite dar saltos qualitativos como os que observamos na história da humanidade.

----
notas
 
1 Por volta de 1972 a editora onde eu trabalhava propôs-se substituir os tradutores por computadores. É claro que o ganho em custos de produção seria muito considerável. A administração da editora, contudo, teve o bom senso de indagar a opinião dos redactores e dos revisores. Nós, que nessa época nada entendíamos do que fosse um computador, não podíamos honestamente dizer nem bem nem mal do projecto. Felizmente tivemos uma inspiração: solicitámos que a máquina traduzisse um texto literário inglês para português e que de seguida o retrovertesse para inglês. Face aos resultados, nem precisámos de dizer nada – a administração desistiu do projecto. Infelizmente, na década seguinte, as administrações começaram a sofrer um défice de inteligência e substituíram os revisores por computadores. Começo a perguntar-me se não será este défice de inteligência que leva alguns empregados a ansiar pela substituição dos administradores por robôs inteligentes.

----
corrigido em 9/10/2018
 

1 comentário: