Está na berra falar de inteligência artificial e
até num paraíso do futuro onde as máquinas inteligentes tratariam
da nossa vidinha, podendo nós simplesmente repousar à sombra da
bananeira e suspender o trabalho esgotante da nossa própria
inteligência. Deixo aqui alguns reparos a esse propósito, juntamente com uma homenagem final a Isaac Asimov.
- «O principal objectivo dos sistemas de [inteligência artificial] é executar funções que, caso um ser humano fosse executar, seriam consideradas inteligentes.» (https://pt.wikipedia.org/wiki/Intelig%C3%AAncia_artificial)
-
«A inteligência artificial (IA) é o conjunto das teorias e técnicas aplicadas com vista a realizar máquinas capazes de simular a inteligência». (Enciclopédia Larousse, via https://fr.wikipedia.org/wiki/Intelligence_artificielle)
Na mesma Wikipedia, contudo, vemos que o artigo
francês se arma de cautelas ausentes nos artigos em português e em
inglês:
«(…) existe um certo número de definições diferentes de IA que variam a respeito de dois pontos fundamentais:
-
As definições que aliam a definição de IA a um aspecto humano de inteligência, e aquelas que a ligam a um modelo ideal de inteligência, não necessariamente humana, dita racional.
-
As definições que insistem no facto de a IA ter por fim assemelhar-se à inteligência (humana ou racional), e aquelas que insistem no facto de o funcionamento interno da IA ter de assemelhar-se igualmente ao dos seres humanos e ser pelo menos igualmente racional.» (https://fr.wikipedia.org/wiki/Intelligence_artificielle)
Se, como afirmam alguns autores, a IA trata de
construir «agentes» capazes de desempenharem certas tarefas melhor
do que os seres humanos, e tendo em conta que esses «agentes» são
construídos pelos humanos, então temos de considerar que a cabeça
de um fémur de vaca, quando é utilizada para partir um coco, é tão
inteligente ou mais do que os humanos, porque efectua a tarefa
proposta com maior eficiência.
Em linguagem comum tanto vale eu dizer que uma
máquina é inteligente, como dizer que ela é fixe. Em ambos os
casos estamos perante conversa da treta – uma conversa onde
encontramos interesse em falar, em dizer coisas, em comunicar, mas
nenhum interesse em definir os conceitos de «inteligente» ou
«fixe». Posso seguramente dizer «esta máquina é fixe» sem
correr o risco de ser gozado; com sorte, posso até ser aplaudido
perante uma plateia da academia. Em compensação, não posso dizer:
«esta máquina é uma banana artificial», porque o termo banana tem
conotações demasiado concretas para fazer colar o seu barro à
parede. A questão de fundo é mesmo essa: enquanto nos mantivermos
no domínio das abstracções (e quanto mais indefinidas estas forem,
melhor), podemos dizer o que nos vier à cabeça, sem grande perigo
de ridículo; podemos proclamar: «vamos criar santos artificiais»,
ou «justiça artificial», ou «amor artificial» … porque
não?
O conceito de inteligência é talvez a coisa
menos científica de que falam as ciências actuais. Aliás, em cada
cultura significa coisas diferentes. Ninguém se entende quanto ao
seu significado. Uns dizem que é a capacidade de aprender, criar ou
prevalecer face às variáveis do meio ambiente. Outros dizem que há
sete ou oito tipos distintos de inteligência; há mesmo quem diga
que podemos falar de dezenas de tipos de inteligência. Uns falam de
inteligência interpessoal, outros de inteligência intrapessoal ou
reflexiva. É fácil detectar o problema que reside por detrás desta
babel: a inteligência é uma categoria da linguagem comum; e embora
essa categoria seja útil e funcional ao nível dessa linguagem, não
pode (ou não pôde até hoje) ser correspondida por uma definição
rigorosa na linguagem científica.
Se admitirmos que a inteligência consiste na
capacidade de prevalecer face às variáveis exteriores, como propõem
alguns autores, esbarramos numa conclusão chocante: numerosos
microrganismos unicelulares são mais inteligentes que nós, os
humanos, porque existem há centenas de milhões de anos,
multiplicaram-se por todo o planeta, resistem e adaptaram-se
«inteligentemente» a todas as mudanças de ambiente e são até
capazes de invadir o organismo humano e viver à conta dele.
É claro que se me apresentarem um «agente»
artificial concebido e construído por outro «agente» artificial
para desempenhar tarefas inesperadas, tenho de dar o braço a torcer
– ainda que continuasse a não dispor duma definição rigorosa de
inteligência, nesse caso eu não hesitaria em chamar inteligente a
essa máquina. Note-se: não ponho em causa a possibilidade de um dia
isto acontecer; não tenho indícios que tornem esse curso da
história proibitivo. Até lá, permitam-me que mantenha as minhas
reservas.
Tanto quanto sei, quando foi inventado o uso de um
osso longo como braço de alavanca ou martelo, o objecto não foi
mitificado. O mesmo se pode dizer de todas as invenções seguintes,
da roda aos circuitos eléctricos, passando pelo motor de combustão
interna. Nenhuma delas deu origem a mitos permanentes (com a possível
excepção da escrita, que manteve um carácter mais ou menos sagrado
durante algum tempo; mas afinal esse carácter ruiu quando a escrita
passou a ser acessível a todos, deixando de ser um instrumento
exclusivo das elites dominantes). Mas quando o fogo foi domesticado,
imediatamente foram criados mitos à sua volta; os deuses foram
chamados à liça e os humanos olharam (e olham ainda hoje) com um
respeito mais ou menos sagrado as suas labaredas. Esta diferença de
atitudes deve-se a duas coisas: primeiro, ao facto de o fogo não ter
sido inventado, mas sim domesticado; segundo, devido ao facto de o
fogo selvagem ser temível e parecer
ter uma alma, agitar-se com «vida» própria, tender a tornar-se outra
vez selvagem se não mantivermos a sua domesticação com rédea
curta.
Não é difícil ver as similitudes entre o fogo e
as chamadas «máquinas inteligentes». Embora estas tenham sido
inventadas e não domesticadas, semelham frequentemente ter vida
própria. Daí à mitificação vai um passo.
Algumas das definições de inteligência
artificial assentam na capacidade dessas máquinas para se manterem
em equilíbrio óptimo com o meio ambiente, com suas variáveis e
desafios. Mas isto não é inteligência, é homeostase (que é um
precursor da inteligência, como aponta António Damásio no seu
livro mais recente). O mal-entendido entre homeostase e inteligência alimenta-se da ausência duma definição de inteligência
e da possibilidade de, na linguagem comum, chamarmos inteligente ao
que nos apetecer. Nas conversas banais podemos dizer coisas como:
«este horário de comboios é muito inteligente». Esta frase é
perfeitamente compreensível para nós, humanos, apesar de conter uma
quantidade de metáforas, metonímias e erros.1
É claro para o ouvinte que a frase remete metonimicamente a
inteligência para quem fez o horário, e não para o papel onde
estão escritas as chegadas e partidas.
Acabo de mencionar o erro como sinal de
inteligência. A afirmação é ousada, eu sei, mas ainda assim
arrisco-me a aventar que o erro produtivo é uma das características
de um certo tipo de inteligência – distinguindo-se o erro
produtivo dos outros tipos de erro, por o primeiro gerar situações
criativas e soluções imprevistas, enquanto os segundos geram
situações negativas ou de fracasso. Ora o erro, até à data, é
uma operação impenetrável às máquinas «inteligentes», que
podem ter avarias, mas nunca, jamais, cometem erros. Daí o ditado «a
máquina tem sempre razão», invocado sempre que, ao lidarmos com
uma máquina, ela não se comporta conforme previsto nem desempenha
as tarefas propostas no seu manual – e neste caso reconhecemos
tratar-se de um erro humano e não de um erro da máquina. O erro
criativo é tão típico do ser humano, que temos de suspeitar que
faça parte daquilo que chamamos inteligência. Esta hipótese também
está implícita na forma como Vilém Flusser define algumas das
máquinas criadas na actualidade (às quais chama «caixas negras»,
por não ser evidente o mecanismo que têm lá dentro) e a forma como
os erros (humanos) de utilização dessas máquinas, quando são erros criativos, produzem um
progresso inovador nos modelos seguintes. Mas Flusser alerta do mesmo
passo para um facto que me parece elementar: o perigo de a caixa
negra condicionar o comportamento humano a um número restrito de
opções, produzindo um défice de inteligência.
O pendor actual do debate sobre inteligência artificial parece-me pueril e bastante perigoso. Este desenvolvimento é tanto mais desconcertante quanto os seus precursores, logo na década de 1940, já o tinham elevado a um nível de excelência, com destaque para as obras de Isaac Asimov. Nos seus romances e ao longo de várias décadas, Asimov foi matutando nos princípios que devem orientar os robôs, acabando por formular 3 leis fundamentais:
-
Um robô não pode atentar contra um ser humano, nem, por passividade, permitir que um ser humano seja exposto a perigo.
-
Um robô deve obedecer às ordens humanas, salvo se essas ordens entrarem em conflito com a primeira lei.
-
Um robô deve proteger a sua própria existência, desde que essa protecção não entre em conflito com a primeira ou a segunda leis.
Ao longo das suas obras Asimov foi desenvolvendo e
testando estes temas, até concluir que era necessário acrescentar
uma lei zero:
-
Um robô não pode atentar contra a humanidade nem, por inacção, permitir que a humanidade seja posta em perigo. (acrescentando-se às outras três leis a respectiva cláusula de não contradição com a lei zero; nestas condições, um robô seria obrigado a travar um ser humano se isso salvasse a humanidade de um desastre)
Curiosamente, este notável salto para um conceito
abstracto de humanidade não aparece nos romances de Asimov pela mão
de um humano; resulta das congeminações de um robô que adquiriu a
capacidade de filosofar.
Ao longo do ciclo da Fundação (série de
romances descrevendo a «história do futuro»), Asimov inventa o planeta Gaia, levando ainda mais longe a sua visão universal dos problemas
éticos e políticos da comunidade humanos/robôs.
Gaia é um planeta distante
onde
um grupo de colonizadores, obrigado, em
consequência do
desaparecimento de todos os
robôs que os serviam, a reinventar a
sua própria existência,
adopta
um princípio de unidade total. Estes habitantes do futuro recriam
a sua própria
linguagem e
numa só palavra passam
a designar
«eu/nós/Gaia». As decisões são tomadas por todo o planeta, não
sendo possível atribuir individualmente a autoria da sua ideia a
este ou àquele – tudo
faz parte da memória colectiva e nestas circunstâncias nenhum
conflito generalizado é possível. Em
suma, a noção de cultura é em Asimov mais poderosa do que a de
inteligência individual ou instrumental ou corporativa. É espantoso
que, 70 anos passados,
o debate sobre o assunto tenha caído tão baixo. Sinais da época
neoliberal?
Deixo ainda uma simples nota, por ser impossível desenvolver num curto espaço
o tema: todas as máquinas inteligentes até hoje produzidas, tanto
quanto sei, são estruturadas programaticamente sobre uma lógica
desactualizada e muito curta de vistas: a lógica linear, dicotómica,
aristotélica. Enquanto as outras ciências já deram o salto para as
lógicas e os sistemas complexos, a informática continua a usar uma
lógica que, comprovadamente, não permite dar saltos qualitativos
como os que observamos na história da humanidade.
----
notas
1 Por
volta de 1972 a editora onde eu trabalhava propôs-se substituir os
tradutores por computadores. É claro que o ganho em custos de
produção seria muito considerável. A administração da editora,
contudo, teve o bom senso de indagar a opinião dos redactores e dos
revisores. Nós, que nessa época nada entendíamos do que fosse um
computador, não podíamos honestamente dizer nem bem nem mal do
projecto. Felizmente tivemos uma inspiração: solicitámos que a
máquina traduzisse um texto literário inglês para português e
que de seguida o retrovertesse para inglês. Face aos resultados,
nem precisámos de dizer nada – a administração desistiu do
projecto. Infelizmente, na década seguinte, as administrações
começaram a sofrer um défice de inteligência e substituíram os
revisores por computadores. Começo a perguntar-me se não será este défice de inteligência que leva alguns empregados a ansiar pela substituição dos administradores por robôs inteligentes.
----
corrigido em 9/10/2018
----
corrigido em 9/10/2018
Artigo incrível!
ResponderEliminar