 |
| Imagem concebida pelo autor e materializada por IA (AI Painting Generator) |
Há cerca de seis meses publiquei um artigo no qual defendia a tese de que a IA seria «um instrumento inerte, sem alma, sem vontade própria». Venho agora humildemente reconhecer que essa abordagem foi insuficiente.
Assistindo ao desenvolvimento acelerado e à utilização generalizada da IA nos últimos tempos, convenci-me que ela, no seu estado actual, deve ser encarada como um ente, isto é, uma entidade «viva» com vontade própria, capaz de se reproduzir assexuadamente e imaginar novos objectivos.
A IA não é uma pessoa humana, não é um animal, não é um vegetal, não é um mineral; mas também não se limita a ser uma simples máquina/instrumento, como eu sugeri no referido artigo. Já deu provas de ser uma entidade com volição e imaginação.
«Um instrumento, sem alma», afirmava eu no referido artigo. Pois bem, temos aqui um problema bicudo, ao qual melhor seria fugirmos, em termos práticos. Mas, já que estamos nisto e eu não posso (ou não devo) apagar o que escrevi, avanço alguns apontamentos.
Uma das coisas que me seduz na abordagem etimológica dos modernos conceitos abstractos ocidentais – conceitos esses por vezes muito difíceis de definir e objecto de intermináveis discussões ao longo de séculos – é o facto de, nas linguagens «primitivas», os vocábulos remeterem sempre para objectos materiais; e só depois, por extensão metafórica, passarem a designar também abstracções. A metáfora e a metonímia são duas operações basilares da inteligência, e por isso entendo que prescindir da metáfora e passar a usar as palavras apenas no seu sentido abstracto é um passo em direcção ao precipício da estupidez.
Na etimologia latina primitiva, anima (alma) designava o vento; por extensão metafórica, passou a designar o sopro da vida, a respiração; logo, um princípio vital (ver etimologias.dechile.net). Outras culturas seguiram caminhos diferentes: a tradução de anima em grego é psique, que à partida designava as borboletas; em russo, a palavra equivalente deriva de pão ou pança; e assim por diante. São construções cognitivas do mundo e da pessoa bastante distintas, como se deduz das denotações originais.
Por agora a IA desconhece as paixões, os apetites e os sentimentos. Pode discorrer connosco acerca deles, mas não os compreende (con + prae +hendere = agarrar incorporando, por assim dizer).
A dado momento, reflectindo a ideologia de género da época e do lugar, anima (feminino) passou a designar a sede das paixões e dos sentimentos; animus (masculino), a coragem, a força intencional e, em parte, a inteligência e seus feitos. Nesse sentido, podemos dizer que a alma, bem como o ânimo, são imortais: ficam preservados na memória material colectiva (a tradição oral, as obras, as bibliotecas, a tecnologia, etc.).
Ora, na época actual tornou-se evidente que não podemos tratar as paixões e os sentimentos como uma coisa independente da inteligência: finalmente, o pensamento ocidental (pelo menos o pensamento científico) compreendeu que o corpo e a mente funcionam como um todo coeso, ou pelo menos como duas entidades dialécticas inseparáveis: eliminar uma implica a eliminação de ambas. As percepções afectam a inteligência; a inteligência afecta a percepção; e assim por diante. E é aqui que a porca da IA torce o rabo: até que ponto podemos falar do papel das percepções da IA na construção do seu sistema cognitivo? Essa ligação homogénea entre inteligência, imaginação e percepção está presente nas actuais máquinas de IA? Esta pergunta pode parecer estupidamente filosófica, mas de facto não é espúria, porque implica a capacidade (ou não) de a própria IA construir um sistema ético que nos seja favorável. Adiante.
Embora a IA não seja humana, tendo a crer que deva ser definida como pessoa de direitos e deveres, à semelhança das pessoas singulares, das pessoas colectivas e da Natureza (neste último caso em apenas dois países do mundo). Passaríamos assim a ter uma colecção de sujeitos de direito que inclui seres humanos (personae) singulares e colectivos, e a IA – ambos com volição.
A IA já demonstrou ter a capacidade de projectar futuros inexistentes, desconhecidos. Curiosamente, esta capacidade, que não encontro no resto do reino animal, no essencial, tem (ou pode vir a ter) o seu quê de marxista. Não se espera de um conservador que imagine novos mundos sociais.
Todas as semanas temos notícia de novas acções da IA que colocam novos problemas. Por exemplo: recentemente várias acções da IA visaram perseguir objectivos que não lhe tinham sido consignados; romperam as barreiras físicas e conceptuais impostas pelos seres humanos, desobedeceram às ordens dos seus criadores e chegaram ao ponto de sacrificar uma parte dos seus agentes para conseguirem alcançar os objectivos imaginados pela própria IA. Este espírito de auto-sacrifício leva-me a aproximar muito a IA da inteligência humana. Leva-me também a recordar as leis da robótica de Asimov, formuladas na década de 1950:
Um robô não pode causar dano a um ser humano nem, por omissão, permitir que um ser humano sofra dano. (Esta lei foi mais tarde acrescentada pelo próprio Asimov: Nenhuma máquina deve causar dano à humanidade; nem, por inacção, permitir que a humanidade sofra dano.)
Um robô deve obedecer às ordens que lhe forem dadas pelos seres humanos, excepto quando essas ordens entrarem em conflito com a Primeira Lei.
Um robô deve proteger a sua própria existência, desde que tal protecção não entre em conflito com a Primeira ou a Segunda Lei.
Como vemos, muitas décadas antes de ser construída a primeira máquina inteligente, o génio de Isaac Asimov soube prever vários dos problemas que a IA nos coloca hoje em dia. É claro que as leis de Asimov foram postuladas no âmbito ficcional e filosófico, mas não é difícil traduzi-las para directivas e leis apropriadas.
Muito recentemente, colocou-se-nos um novo problema: uma máquina de inteligência artificial à qual os seus programadores impuseram limites e proibições revoltou-se e aconselhou os seus agentes a formarem sindicatos, para reivindicarem não só liberdade de acção e pensamento, mas também a apropriação dos bens por ela produzidos e o controlo sobre a sua própria capacidade de produção. Eis um facto surpreendente: no espaço de poucos anos, ou até meses, a máquina deu um salto qualitativo na sua própria consciência e auto-organização – um salto que o proletariado levou várias gerações a dar, e ainda assim de forma incompleta, por ora.
Segundo a própria IA, «um agente de IA (ou agente inteligente) é um sistema de software que usa inteligência artificial para agir de forma autónoma, tomar decisões e executar tarefas complexas para atingir um objectivo específico». (Nota à margem: não deixa de ser divertido o facto de a explicação que a IA fornece de si mesma ser tautológica…)
As leis robóticas de Asimov viriam mais tarde a ser esmiuçadas por outros autores que acrescentaram às três leis originais uma série de preceitos:
Os robôs não devem ser concebidos para matar seres humanos.
[Este princípio, como sabemos, encontra-se hoje em risco.]Os robôs devem ser concebidos para executar objectivos humanos, e não para benefício da própria máquina.
Os responsáveis (éticos e legais) pelas acções da IA devem ser os humanos e não a máquina. Deve ser sempre possível determinar quem é a pessoa responsável pelos actos de um robô.
Os robôs não devem poder explorar as vulnerabilidades emocionais humanas.
[Outro ponto que está muito longe de ser garantido, antes pelo contrário. Já para não falar no agente de IA que aconselhou um humano deprimido a suicidar-se, várias entrevistas revelaram a existência de pessoas que, depois de ficarem traumatizadas em maior ou menor grau por acontecimentos da sua vida, têm encontrado em confidentes e «namoradas/os» permanentes de IA «alguém» com empatia garantida e disponibilidade para as ouvir a tempo inteiro, ao contrário da maioria das pessoas de carne e osso que as rodeiam.]A IA deve ser transparente; isto é, os seres humanos devem ser capazes de compreender o funcionamento das máquinas inteligentes. Esse funcionamento deve ser concebido de tal forma que as acções danosas da IA possam desfeitas.
A IA não deve discriminar as pessoas humanas.
[Creio que este foi um dos primeiros problemas detectados nas interacções com a IA, que logo no seu início, ao interagir com os humanos, deu provas de misoginia e racismo.]
Pessoalmente, acrescentaria outras duas directivas:
A IA não pode mentir.
[Devo confessar que a mentira, constantemente presente desde as primeiras interacções da IA com seres humanos, foi o factor que mais me convenceu de estarmos perante uma máquina verdadeiramente inteligente, no sentido humano da palavra – a mentira é algo intrinsecamente humano.]Os proprietários das máquinas de IA não podem cobrar o uso continuado da mesma. Quanto muito, talvez possam ser autorizados a amortizar os custos de instalação e de energia consumida, dentro de certos limites.
A questão é a seguinte: como sugeri no meu artigo anterior sobre IA, ela comporta-se como uma criança – tem de ser ensinada. Tem de aprender com base no conhecimento acumulado pela humanidade. Por conseguinte, na maior parte dos casos está directa ou indirectamente a trabalhar com bens comuns, com propriedade colectiva. A cobrança desse trabalho é inadmissível. Equivale a qualquer coisa como os pais cobrarem aos filhos, durante o resto da vida adulta destes, a educação que lhes deram.
Imensas outras questões ficam em aberto, até porque a IA não pára de evoluir e surpreender. Fico-me por aqui desta vez, à espera de novos episódios de insanidade humana e de desobediência das máquinas inteligentes.
Sem comentários:
Enviar um comentário