IA: o busílis da novidade

 

Imagem concebida pelo autor e gerada artificialmente por Crayon

Grassa enorme controvérsia sobre a inteligência artificial (IA na versão portuguesa, ai-ai na versão anglófona), em muitos casos, a meu ver, passando ao lado do essencial. A IA, para começar, é apenas um instrumento – um instrumento inerte, sem alma, sem vontade própria, à espera de ordens (prompts) para produzir qualquer coisa.

Além disso, à semelhança dos seres humanos, a inteligência artificial tem de ser ensinada. Nasce aqui o primeiro busílis: como sabemos, nada pior do que uma criança mal educada. A este tema voltaremos mais adiante. Para já, notemos o seguinte: as primeiras experiências que conduziriam à criação da IA passaram por ensinar a máquina a reconhecer figuras. Como as imagens que mais proliferavam na Internet representavam gatos, foi por aí que os investigadores começaram: ensinar a máquina a reconhecer um gato. Foram precisas cerca de 300.000 imagens para que a máquina conseguisse reconhecer um gato (e mesmo assim, só sob condições de iluminação ideais, visto que máquina depende de um aparelho fotográfico, e este não pode trabalhar no escuro). Ora uma criança de colo precisa apenas de dois gatos para reconhecer como tal todos os gatos que lhe apareçam à frente daí em diante, seja qual for a raça do bicho (e, no caso da criança, sob quaisquer condições de iluminação, com excepção do breu total, que é raro). Este facto dá-nos a primeira medida da relação entre a inteligência da máquina e a dos seres humanos: ela é de cerca de 1:150.000! Além disso, como a máquina, à semelhança da criança, tem de ser educada, e como o pensamento dominante na Internet não representa a maioria das pessoas, mas sim as pessoas que se esforçam militantemente por tomar a hegemonia da rede, na prática sucedem coisas que têm moído o juízo aos construtores da IA: por exemplo, se os «educadores» da IA (isto é, os utilizadores da rede digital) forem predominantemente racistas, a máquina-criança torna-se racista. E assim por diante.

Passemos agora à natureza instrumental da IA.

Não é preciso ter visto 2001: Odisseia no Espaço (Stanley Kubrick, 1968) para perceber que a IA é um simples instrumento, à semelhança do martelo, sendo este (o martelo) provavelmente o mais antigo instrumento inventado, há 300.000 anos ou mais. Podíamos comparar a IA à caneta, que «sabe» escrever mas depende inteiramente das interpelações (prompts) do utilizador. Mas creio que a analogia com o martelo é muito mais elucidativa.

A invenção do martelo certamente provocou uma enorme convulsão, não só tecnológica mas também social e cultural. Não sabemos quanto tempo foi necessário para que as sociedades primitivas adquirissem um conjunto de normas éticas que impedissem toda a gente de assentar marteladas na cabeça de toda a gente e limitassem o uso socialmente aceite do martelo, mas tenho a certeza de que foi necessário algum tempo – no mínimo uma geração ou duas. Não se tratava apenas de inventar novas normas de uso do novo instrumento; também foi preciso inventar novos métodos de aprendizagem. O martelo, que certamente pareceria um brinquedo muito giro aos olhos de qualquer criança, tem de ser utilizado com cautela e parcimónia, sob pena de extinção da própria humanidade. Como meter na cabeça das criancinhas a norma da cautela, do respeito pela cabeça alheia e da circunspecção? Não é nada fácil, por mais óbvio que nos pareça 300.000 anos depois.

O sobressalto causado pelo aparecimento de novas e poderosas tecnologias digitais não é novidade – o mesmo já tinha acontecido poucos anos antes com o surgimento das redes digitais. Também elas são uma novidade, um instrumento com maravilhosas aplicações mas também com possíveis efeitos desastrosos. Tal como sucede com o martelo, é preciso aprender a não rachar a cabeça dos outros com esse poderoso instrumento à disposição de toda a gente. Como sucede com todos os instrumentos que criam novas condições materiais, o novo instrumento relaciona-se com as transformações sociais (e vice-versa) – mas não é ele próprio, só por si, miraculosamente transformador. As acções e interacções que acompanham as condições materiais introduzidas pelo novo instrumento chamam-se, por definição, ética. Por simplicidade de escrita poderíamos dizer que certos instrumentos (como as redes virtuais e a IA) revolucionam a sociedade. Mas quem revoluciona a sociedade não é o instrumento, é … a própria sociedade!, ou pelo menos a camada hegemónica dessa sociedade em cada momento (no caso actual, as grandes empresas capitalistas).

Levará o seu tempo até conseguirmos evitar os erros decorrentes do uso dos novos martelos. À data em que escrevo estas linhas, ainda só passaram 36 anos desde a difusão da Internet em Portugal (menos de duas gerações, se convencionarmos que uma geração, antes de se reproduzir e começar a educar os seus filhos, dura 25 anos); desde a inauguração do Facebook, apenas passaram 22 anos (menos de uma geração). Por conseguinte, é cedo para nos exasperarmos contra a falta de adaptação ética aos novos martelos que nos foram oferecidos. Por maior força de razão, o mesmo se passa com a IA, que foi posta à nossa disposição há muito menos de uma geração.

Mas há ainda mais dificuldades a ter em conta: a IA permite gerar uma enorme massa de produção, num grau nunca antes visto. Nesse aspecto, é comparável à ceifeira mecânica, que multiplicou por mil a capacidade de produção de cereais. Mas, como sucede com todos os instrumentos novos, as alfaias mecânicas colocam intermináveis problemas éticos, os quais continuam por resolver: como sabemos, o uso descontrolado das alfaias mecânicas pode levar à prática de abusos sobre o consumidor, ao uso excessivo de adubos químicos, de organismos geneticamente manipulados com consequências nefastas para a saúde humana e para o ambiente do planeta, etc. Ora a primeira debulhadora automática foi patenteada em 1833, o que nos dá a medida do tempo necessário para resolver todos os problemas éticos introduzidos por um novo instrumento de produção – especialmente quando entram em jogo outros factores correlativos, como sejam o desenvolvimento capitalista.

A seguir, temos outro problema: o desaparecimento da reflexão pessoal e colectiva, que aparentemente deixa de ser necessária e é substituída pelo próprio instrumento. No limite, o instrumento, se não lhe for posta rédea curta, exacerba a tendência para o individualismo e a perda de memória colectiva tão típicos da idade contemporânea. Tomemos o caso deste blogue. Até há menos de quatro décadas, para eu publicar uma crónica semanal, eram necessários, além do meu próprio trabalho de escrita e deixando de parte toda a produção a montante e a jusante (papel, maquinaria, redes de distribuição, etc.): tipógrafos, revisores, impressores, técnicos de informática, ilustradores, etc., e todos eles tinham de se entender e reflectir entre si. Hoje em dia consigo fazer tudo isto sozinho, em poucos minutos. Apesar de eu ser um zero à esquerda em desenho e pintura, nem sequer preciso de ilustrador, posso pedir à IA que me faça uma ilustração, e assim ver-me livre do pesadelo das empresas especializadas em cobrar direitos de autor por essa Internet fora. Esta facilidade torna-me auto-suficiente e confere-me um enorme poder, para o qual ninguém me educou – tive de me autoformar. Porém, existem vários senãos: por exemplo, quando escrevo coisas ofensivas para alguém (esperemos que não!), não tenho um redactor-chefe sénior que reveja o meu rascunho e me venha dizer: «Não podes escrever isto, arranja lá outra forma de dizer ao que vens». Em suma: o martelo da IA foi uma bela invenção, contudo pode acertar na cabeça de alguém e não passa de um instrumento inerte, uma tecnologia que permite uma quantidade monumental de produção quando comparada com o meu punho nu, mas necessita de ser acompanhada por novas instruções éticas. Essa parte tem de ser inventada pela sociedade e, lastimo informar-vos, fatalmente isso leva o seu tempo. Quanto aos valores morais ou políticos que sustentarão a nova ética, esses já existem, todos eles. Não é necessário inventar nada de novo.

Mas há mais ainda! Toda a produção intelectual vem acompanhada de um selo. Já nem temos consciência disso, mas o selo está lá sempre e é muito eficaz. Prova disso é um vasto conjunto de conceitos abstractos (categorias) que acompanham toda a obra intelectual: o objecto criativo é-nos apresentado como teatro, ficção, estudo, romance, poesia, documento, monografia, … É a aposição de um selo que nos permite distinguir a realidade da ficção, o filme documental do filme dramático, a liberdade novelesca da liberdade poética, e assim por diante. Estas categorias abstractas não são autónomas. Formam uma unidade coesa com as relações sociais, políticas e económicas. Durante muito tempo foi da conveniência dos editores, dos galeristas, dos curadores, das autoridades académicas, que a actividade criativa fosse dividida em categorias, regulada e controlada pelos pares. As relações sociais, políticas e económica entre os criadores (e sua obra) e aquelas instituições eram expressas através das categorias, dos «timbres» impostos às obras, e a cada uma delas correspondia uma ética. A derrocada das editoras e de outras instituições que dominavam essas relações não é estranha à crise ética e ideológica que atravessamos – a derrocada dessas instituições obsoletas, para as quais não há ainda sucedâneo eficaz, ameaça a derrocada dos «timbres» e dificulta a adaptação ética.

Desgraçadamente, ainda não possuímos selos para a IA. Se fosse emitida uma lei que obrigasse a aposição de um timbre sobre as imagens e textos gerados por IA, sob pena de forte punição social, evitar-se-iam imensos equívocos. Mas essa norma ainda não foi inventada, de forma que, na ausência de timbre, pode resultar perfeitamente credível uma imagem artificial de Putin a oferecer chocolates às crianças ucranianas.

Finalmente, temos um outro busílis: a IA sabe mentir – coisa que, quanto a mim, é imprescindível para a tornar semelhante à inteligência humana. Como se isso não bastasse, a IA alucina (é esse o exacto termo usado pelos especialistas e criadores da IA). De tal forma que, na primeira e única experiência que fiz com um chatbot, pedindo-lhe eu uma pequena monografia sobre sound design e respectivas fontes, obtive várias páginas de bibliografia completamente falsa de ponta a ponta. Se eu não tivesse tido o cuidado de verificar e confirmar cada frase, cada entrada bibliográfica, poderia ter feito uma triste figura; pior ainda, poderia ter induzido em erro os meus leitores e dado origem a um conjunto de mitos abstrusos.

Em suma: a IA é um excelente instrumento, muito poderoso, infinitamente útil, mas enquanto não inventarmos uma ética que se lhe aplique e enquanto não ensinarmos essa ética aos nossos filhos, corremos o risco de assistirmos a terríveis desastres – como o provam já alguns casos de suicídio induzido pelos chatbots.