Revolução em curso. "Estamos a ser tão impactados pelos algoritmos que não temos noção disso"

A inteligência artificial já faz parte do nosso dia-a-dia e a "revolução em curso" promete mudar a nossa forma de viver num futuro muito próximo. Nas interações digitais do nosso quotidiano, somos condicionados por algoritmos que se adaptam ao nosso comportamento. A reflexão sobre esta evolução tecnológica consta num livro, da autoria de Diogo Queiroz de Andrade, que aceitou o desafio lançado pela Fundação Francisco Manuel dos Santos para escrever sobre a temática.

O jornalista e investigador é também diretor de inovação do Global Media Group, proprietário da TSF. Nesta entrevista, o Diogo Queiroz de Andrade lança o debate em torno dos algoritmos e da inteligência artificial.

O que são algoritmos?

Algoritmos, na sua expressão mais simples, podemos assemelhá-los a uma receita. São uma receita que tem ingredientes e tem uma listagem predefinida do momento em que cada ingrediente tem de entrar. Portanto, é uma receita bastante detalhada e profissional, digamos assim. Não como os grandes chefs costumam fazer, que fazem com criatividade e alguma autonomia. Digamos, que o algoritmo é uma equação matemática, é uma receita, muito predefinida, com a indicação clara do que vai entrar em cada momento e com uma noção do resultado esperado.

De que forma condicionam a nossa vida?

Condicionam de muitas formas e muito diversas, tantas formas que nem sequer temos noção. Essa é a razão pela qual eu fui desafiado pela Fundação Francisco Manuel dos Santos para escrever este livro, que aliás é um livro que tenta escrever uma linguagem leiga, de forma a ser acessível ao máximo de pessoas. A lógica é que nós hoje estamos a ser tão impactados pelos algoritmos sem termos noção disso, que há uma necessidade absoluta de termos essa noção e de saber o que é que eles são e como é que interferem com a nossa vida. Nós hoje contactamos com algoritmos centenas de vezes por dia.

Audio audio TSF\audio\2023\11\noticias\15\x_dqa Ouça aqui a entrevista com Diogo Queiroz de Andrade.

E qual é o impacto tanto dos algoritmos como da inteligência artificial?

Os algoritmos são obviamente uma componente indissociável da inteligência artificial e deste movimento que hoje vivemos no mundo. Há a componente individual e societal, civilizacional. Falando da individual é isto, é o impacto diário que nós sentimos e é a consequência que a IA tem e que estes algoritmos têm, na decisão individual. Podemos falar em casos muito concretos, de testes que de carros de condução autónoma, que virão a ser uma revolução muito simpática para a sociedade, mas enquanto estão a ser testados matam pessoas, não conseguem identificar o que leem da realidade e por vezes, há pessoas que morrem. Isto a nível individual. Mas também o facto de nós hoje em Portugal, qualquer pedido de crédito à habitação que se faça em qualquer banco, a decisão seja sempre tomada por algoritmos. E nós não temos noção disto. É sempre tomada por um algoritmo. Nós não temos noção disto. Apesar de ser tomada por algoritmo e apesar de a lei dizer que tem de haver essa indicação ao consumidor final, nós não sabemos disto. Só quando pedimos a revisão da decisão, é que às vezes, lá dependendo dos bancos, há uma intervenção humana. Isto acontece hoje, apesar de a lei prever o contrário. Portanto, há aqui um problema grave que tem haver com os nossos direitos e com a nossa cidadania.

Citação citacao Vai haver mais pessoas sem emprego por causa dos algoritmos

A nível societal, o impacto é tão grande que é difícil ir a pormenores, mas podemos falar, por exemplo, do que está a acontecer hoje na guerra da Ucrânia, em que há sistemas de inteligência artificial a coordenar ataques organizados de drones, mas podemos falar do que se passa em França, em que mecanismo de Segurança Social, a definição de apoios sociais, é feita por algoritmos, que se enganam muitas vezes. Há muitos problemas com os algoritmos, há coisas boas que virão aí, mas uma das questões-chave é que a qualidade dos dados tem de ser à prova de bala.

Imagens imagem esquerda TSF\2023\11\ng-5d402683-5943-4fb9-b7b1-2b0ca5f95562.jpg

Os algoritmos representam riscos. Sabemos, como jornalistas, do problema da desinformação, mas também trazem oportunidades, não só para o jornalismo, como para a medicina...

Trazem enormes oportunidades. Os algoritmos são mecanismos facilitadores de muitas decisões. Neste momento, dado o estado da arte, não vejo quando é que isso pode acontecer, deixar que sejam os algoritmos a tomar decisões. Agora que há um apoio tremendo dos algoritmos em termos de acesso à informação, isso claro que sim, e todas as profissões têm a ganhar a utilização dos algoritmos, o que coloca outro problema social: vai haver mais desemprego por causa disto. É verdade que as tecnologias têm sempre um prazo de adaptação e têm uma implicação em termos do impacto que têm por exemplo no mercado de emprego, mas a questão-chave disto tudo, é a rapidez em que isto está a acontecer. Vai haver mais pessoas sem emprego por causa dos algoritmos do que a capacidade que as sociedades têm de converter os trabalhadores profissionalmente. Há aqui um problema que tem de ser pensado e trabalhado pelos organismos decisores.

Citação citacao A questão-chave disto tudo, é a rapidez em que isto está a acontecer

E problemas éticos?

Há vários. A desinformação é um problema gravíssimo. A única maneira de podermos lidar com os algoritmos com mais transparência é sabermos quem são os autores dos algoritmos e podermos olhar para eles e entendermos como é que eles são. Ou seja, tem de haver transparência no processo algorítmico. Há aqui uma complicação porque quando estamos a falar de questões empresariais e comerciais, obviamente que há aqui questões de propriedade de direitos de autor e de segredos comerciais, alguns algoritmos serão tão importantes como a fórmula da Coca-Cola, passar usar um termo bastante conhecido. É muito difícil conseguirmos investigá-los, agora tem de haver organismos que o possam fazer.

Imagens imagem esquerda TSF\2023\11\ng-dd35cd87-6225-4a4d-acf9-0548556ce1e4.jpg

No plano legislativo, o que é que isso representa quer para Portugal e no quadro da União Europeia?

Está a ser feito um trabalho bastante importante. A UE tem estado a dar muita importância a isto, parece-me claro que a UE não quis que voltasse a acontecer o que aconteceu com outros mecanismos da sociedade digital, em que esperamos demasiado tempo em regular e as consequências sociais foram bastante grandes. Neste momento há trabalho bastante grande feito, a UE foi apanhada de surpresa com o ChatGPT, como aliás foi toda a sociedade. E houve aqui um problema grande, porque a forma como estava a ser preparado a legislação, que era uma legislação orientada para o risco de determinados programas, não permitia que um ChatGPT, que tem uma aplicação tão abrangente e tão difusa pudesse ser regulado ali. Neste momento, está em processo de revisão. É sempre complicado falar da UE em termos de legislação porque demora sempre muito tempo a ser produzida. A verdade é que quando estiver produzida, vai ser diferenciada e vai ajudar mudar os comportamentos e as atuações, quer das empresas, quer dos algoritmos na Europa e, nós enquanto país de média dimensão, realmente precisamos que seja a UE a fazer isto, porque sozinhos nunca iríamos influenciar a forma como os algoritmos são produzidos no território europeu.

E no plano da Educação?

Há imensas vantagens também aí. O facto de podermos usar algoritmos para entender como cada um de nós aprende e podermos vir a predefinir ou a criar condições para aprender de forma diferente, dependendo do que estamos a falar, de línguas ou matemática, o facto de produzirmos mecanismos individuais de aprendizagem, é uma oportunidade tremenda, é uma grande vantagem. Podemos falar também na questão da saúde, tratamentos individualizados, medicamentos personalizados porque os nossos organismos são todos diferentes, quer dizer, há uma miríade de vantagens que vêm com os algoritmos. A questão é que precisam de ser regulados, regular não é proibir, regular é definir as áreas de atuação, para que possam ser essencialmente benéficos e não prejudiciais.