A Inteligência Artificial e Seus Herdeiros
No universo dos videojogos, confesso-me um old school. Tenho uma máquina arcade em casa, com jogos das décadas de 80 e 90. Ainda prefiro a estética 2D. Mas é inegável o impacto do 3D, da inteligência artificial (AI) e do Machine Learning (ML) no desenvolvimento dos videojogos em particular, bem como na economia em geral. Só a título de exemplo, recordo que a partir de 2020, as receitas da indústria de videojogos ultrapassaram as indústrias do cinema e do desporto (1).
Um dos jogos que pratico com regularidade é o jogo de damas. Considero que a vida comum, a monótona e que nos envolve todos os dias, é mais parecida com um jogo de damas do que de xadrez. No xadrez há reis, rainhas, bispos, cavalaria, etc. Mas isso não se reflete na lógica de uma microssociologia, onde o plano vigente é o da proximidade entre peças, e onde as hierarquias e vantagens não são feitas de grandes poderes; antes de pequenos movimentos, de pequenas antecipações, de pequenas flexões para encaminhar o próximo a agir.
Habitualmente, jogo damas contra o computador. E ele usa machine learning (ML). E eu uso aprendizagem humana. É uma dança constante. No início de cada nível, perco. Depois uso essa espécie de ultra-instinto baseado na aprendizagem, e ganho. Subo de nível, e tudo recomeça: a máquina ganha até eu perceber como posso ganhar. E depois ganho eu. Subo de nível até ao topo. E no topo tenho, já, muita dificuldade em ganhar. Tenho que memorizar jogadas, sequências, usar muitas vezes o ‘undo’ para entender o sucedido. E só assim ganho, depois de muito treino.
Em fevereiro de 2023, um advogado robô vai defender um humano. Com um tipo de AI. Não se sabe ainda qual a sua base de dados, se apenas jurídica ou se complexa e capaz de misturar boas práticas humanas com aberturas legais. Veremos como se desenrola o processo (2).
Billy Corgan, vocalista dos Smashing Pumpkins, considera que o futuro da música será um domínio completo da AI. Se atualmente o eletrónico já domina na maioria dos processos musicais, no futuro a junção de eletrónico com AI será uma certeza. O rocker considera que o músico que dominar a produção musical com AI dificilmente terá rivais (3).
Já foram produzidas músicas em AI. Ao grupo dos 27, o projeto Lost Tapes aplicou um processo de produção completa de letra, música e voz de artistas que já não se encontram entre os vivos. Entre Jimi Hendrix, Amy Winehouse, entre outros, o projeto Lost Tapes também aplicou o processo aos Nirvana, ressuscitando Kurt Cobain e traços das suas capacidades de composição e interpretação. O resultado é muito bom, nas músicas You’re Going To Kill Me (Jimi Hendrix), Man I Know (Amy Winehouse) e Drowned in the sun (Nirvana).
Apesar das potencialidades infinitas, e de resultados muito bons, há ainda coisas que falham na AI. Acho que posso sintetizar essas falhas com o exemplo das damas e com a expressão ‘Somos mais do que as máquinas’, cantada por Gavin Rossdale (dos Bush).
Com as damas, reparo que o ML será sempre melhor do que eu porque o jogo é fechado. É apenas aquilo. As regras são simples e as possibilidades finitas. A ML do jogo pensa 3 a 4 jogadas à frente, com memória infalível. Se eu pensar em 5 à frente, ele aumenta para 6. E assim sucessivamente. Dificilmente terei hipótese dentro deste tipo de jogos.
Mas com a música, ou eventualmente com a decisão de um juiz, tudo será diferente. Estamos já em ambientes mais infinitos (mais na música do que na justiça, obviamente). Como refere Gavin Rossdale, ‘Somos mais do que máquinas porque sentimos’.
E sentir é algo que a AI, por mais engendrada com o ML, nunca conseguirá fazer. Quando o Kurt Cobain criou a Sappy, misturou o amor por uma tartaruga, as memórias do seu lar infantil meio distorcido, uma depressão profunda e uma adição poderosa às drogas. Não há AI que deste combinado retire o que quer que seja. Passem os anos que passarem. Como pode a AI criar a partir de fundos que não tem? De emoções que não conhece? De razões que não obedecem a qualquer lógica?
Mais: como pode uma máquina ler um texto de Franz Kafka e produzir um som tão obscuro quanto aquilo que é a reticência do pensamento kafkiano? A obscuridade que não está no texto, mas que reside na paisagem imaginária e comum de mentes que se leem e tornam gémeas?
Não pode a AI mas pode o humano. É o caso do texto At Night (de Franz Kafka) e da música At Night, dos The Cure. No texto de Kafka, é-nos apresentada a continuação da ideia de um vigilante sempre presente. E da noite, aquele silêncio em que só um olhar divino pode controlar. O texto reza assim:
“Deeply lost in the night. Just as one sometimes lowers one’s head to reflect, thus to be utterly lost in the night. All around people are asleep. It’s just play acting, an innocent self-deception, that they sleep in houses, in safe beds, under a safe roof, stretched out or curled up on mattresses, in sheets, under blankets; in reality they have flocked together as they had once upon a time and again later in a deserted region, a camp in the open, a countless number of men, an army, a people, under a cold sky on cold earth, collapsed where once they had stood, forehead pressed on the arm, face to the ground, breathing quietly. And you are watching, are one of the watchmen, you find the next one by brandishing a burning stick from the brushwood pile beside you. Why are you watching? Someone must watch, it is said. Someone must be there.” (4)
Robert Smith, líder carismático dos The Cure, recria At Night a partir do texto de Kafka não como um pintor de paisagens, mas como um pintor de sons (5). Há, nesta diferimitação (imitação diferenciada e transdutiva), toda uma sinistra atmosfera que só a maior sincronia mental e artística poderia refletir o escrito. Saberá sequer o que é uma transdução, a AI? Não me parece…nem o humano sabe do que são feitas essas comunicações entre diferentes matérias…
O ideal mesmo é ler Kafka e, simultaneamente, ouvir esta At Night.
Contudo, e já que crescem as aplicações da AI no mundo humano, seria interessante ver a sua aplicação ao mais finito mundo da corrupção. Sobretudo na ajuda à gestão da transparência nas democracias. Dava jeito a Portugal termos uma máquina incorruptível, cumpridora, zelosa, para enfrentarmos o futuro. Se assim fosse, o pântano em que mergulhamos atualmente não existiria…
(3)https://radarlisboa.fm/2022/09/27/billy-corgan-critica-industria-musical/
(4)https://www.goodreads.com/quotes/10478175-deeply-lost-in-the-night-just-as-one-sometimes-lowers
Quando o vigiado se torna vigilante
Pedro Rodrigues Costa
Figura 1. O vigiado vigilante
Ao refletir sobre o modo como o edifício penal atuava sobre os sujeitos, Michel Foucault (1926-1984), em Vigiar e Punir (original de 1975) (1), discorreu sobre uma nova tecnologia em curso: o aperfeiçoamento, entre os séculos XVI e XIX, de todo um conjunto de processos para policiar, controlar, avaliar, adestrar os indivíduos, torná-los mais dóceis, com melhor desempenho e úteis. Vigilância, exercícios, manobras, notas, níveis e lugares, classificações, exames, registos, toda uma forma de submeter os corpos, de dominar as multiplicidades humanas e de manipular as suas forças se desenvolveu durante esse período nos hospitais, no exército, nas escolas, nos colégios ou nas oficinas: a disciplina.
Esta reflexão, inspirada incialmente por George Alliger(2), vem de certo modo criar ramificações com muitas das minhas investigações dos últimos 15 anos. Um Estado moderno que criou um roteiro do qual os sujeitos dificilmente podem escapar: uma socialização permanente que os encaminha para a família, para a escola, para o exército, para o hospital e, em caso de falha, para a prisão (punição). Um Estado panóptico, figura arquitetónica criada por Jeremy Bentham, para maximizar a vigilância no interior de uma prisão, e que servira de metáfora a Foucault para descrever a atuação de um Estado moderno: a prisão “perfeita” seria aquela em que quem está no seu interior não sabe que está a ser vigiado, ainda que viva permanentemente sob o olhar vigilante da autoridade e sem saber como e quando é observado. A arquitetura panóptica era pensada para a luz passar, para que tudo fosse facilmente iluminado e observado, para que tudo fosse escrutinado – tal como o sujeito do Estado moderno. Esta visão acabou por conduzir à ideia de substituição da prisão por uma sociedade de vigilância, associada à multiplicação de ecrãs (2). Aquilo que há 14 anos apelidei de sociedade ecrãnica.
Figura 2. Arquitetura panóptica de Jeremy Bentham
Este padrão assente numa individuação vigilante foi-se alastrando, sobretudo a partir do século XX. Progressivamente, foi saindo do controle do Estado em direção ao sujeito. Leis mais libertárias, aumento da relação produção-consumo em todas as esferas e crescimento exponencial de tecnologias de empoderamento individual (quer no conhecimento como na ação e na mobilidade), ainda que sob crescente vigilância de Estado, complexificaram os modos de agir, pensar e sentir. E, de igual modo, a arquitetura panóptica foi sendo introduzida nos diversos sistemas existentes, ora fugindo do controlo do Estado, ora se aproximando através de um conjunto de ferramentas cada vez mais complexas.
Entre as principais ferramentas de controlo, a comunicação de massas foi sendo vigiada, senão comandada, pelos Estados. Mas também pelas grandes empresas, que se tornaram quase Estados dentro de um ou mais Estados. O conceito de empresa multinacional tinha, de certo modo, uma ideia inicial de independência face a um Estado como forma de aumentar o seu poder. Algumas multinacionais, sobretudo no final do século XX, perceberam na World Wide Web uma forma de se tornarem super-Estados quase independentes (ou muito pouco dependentes). As gigantes Microsoft ou a Google Inc. são dois bons exemplos.
Empoderar os sujeitos foi algo crescente na fusão empresas-tecnologias-self. Esta tríade fez aparecer as redes sociais digitais. Se IBM, Microsoft ou Google criavam estruturas para a produção de serviços e artefatos informáticos e digitais, as redes sociais digitais recriavam novos mundos sociais. O sujeito-avatar na rede, uma nova possibilidade de existência desterritorializada, tornou-se uma ideia de negócio poderosa. No dealbar do século XXI, Hi-5, Second Love ou Facebook tornaram-se as primeiras empresas com estes desígnios. A ideia de que o sujeito pode ter uma outra vida, ou a mesma, mas arreigada a um princípio de imagem e no interior de uma dimensão digital, tornou-se uma ideia de sucesso. São, hoje, milhares de milhões os utilizadores das mais diversas formas de rede digital. Isso, tal como nos recordava bem Norbert Elias aquando da existência de uma transição para algo mais alargado e complexo, gerou novos padrões de individuação(3). Com as redes digitais, a vigilância da sua rede passou para as mãos do sujeito, mas também para as mãos de grandes multinacionais: algoritmos controlam os gostos, os ódios, os prazeres, sugerindo listas de conteúdos e assim unindo pessoas com elementos em comum. Doravante, o sujeito cria e recria a sua rede, permite ou impossibilita a sua aparição na visão de outros, reage ou comenta a ação digital de outros da sua rede. Ao fazê-lo, vigia e é vigiado.
Figura 3. O olhar vigilante das redes sociais digitais
É aqui que nos aparece uma lição dada por Franz Kafka, num pequeno conto intitulado The Watchman (o vigilante), presente no livro Parábolas e Fragmentos (original de 1947) (4). Nesse conto, o narrador descreve um momento curioso: a passagem por um vigia sem que ele o tivesse visto. Ficando horrorizado com essa ausência de vigilância, o narrador terá voltado atrás dizendo ao vigia que o tinha feito sem que esse o tivesse visto. O vigia ignorou o narrador, olhando em frente. Mas o narrador insistiu que não deveria ter feito isso, não obtendo, também aí, qualquer reação do vigia. Intrigado, o narrador questiona: o seu silêncio significa que tenho permissão para passar?
Traduzido por Gabriel Josipovici e citado pelo blog yolacrary.blogspot.com, com o título The Existence Machine: The watchman said nothing, a parábola surge-nos de forma curta mas concisa:
“I ran past the first watchman. Then I was horrified, ran back again and said to the watchman: ‘I ran through here while you were looking the other way.’ The watchman gazed ahead of him and said nothing. ‘I suppose I really oughtn’t to have done it,’ I said. The watchman still said nothing. ‘Does your silence indicate permission to pass?'”(5).
O facto de o vigilante não fazer nem dizer nada, de estar apenas presente, tem um impacto profundo: gera no narrador kafkiano uma culpa que o leva a revelar a omissão. De facto, o vigia não percebe que existe uma infração original porque olhava para o outro lado, sendo o narrador a ganhar a consciência para corrigir o erro. Ou seja, o vigiado passa, ele próprio, a vigilante da norma instituída. Esse não-poder-passar-por-regra leva o vigiado a vigiar a sua própria conduta, fazendo com que este se entregue à autoridade. Neste conto, o narrador interioriza, profundamente, as funções sociais e psicológicas da vigilância.
O efeito de aceitação e de cumprimento da vigilância é inquietante. No início da pandemia da Covid19, nos primeiros meses a partir de março de 2020, foi comum verificar uma forte vigilância dos vigiados sobre a presença do vírus. Mais tarde, sobre a vacinação. Denúncias anónimas sobre pessoas que não cumpriam o estado de quarentena, ou então um tom acusatório sobre aqueles que decidiram optar por não se vacinar, satisfizeram este efeito de vigilância: os vigiados tornaram-se também atentos vigias. Tal transformação gerou um pântano de conflitos, na rua como nas redes digitais. Clusters de pessoas organizaram-se, ora a favor, ora contra esta vigilância permanente. E quando utilizamos o termo “cluster”, é precisamente para evidenciar o que os algoritmos baseados em sugestões e gostos fazem hoje nas redes digitais: misturam, através de conteúdos para visualização nos feeds, pessoas com os mesmos gostos, pessoas com os mesmos interesses e assuntos, pessoas com as mesmas linhas de ação e motivação. Aproxima-se o igual e expulsa-se o outro, o diferente, o que pensa e age de forma diferenciada(6).
Neste conto de Kafka, são evidenciados alguns impactos psicológicos e sociológicos do Estado de vigilância. Um dos aspetos mais mencionados é o facto do sujeito vigiado ter permitido o fim dos seus direitos e liberdades em detrimento do cumprimento da vigilância. Kafka pressentia, em meu entender, acertadamente: um estado de permanente vigilância faz dos vigiados vigilantes, e essa orientação do sujeito para uma vigilância constante causa danos, tanto na psique individual como na sociologia do sujeito. Mais: na maneira do estar-junto. Diria que este é mesmo o maior perigo de se viver, atualmente, nas redes sociais digitais. Ao nos tornarmos vigilantes de pessoas da nossa rede próxima, ao reagirmos em conformidade com um tipo de aceitação ou de reprovação moral ou convencional, e até mesmo ao reagirmos em silêncio, estamos, invariavelmente, a coagir o Outro, a condicionar as suas motivações e gostos, a extrair dele qualquer coisa que é desejada pela nossa subjetividade.
Figura 4. The Whatchman – Comics adaptation of a short story by Frank Kafka. A child runs across a bridge of silent authority (https://www.inkystories.com/comics/the-watchman.html)
Pela perspetiva dos impactos psicológicos do estado vigilante, podemos vislumbrar afeções negativas, mais ou menos temporárias, nas motivações, nos gostos, na satisfação, na ansiedade, no stress e até no desempenho. Num ponto extremo, constata-se que o consumo excessivo de pornografia tende a gerar baixo desempenho sexual. Tal deve-se à criação de padrões de excitação e de expectativas que obtém dificuldade de cumprimento prático. A pornografia como referência do sexuado serve como vigilante do desempenho. Assim, o vigiado pela referência vigia-se a si mesmo, frustrando-se invariavelmente. Já num outro ponto extremo, temos os efeitos indesejados no trabalho quando o trabalhador é vigiado. É que uma administração empresarial sempre vigilante nunca poderá comparar a produtividade de um mesmo trabalhador nas duas situações (de vigiado e de não vigiado). Por seu turno, o supervisor só pode monitorar o monitorado. Há neste processo uma perda de informação que se autoperpetua. A vigilância sobre um trabalhador corrói, em certo sentido, a confiança que os funcionários têm na sua administração, e vice-versa (7)(8).
Ou seja, o vigiado e o vigia misturam-se, diluem-se, fragmentam-se um em direção do outro. A mulher e o homem em atividade sexual passam de vigiados um pelo outro a vigilantes um do outro, tendo como referência padrões externos. Os trabalhadores de uma empresa sentem a vigilância como uma afronta, vigiando a vigilância efetuada, e o empresário que vigia, por sua vez, passa a ser também vigiado. Mais: o desempenho do trabalhador reflete a condição de vigiado (em relação à performance) e de vigilante (em relação à vigilância de que é alvo). Não aumenta nem supera a produção pedida, por exemplo, se esse aumento significar mais à frente um continuum no aumento de produção.
Eis que estamos diante de efeitos de perda de identidade e de discriminação. Fatores que se alastram depois aos impactos na sociologia da vigilância: as relações entre pessoas ficam condicionadas por uma ausência de confiança, sendo que essa ausência atingirá, posteriormente, a motivação e a performance relacional. O namorado que descobre um like da namorada numa publicação de um terceiro elemento pode despoletar uma pré-desconfiança e um aumento do estado de vigilância sobre a própria relação. Mas tal como os namorados, também o cidadãos que detetam, através de uma sucessão de notícias, uma relação de corrupção entre membros de um mesmo governo perdem a confiança nos governantes; tal como deteta o fã de uma personalidade pública, quando a certa altura o seu ídolo não age de acordo com modelos morais dominantes.
Num estado de hiper-vigilância, todos estão sujeitos à vigilância e todos são vigias. A este propósito, importa invocar a ascensão da cultura Wook, ou cultura de cancelamento. A permanente vigilância do outro, do que pensa diferente, do que é oposição, é transformada rapidamente em sanção pela moral, ou mesmo num fácil e ágil rótulo de criminoso (quando se trata de um incumprimento legal). A cultura de cancelamento é mais do que punição legal. É punição social, moral e mediática, com efeitos devastadores. Os exemplos são vários: o movimento de cancelamento, por parte de Hollywood, ao ator Jonnhy Deep, por alegados maus-tratos à sua ex-mulher (que em tribunal não se verificaram); o movimento de cancelamento de músicos como Marilyn Manson ou de Eric Clapton, o primeiro por acusações, por parte da sua ex-mulher, de condutas violentas ocorridas num casamento acabado em 2015, e o segundo por se considerar anti-vacina Covid19; o cancelamento do tenista Novak Djokovic, pelo facto de rejeitar ser vacinado para participar em torneios; o cancelamento da Rússia e dos seus aliados, levando a casos onde crianças e seus familiares de origem russa fossem vítimas, em países de emigração, de xenofobia e de discriminação; entre outros casos menos mediáticos mas que ganham força devido a uma vigilância de condutas que outrora não existia. O instalar de uma cultura do idêntico (Han, 2018), assente num global-politicamente-correto, promoveu o alastramento uma cultura de ódio e posterior de cancelamento sem precedentes. O estado de hiper-vigilância, assente num padrão de dominação globalista, é feito, doravante, em redes digitais. A perseguição está agora transformada no comentário raivoso, odioso e agressivo, em achincalhamento público através de conversações digitais ou de memes.
Voltando à parábola de Kafka: na atual contingência tecnológica, o sujeito não está apenas a infringir e a denunciar-se. Está também a apontar ao mundo o erro do outro, a denunciá-lo, a puni-lo publicamente, a agredi-lo e a violentá-lo. Os impactos psicológicos e sociológicos da atual vigilância são, de facto, profundos e persistentes. Um cenário excessivamente vigilante só pode acabar em conflito. Se a ideia da vigilância é, como bem nos recorda a parábola, a de colocar os sujeitos no desempenho de papeis bem definidos, o seu excesso gera perda de referências e de identidades, produzindo uma desorientação inquietante (9).
(1) Foucault, M. (2018). Vigiar e Punir. Nascimento da prisão. Lisboa: Edições 70.
(2) George Alliger (2022). Kafka warned us: surveillance turns the watched into watchers. Psiche. Link: https://psyche.co/ideas/kafka-warned-us-surveillance-turns-the-watched-into-watchers?fbclid=IwAR0BNZD1OK1LFYAti0Co0dgsa6gdUwPoMLug1s88OkYbEs-cBvHUS5bsnX8
(3) Elias, N. (1993). O Processo Civilizador: formação do estado e civilização. Rio de Janeiro: Zahar.
(4) Kafka, F. (2020). Parábolas e Fragmentos. Lisboa: Assírio & Alvim.
(5) Blog Yolacrary (2008). The Existence Machine: The watchman said nothing. Link: http://yolacrary.blogspot.com/2008/08/watchman-said-nothing.html
(6) Han, B-C. (2018). A Expulsão do Outro – Sociedade, Perceção e Comunicação Hoje. Lisboa: Relógio D’Água.
(7) George Alliger (2022). Kafka warned us: surveillance turns the watched into watchers. Psiche. Link: https://psyche.co/ideas/kafka-warned-us-surveillance-turns-the-watched-into-watchers?fbclid=IwAR0BNZD1OK1LFYAti0Co0dgsa6gdUwPoMLug1s88OkYbEs-cBvHUS5bsnX8
(8) Strickland, L. H. (1958). Surveillance and trust. Journal of Personality, 26, 200–215. https://doi.org/10.1111/j.1467-6494.1958.tb01580.x
(9) Este artigo parte da temática explorada por George Alliger (2022), em Kafka warned us: surveillance turns the watched into watchers (Psiche, 2022) para depois ser relacionado com temas da cultura digital trabalhadas pelo autor ao longo dos últimos 15 anos.
Margens 
Comentários Recentes