Go to ...

on YouTubeRSS Feed

18/11/2017

A tecnologia pode ser tão racista quanto nós, ou pior!


A pior tese sobre a tecnologia é aquela que repete o senso comum: “instrumentos são instrumentos, podemos usá-los para o bem ou para o mal”. A tese é ruim não só porque é falsa, mas também porque nos induz a pensar que a tecnologia é extra-humana, que não surge pelas nossas mãos, cérebro e coração. Ganha ares de demiurgo. Confundimos a tecnologia moderna com o instrumental antigo, como se a ciência moderna produzisse martelos e não engenharia genética e computadores. Olhamos para a ciência não com os olhos de Bacon, mas com os olhos do artesão pré-moderno. Ainda não levamos a sério o artigo de Heidegger sobre a tecnologia.

O artigo “Vídeo com saboneteira levanta debate sobre ‘tecnologias racistas‘”, de O Globo (

A filosofia já havia notado isso. Ela não deixou de fazer a crítica da ciência, mostrando que esta tem uma força supra-individual, uma “vontade de potência” que a põe funcionando sozinha, como mágica, tanto quanto é meio mágica a sua mão propulsora, o capitalismo. A filosofia sempre alertou para o fato de que a ciência é incapaz de pensar, ou seja, de ter consciência, à medida que ela é, literalmente, ciência. Ter ciência é saber, ter consciência é saber que se sabe. São coisas diferentes. No primeiro caso, há uma direção pré-dada para o fazer. No segundo caso há o passo reflexivo que permite avaliação moral. Por si só, a ciência gera tecnologia e esta não vem senão com o sangue do criador. O criador não pensa. Nem pode pensar. Criadores criam. Toda a alimentação para instrumentos tornam os instrumentos atuais devedores de nossos conceitos e nossos conceitos estão carregados de preconceitos. Acreditar que algoritmos limpam conceitos e se livram de preconceitos é não entender que a ciência lida com o que ela mesma forja como conceito. E estes, sem filosofia, podem muito bem serem preconceitos transformados em conceitos. Aparentemente conceitos. Um algoritmo que diz o que é o homem pode muito bem – como se nota em vários artigos sobre o assunto – só reconhecer o branco europeu como homem, fazendo o negro africano ser reconhecido pelos traços de um gorila, é um algoritmo que pode ser melhorado, claro, mas isso não muda nada como a ciência irá fazer outros algoritmos. Isso de fato acontece, ou seja, o caminho inexpugnável da “dialética do Iluminismo”.

Quem lida com tecnologia tem uma visão completamente irreal da tecnologia. Quando olha para a máquina, a interpreta como um martelo. Um martelo é uma extensão da mão. Mas a tecnologia usada na operação de fetos, na classificação de doenças, na produção de computadores que reconhecem imagens e sons e nos substituem na visão “mais objetiva”, não é algo como a extensão da mão. Não é extensão de nada. A tecnologia assim é o substituto do humano. Mas não é melhor que o humano ou um novo humano adornado pela neutralidade.

Sei que é difícil explicar isso ao leigo ou ao cientista e, talvez, mais ainda ao tecnólogo. Tanto é que alguns se revoltaram comigo, por conta do meu escrito, aqui neste meu Blog, a respeito da não existência do “Hacker do bem” (veja aqui artigo). Mas não nos resta outra coisa senão repetir e ir tentando melhorar os exemplos. Paulatinamente, talvez, comecemos a ver que não há tecnologia neutra, sujeita a um posterior e cuidadoso uso qualificativo. A tecnologia nasce como pode nascer, não como nós a queremos ver nascer. A tecnologia é mais uma caixinha de surpresa que filho no útero, que a gente só desconfia que realmente é um animal diferente de nós, indomável, na adolescência. A tecnologia já nasce adolescente.

A ideia de que podemos recriar a tecnologia boazinha, feita por cientistas educados no “politicamente correto”, será a resposta fácil daqueles que não entenderam a ciência, e nem este meu texto. Eles existirão, e serão a parte mais chata com a qual teremos de lidar.

Paulo Ghiraldelli Jr., 60, filósofo. São Paulo, 21/08/2017

Tags: , , , ,

7 Responses “A tecnologia pode ser tão racista quanto nós, ou pior!”

  1. Alceu
    23/08/2017 at 10:21

    Paulo, para mim a frase chave de seu artigo é “A tecnologia nasce como pode nascer, não como nós a queremos ver nascer. ” Ela é assim porque é gerada sempre dentro de sistemas ou sub-sistemas tecnológicos e, portanto, ela somente se viabiliza, socialmente e economicamente, quando consegue se adaptar funcionalmente. Isso explica, muitas vezes, a demora de anos ou décadas para algumas delas serem viáveis, pois o sistema em que ela pode se encaixar ainda não evoluiu o suficiente. Não estou aqui falando sobre mudanças revolucionárias que criam seus próprios sistemas e novas direções tecnológicas.
    A neutralidade da tecnologia há muito não é mais aceita por algumas correntes da economia, assim como a sociologia da ciência também não a reconhece.

  2. Humberto
    22/08/2017 at 08:11

    Muito bom o texto. Bastante lúcido e esclarecedor. Confesso que entendia a tecnologia pelo viés do senso comum. Talvez por não refletir sobre o assunto e, por comodidade, reproduzir o que está pronto. Esse texto me fez sair da zona de conforto e levantar alguns questionamenos. Obrigado por ajudar a abrir meus olhos.

    • 22/08/2017 at 10:39

      Humberto, sinceramente, obrigado. Quando alguém dá salto com um texto meu, sinto-me um deus. O aprendizado, o sair da casca, tem sido algo difícil em nossos dias no Brasil.

    • emisson
      23/08/2017 at 11:10

      Compartilho do mesmo pensamento humberto. É como se fôssemos coagidos à beijarmos os pés de uma máquina, por conta de uma ideia de “transcendência suprema” de uma composição de algoritmos; ou por causa da metafísica indelével da ciência. Seres humanos são errôneos por natureza. Criador e criatura, são reflexos não muito prolixos de suas subjetividades conceituais. A filosofia é magnífica, ao ponto de ser possível ultrapassar esta barreira do senso comum tecnológico. Tornou-se uma situação, que o Debord já havia nos alertado. Bom texto paulo.

  3. Matheus Tudor
    21/08/2017 at 21:44

    Professor Paulo, é curioso que uma espingarda, uma tecnologia, é uma arma. Pode ser usada para assassinar, pode ser usada para defesa de um país, para obter alimento, todavia independente da guerra semântica que se faça sobre como apresentar essa tecnologia, ela continua sendo uma arma. Isso deveria bastar para facilitar a compreensão por parte de todos sobre a mensagem de seu texto. Ou estou errado em pensar assim?

    Ah, Jaron Lanier é um cientista da computação que discute bem essas questões. Ele cunhou a expressão “auto-abdicação humana” para designar a forma como a humanidade vem encarando a tecnologia como um substituto do humano e as implicações disso.

    • 22/08/2017 at 00:17

      Tudo, a espingarda é o martelo, exatamente o que não é tecnologia moderna. Ela é ainda da ordem da flecha. Mas ela já tem algo híbrido, pois o rifle americano, seu modo de correr em trilhos, é o mesmo que foi usado na invenção da máquina de escrever – outra arma!

    • Matheus Tudor
      22/08/2017 at 00:39

      Busquei usar este exemplo por pensar que ele transmite a exata ideia de que, independentemente do uso que se dá a espingarda, ela continua sendo uma arma. Evidência de que ficou, em sua “”””ontologia”””, uma marca indelével de sua origem humana, portanto sua origem viciada em um paradigma, em uma dinâmica. Mas creio que entendi que é um exemplo bobo por dar enfase na ideia da tecnologia como instrumento, como martelo mesmo. O que a tecnologia até é, mas além disso é muito mais – o engraçado é que seu texto alertou de cima embaixo sobre isso. Talvez um exemplo mais como a cirurgia plástica de Harold Gilles, em Aldershot, na I Guerra Mundial como um meio de restaurar as faces etc dilacerada de muitos soldados, mas que acabou virando o que é hoje, as modernas cirurgias plásticas. Apesar de ser ainda um exemplo insuficiente.
      Talvez na tecnologia do CRISPR-Cas 9 o senhor encontre um exemplo bom, pois há trabalhos bem delimitado do que se propõe para ela, mas muitos sabem que é infantil, que essa tecnologia de edição vai andar com as próprias pernas, indepente da moratória do uso da técnica solicitada por um grupo de cientistas, incluindo a Jennifer Doudna(grande responsável pela técnica). Não sei se ainda passei longe, mas me parece um caso interessante.

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *