Sylvia, o quanto é necessário este seu texto! Vivemos o mais atual mal-estar na civilização envenenada, intoxicada e mortalmente atingida pela IA. Só tenho a te agradecer a clareza e a inteligência que te é natural. meu abraço, claudia ferraz
Obrigada pela sua generosidade. Eu sempre procurei ter uma visão crítica do que nos é oferecido como instrumento de emancipação por um sistema que, justamente, nos submete e explora. É o que sempre acontece com as inovações tecnológicas, e seria muito importante que tivéssemos pelo menos alguma reserva diante daquilo que nos é apresentado como hipótese de redenção, basicamente porque a redenção jamais resultará de um aparato tecnológico pura e simplesmente. Por isso acho tão importante a leitura da obra do Álvaro Vieira Pinto. E acho muito importante atentar para o que o Nicolelis disse nessa entrevista sobre a impossibilidade de existência de um cérebro fora de um corpo: porque volta e meia (e agora mesmo acabei de ler sobre isso) vem alguém predizendo a fusão entre o cérebro e a IA, como se a IA fosse autônoma... enfim, é pura propaganda, nada inocente (como jamais a propaganda é), mas é avassaladora. É muito difícil ir à contracorrente, mas muito necessário.
A autoria, antes reservada às elites, em vez de seguir rumo aos coletivos, seguiu rumo ao supra sumo da elite: brancos, americanos, super ricos. ERRO de sentido! Ainda é tempo de dar meia volta?Ou já não temos forças?
O texto tem o mérito de nomear, com a clareza de quem pressente o abismo, o mal-estar cultural diante da automação cognitiva. Mas sua força se dilui numa contradição metodológica difícil de ignorar: é curioso denunciar a falta de rigor da inteligência artificial apoiando-se em anedotas — como a conversa com a Alexa ou o relato do jornalista português — e num estudo preliminar de cinquenta e quatro estudantes, apresentados como evidência de uma espécie de apocalipse mental. Essa escolha de exemplos, somada a um tom de catastrofismo nostálgico que idealiza o passado e demoniza o digital, termina por construir uma visão binária do humano, como se estivéssemos condenados a escolher entre a pureza perdida e a desumanização total. Falta ao texto o reconhecimento de que ainda existe, no meio do ruído técnico, uma capacidade de discernimento, uma agência crítica capaz de integrar a máquina sem se submeter a ela. Ao limitar-se a um apelo vago à “coragem” e repetir a retórica do lamento, o artigo acaba se tornando, paradoxalmente, um sintoma do mesmo desânimo intelectual que pretende denunciar — a dificuldade de pensar o presente sem transformá-lo em mito de decadência.
Eu agradeço a sua crítica, mas creio que não procede. Em primeiro lugar, não há qualquer idealização do passado nem, muito menos, demonização do digital, o que está claro desde o subtítulo ("controlar" a IA) e nas referências do Nicolelis e do Antunes, ao final. Além do mais, se eu demonizasse o digital, não me valeria dele, não é? E quem cita o Vieira Pinto jamais se guiaria por essa visão binária do humano (está ali, aliás, explícito que a tecnologia é fruto do engenho humano e que a dicotomia homem x máquina é uma falácia). Em segundo lugar, está bem claro que eu digo, logo no início, que não podemos nos contentar com a piada, e me parece que o texto vai um pouco além dos exemplos anedóticos. Quanto à pesquisa do MIT, eu a cito porque é relevante, embora preliminar (e isso sou eu que faço questão de destacar, o Nicolelis não fez isso na entrevista), e ressalto os motivos que levaram a pesquisadora a divulgá-la mesmo antes de revisada: porque é urgente essa discussão, porque são urgentes novas pesquisas e porque é urgente que se detenha a onda de exaltação dessa tecnologia, diante dos riscos muito evidentes que oferece para nós e mais ainda para as gerações futuras.
Lamentavelmente, o que prevalece, diante do surgimento e desenvolvimento dessa tecnologia é a exaltação acrítica, muito (e nada inocentemente) impulsionada pela propaganda tantas vezes disfarçada de jornalismo. Nenhuma surpresa: foi exatamente o que aconteceu com a disseminação da internet: é a velha crença na redenção pela tecnologia supostamente libertária. Quem fez a crítica à época (e eu fui uma dessas pessoas) foi descartado como refratário ao "novo". Hoje, ninguém mais ousa dizer que a internet seria essa nova praça pública igualitária, não é? Todo mundo se descabela com o ambiente tóxico que se criou, com o gigantismo das big techs e sua disposição de afrontar qualquer limite legal, e com as consequências disso para a democracia, não é? Pois é.
Acho que só isso seria suficiente para considerar com mais seriedade as infelizmente raríssimas críticas ao avanço descontrolado dessa tecnologia.
Para concluir, minha preocupação é essencialmente ética: quando o Nicolelis lembra do Wiesenbaum dizendo que há áreas em que a gente não pode entrar, é disso que se trata: da discussão ética que deve orientar toda pesquisa científica (e toda conduta humana, de modo geral).
Agradeço a resposta generosa e o esclarecimento da sua intenção ética — que, aliás, transparece no texto. Concordo que há uma urgência moral incontornável no debate sobre a automação cognitiva e que a crítica à euforia tecnológica é não apenas necessária, mas rara.
O que me inquieta, contudo, é o efeito discursivo produzido quando essa advertência se estrutura num registro predominantemente alarmista: o texto termina, talvez involuntariamente, reproduzindo a mesma impotência que denuncia, como se o humano já tivesse perdido toda capacidade de discernir, regular ou integrar criticamente a técnica. Não se trata de negar os riscos, mas de perguntar se ainda é possível pensar a tecnologia sem recorrer à dialética da salvação ou da perdição — sem cair, justamente, no deserto simbólico que o próprio título evoca.
Talvez o ponto de convergência esteja aí: não em exaltar o “novo” nem em idealizar o “antes”, mas em reconstruir o espaço do discernimento — essa zona intermédia onde ética e imaginação podem dialogar com o digital sem lhe ceder a alma. Um espaço onde, por exemplo, não se discuta se devemos ou não usar a IA, mas como usá-la de modo a expandir, e não substituir, a capacidade de juízo. Um espaço onde a regulação seja pensada não como interdição, mas como meio de garantir que a técnica sirva à autonomia humana — e não o contrário.
Vou novamente discordar, porque não vejo qualquer cessão à impotência na minha conclusão: ao contrário, é um apelo para que percebamos a gravidade da situação e a necessidade da imposição de limites éticos à inovação tecnológica, que é o que deveria regrá-la, como, de resto, deveria acontecer em qualquer atividade humana. Não há catastrofismo: há a constatação de uma catástrofe em curso, que precisa ser evitada. Nem há dicotomia (não dialética, que seria outra coisa) entre salvação e perdição, ou entre idealização do passado ou exaltação do novo. Nem faz sentido falar em "dialogar com o digital", como se fosse uma instância autônoma. Creio que fui bastante clara quando citei o Vieira Pinto e sua insistência em mostrar que toda inovação tecnológica é fruto do engenho humano. É isso que frequentemente nos escapa diante do que ele chama de "maravilhamento" com a tecnologia.
Agradeço novamente a continuidade do diálogo. Concordo inteiramente que a tecnologia é fruto do engenho humano e que, por isso mesmo, deve ser submetida a critérios éticos. No entanto, creio que a discussão não se esgota nessa relação causal. Reduzir o fenômeno tecnológico à sua origem humana é insuficiente para compreendê-lo, porque a questão decisiva não é quem a produz, mas o que ela produz em nós.
Autores como Simondon, McLuhan, Bernard Stiegler e Gilbert Durand mostraram justamente isso: a técnica não é apenas ferramenta, é também meio formador, uma força que reconfigura percepção, linguagem e imaginação. Mesmo como artefato humano, ela retorna para e sobre nós na forma de ambiente e cria novas condições de existência. Por isso, quando falo em “dialogar com o digital”, não atribuo agência metafísica às máquinas — reconheço apenas que hoje vivemos dentro de um meio técnico que participa ativa e continuamente da modelação psíquica e cultural. Negar essa dimensão simbólica e antropotécnica significa pensar a tecnologia apenas como objeto externo, quando na verdade ela já opera como estrutura do cotidiano e do pensamento.
Também por isso considero que a crítica não pode se limitar à denúncia da catástrofe, ainda que esta seja real e urgente. É preciso interrogá-la mais profundamente. Que espécie de humanidade está sendo produzida sob a hegemonia da técnica automatizada? A ética é necessária, mas não basta: é preciso também restituir ao pensamento sua potência de imaginação e juízo, sob pena de reduzirmos a crítica ao moralismo impotente que contempla o abismo, mas não abre caminhos.
Não se trata, portanto, de exaltar o “novo” nem de restaurar o passado. Trata-se de preservar aquilo que a técnica não pode substituir: a experiência viva do discernimento. Só a partir daí podemos falar seriamente em limites — não como contenção policial do perigo, mas como forma superior de governo de si e do mundo.
Bem, não me parece que eu negue a dimensão simbólica nem enxergue a tecnologia como objeto externo: aliás, eu disse precisamente o contrário.
Tampouco se trata de "reduzir" a tecnologia à sua dimensão humana, trata-se apenas de constatar algo que deveria ser óbvio: toda tecnologia resulta do nosso trabalho. O que é frequentemente esquecido, e não por acaso: porque apagar a relação social (e de poder) que a produz faz parte do processo de fetichização em que vivemos. Por isso a questão decisiva é, sim, saber quem desenvolve determinada tecnologia, com que objetivos, e que consequências isso pode ter.
E a ética (que, embora necessária, só é lembrada pelos críticos, esses que os propagandistas ridicularizam como ultrapassados) existe exatamente para indagar que espécie de humanidade está sendo produzida nesse contexto.
Por isso é tão importante denunciar a catástrofe que está diante de nós, embora não se deseje enxergá-la. Devemos interrogá-la mais profundamente? Perfeito, mas para isso precisamos, antes, tomar consciência dela.
Aqui estamos de acordo: sem denúncia, sem desvelamento das relações de poder e sem análise material da técnica, toda reflexão sobre tecnologia se reduz a retórica publicitária.
Onde sigo sustentando que ainda há trabalho a fazer é no passo seguinte ao diagnóstico. A lucidez que apenas contempla a ameaça, sem projetar caminhos possíveis, converte-se em impotência. Nomear a catástrofe é necessário, mas não é suficiente. Quando a crítica não aponta direção, ela se esgota em indignação e acaba produzindo paralisia.
Por isso, entendo que a crítica não pode permanecer apenas normativa, reduzida à ética como freio. Ela precisa também ser propositiva, reconstruindo critérios de juízo e referências que permitam ao humano não apenas resistir, mas permanecer capaz de ação no interior do mundo técnico.
Talvez a diferença entre nós não seja de posição, mas de ênfase. Você insiste no gesto necessário de deter a marcha cega. Eu insisto na urgência complementar de impedir que a crítica se limite à negatividade. Interromper é essencial, mas também é preciso orientar. Sem denúncia, sobra ingenuidade. Sem horizonte, sobra cansaço. O desafio é manter vivos os dois gestos: lucidez e construção.
Sylvia, o quanto é necessário este seu texto! Vivemos o mais atual mal-estar na civilização envenenada, intoxicada e mortalmente atingida pela IA. Só tenho a te agradecer a clareza e a inteligência que te é natural. meu abraço, claudia ferraz
Obrigada pela sua generosidade. Eu sempre procurei ter uma visão crítica do que nos é oferecido como instrumento de emancipação por um sistema que, justamente, nos submete e explora. É o que sempre acontece com as inovações tecnológicas, e seria muito importante que tivéssemos pelo menos alguma reserva diante daquilo que nos é apresentado como hipótese de redenção, basicamente porque a redenção jamais resultará de um aparato tecnológico pura e simplesmente. Por isso acho tão importante a leitura da obra do Álvaro Vieira Pinto. E acho muito importante atentar para o que o Nicolelis disse nessa entrevista sobre a impossibilidade de existência de um cérebro fora de um corpo: porque volta e meia (e agora mesmo acabei de ler sobre isso) vem alguém predizendo a fusão entre o cérebro e a IA, como se a IA fosse autônoma... enfim, é pura propaganda, nada inocente (como jamais a propaganda é), mas é avassaladora. É muito difícil ir à contracorrente, mas muito necessário.
A autoria, antes reservada às elites, em vez de seguir rumo aos coletivos, seguiu rumo ao supra sumo da elite: brancos, americanos, super ricos. ERRO de sentido! Ainda é tempo de dar meia volta?Ou já não temos forças?
Ironia desses tempos de IA é o usuário ter de provar a uma máquina de que não é um robô, ao tentar acessar conteúdos na internet.
Verdade! O robô confere se quem está do lado de cá não é um colega...
Muito bom!
Excelente artigo. Recomendo a leitura do livro A geração superficial, de Nicolas Carr, publicado pela editora Agir mas, hoje, de difícil localização.
O texto tem o mérito de nomear, com a clareza de quem pressente o abismo, o mal-estar cultural diante da automação cognitiva. Mas sua força se dilui numa contradição metodológica difícil de ignorar: é curioso denunciar a falta de rigor da inteligência artificial apoiando-se em anedotas — como a conversa com a Alexa ou o relato do jornalista português — e num estudo preliminar de cinquenta e quatro estudantes, apresentados como evidência de uma espécie de apocalipse mental. Essa escolha de exemplos, somada a um tom de catastrofismo nostálgico que idealiza o passado e demoniza o digital, termina por construir uma visão binária do humano, como se estivéssemos condenados a escolher entre a pureza perdida e a desumanização total. Falta ao texto o reconhecimento de que ainda existe, no meio do ruído técnico, uma capacidade de discernimento, uma agência crítica capaz de integrar a máquina sem se submeter a ela. Ao limitar-se a um apelo vago à “coragem” e repetir a retórica do lamento, o artigo acaba se tornando, paradoxalmente, um sintoma do mesmo desânimo intelectual que pretende denunciar — a dificuldade de pensar o presente sem transformá-lo em mito de decadência.
Eu agradeço a sua crítica, mas creio que não procede. Em primeiro lugar, não há qualquer idealização do passado nem, muito menos, demonização do digital, o que está claro desde o subtítulo ("controlar" a IA) e nas referências do Nicolelis e do Antunes, ao final. Além do mais, se eu demonizasse o digital, não me valeria dele, não é? E quem cita o Vieira Pinto jamais se guiaria por essa visão binária do humano (está ali, aliás, explícito que a tecnologia é fruto do engenho humano e que a dicotomia homem x máquina é uma falácia). Em segundo lugar, está bem claro que eu digo, logo no início, que não podemos nos contentar com a piada, e me parece que o texto vai um pouco além dos exemplos anedóticos. Quanto à pesquisa do MIT, eu a cito porque é relevante, embora preliminar (e isso sou eu que faço questão de destacar, o Nicolelis não fez isso na entrevista), e ressalto os motivos que levaram a pesquisadora a divulgá-la mesmo antes de revisada: porque é urgente essa discussão, porque são urgentes novas pesquisas e porque é urgente que se detenha a onda de exaltação dessa tecnologia, diante dos riscos muito evidentes que oferece para nós e mais ainda para as gerações futuras.
Lamentavelmente, o que prevalece, diante do surgimento e desenvolvimento dessa tecnologia é a exaltação acrítica, muito (e nada inocentemente) impulsionada pela propaganda tantas vezes disfarçada de jornalismo. Nenhuma surpresa: foi exatamente o que aconteceu com a disseminação da internet: é a velha crença na redenção pela tecnologia supostamente libertária. Quem fez a crítica à época (e eu fui uma dessas pessoas) foi descartado como refratário ao "novo". Hoje, ninguém mais ousa dizer que a internet seria essa nova praça pública igualitária, não é? Todo mundo se descabela com o ambiente tóxico que se criou, com o gigantismo das big techs e sua disposição de afrontar qualquer limite legal, e com as consequências disso para a democracia, não é? Pois é.
Acho que só isso seria suficiente para considerar com mais seriedade as infelizmente raríssimas críticas ao avanço descontrolado dessa tecnologia.
Para concluir, minha preocupação é essencialmente ética: quando o Nicolelis lembra do Wiesenbaum dizendo que há áreas em que a gente não pode entrar, é disso que se trata: da discussão ética que deve orientar toda pesquisa científica (e toda conduta humana, de modo geral).
Agradeço a resposta generosa e o esclarecimento da sua intenção ética — que, aliás, transparece no texto. Concordo que há uma urgência moral incontornável no debate sobre a automação cognitiva e que a crítica à euforia tecnológica é não apenas necessária, mas rara.
O que me inquieta, contudo, é o efeito discursivo produzido quando essa advertência se estrutura num registro predominantemente alarmista: o texto termina, talvez involuntariamente, reproduzindo a mesma impotência que denuncia, como se o humano já tivesse perdido toda capacidade de discernir, regular ou integrar criticamente a técnica. Não se trata de negar os riscos, mas de perguntar se ainda é possível pensar a tecnologia sem recorrer à dialética da salvação ou da perdição — sem cair, justamente, no deserto simbólico que o próprio título evoca.
Talvez o ponto de convergência esteja aí: não em exaltar o “novo” nem em idealizar o “antes”, mas em reconstruir o espaço do discernimento — essa zona intermédia onde ética e imaginação podem dialogar com o digital sem lhe ceder a alma. Um espaço onde, por exemplo, não se discuta se devemos ou não usar a IA, mas como usá-la de modo a expandir, e não substituir, a capacidade de juízo. Um espaço onde a regulação seja pensada não como interdição, mas como meio de garantir que a técnica sirva à autonomia humana — e não o contrário.
Vou novamente discordar, porque não vejo qualquer cessão à impotência na minha conclusão: ao contrário, é um apelo para que percebamos a gravidade da situação e a necessidade da imposição de limites éticos à inovação tecnológica, que é o que deveria regrá-la, como, de resto, deveria acontecer em qualquer atividade humana. Não há catastrofismo: há a constatação de uma catástrofe em curso, que precisa ser evitada. Nem há dicotomia (não dialética, que seria outra coisa) entre salvação e perdição, ou entre idealização do passado ou exaltação do novo. Nem faz sentido falar em "dialogar com o digital", como se fosse uma instância autônoma. Creio que fui bastante clara quando citei o Vieira Pinto e sua insistência em mostrar que toda inovação tecnológica é fruto do engenho humano. É isso que frequentemente nos escapa diante do que ele chama de "maravilhamento" com a tecnologia.
Agradeço novamente a continuidade do diálogo. Concordo inteiramente que a tecnologia é fruto do engenho humano e que, por isso mesmo, deve ser submetida a critérios éticos. No entanto, creio que a discussão não se esgota nessa relação causal. Reduzir o fenômeno tecnológico à sua origem humana é insuficiente para compreendê-lo, porque a questão decisiva não é quem a produz, mas o que ela produz em nós.
Autores como Simondon, McLuhan, Bernard Stiegler e Gilbert Durand mostraram justamente isso: a técnica não é apenas ferramenta, é também meio formador, uma força que reconfigura percepção, linguagem e imaginação. Mesmo como artefato humano, ela retorna para e sobre nós na forma de ambiente e cria novas condições de existência. Por isso, quando falo em “dialogar com o digital”, não atribuo agência metafísica às máquinas — reconheço apenas que hoje vivemos dentro de um meio técnico que participa ativa e continuamente da modelação psíquica e cultural. Negar essa dimensão simbólica e antropotécnica significa pensar a tecnologia apenas como objeto externo, quando na verdade ela já opera como estrutura do cotidiano e do pensamento.
Também por isso considero que a crítica não pode se limitar à denúncia da catástrofe, ainda que esta seja real e urgente. É preciso interrogá-la mais profundamente. Que espécie de humanidade está sendo produzida sob a hegemonia da técnica automatizada? A ética é necessária, mas não basta: é preciso também restituir ao pensamento sua potência de imaginação e juízo, sob pena de reduzirmos a crítica ao moralismo impotente que contempla o abismo, mas não abre caminhos.
Não se trata, portanto, de exaltar o “novo” nem de restaurar o passado. Trata-se de preservar aquilo que a técnica não pode substituir: a experiência viva do discernimento. Só a partir daí podemos falar seriamente em limites — não como contenção policial do perigo, mas como forma superior de governo de si e do mundo.
Bem, não me parece que eu negue a dimensão simbólica nem enxergue a tecnologia como objeto externo: aliás, eu disse precisamente o contrário.
Tampouco se trata de "reduzir" a tecnologia à sua dimensão humana, trata-se apenas de constatar algo que deveria ser óbvio: toda tecnologia resulta do nosso trabalho. O que é frequentemente esquecido, e não por acaso: porque apagar a relação social (e de poder) que a produz faz parte do processo de fetichização em que vivemos. Por isso a questão decisiva é, sim, saber quem desenvolve determinada tecnologia, com que objetivos, e que consequências isso pode ter.
E a ética (que, embora necessária, só é lembrada pelos críticos, esses que os propagandistas ridicularizam como ultrapassados) existe exatamente para indagar que espécie de humanidade está sendo produzida nesse contexto.
Por isso é tão importante denunciar a catástrofe que está diante de nós, embora não se deseje enxergá-la. Devemos interrogá-la mais profundamente? Perfeito, mas para isso precisamos, antes, tomar consciência dela.
Aqui estamos de acordo: sem denúncia, sem desvelamento das relações de poder e sem análise material da técnica, toda reflexão sobre tecnologia se reduz a retórica publicitária.
Onde sigo sustentando que ainda há trabalho a fazer é no passo seguinte ao diagnóstico. A lucidez que apenas contempla a ameaça, sem projetar caminhos possíveis, converte-se em impotência. Nomear a catástrofe é necessário, mas não é suficiente. Quando a crítica não aponta direção, ela se esgota em indignação e acaba produzindo paralisia.
Por isso, entendo que a crítica não pode permanecer apenas normativa, reduzida à ética como freio. Ela precisa também ser propositiva, reconstruindo critérios de juízo e referências que permitam ao humano não apenas resistir, mas permanecer capaz de ação no interior do mundo técnico.
Talvez a diferença entre nós não seja de posição, mas de ênfase. Você insiste no gesto necessário de deter a marcha cega. Eu insisto na urgência complementar de impedir que a crítica se limite à negatividade. Interromper é essencial, mas também é preciso orientar. Sem denúncia, sobra ingenuidade. Sem horizonte, sobra cansaço. O desafio é manter vivos os dois gestos: lucidez e construção.
Com relação à terapia, quando consultado o chatgp sugere procurar um profissional mas diz que PODE AJUDAR.
Quanto a um nome para substituir AI vai uma sugestão: pega nome dado pelo Nicholelis tira uma palavra; deixa só Sthocastic Statistics (SS).