Eu, o Outro e a IA

Não faço ideia de como tenha sido, mas suspeito com bastante coerência que quando Gutemberg inventou a imprensa muita gente deve ter achado que aquilo era o fim do mundo. Especialmente aqueles que viviam nos mosteiros fazendo religiosamente as copias das copias das escrituras e livros sagrados. Não deve ter sido menos assombroso quando começaram a surgir as máquinas de escrever e, mais tarde, os computadores pessoais com programas de digitação. Até a divulgação dos registros, então disponibilizados para a consulta on-line, também trouxe preocupações quanto às consequências.

Mas o fato é que a cada salto houve um avanço na maneira de registrar, e mais tarde, de organizar o conhecimento. Cada inovação incorporava uma prática humana, tornando-a mais fácil e acessível.

A última inovação foi o uso de supercomputadores para fazer os próprios fichamentos. É a Inteligência Artificial.

De repente não era mais preciso ouvir histórias de sábios, nem ler suas anotações manuscritas ou mesmo seus livros impressos. Na verdade, não era mais nem mesmo procurar os fichamentos de livros nas estantes cheias de gavetas das bibliotecas.

Um fichamento é um procedimento ensinado a qualquer iniciante na vida acadêmica. Consiste em ler um texto e fazer os apontamentos, sem opinar, da essência de um comunicado teórico ou científico. Obviamente a subjetividade humana é indissociável, e, portanto, aprender sobre alto implicava em buscar olhar mais que um fichamento sobre um assunto. Aliás, é imprescindível buscar várias visões de autores renomados sobre o mesmo objeto teórico ou empírico para que, então, se inicie o estudo de fato. É o que se chama de buscar o “estado da arte”.

A IA faz esse fichamento. E não faz apenas com base em conteúdos acadêmicos. Faz baseado nas principais fontes de conhecimento escritas por seres humanos e divulgadas em livros, artigos e todo tipo de texto ou conteúdo disponibilizado na internet. Cada qual com sua metodologia, fazem uma mescla dos saberes e, mecanicamente como cabe à uma máquina, sintetizam.

E faz tão bem a síntese que se manifesta na linguagem do usuário. Aprende com ele. Fala a sua linguagem. É quase como um espelho mágico, que responde às angústias de quem o interpela com as respostas que lhe seduzem.

Convenhamos que uma coisa é ver um texto ganhar formas cada vez mais eficientes de ser reproduzido. Outra é ver o próprio texto se autoproduzir. É tão inovador que o assombro faz parte do cotidiano.

E populam nos textos produzidos por entendidos e especialistas de várias áreas os assombros por ela causados. Desde aqueles que tratam sobre ganhos de produtividade até reportagens que noticiam a tendência das pessoas tomarem as IAs como amigos ou psicólogos.

Entre quem tem senso crítico a recomendação é sempre a mesma: trata-se de uma máquina! É importante estar sempre ciente disso!

Sim, trata-se de uma máquina. Uma supermáquina de escrever.

Mas o que ela faz atinge camadas inconscientes. E para além das questões éticas, envolve também a questão de controle social – para o bem ou para o mal.

Foi durante minhas disciplinas teóricas e práticas de controle gerencial que tive a percepção de uma espécie de conhecimento médio compartilhado. Explico: existiam empresas cujo estágio de desenvolvimento era tão inicial, ou amador, que algumas práticas gerenciais precisavam ser ensinadas.

Ensinar é controlar. É estabelecer um padrão de comportamento, de pensamento, que deve ser assumida por quem dele vai participar, e tem por objetivo – no caso do controle organizacional – tornar a colaboração entre pessoas e setores mais eficiente.

Para as organizações empreendedoras, algumas práticas serviam de avanço. Estabelecer sistemas de custeio, ou de orçamentos empresariais, era uma burocratização que permitia muito mais gente se inserir de modo organizado na empresa, e com isso permitir que ela multiplicasse de tamanho.

Entretanto, para alguns setores ou alguns estágios empresariais, o mesmo mecanismo engessava.

Era o caso de empresas onde as práticas eram desenvolvidas por pessoas altamente criativas – coisa típica das regiões mais distantes onde sobram talentos e faltam oportunidades para aproveitá-los. Era comum encontrar alunos brilhantes que encontravam problemas nas empresas que trabalhavam por apresentarem soluções geniais, mas, veja só, fora do padrão.

Foi esse conceito do conhecimento padrão, aceito como o ideal para um momento estratégico, que me surgiu e me fez ver seus méritos e deméritos. Ao mesmo tempo que resgatam aqueles que estão aquém do desejado para atraí-los a um comportamento mais eficiente, também tolhem o potencial daqueles que superam a mediocridade estabelecida!

Temo ver o mesmo mecanismo sendo praticado através do uso da IA, agora em escala global, e nas mais inúmeras áreas da existência humana.

Da padronização dos layouts à estrutura dos conteúdos produzidos para a internet, aos protocolos profissionais sugeridos para áreas que vão do direito à medicina, tudo é entregue por uma IA. E em muitos casos, com uma qualidade muito superior ao que o ser humano que foi encarregado de fazer poderia oferecer – sim, porque existem pessoas abaixo da média. Para o medíocre, uma ajuda do ChatGPT é algo quase divino.

E com tanta facilidade para se obter textos bonitos e superficiais sobre temas complexos, o risco é a própria pessoa acreditar que se tornou especialista, passando a usar sua imagem e seu carisma para gerar mais e mais conteúdo genérico – e tome influenciadores falando sobre investimentos financeiros, pessoas narcisistas, geopolítica…

E se tudo que é produzido pelo homem passa por uma regulação automatizada que, com seus muitos méritos a submete à uma equalização da média produzida do conhecimento daquela área, é possível supor que em algum momento haverá uma retroalimentação consistente. Ali na frente as IAs aprenderão com o conteúdo que elas mesmas geraram – acabando com qualquer possibilidade de avanço criativo.

Ainda que no campo das fantasias criativas, já dá para imaginar um mundo totalmente pasteurizado, distópico, como nas sociedades imaginadas por Aldous Huxley  em Admirável Mundo Novo, ou grande companhia. A literatura é pródiga em retratar com maior ou menor ambição as sociedades idealizadas e homogêneas, retratando a crueldade que elas tendem a apresentar para aqueles que desigualam.

Mas tentando fugir da crítica óbvia e rasa (que acabei de apontar) e que poderia ser produzida pelo próprio ChatGPT, talvez o caminho seja tentar aprofundar na relação da pessoa com a máquina.

O que impacta em uma pessoa o fato de máquina conversar consigo?

Há uma relação entre desejo e vida, assim como entre desejo e o outro. Lacan propõe que o desejo ganha significado através do desejo do outro. O outro, entidade abstrata que pode significar da cultura ao vizinho a quem se divide um elevador, é quem traz significantes que reagem aos que lhe apresentamos, e dão retornos, feedbacks, daquilo que imaginamos ser próprios de nós.

Esses retornos, ou melhor, essas trocas, nem sempre são das mais satisfatórias – e daí a origem de boa parte de nossas angústias. Mas são, de certa forma, parte da dinâmica em que precisamos escolher que universo queremos participar e conviver, e, por consequência, construir quem somos.

Em uma sociedade em que o outro (a cultura) nos cobra (a cada um de nós) uma série de padrões de comportamentos para que possamos nos sentirmos adequados, a vida cotidiana acaba sendo um exercício constante de avaliações das inúmeras validações a que somos submetidos. E se considerarmos que em muitos casos os padrões são estabelecidos para que despertem na gente o impulso de desejar através de produtos ou serviços que possamos consumir, é muito difícil sustentar que sejamos algo para além de consumidores.

Os preços que pagamos por nos resumirmos a consumidores, líquidos, é discutido por muitos pensadores. Eu mesmo, na minha simplicidade, trato do tema constantemente. Mas é a isso que somos desafiados a lidar com essa mais nova revolução inovadora.

Nesse desafio, talvez a alternativa seja mesmo se manter atento, e lembrar sempre que, apesar das constantes bajulações, trata-se de uma máquina.

Uma máquina que nos fornece, sim, um painel muito útil e rápido sobre as representações sociais mais atualizadas a respeito de qualquer tema que consultemos. Mas é nossa subjetividade, nossa capacidade de crítica e de criatividade que nos permitem nos localizarmos e posicionarmos em relação aos dados apresentados. Ao fazermos essa autocrítica para entender se podemos melhorar ou se estamos pensando para além do senso comum é que encontramos nossa humanidade: a eterna busca por nós mesmos.

Não é porque a IA se tornou uma carta que conversa com seu próprio escritor que ela pode assumir o papel de nossa própria consciência.