Vamos organizar o que andam falando sobre inteligência artificial e modelos de linguagem?

Chats baseados em LLMs são como aquele amigo cheio de opinião, nem sempre fundamentada, mas que vale a pena ouvir.

É o que Silvio Meira traduz como “imitador algorítmico”.

Quando chats baseados em modelos de linguagem se propõe a fazer uma tarefa objetiva, estruturada e baseada em padrões repetitivos, ele é fantástico.

Mas a criatividade e a visão crítica que ele tem é igual à minha relação com qualquer instrumento musical: se eu bater qualquer coisa aleatoriamente, às vezes sai música.

Nossa relação com modelos de linguagem pode ser analisada a partir de duas dimensões importantes.

A primeira: quanto eles são produtivos? O que ele consegue, efetivamente, fazer? E o que não funciona deixar nas mãos dele?

A segunda: há consciência, supervisão ou algum exercício de pensamento crítico em relação ao seu trabalho?

Vamos montar uma matriz com essas duas dimensões.

Quando os modelos de linguagem não ajudam - ou você não quer, não quer conversa ou não entende se há ou não alguma vantagem, há um cenário de estagnação.

Metaforicamente, é como o dono da videolocadora que mantém seu cadastro de fitas VHS e controle de clientes usando fichas de papel cartão. Sempre funcionou e não precisa mudar.

Há uma unanimidade entre os especialistas: esse é o caminho para a irrelevância.

Esse talvez nem seja o discurso mais comum. Normalmente, As pessoas apenas valorizam habilidades essencialmente humanas, questionando "por que deveria chamar a IA pra ajudar?".

O risco, aqui, é o de não ter argumentos para questionar "por que não?". É a diferença entre "irrelevância" e "ineficácia", ou um aproveitamento limitado.

Esse não é o pior cenários. O apocalipse reside no quadrante onde IA abraça o serviço alucinadamente, enquanto o cérebro permanece adormecido.

É o aluno trapaceiro que entrega o trabalho da escola mas, na hora da apresentação oral, não sabe a qual grupo pertence. Depois de formado, corre o risco de publicar sugestões de leitura para o verão baseadas em uma lista inexistente. Ou conviver com aquele eleitor que esqueceu como dialogar ou pensar - talvez ambos digam que "isso não é importante".

Meu maior medo é o de ficarmos à mercê da maioria - salvo qualquer análise contrária, caminha para esse quadrante. Ou, tão ruim quanto, é o de achar que está no cenário ideal, definido por Ethan Mollick como "cointeligência", isto é, o de integrar a capacidade de armazenar e recuperar informação da IA ao seu pensamento. Quando, na realidade, estamos fazendo coro aos idiotas.

Para chegar à cointeligência, é preciso lembrar que organizar o pensamento e explicá-lo pra alguém é o único caminho. Isso consome tempo e energia.

Ao mesmo tempo, a preocupação não é se a IA vai nos substituir. O que importa é a percepção de quem decide isso.

Em tempo: essa matriz não saiu da minha cabeça de forma espontânea. Também não foi construída pela IA. Há uma disputa histórica por atenção entre tecnófilos e tecnófobos. Em "O que é filosofia da tecnologia", de 2003, Andrew Feenberg sintetiza a diferença que vai continuar levantando questões sobre o que vier.

Será mesmo que a inteligência artificial é a solução para todos os nossos problemas?

Aliás, será mesmo que alguém pensa assim?

Meredith Broussard, professora de jornalismo e autora do livro “Artificial Unintelligence”¹, lançou mão do termo “tecnochauvinismo”. É praticamente uma releitura de Fausto: trata-se da crença nas soluções técnicas como a melhor (quando não a única) alternativa para a solução de problemas.

Não, né?

Parece óbvio. Mas quando ela alerta para o excesso de confiança diante do avanço da inteligência artificial, ignorando o pensamento crítico, desconsidera todos os problemas sociais e humanos. Tarcizio Silva² lembrava disso logo quando o livro saiu: “códigos são socialmente construídos”.

A autora diferencia, de forma didática, o que significa uma IA geral (a que, em tese, “vai resolver todos os problemas” da IA restrita (em inglês, “narrow”). Além de não ser, exatamente, “inteligente”, ainda carrega falhas de design.

One way to understand narrow AI is this: narrow AI can give you the most likely answer to any question that can be answered with a number. It involves quantitative prediction. Narrow AI is statistics on steroids.

O livro é, acima de tudo, um convite à luz em uma terra de cegos: num mundo em que praticamente tudo pode ser apoiado por uma IA, essa tecnologia deveria ser explicada, auditada e desenvolvida sob um prisma ético.