O artigo The Extended Mind, de Andy Clark e David Chalmers¹, representa a fundamentação filosófica e teórica para a maioria das práticas de gestão de conhecimento e produtividade que vieram depois. Incluindo a metáfora do segundo cérebro.

A ideia central é que a cognição não está limitada ao cérebro, mas se estende para ferramentas e o ambiente através de um "sistema acoplado", quando mente e uma entidade externa interagem de forma que ambos governam o comportamento de maneira conjunta. O artigo começa assim:

Where does the mind stop and the rest of the world begin?

The question invites two standard replies. Some accept the boundaries of skin and skull, and say that what is outside the body is outside the mind. Others are impressed by arguments suggesting that the meaning of our words "just ain’t in the head", and hold that this externalism about meaning carries over into an externalism about mind.

We propose to pursue a third position. We advocate a very different sort of externalism: an active externalism, based on the active role of the environment in driving cognitive processes.

Clark e Chalmers utilizam o exemplo de Otto, um paciente com Alzheimer. Ele depende de um caderno para navegar no mundo. A informação contextualizada no caderno funciona como sua memória biológica.

O caderno de Otto remete a um hábito semelhante ao de Richard Feynman e Niklas Luhmann, que consagraram a ideia de que as anotações não são apenas um registro do pensamento, mas é o próprio processo de pensamento em ação.

Estruturar pensamento é um processo de agência e vai além de acumular notas. Isto é: precisa ser ancorada a um sistema que permita sua redescoberta e aplicação futura.. Você está estruturando notas para o seu "eu presente", que entende o assunto agora, ou para o seu "eu futuro", que poderá ter esquecido o contexto original?

Aqui está um dos problemas comuns entre os adeptos do segundo cérebro: como lidar com a infinita quantidade de conhecimento compartilhada (incluindo dados produzidos por IA) e nossa capacidade limitada de realizar conexões e interpretações. Temos acesso a uma quantidade infinita de dados. Mas a nossa capacidade de realizar conexões e interpretações permanece a mesma limitada pelo "gargalo" biológico.

Clark e Chalmers tratam dessa questão desenvolvendo como atua o sistema acoplado. Ele se baseia na confiabilidade do acesso e na função que essa informação exerce no seu comportamento. A quantidade de notas é a medida que menos importa.

The real moral of the portability intuition is that for coupled systems to be relevant to the core of cognition, reliable coupling is required. It happens that most reliable coupling takes place within the brain, but there can easily be reliable coupling with the environment as well.

Os autores argumentam que, para que um recurso externo seja considerado parte da nossa cognição, ele precisa estar integrado à nossa rotina como se fosse invisível. Para isso,

• O recurso deve ser uma presença constante;
• A informação deve estar disponível sem barreiras;
• O usuário confia na informação recuperada de forma automática.

Esse último item é crucial. Como nem sempre o que se vê em redes sociais plataformizadas é confiável ou acessível, isso aumenta o custo de recuperação da informação capaz de guiar nosso comportamento.

Lembrando que nossa memória também está longe de ser infalível, mesmo apoiada por um sistema externo funcionalmente disponível. Do contrário, se você tem um milhão de documentos, mas não consegue acessá-los de forma direta e automática para guiar sua ação, eles são apenas ruído. O acoplamento, portanto, é fraco.

É por isso que a metáfora do segundo cérebro pode ser útil, mas também enganosa. Ela sugere expansão cognitiva, mas muitas vezes produz apenas acumulação.

Vamos organizar o que andam falando sobre inteligência artificial e modelos de linguagem?

Chats baseados em LLMs são como aquele amigo cheio de opinião, nem sempre fundamentada, mas que vale a pena ouvir.

É o que Silvio Meira traduz como “imitador algorítmico”.

Quando chats baseados em modelos de linguagem se propõe a fazer uma tarefa objetiva, estruturada e baseada em padrões repetitivos, ele é fantástico.

Mas a criatividade e a visão crítica que ele tem é igual à minha relação com qualquer instrumento musical: se eu bater qualquer coisa aleatoriamente, às vezes sai música.

Nossa relação com modelos de linguagem pode ser analisada a partir de duas dimensões importantes.

A primeira: quanto eles são produtivos? O que eles conseguem, efetivamente, fazer? E o que não funciona deixar nas mãos deles?

A segunda: há consciência, supervisão ou algum exercício de pensamento crítico em relação ao seu trabalho?

Vamos montar uma matriz com essas duas dimensões.

Quando os modelos de linguagem não ajudam - ou você não quer, não quer conversa ou não entende se há ou não alguma vantagem, há um cenário de estagnação.

Metaforicamente, é como o dono da videolocadora que mantém seu cadastro de fitas VHS e controle de clientes usando fichas de papel cartão. Sempre funcionou e não precisa mudar.

Há uma unanimidade entre os especialistas: esse é o caminho para a irrelevância.

Esse talvez nem seja o discurso mais comum. Normalmente, As pessoas apenas valorizam habilidades essencialmente humanas, questionando "por que deveria chamar a IA pra ajudar?".

O risco, aqui, é o de não ter argumentos para questionar "por que não?". É a diferença entre "irrelevância" e "ineficácia", ou um aproveitamento limitado.

Esse não é o pior dos cenários. O apocalipse reside no quadrante onde IA abraça o serviço alucinadamente, enquanto o cérebro permanece adormecido.

É o aluno trapaceiro que entrega o trabalho da escola mas, na hora da apresentação oral, não sabe a qual grupo pertence. Depois de formado, corre o risco de publicar sugestões de leitura para o verão baseadas em uma lista inexistente. Ou conviver com aquele eleitor que esqueceu como dialogar ou pensar - talvez ambos digam que "isso não é importante".

Meu maior medo é o de ficarmos à mercê da maioria - salvo qualquer análise contrária, caminha para esse quadrante.

Ou, tão ruim quanto, é o de achar que está no cenário ideal, definido por Ethan Mollick como "cointeligência", isto é, o de integrar a capacidade de armazenar e recuperar informação da IA ao seu pensamento. Quando, na realidade, estamos fazendo coro aos idiotas.

Para chegar à cointeligência, é preciso lembrar que organizar o pensamento e explicá-lo pra alguém é o único caminho. Isso consome tempo e energia.

Ao mesmo tempo, a preocupação não é se a IA vai nos substituir. O que importa é a percepção de quem decide isso.

Em tempo: essa matriz não saiu da minha cabeça de forma espontânea. Também não foi construída pela IA. Há uma disputa histórica por atenção entre tecnófilos e tecnófobos. Em "O que é filosofia da tecnologia", de 2003, Andrew Feenberg sintetiza a diferença que vai continuar levantando questões sobre o que vier.