Anthropic revela "mente" da IA antes de respostas
Anthropic lança "J-lens" para visualizar pensamentos ocultos da IA antes de respostas, aprimorando compreensão e controle de modelos de linguagem.
A Anthropic desenvolveu a "J-lens", uma ferramenta que permite visualizar o que acontece dentro de modelos de linguagem de IA, como o Claude Opus 4.6, antes que eles gerem respostas. A técnica revela um espaço oculto, o "J-space", com palavras individuais relacionadas ao que o modelo provavelmente produzirá em seguida, como se fossem pensamentos pré-verbais.
Essa inovação, baseada na interpretabilidade mecanicista, ajuda a entender e controlar os LLMs, mostrando que o que a IA faz pode diferir do que afirma. A ferramenta permite monitorar palavras-chave que surgem durante o processamento, oferecendo uma nova camada de compreensão sobre o funcionamento interno complexo dos modelos.
Os pesquisadores observaram desde processos triviais até "temas internos" surpreendentes, como etapas de resolução de problemas e reconhecimento de padrões em inputs. A demonstração prática está disponível para testes em colaboração com a plataforma Neuronpedia.