【[1.1k星]Circuit Tracer：一款强大的工具，用于发现和可视化神经网络中的回路（circuits）和归因图。亮点：1. 支持跨层MLP转码器，能够精准定位模型内部的因果关系；2. 提供交互式可视化界面，便于理解和标注特征；3. 支持多种模型，包括Gemma和Llama，适用范围广泛】
'circuit-tracer: This library implements tools for finding circuits using features from (cross-layer) MLP transcoders'
GitHub: github.com/safety-research/circuit-tracer
神经网络可视化 因果关系分析 AI工具 AI创造营
