可能的方向

实验(联合西湖大学)

1. Integrator dynamics in the cortico-basal ganglia loop for flexible motor timing

2. An approximate line attractor in the hypothalamus encodes an aggressive state

3. A circuit that integrates drive state and social contact to gate mating

4. A line attractor maintains aggressiveness during feeding in 'hangry' mice

5. Encoding of female mating dynamics by a hypothalamic line attractor

6. Causal evidence of a line attractor encoding an affective state

meta-learning(biologically plausible learning rule)

1. The neural computation of affective internal states in the hypothalamus - A dynamical systems perspective

2. A line attractor encoding a persistent state requires neuropeptide signaling

自下而上的方法: 通过病毒和基因编辑, 钙成像神经活动, 研究同一区域(腹内侧下丘脑 VMH)不同神经调节受体(催产素 OXT, 精氨酸加压素 AVP) 局部失活的影响.

社交行为(如攻击性)的神经元集群可构成一个近似线性吸引子.

3. Integration as a self-organizing process

embeded continuous attractors with random rnn

random rnn(DMFT), random matrix theory

1. Symmetries and continuous attractors in disordered neural circuits

问题: 是否存在一套学习规则, 使得神经网络在接受到一些实验数据的时候, 可以在无监督下自组织出对应的连续吸引子网络, 从而将现实世界的某低维变量嵌入到高维的 RNN 相空间中?

1. 实验数据是否存在低维流形

2020: Manifold GPLVMs for discovering non-Euclidean latent structure in neural data 流形高斯过程隐变量模型: 还原了 Head Direction 的环结构

2018: Learning a latent manifold of odor representations from neural responses in piriform cortex: 不是证明了气味分子在现实世界构成低维流形, 而是从小鼠 piriform cortex 的神经活动中能够反推一个能解释这些响应的潜在嗅觉表征空间

2. 能否在无监督下自组织, 从而恢复流形的 latent variable

3. 是否存在某种生物学上可行的学习规则, 使得 RNN 能够将流形映射到自己的相空间中

Oja rule: Discovering plasticity rules that organize and maintain neural circuits

4. 是否有不同的流形可以拓展应用目前学习的 random RNN 的理论框架?
   • 线性吸引子: 能否构造一个协方差矩阵, 使得生成的调谐曲线能满足 aggression 等表征?
   • 蝙蝠: (目前尚未查到比较完整的数据集) Three-dimensional head-direction coding in the bat brain: 并未构成想象中的球面吸引子, 而更像是一个环面吸引子

meeting notes:

• $(\cos{\theta}, \sin{\theta})\rightarrow \vec{x}\in\mathbb{R}^{N}\rightarrow \mathrm{bump}$ 设计 $\Delta J_{ij}$, 使得具有一定初始化规则创建的 J0 通过具有一定内在结构的外部输入更新权重, 从而收敛至 optimized J matrix, 并且其更新规则需要是 local 的(而非机器学习中的梯度下降算法这类依赖于全局状态的方法)

• 线性吸引子: 搞清楚积分变量的累积是否具有方向性, 以及和速度输入的关系, aggression 是否能够用类扩散行为来描述. 比如小鼠的和 aggression 相关存在类似线性吸引子的机制, 攻击性的累积具体是怎样的机制? 这个需要具体确认一下(因为头朝向是一个旋转对称的系统, 而线性吸引子并不具有这个特性: 往一个方向和另一个方向的漂移是代表同一个生理过程吗? 还是往一个方向积分是提高攻击性, 另一个方向是减少攻击性? ...)

• place cell 是否可以应用于 random RNN 理论框架 (是不是对 $\Gamma$ 协方差函数的 M matrix 进行修改, 以及新的协方差函数应该如何设计从而适应 place cell 单 bump 以及多 bump 的结构, grid cell 是六角晶格分布的 bump 因此两者还是存在神经集群活动模式的区别)

• 论文阅读:

  • S. Seung 1996 PNAS: How the brain keeps the eyes still
  • David Trank

• 继续 Follow 有关 3D 蝙蝠 head direction 的相关工作, 对其进行了解

• 补充的论文阅读材料:

  • Multiscale representation of very large environments in the hippocampus of flying bats
  • Large environments reveal the statistical structure governing hippocampal representations
  • Universal statistics of hippocampal place fields across species and dimensionalities
  • A thalamus-brainstem attractor network drives history-biased decisions

思路:

1. 通过 universal... 的 place cells 数据集, 使用 symmetries... 中的 random RNN 框架, 先尝试构造 target manifold 以及对应的 weight matrix

   • Data for "Multiscale representation of very large environments in the hippocampus of flying bats": Eliav CA1 200m 一维隧道数据

   

   • *rats navigating in an 18.6 m² environment: 无法打开? 大 2D 环境大鼠 CA1 数据
   • *蝙蝠在 5.8×4.6×2.7m3 房间中自由飞行时的 3D place fields: 未公开
   • *1D 其它啮齿类: 小鼠 40 m virtual track 和大鼠 48 m 1D maze: 未公开
   • Place Cells in Space: Hippocampal Recordings from the Space Shuttle: 1998 年小鼠漫游太空(dandi001754)
   • CRCNS 各类数据集...

   

   现实世界位置 $\vec{r}\in\Omega\subset\mathbb{R}^{D}$; 单神经元 $i$ 的 place field $\phi_{i}^{*}(\vec{r})$ (在 $\vec{r}$ 的平均放电率)

   文章声称在高阈值条件下, field size, gap, Euler characteristic 等刻画 place field 的参数, 统计对于具体选取哪一个协方差函数并不敏感, 因此可以采用

   $$ \Gamma(\vec{x}-\vec{x}^{\prime}) = A^{2}\exp{\left[-\frac{|\vec{x}-\vec{x}^{\prime}|^{2}}{2l^{2}}\right]} $$

   

   异质性 place cell 的解码: $\hat{\vec{r}}(t) = \arg\max_{\vec{r}} \mathrm{Match}\left[\vec{\phi}(t), \vec{\phi}(\vec{r})\right]$

   其中匹配算法有多种选择, 比如 Maximum likelihood 的 Poisson 核, overlap parameter (Clark 就是用的这个方法 $m(\theta,t) = \frac{1}{N}\sum_{i}\phi_{i}^{*}(\theta)\phi_{i}(t)$)等等.

2. 通过 Gaussian process 构造的通性:

   • Clark:
     • 现实状态: 头朝向 $\theta\in [0,2\pi]$
     • 随机变量: 输入电流场 $\vec{x}^{*}_{i}\sim \mathcal{N}(0,\mathbf{\Gamma}^{x}(\theta-\theta^{\prime}))$
     • 非线性激活函数: $\phi(x) = 1 + \mathrm{erf}\left(\frac{\beta\sqrt{\pi}}{2}x\right)$
   • Mainali:
     • 现实状态: 位矢 $\vec{x}\in\mathbb{R}^{D}$,
     • 随机变量: 输入电流场 $h(\vec{x})\sim \mathcal{GP}[\vec{0},\mathbf{r}(\vec{x}-\vec{x}^{\prime})]$
     • 非线性激活函数: $f(\vec{x}) = \left[h(\vec{x}) - q\sqrt{\mathbf{r}(\vec{0})}\right]$
   Universal statistics of hippocampal place fields across species and dimensionalities

   日期: 2026-06-13   标签: #line attractor 

   Summary Hippocampal place cells have single, bell-shaped place fields in small environments. Recent experiments, however, reveal that, in large environments, place cells have multiple fields with heterogeneous shapes and sizes. 海马体位置细胞在小环境中具有单一的钟形位置场. 然而, 最近的实验表明, 在大环境中, 位置细胞具有多个具有 异质形状和大小 的位置场. We show that this diversity is explained by a surprisingly simple mathematical model, in which place fields are generated by thresholding a realization of a random Gaussian process. The model captures the statistics of field arrangements and generates new quantitative predictions about the statistics of field shapes and topologies. These predictions are quantitatively verified in bats and rodents, in one, two, and three dimensions, in both small and large environments. ......

   随机变量 $\vec{x}\in\mathbb{R}^{d}$, 约束 $E[\vec{x}]=\vec{\mu}$ 和 $\mathrm{Cov}[\vec{x}] =\Sigma$.熵 $h[p(\vec{x})] = -\int p(\vec{x})\log{p(\vec{x})}\mathrm{d}\vec{x}$ 最大的是 $g(\vec{x}) = \frac{1}{(2\pi)^{\frac{d}{2}}|\Sigma|^{\frac{1}{2}}}\exp{\left[-\frac{1}{2}(\vec{x}-\vec{\mu})^T\Sigma^{-1}(\vec{x}-\vec{\mu})\right]}$.

3. *学习规则: 什么样的学习规则能使 weight matrix 学习到 Gaussian process?

4. 确认小鼠线性吸引子的具体理论机制

   1. agg 主要的驱动因素是社会交互(male intruder, sniffing, attack...)的相关输入, 而没有考虑类 random walk 的自发性升高机制

   2. 类比眼位 $E$ 的 $v_{i} = v_{i}^{0} + k_{i}E$, aggression 的 $a(t)\in\mathbb{R}$ 是一种一维连续变量, 引入 latent state $x_{1}$ 来描述 integration dimension, $x_{1}$ 越高, 攻击概率和攻击程度越高.

   3. 因此, 即使 $\lambda=0$ 描述刻画了线性吸引子 $\pm$ 增长的 neutral stability, 但是 aggression 仍应被理解为一个具有方向性的积分器: $x_{1}\uparrow$, agg $\uparrow$; $x_{1}\downarrow$, agg $\downarrow$.

   4. aggression 不能简单地被理解为 integrate-and-fire 行为. 以 $a$ 表示 aggression 变量

      $$ \begin{aligned} \dot{a}(t) &= -\frac{a(t)-a_{0}}{\tau} + v_{\mathrm{social}}(t) + v_{\mathrm{state}}(t) + \xi(t)\\ P(\mathrm{attack}) &= \sigma[\beta(a(t)-a_{\mathrm{thresh}})]\end{aligned} $$

      即没有后续社交或饥饿等输入后, aggression 会以很慢的速度往 baseline $a_{0}$ 跌落. 若将其放置于一个短时系统中, 将会表现出 history dependence. 积分总是从当前状态 $a(t)$ 开始

      并且, 在攻击产生之后, $a$ 值也不会立刻归零, 高 $a$ 可持续约 80s, 而单次 attack bout 仅持续 5s. 这也确保了小鼠从攻击到进食行为的切换: 在进食完毕后仍保留较高的 $a$.

Todo:

1. *阅读 A thamalus-brainstem attractor network drives history-biased decisions, 探索是否有将其和 random RNN 框架结合的可能性

2. Follow 有关 universal statistics of hippocampal place fields across species and dimensionalities 的工作中和学习规则有关的部分

3. 做一个小型的 weight matrix learning 实验, 看下能不能通过 local learning rule 逼近 $J_{ij}$ 矩阵

   Clark: 通过 $K^{-1}_{i,\lambda}$ 离线优化 $J$

   切入口: 将伪逆解替换为 online learning rule

meeting notes:

课题:

1. 目前 Clark 已实现 offline 的 optimized weight matrix 用于产生 ring attractor, 是否存在某种 local learning rule 能够逼近这类 optimized weight matrix?

   $\dot{J}_{ij} = F[\vec{r}(t), J_{ij}]$

2. 是否可以将 Clark 的方法推广至 place cells 相关数据集?

meeting notes:

课题的艰难探索

1. 完成 Hebbian 等 learning rule 的 baseline 实现

   • Classical continuous attractor
   • Heterogeneous tuning curve

2. Literature research

   • CA3 数据集寻找 (dandi...)
   • attractor in hippocampus 相关论文
   • 以及更多...

3. Proposal 确定

   • 找到感兴趣的方向, 找到自己想要解决的问题 (只是把现有的 random RNN 推广到 place cell 数据集上, 这种缝合行为是一个真正的问题吗? )

神经回路如何在没有 global error signal 的情况下, self-organize 并且 maintain some low-dim dynamical motif

低维神经动力学如何在异质, 随机, 局部可塑的神经网络中形成并且维持? (How can low dimensional dynamical motifs self-organize and maintain in neural circuits without global error signal)

Clark's random RNN: 提供了一套分析逻辑, 用于判断是否出现了 continuous attractor

Idea notes:

让视觉线索作为外界 teacher, 自运动角速度输入作为需要学习积分的 idiothetic cue, 使得网络学会在无视觉输入时通过角速度做 path integration.

模型的 local learning rule 是在发育期完成的, 成熟期的网络已经形成 quasi-continuous attractor

HD cells: head direction cells, 排列为 ring. 群体活动为 bump, bump 位置对应动物对头朝向的估计

HR cells: head rotation cells, 同时接受 HD bump 和角速度输入, 分为 leftward 和 rightward 两个侧翼(wing), 分别负责将 bump 往左和右推动

Visual input: 视觉输入不是最终测试时必须存在的信号, 而是训练期的 teacher. 告诉 HD 现在 bump 应该在哪里, 作为 supervisory signal

meeting notes:

0. 下载 learningPI 的 github 代码, 和自己的 toy model 实现进行核实
1. 重新规范画图时间轴, 清楚单位时间的含义; 计算 drift 的角速度大小
2. 搞清楚在学习过程中的 visual input 是怎样的形式, 是 fixed profile 吗?
3. Hippocampus place cell 相关
   • pathway : LEC & MEC -> DG -> CA3 (recurrent) -> (BTSP, 详情见 2024 年的论文) CA1
   • grid cell -> high dimensional sparse representation -> CA3 place cell (place cell 实际上在 DG, CA3, CA1 都有, 而 CA3 中会和 HD 类似具有难以去除的 drift 效应)
   • 更抽象层面的规律: low dim manifold 在 cortex 间的传递/继承(inheritance)?

继续阅读文献, 等待导师发整理后的 lists.

meeting notes:

• visual input 的形式

  • 更换为 + noise 形式
  • tuning curve sampled by Gaussian generative process,

  还能够学到 quasi-continuous attractor 结构吗?

• visualize: 尝试 PC1&2&3 空间内的初态微扰跟踪, 评估 separation of time scales

• 延长 darkness 后 re-visual input 的时间, 观察 error 是否能重新跌落回到 0

• 尝试减少 neurons 数量(比如 16), 对比观察 metrices 的变化, evaluate the robustness of the local learning rule

• 尝试理论分析 spectrum of Jacobian, 尝试缝合 Clark 式的 attractor anlysis

• 完成 prospective dynamics 文章的阅读, 分析两者有何异同

• 重新精简一下 .ipynb 笔记中 path integration 相关的 experimental setup, 避免每次 meeting 的时候都要重新翻找 (特别是 OU process 的具体公式形式等等)

• 绘制权重矩阵跟随 training time 的变化

• 尝试解决有关 diffusion approximation of diffusion phenomena 的问题, 并且解出具体的 diffusion coefficient

• 重新梳理 figures 文件夹的结构, 避免所有图全部混在同一个文件夹

• gain 曲线需要绘制 in darkness 下的情况

目前的基础画图中, 除了在 visual cue 下的 velocity gain, 还应该评估在 darkness 下的 gain 进行对比; 同样地, 这样的比较也应该体现在跨 noise / num of neurons 的 metrices 中

• 绘制一下添加了 noise 之后的 visual cue, 从而体现出 visual cue 的 heterogeneity

meeting notes:

• 更高时间分辨率的 weight matrix development;
• 考虑不同的视觉 cue profile, 以及考虑引入 heterogeneous visual cue generator 的可能性
• 重新实现 bump drift 的计算, 看一下如何实现 diffusion coefficient 的计算
• 完成 prospective dynamics 文章的阅读, 并且先简单实现 toy model 版本的复现
• 重新考虑 std 和 visual cue amplitude 的 scaling effect
• 考虑继续延长 noise std list, 一方面观察 gain 等 metrices 发生 bending down 的情况, 另一方面细扫 critical noise std 看看临界行为是怎么发生的, 能否对其进行更理论性的分析

有必要开发一个基于 llm 的自动化文献阅读和整理工具. 目前的复制-粘贴-copilot翻译的效率非常低, 如果可以的话可以借鉴一下 这个 的实现方式

07.27 meeting notes:

1. 阅读 Near-critical slow dynamics enable flexible temporal computations and generalization, 以确保合作

2. 阅读老师所发的 proposal & manuscript, 注意这两个都是由 Claude 生成的, 因此需要注意里面的公式推导是否存在问题

3. 阅读 Back to Continuous Attractors 文章

proposal 里面有提到过一种新的学习方法? 需要去确认

08.03

为代码库添加一个功能: 保存训练状态, 从而使得在训练结束之后能够重新读取状态并且继续训练

meeting notes:

• 重新确认目前的 PVA 是针对什么 firing rate 完成的.目前的神经元因为 Vafidis' learning rule 被设计为 2-compartment, 因此动力学依赖严格来说是一个 2D 方程组 ($\dot{I}{HD,d} = f{1}(\cdot), \dot{I}{HD} = f{2}(\cdot)$), 在这种情况下如何定义 Ramesan 所使用的 $q = \frac{1}{2}||F(x)||^{2}$? 确认一下非线性函数对于 state space 的影响
• 重新确认 PVA 的谱(variance-rank 图), 确认一下取 N = 3 的截断是否合理. 目前前三成分总和约为 55%
• 确认目前动力学方程的 stiffness, 确认目前的 Euler 法是否合理
  • Diffrax package;
  • scipy.integrate.solve_ivp 的 method='BDF' 或者 method='Radau'
• 寻找更好的确认 attractor basin 的方法, 目前的 trajectories 追踪做得太糙了. 理论上来说 unstable 和 stable fixed point 应该是成对存在的
• 重新确认速度场的计算方法是怎么完成的, 是不是自己描述的那样, 以及是否有更好的方法; 以及如何理解蓝线和橙色线的测定, 两者的差异是如何产生的
• 确认训练终止的合理时间. 目前呈现的趋势是训练越长, weight norm 越大并且没有呈现出收敛趋势. 按照权重更新的动力学, 应该是会完全静止才对
• 确认 $I_{HD}, I_{HD,d}$ 和 $W_{HD\to HD}$, $W_{HR\to HD}$ 的更新顺序, 是同步还是特定的异步

开始着手本地 AI 模型的部署, 看下工作的效果能不能助力科研.

测试完了, 这效果真的是拉完了, 可能也就玩玩生图或者 NPC bot 这类.

目前的一些诊断性代码可以尝试使用多核算法优化一下, 每次训练的时间长, 总不能诊断的时候还要继续等