稳定、记忆与修复15 分钟

两个状态不能同时比较,材料怎样知道自己该往哪边改?

跨时比较可以由局部动力学完成,但有记忆还不够。反馈先消除恒定背景,阈值再区分快速转向目标与缓慢返回的响应,才留下近似两状态差。本篇用可精确求解的局部模型和闭环任务,核对有效幅度、反转节奏、状态滞后和未消退的历史;再执行作者原核与马尔可夫方法,区分反馈耗散率、有限模型残差和整机训练代价。

前一个状态留下了什么

设一条连接在自由响应时测到信号$s_f$,施加目标约束后测到$s_c$。局部对比学习希望按$s_c-s_f$改变参数。同一个网络先后经历这两个状态,第二次测量到来时,第一次的影响必须仍以某种形式存在。

最直接的办法是保存读数,再相减;也可以使用两套网络同时比较。还有一种办法:让连接内部的反馈状态保留近期历史,使它对变化产生瞬态响应,再从响应里提取方向。Falk等的时间对比学习提出了这一机制,承重对象是理论模型和数值模拟,材料、分子及纳流体实现则是方案。1

这里需要比较三个解释:输出确实提取了自由与目标状态的差;输出只是未消退的历史或背景偏置;差的信息由外部协议组织好了,局部动力学负责读取。后两种并不互斥,也不因连接没有数字存储器便消失。本篇先把一条连接的因果过程算完,再接回任务误差和原始方法。

有记忆还不够,关键是消背景和选方向

若更新信号只是过去信号的正加权平均,恒定的$s$也会持续驱动参数。它保存了历史,却没有自动得到$s_c-s_f$。对比器需要先消除恒定部分。

写局部响应为

$$ u(t)=\int_0^\infty K(a)s(t-a)\,da. $$

在信号相对记忆时标变化较慢时,展开$s(t-a)$可得

$$ u(t)\approx I s(t)-M_1\dot s(t),\qquad I=\int_0^\infty K(a)\,da,\quad M_1=\int_0^\infty aK(a)\,da. $$

$I=0$消掉常数背景;取$M_1=-1$,响应近似信号的变化速率。后者只是增益归一化,实际装置可以使用其他增益并调整学习率。这个近似还要求记忆尾部相对信号变化足够短,不能仅凭核的正负面积抵消便套用。2

但变化速率本身仍不够:如果先从$s_f$到$s_c$,再返回$s_f$,一整周期的线性积分为零。要留下一个方向,必须让两段变化受到不同处理。 原方案让转向目标的过程快、返回自由状态的过程慢,使用固定的局部阈值

$$ g_\theta(u)=\begin{cases}u,&|u|\geq\theta,\\0,&|u|<\theta.\end{cases} $$

快速段越过阈值,缓慢返回被抑制,于是周期更新近似正比于$s_c-s_f$。规则在连接处始终一样;方向信息的一部分由外部呈现节奏提供。

一个能逐步算清的局部记忆

本库采用原研究讨论的Maxwell/RC型高通响应,作为明确的教学适配:

$$ \tau\dot m=s-m,\qquad u=\frac{s-m}{\tau},\qquad \Delta w=\epsilon\int_0^T g_\theta(u(t))\,dt. $$

$m$是随信号缓慢改变的内部状态。恒定输入最终使$m=s$、$u=0$;刚改变输入时,$m$来不及跟上,因而产生瞬态。消去$m$即得$\tau\dot u+u=\dot s$。该模型的因果核包含瞬时项和指数尾:$K(a)=\delta(a)/\tau-e^{-a/\tau}/\tau^2$,面积为零、第一矩为$-1$。它与作者用于数值扫描的光滑多项式核不同,也没有给出一个实际制造完成的元件。

记忆在$m$里,学习结果在$w$里;两者承担不同角色。这里的“隐式”指没有把两个读数分别写进专门存储单元,并非内部没有承载过去的自由度。

让$s$从$-1/2$线性上升到$1/2$,再返回,取记忆时标$\tau=0.02$、上升时间$t_f=1$、返回时间$t_s=20$、阈值$\theta=0.2$。所有时间均为本例的任意单位,$\epsilon$暂取1。计算使用重复协议的周期稳态;在斜率$v$不变的一段上,

$$ u(t)=v+[u(0)-v]e^{-t/\tau}. $$

按越过$\pm\theta$的实际时刻分段积分,一周期更新为 0.993126,理想两状态差为1。上升段贡献0.978561,返回初期还留下0.014565;不能把有限记忆下的整个返回段说成严格零。5

保持其他条件,几种干预能够区分机制:

干预 周期更新 解释
上升1、返回20 0.993126 阈值大体区分快慢两段
上升1、返回1 0 对称协议抵消
上升20、返回1 −0.993126 快速方向反转,更新随之反转
删除阈值,保留线性响应 0 周期变化率的积分为零
差值仅0.1 0 两段都不足以触发更新
差值增至10 0.000472 返回也越阈值,几乎相互抵消
记忆时标改为2 0.405932 有效响应不能及时追踪斜率

这些数来自精确段解;另一份计算用独立ODE积分及阈值过点核对,最大更新差小于$2\times10^{-13}$。它证明这组方程的行为,不证明任意材料只要有滞后就会学习。

局部高通记忆、阈值选择与有限幅度窗口
局部高通记忆、阈值选择与有限幅度窗口

有效窗口由误差信号和节奏一起决定

设差值幅度为$|A|$。忽略拐点附近的有限记忆瞬态后,上升和返回的响应幅度分别约为$|A|/t_f$与$|A|/t_s$。让前者通过、后者被抑制,需要

$$ \frac{|A|}{t_s}<\theta<\frac{|A|}{t_f}. $$

若同一个阈值要覆盖$A_{\min}$至$A_{\max}$的全部信号,就需要

$$ \frac{A_{\max}}{t_s}<\theta<\frac{A_{\min}}{t_f},\qquad \frac{t_s}{t_f}>\frac{A_{\max}}{A_{\min}}. $$

这解释了为什么扩大幅度范围需要更强的时标分离,也解释了训练后期的困难:误差越小,对比差越可能掉进不更新区。原SI给出同类条件;本例还保留了有限记忆造成的偏差。2

至少还要核两种松弛。网络的电压、位移或神经元状态得跟得上边界变化;局部比较器也得跟得上信号变化。可用的充分分离是$\tau_{\rm state},\tau_{\rm memory}\ll t_f\ll t_s$,同时学习参数在测量一个周期内改变足够小,或按明确协议暂停调参。并不要求前两个时标彼此有固定先后。

为隔离第一种问题,本库在边界锯齿与局部记忆之间加入$\lambda\dot x=s_{\rm boundary}-x$,比较器接收$x$。同样边界幅度、节奏与阈值下,$\lambda=0.1,1,5$时更新分别约0.9643、0.6790、0。独立两状态ODE与精确响应采样的差小于$4.7\times10^{-5}$。边界转得快,不保证远处连接收到同样快速的变化;需要核的是实际局部信号。

还有一个边界:真实网络里$\beta(t)$的线性变化未必使每条连接的$s(t)$线性变化。相变、饱和、迟滞或不同节点的时标,会改变阈值窗口。原单连接锯齿近似与整网训练效果之间,不能省掉这座桥。

更新接近两状态差,是否真的减少任务误差

用最小能量模型$E(y;w,x)=y^2/2-wxy$接回任务。输入$x=1$时,自由状态$y_f=w$;目标$y_*=1$。训练施加弱约束,将输出端移到$y_c=w+\beta(1-w)$,取$\beta=1/2$。连接测到的共轭信号是$s=-\partial E/\partial w=xy$,因此

$$ A=s_c-s_f=\beta(1-w),\qquad C(w)=\tfrac12(w-1)^2. $$

直接两状态更新$w\leftarrow w+\eta A/\beta$就是这个任务的梯度下降。时间方案则把实际积分$d$代入$w\leftarrow w+\eta d/\beta$。本库从$w=0$出发,取$\eta=0.2$,执行60个周期:

更新方案 最后$w$ 任务损失 呈现协议时间
直接两状态差 0.999998 $1.17\times10^{-12}$ 未为其装置标定时间
阈值0.04,$t_f=1,t_s=20$ 0.928391 0.002564 1260
阈值0.004,$t_f=1,t_s=200$ 0.992370 0.00002911 12060
第一种阈值,反转快慢方向 −0.750760 1.532581 1260

正向方案逐次降低损失,最后因对比幅度不足而停止;降低阈值并拉长返回时间,能够继续接近目标。反转协议则从第一次更新起增加损失,直到信号再次落在其失效区。对一个二次任务,若令$r=d/A$,精确下降条件为$0<\eta r<2$;正确的符号还需要适当步长。5

这里每周期内固定$w$,周期末统一更新,并以当前重复协议的周期稳态初始化比较器。这是可检查的离散闭环计算,暂停、初始化与时序也算资源;它没有复现连续自主调参,未检验任意换样本历史。表内时间只累计本模型的呈现周期,不含复位或外部控制代价;不能据此宣称比数字训练节能或更快。

闭环任务的阈值残差与状态松弛导致的更新衰减
闭环任务的阈值残差与状态松弛导致的更新衰减

怎样排除“只是历史还没散掉”

周期稳态是一个重要条件。让本例的自由与约束信号完全相同、即$A=0$,但比较器带着前一过程留下的$u(0)=0.5$,仍会在衰减到阈值前产生更新0.006。它没有包含任何当前任务的对比差。等一个记忆时标后才开启更新,初值降到$0.5/e<0.2$,这个伪更新消失;等待期间若继续学习,则已经发生的更新不会自动撤销。

这个对照比“换一个顺序还能训练”更有判别力。可以在相同当前边界下改变前一试次、等待时长或是否冻结学习,检验更新是否仍指向相同任务梯度。还应分别测保持恒定信号时的响应是否回零、改变背景但保持两状态差时更新是否不变。

背景泄漏也会伪装成有用方向。在本例加入$u_I=u+Is$,取$I=0.001$、背景均值25,同样差值1的更新从0.993126变为1.019310;零面积模型单纯把背景平移25则完全不变。慢变化展开给出的额外快段贡献近似$I\bar s t_f=0.025$,余差来自阈值过点和有限记忆。这要求返回仍被抑制,不能把该近似用于背景项已让整段返回通过阈值的情形。

因此,等待更久有两面性:它可消除试次初值,也可能增加非零面积响应累积的偏置。判断实际装置,需要同时记录初值、恒定背景响应及学习开关。

接回原论文:哪些结果已经得到,哪些仍是方案

发表研究的MNIST网络有784输入、500隐藏、10输出节点,训练用10000样本、测试用2000样本。其SI记录:在若干离散约束强度上松弛,保存相应时间序列,插值为快升慢降协议,再卷积和更新;还使用跨样本的持久粒子加速状态松弛。12

这为算法提供了数值证据,也明确保留了数字存储与运算作为物理反馈的模拟代理。局部规则的模拟可行性、反馈元件的物理可制造性,以及整网无人代算的实际训练,是不同的证据层级。

本库取得原Figshare五个数组并逐个核验校验和。手写数字曲线包含51项;索引35的训练错误率为0、测试错误率为4.2%,末项测试为4.05%。它支持正文“约95%”的量级,本库没有重新训练MNIST。动态范围、背景偏移和耗散数组也取得,但后两者分别只有744/1000与4257/5000行全为有限数;未把存档中所有数值都当有效结果,亦未重做原随机扫描。4

为核对机制而不是只重画存档,本库执行固定版本作者单连接代码中的原核、锯齿、卷积和阈值方法。在显式采用的较粗步长0.0005、$t_f=2,t_s=10,\theta=3$下,原零面积参数核对幅度10、20、40给更新约9.426、19.322、0.123:中间有效、大幅度返回抵消的行为与本库简例一致。独立FFT循环卷积核对整周期离散和;作者梯形积分的端点差单列,未把它们混为完全相同的积分。3

作者卷积采用周期边界,这等效于重复当前协议的历史,不能直接代表第一次呈现或换样本后尚未复位的物理记忆。适配代码、原单连接数值和原整网成绩各自支持不同范围的判断。

耗散账单能算到哪里

原研究另用2×5状态的可逆马尔可夫梯形网络生成适应响应。在该模型里,双向通量$J_{ij}=Q_{ij}p_j$给出稳态熵产生率

$$ \dot S_i/k_B=\sum_{i>j}(J_{ij}-J_{ji})\ln\frac{J_{ij}}{J_{ji}}. $$

这里$Q_{ij}$表示从$j$到$i$的跃迁率。SI的S62分母印成与分子相同,正文和原代码使用逆向通量;本库按后者核,而没有据印刷式把耗散算成零。123

本库实际执行原率矩阵和耗散方法,另独立构建相同跃迁矩阵、求稳态并核微小信号响应。固定垂直率尺度25、背景信号0,驱动参数$\gamma=1,0.1,10^{-4},10^{-8}$时,熵产生率约为$0,1.762,8.915,17.835$,单位为$k_B$/模型时间。矩阵与独立实现逐项一致,稳态灵敏度与另做的有限差分核对。

这个新增探针也给出一个有用限制:把小信号核归一化为第一矩$-1$,强驱动下的面积从$\gamma=0.1$时约0.254降到$10^{-8}$时约0.127,尚未逼近零。整个参数区间并不单调;固定有限状态范围、率尺度和背景的系统,不能只凭驱动增加便假定完美适应。这个结论限于本次线性响应探针,不替代原论文改变多个参数、使用有限阶跃及拟合偏移的扫描,也未单独确证残余的唯一成因。

固定原马尔可夫模型下的非零响应面积与对应耗散率
固定原马尔可夫模型下的非零响应面积与对应耗散率

熵产生率乘温度才成为该热浴模型的功率,还须对时间积分才能得到每周期能量。换物理时间尺度,数值速率也会变化。外部边界驱动、标签生成、测量、参数保持及控制器并未被这项反馈账单全部覆盖;高通响应的存在也不足以替任意被动元件指定同一个热力学下界。这里可承重的是指定微观模型中的代价与响应误差,不是所有学习系统统一的“每次学习耗能”。

这条机制在哪些条件下可信

跨时对比的最小因果链已经可以说清:内部状态保留近期历史,反馈消除恒定背景,非线性阈值按节奏选择瞬态,参数调整再把任务相关的变化保存下来。正确答案仍须通过边界约束到达网络;目标方向与呈现节奏必须配合。

本篇较稳的是这组局部方程、阈值窗口和闭环任务的计算关系,以及原数值方案的实际范围。仍未决的是连续调参和换样本下的误差控制、整网不同连接能否共享阈值窗口、真实元件长期稳定性,以及计入控制和保持后的整体成本。

检验一个新装置时,最有用的证据不是只看训练曲线下降,而是让同一当前任务经历不同前史,改变快慢方向与等待时长,并独立测局部两状态差、实际更新和任务损失。只有三者在条件改变后仍按预期相连,才能把“有历史响应”推进为“利用历史完成纠错”。

来源与依据

  1. S1 原始发表理论与数值研究

    Temporal Contrastive Learning through implicit non-equilibrium memory

    Martin J. Falk; Adam T. Strupp; Benjamin Scellier; Arvind Murugan · 2025

    Nature Communications16,2163,2025-03-04;PMCID11880436 · 相关全文已核

    Background/Results/Methods/Discussion;式1—31;数据与代码声明

    发表PMC全文HTML实际核主线;有效正文PDF未取得,挑战HTML改名留存。无硬件自主训练证据。共轭信号负号按发表版,v2符号不同。耗散为指定微观模型,不扩展成整机统一下界。

  2. S2 原始发表补充方法

    Supplemental Information: Temporal Contrastive Learning through implicit non-equilibrium memory

    Falk et al. · 2025

    发表附件,2025-02-24,SHA256 5e30f193a0c3afb6dad5694920138a13110e3410aa7f2fb36dbaaf957c0559b4 · 相关全文已核

    S1 p2—4矩/阈值/时标;S3 p7时间能耗;S4 p7—8 MNIST代理;S5—S7 p9—11核/度量;S8/S9 p11—14率与筛选

    完整14页PDF已取得,相关段实际读。S62分母印为同分子,与正文和原代码逆通量不一致,实际按后两者核。S4明确保存时间序列/持久粒子/插值卷积代理,不称无需存储的硬件实现。S2仅定位,所引文献未全面核。

  3. S3 作者固定原始代码

    ContrastiveMemory-SynapseAnalysis

    Adam T. Strupp · 2025

    12908a996078f51edfa0912bf8a7c3a33cf64869,2024-07-07 · 相关全文已核

    README;kernel.py原核/信号/卷积/阈值方法;network.py deltaE/create_ESA_matrix/stable_dissipation;Plots.py相应度量

    核与率矩阵/耗散原方法AST抽取执行不改函数体;省去原导入和批作业,现代trapezoid代trapz;steady_state用独立正规化求解适配。单核dt=.0005非论文默认.0001;独立FFT整周期和比较,梯形端点差保留。未跑全部pwlf/随机扫描。

  4. S4 作者原始图数据

    Data for figures in Contrastive learning through implicit non-equilibrium memory

    Martin J. Falk; Adam T. Strupp · 2025

    Figshare25057793 v1,五NPY,公开CC BY · 相关全文已核

    五个data/*.npy;API文件大小/MD5;3B两曲线、4C/5C/6B数组

    五NPY均实际取得并核MD5,全部数组读取,51轮曲线及索引35分开。5C744/1000、6B4257/5000行全有限。重读存档数值,不称重做全部原随机实验;每列含义回原记录和SI。

  5. S5 本库计算证据

    本库T119局部记忆、阈值、闭环任务和原微观模型核验

    Codex · 2026

    本库2026-10-09开题,2026-10-10核验;任意时间单位;自审非外审 · 相关全文已核

    research/calculations/temporal_contrastive_memory.py及_audit.py;assets/results.json/ramp-records.npz/markov-inputs.npz

    显式Maxwell/RC型高通教学适配,不是原多项式核或MNIST。11组精确段积分/独立ODE;6状态松弛探针/两状态ODE;180幅度四返回时间;60周期冻结内参数/周期末更新任务及反协议;6原率矩阵/耗散和独立矩阵/稳态有限差分;原核六组更新/FFT,完整范围记录。

  6. S6 作者原始整网训练代码

    ContrastiveMemory-Exp

    Martin J. Falk · 2025

    edbba702f76b73b4d20a4cc14db0b37d73046967,2024-04-30 · 相关全文已核

    convolution.py初始化persistent_particles、energy/cost/free_phase/weakly_clamped_phase及更新接口

    固定仓库取得,所列段实际读;历史Python2/cPickle/Theano代码未运行,未重新训练MNIST;存储与数字代理的判断也由发表SI明确说明支撑。

最后更新 2026-10-10

来源