“空间变换?”
“对,你是学计算机的,不是学数学的,所以不要去死扣教材上的概念。
听起来你们教授上课只是教你们如何计算而已。达到这个教学目标的确只需要背公式就足够了。”
乔源解释道。...
“空间变换?”骆余馨重复了一遍,脚步微微顿住。
“对。”乔源停下脚步,从书包里抽出一张草稿纸,撕下一页摊开在图书馆外的石桌上,又从口袋掏出一支笔,“你看,我们通常把矩阵看成一堆数字的排列,但其实它更像是一种‘动作’??就像你给一个图形施加某种拉伸、旋转或者剪切的操作。”
他画了一个简单的二维坐标系,在原点附近标出一个向量 $ \vec{v} = \begin{bmatrix}1\\1\end{bmatrix} $,然后写下另一个矩阵:
$$
A = \begin{bmatrix}
2 & 0 \\
0 & 1
\end{bmatrix}
$$
“这个矩阵乘以你的向量,会发生什么?”
骆余馨快速心算了一下:“变成 $[2,1]^T$。”
“没错。”乔源点头,“原来的向量指向右上方45度,长度是 $\sqrt{2}$;现在它变成了 $[2,1]$,方向变了,长度也变了。这就是矩阵作为‘变换’的作用??它改变了空间中所有点的位置。”
他顿了顿,继续道:“而特征向量呢?就是那些在经过这种变换之后,**方向不变**的特殊向量。它们可能被拉长或压缩,但不会歪掉。”
他在纸上重新画了一条沿x轴的向量 $[1,0]$,再用刚才那个矩阵乘一次:“还是在x轴上,只是从1变成2。方向没变。所以它是特征向量。”
接着他又试了y轴上的 $[0,1]$:“同样,变成 $[0,1]$,也没变方向。所以这也是特征向量。”
“哦!”骆余馨眼睛亮了一下,“所以特征向量就是那些‘扛住了变形’,只被拉长或缩短的向量?”
“Exactly。”乔源笑了下,“而对应的倍数,就是特征值。比如这里的2和1。”
“那如果有一个向量,本来斜着走,结果一乘矩阵,变得更斜了,甚至转了个弯呢?”
“那就不是特征向量。”乔源说,“只有那些‘坚持自我方向’的,才算。”
骆余馨若有所思地点点头:“我好像有点明白了……那为什么这东西这么重要?我在机器学习课上老听人提特征分解、主成分分析PCA,都说靠这个。”
“因为现实世界的数据太乱了。”乔源把草稿折好塞进口袋,“你想啊,一张人脸照片几千个像素,每个都是维度。直接处理?维度爆炸。但我们发现,其实很多变化是有规律的??比如光照、角度、表情。这些就可以看作是在某些‘主方向’上的伸缩。”
他指了指自己的脸:“比如我现在笑一下,五官整体往两边拉开,这是一种模式;皱眉则是往上挤,又是一种模式。这些‘典型变形方式’,其实就是数据协方差矩阵的特征向量??也就是所谓的‘主成分’。”
“所以PCA做的事,就是找到这些最重要的特征向量,然后把数据投影上去,舍弃那些影响小的方向,实现降维?”
“聪明。”乔源赞许地看了她一眼,“就像用最少的关键骨架,撑起整个结构。而这其中的核心数学工具,就是特征值与特征向量。”
骆余馨轻轻呼出一口气:“原来如此……以前总觉得这是抽象公式,现在才知道它是用来‘抓本质’的。”
两人继续朝图书馆走去,夜风微凉,路灯将影子拉得很长。
“不过你说的那个非凸优化问题,是不是也会用到这个?”她忽然问。
“当然。”乔源眼神沉了下来,“Hessian矩阵的特征值,决定了函数在某一点附近的曲率。正的特征值多,说明是个谷底;负的多了,就是山脊或者鞍点。而最小特征值的大小,就关系到梯度下降会不会震荡、能不能稳定收敛。”
“那你之前写的△min,就是在衡量最‘脆弱’的那个方向?”
“对。如果噪声太大,哪怕其他方向都很稳,只要在一个负曲率方向上被推一把,整个系统就可能滑出去,掉进另一个局部极小。这就是模型坍缩的风险。”
骆余馨沉默了一会儿:“所以你要做的,是让噪声既能帮助跳出浅坑,又不至于破坏深层结构?”
“理想状态是:噪声像一阵有节奏的风,刚好吹动树叶重组画面,却不折断树枝。”乔源轻声说,“夏汐月那天说的话,我一直记得。”
“风吹过之后树的影子好像重组的水墨画……”骆余馨低声复述,嘴角浮起一丝笑意,“你还真把她的话当真了。”
“有时候最诗意的描述,反而藏着最深刻的数学直觉。”乔源望着前方渐近的图书馆玻璃门,“你觉得随机共振只是物理现象吗?我觉得它是宇宙的一种组织原则??混沌中有秩序,噪声里藏真理。”
他们推开图书馆大门,暖光倾泻而出。
自习区几乎坐满,不少人戴着耳机盯着电脑屏幕,笔尖在纸上沙沙作响。常珠飘已经坐在靠窗的老位置,面前摊着三本书:《数值分析》《随机过程导论》《现代优化理论》,旁边还放着一杯快见底的冰美式。
“来了?”她抬头瞥了眼乔源,又看到他身后跟着的骆余馨,眉毛一挑,“哟,连学姐都请动了?今天太阳打西边出来了。”
“别阴阳怪气。”乔源把羽绒服袋子放在她桌上,“衣服,洛特杜买的,一件给你,一件给骆学姐。”
“哈?”常珠飘愣住,“那铁公鸡居然还会送礼?”
“他说吃了你几顿饭没给钱,课题你也帮了忙,算是答谢。”乔源坐下,打开笔记本。
“鬼才信。”常珠飘拆开袋子一看,怔了下,“始祖鸟?他疯了吧?这牌子能便宜?”
“两千起步。”骆余馨也坐下,“打折款也要一千八。”
“所以他一次性买了八件?”常珠飘瞪大眼,“这家伙是不是脑子有问题?八件!他是去批发了吗?”
“据说是店里八件打折,顺手就全包了。”乔源面无表情,“还给自己留了一件。”
常珠飘差点一口水喷出来:“所以他不是专程为我们买的?纯粹是为了凑单?”
“逻辑上更合理。”乔源耸肩,“而且他说你不像是会花半小时挑衣服的人。”
“……”常珠飘咬牙,“等我下次见到他,非得拿尺子量他脑袋有没有缝八针!”
三人笑作一团,引来周围几道目光。
笑声落定,乔源翻开笔记,重新回到那个未完成的推导。
他知道,传统傅里叶变换无法应对非平稳信号,尤其在高维非凸景观下,频谱混叠严重。而小波变换虽能捕捉局部频率,但计算复杂度呈指数增长,实际应用近乎不可行。
可他不信没有出路。
“有没有可能……不直接做谱分析,而是构建一个自适应滤波器?”他喃喃道。
“什么意思?”骆余馨凑过来看。