究时滞神经网络他在幻想寻找一个优秀而新颖的核函数来将低维数据映射到高维
,直到导师暗示他再这样晃荡下去会毕不了业的时候,他才向导师说出了自己的
思路。
胡为衣的导师是他们学院的院长,学院刚建立两年,正是需要大量高质量论
文的时候,但导师很温柔,一直都没有责怪他,这让他心里软软的。
作为已经功成名就的学术界名宿,这位令人尊敬的院长为了学院的发展和自
己喜爱的科研,每年还保持着自己写几篇高质量论文的习惯。
导师坐在桌子后面,大逗比胡为衣站着开始演讲。
「世界上存在着很多这样的系统:我们只知道它的输入和输出,而不知道其
内部的复杂结构。对于观察者而言,它就是一个黑匣子。但我们人类是如此的聪
明,有很多方法可以在只知道输入和输出的情况下对这个未知系统进行学习,即
构造一个功能十分逼近这个黑匣子的系统。如果我们构造得到的系统与自然界中
的那个未知系统,在任意相同输入的时候,都得到相同的结果,那么作为观察者
,我们就认为这两个系统是一样的。核自适应滤波器就是我认为能完成对复杂系
统的学习的一个很有潜力的方法。」
导师无表情的微微点头。
「传统的核自适应滤波器是这样的一个结构:滤波器的内部结构是一个只有
前馈没有反馈的神经网络。我们用一个称为「字典」
的向量来存储历次的输入,随着学习的进行,字典的维度即厚度会增加,权
值的数量也会变多,前向反馈神经网络也会越来越复杂。
每次得到新的学习数据,都要将新的输入数据与字典向量一起经过一个核函
数的处理,分别得到字典每个维度上的核函数的值,再分别乘以每个维度的权值
,得到输出。
在每次学习中,都要算出当前我们所构造的系统的输出与目标系统的输出之
间误差,然后运用梯度下降法来减少误差,即让权值自适应的调整。
这样经过足够次数的学习,系统会越来越复杂,但学习的结果会越来越逼近
我们需要学习的系统。
事实上,这是可以用自然语言描述的:一个内部越复杂的系统,它就能展现
越多精细深微的细节,以及更真实的对现实的表现力,因为现实是具有无限细节
和无限复杂性的。
」
导师无表情的微微点头。
几缕白发跳了跳。
「如果我们把有噪声的信号当做系统的输入,把没有噪声的原始信号当做输
出,那么我们学习得到的系统就能消除噪声;同样,回声消除等等其他应用也可
以通过巧妙的设置输入输出来实现。更普遍一点的,核自适应滤波器还可以对非
线性函数进行回归拟,对溷沌时间序列进行预测,上述这两个是很常见的彷真
实验。我们把思绪拉远一点,如果输入是汉语,输出是英文,如果系统的神经网
络的结构足够科学,系统学习得足够久,成长得足够复杂,很可能这种翻译系统
也是可以实现的。当然我要做的并不是这个,我只是随口一说。」
导师把头埋到了两手之间,彷佛在睡觉。
这时胡为衣看到了他脑后更多的白发,阳光照在上面有些刺眼。
「我这一年做了如下的事情:设计了一个新的核函数,能卓有成效的在将低
维数据映射到高维的时候提升对复杂系统的学习能力;加入了一个反馈结构,它
将历史的输出经过一个精心设计的非线性函数的处理然后反馈回来,由于反馈运
用的函数与前馈的核函数的内在联系,具有这样特殊反馈结构的系统呈现对称的
美学意义;在自适应步长的推导上,我借用了一个源自的推导思路,其基
本思路是将误差看做步长的函数,原文只适用于经典的无反馈的结构,我做了调
整和改进,最终为了保证其收敛还做了一些别的数学处理。关于自适应滤波器本
身的改进,我大概就做到这里。」
导师抬起头,之前掩在双臂之下眼神一点也不模煳,相反,略带失望而又充
满温情的抚慰。
「那你为什么迟迟不写文章呢?」
他轻柔的提问,彷佛在呵护一个最易碎的梦。
「因为,我要用它预测星空。」
胡卫衣的双眼这时候才开始pēn_shè出真正的光芒。
「我们考虑星空中的一片域,这个域与其他域相对独立。假设这个
域有一千颗恒星,我们把第一颗恒星到其它999颗恒星的距离存为一个向量,
作为矩阵的第一行,第二颗恒星的相关数据存为矩阵的第二行,以此类推,最终
得到一个记录了这一千颗恒星相对的空间位置的矩阵;当然我们还需要记录这些
恒星的质量也作为学习数据。然后,举例而言,我们将这片域1oo亿年前的
上述信息作为输入,5o亿年后的相对位置作为输出,经过学习得到一个能够预
测5o亿年万有引力对它们作用结果的信号处理系统。同样,这样得到的系统可
以被期望能够预测从5o亿年前到现在的空间位置
喜欢弹星者说h请大家收藏:(m.biquwen.cc),笔趣文更新速度最快。