[262小说]:262xs. c o m 一秒记住!
蒋旭来找陆远那天,铺子里正堆着两台修了一半的彩电。
他站在门口,手里抱着一沓打印纸,眼镜后面全是兴奋。
“陆哥,我把你上次说的反向传播写进论文了。导师看完说方向对了,让我再补一组实验数据。他还问我这些想法哪来的,我说是一个修电器的师傅教的。”
陆远放下螺丝刀:“你导师怎么说。”
“他说想见你。”
“见我做什么。”
“不知道。他就说想见见。”
陆远犹豫了两天。
第三天下午,他关了铺子,跟蒋旭去了魔都大学。
计算机系在校园最里面,一栋老楼,墙皮脱落,窗户全是旧式铁框。
蒋旭带他上了三楼,推开一间实验室的门。
门一开,热浪扑面而来。
整面墙都是旧式服务器。
塔式的,机架的,还有几台拆了壳直接摞在一起的。
风扇嗡嗡转,声音像一群困在铁皮盒子里的蜜蜂。
接线板从天花板垂下来,像蜘蛛网。
地面上的线缆用胶带粘成一条条直线,勉强留出走人的通道。
陆远站在门口,看了好几秒。
这间屋子让他想起智联最早的那个地下车库。
那时候人也少,机器也旧,可每个人眼睛都亮。
“陆远?”
一个声音从服务器堆后面传出来。
方教授从机架之间侧身走出来,五十出头,头发花白,穿一件洗旧了的灰衬衫。
袖口卷到小臂,上面沾着粉笔灰。
他手里拿着一支记号笔,刚才大概在机柜上写什么。
他上下打量陆远,目光很直接,像在称重量。
“你就是蒋旭说的那个修电器的?”
“是。”
“不是科班出身?”
“不是。我在江边电子维修铺修主板。”
方教授笑了。
他笑起来嘴角往一边歪,有点不正经的样子。
“那你这思路,比我们实验室里所有人都野。”
他转身从桌上抽了一本翻旧的外文论文集,递到陆远面前。
封面上印着IEEE的标志,边角卷起,书脊用胶带粘过。
“英文看得懂吗。”
陆远接过来翻了两页。
里面是几篇关于多层感知器的论文,有人用铅笔在空白处做了批注。
他扫了一眼那些批注,有些很幼稚,有些极精准。
“能看一点。”他说。
其实他什么都能看。
可他现在是个修电器的,不能太离谱。
方教授没再追问。
他拉过一把塑料凳子,往陆远面前一放。
“坐。”
陆远坐下。
凳子矮,膝盖抬得高,不太舒服。
方教授在他对面坐下来,从地上捡起一块废纸板,翻到空白面,用记号笔在上面画了个草图。
几个圆圈,几条线,一个输入箭头,一个输出箭头。
“我手上有个课题。手写数字识别。用神经网络做。现在卡在准确率上不去,百分之八十五,怎么调都上不去。你刚才说的那个反向传播,我们也在用,可效果不明显。”
陆远低头看了看那块纸板。
方教授画的结构是对的,但有一个细节被忽略了。
每层之间的激活函数,他选的是sigmoid。
在这个年代,这是默认选择。
可sigmoid有一个致命问题。
深层网络下,梯度会消失,误差传到前面几层就没劲了。
“激活函数换掉。”陆远说。
方教授抬起头:“换成什么。”
“ReLU。负数置零,正数不变。求导简单,梯度不会衰减。”
方教授盯着他看了三秒。
“ReLU。”他重复了一遍这个词,像在嘴里嚼了嚼,“你从哪看的。”
❷⑥❷𝕏𝐒 .co🅜
本章未完,请点击下一页继续阅读