佛那是一条函数曲线，“但引入超参数就需要调整。我也在试paratric re，让网络自己学那个负区间的斜率。”
“不过这样一来，计算量和过拟合的风险都会增加。需要在验证集上仔细看准确率和损失曲线的变化。”
杰西卡虽然主攻交互，但对底层逻辑也需了解，“所以本质上，是在模型的表达能力和训练稳定性之间做权衡？就像设计界面，信息太多会overwhel用户，太少又无法有效引导。”
“可以这么类比。”曹鹏点点头，“我最近一次模拟，就是把几种激活函数在不同学习率、不同批处理大小下的表现做了个网格搜索，结果”
“就是刚才让我不得不跑下去重启服务器的那组。希望这次能跑完，看看pre和e在咱们这个特定数据集上，到底哪个能更有效地缓解梯度问题，同时又不让测试误差飙升。”
艾利克斯边上哀嚎，“光是听你们说这些参数，我的脑袋就开始梯度消失了，还有，下午流形拓扑的课怎么办？”
“那门课！我发誓，教授开口前三分钟，我还能勉强跟上，觉得自己是个天才。三分钟一过，我的大脑就开始自动进入屏保模式，后面就完全是听天书，开始尝试与宇宙本源进行意识连接了。”
拉吉苦着脸：“我比你更糟，我是一开始就没明白过。那些微分形式、德拉姆上同调算了，我已经在认真考虑下学期重修或者直接申请退课了。”
杰西卡双手合十，转向曹鹏，“鹏！please，下午上完课，笔记借我复印一下好不好？或者你给我划划重点？我感觉我上课记的笔记就像抽象画，根本看不懂！”
曹鹏有些诧异地看着他们，“这门课，有那么难吗？我觉得概念挺清晰的，就是把高维空间的数据点集看成流形，然后用拓扑工具研究其整体结构，比如连通性、洞的数量，来理解数据的本质维度和聚类结构。”
“应用到比如非线性降维、异常检测还有，就是一些基本的微分流形定义，切空间，余切空间，张量场初步思路很直观啊。”
“停！闭嘴！”三人几乎异口同声地打断他，脸上是混合着嫉妒和绝望的表情。
“你这个人形计算机！”拉吉控诉道，“你这种思维结构，根本就应该去普林斯顿跟那些数学怪物为伍，跑来学计算机简直是降维打击我们这些凡人！”
杰西卡哀叹，“他就是那种能一眼看穿公式背后直觉的怪物，我怀疑他梦里都在做拉普拉斯算子特征分解。”