记录生活、工作与学习。
- 反向传播不是新算法,只是链式法则的记账方式
把计算图画出来,每个节点的局部导数乘上上游传来的梯度,就是全部。
- 用线性代数看懂梯度下降
把梯度下降还原成"在曲面上找最低点"这件事,需要的数学其实只有投影和一点线性代数。
- 王国之泪,以及"自由度"的代价
给你越多解决路径,能用的引导手段就越少。这一代的迷宫设计其实是拿这个代价换回来的。
- 周报该写给谁看
大多数周报写砸,是因为作者在向"在场的人"汇报,而读者其实是三个月后什么都不记得的那个人。
记录生活、工作与学习。
把计算图画出来,每个节点的局部导数乘上上游传来的梯度,就是全部。
把梯度下降还原成"在曲面上找最低点"这件事,需要的数学其实只有投影和一点线性代数。
给你越多解决路径,能用的引导手段就越少。这一代的迷宫设计其实是拿这个代价换回来的。
大多数周报写砸,是因为作者在向"在场的人"汇报,而读者其实是三个月后什么都不记得的那个人。