Monthly Archives: May 2019

Neural Networks and Deep Learning(七)番外篇·Pytorch MNIST教程

由于本书成书较早(2015),作者当时使用的是Theano,但Theano已不再维护,所以本博客使用当下流行的Pytorch框架讲解MNIST图片分类的代码实现,具体就是Pytorch官方给出的MNIST代码:
https://github.com/pytorch/examples/tree/master/mnist

使用该工具在线制作:
http://alexlenail.me/NN-SVG/LeNet.html
Continue reading

《三体》始末

简化版:

  1. 叶文洁向宇宙发射了一个信号
  2. 三体人接收到了这个信号
  3. 三体人计划逃离水深火热的三体星系,殖民太阳系
  4. 地球人在保卫太阳系的末日之战中,被三体舰队团灭,太阳系岌岌可危
  5. 罗辑参透了黑暗森林法则,并假借雪地工程实现了对三体星系的威慑,三体撤军,太阳系幸存
  6. 罗辑年老体衰,程心接替罗辑成为新的执剑人
  7. 三体人预料到程心心慈手软,不敢实施黑暗森林打击
  8. 三体人果断进军太阳系,程心果然没有实施黑暗森林打击,地球沦为三体人的殖民地
  9. 在太空执行任务的地球飞船发射了三体坐标,三体再次撤军,并随后遭到黑暗森林打击,三体星系灭亡
  10. 发射三体坐标也暴露了太阳系坐标,太阳系遭到更高级的打击——降维打击,太阳系被二维化
  11. 程心借助光速飞船逃离太阳系来到了云天明送给她的类地行星蓝星上
  12. 程心又进入了云天明送给她的平行小宇宙,企图躲避大宇宙的归零大爆炸
  13. 太多的小宇宙导致大宇宙质量流失,无法归零
  14. 大宇宙向所有宇宙发布回归运动声明,请求小宇宙归还质量
  15. 程心最终归还质量,回到了大宇宙
  16. 大宇宙坍缩成奇点,完成大爆炸,宇宙开始了新的轮回

Continue reading

Neural Networks and Deep Learning(六)深度学习

今天我们终于进入到了本书的重头戏——深度学习。其实,这一章的深度学习主要介绍的是卷积神经网络,即CNN。

本书之前的章节介绍的都是如下图的全连接网络,虽然全连接网络已经能够在MNIST数据集上取得98%以上的测试准确率,但有两个比较大的缺点:1. 训练参数太多,容易过拟合;2. 难以捕捉图片的局部信息。第一点很好理解,参数一多,网络就难以训练,难以加深。对于第二点,因为全连接的每个神经元都和上一层的所有神经元相连,无论距离远近,也就是说网络不会捕捉图片的局部信息和空间结构信息。

Continue reading