机器学习方法
1.1 机器学习
- 监督学习 supervised learning 有数据有标签
- 非监督学习 unsupervised learning 无数据无标签
- 半监督学习 semi-supervised learning
- 强化学习 reinforcement learning 从经验中总结提升
- 遗传算法 genetic algorithm 适者生存
神经网络
2.1 科普: 人工神经网络 VS 生物神经网络
- 误差反向传递
- 人工神经网络靠的是正向和反向传播来更新神经元, 从而形成一个好的神经系统,本质上, 这是一个能让计算机处理和优化的数学模型
- 生物神经网络是通过刺激, 产生新的联结, 让信号能够通过新的联结传递而形成反馈
2.2 神经网络
- 神经网络是一种数学模型,是存在于计算机的神经系统,由大量的神经元相连接并进行计算,在外界信息的基础上,改变内部的结构,常用来对输入和输出间复杂的关系进行建模。
- 神经网络由大量的节点和之间的联系构成,负责传递信息和加工信息,神经元也可以通过训练而被强化。
参考:https://www.jianshu.com/p/e112012a4b2d
2.3 卷积神经网络-CNN (Convolutional Neural Network)
- 卷积
- 神经网络
- 池化(pooling)
2.4 循环神经网络-RNN (Recurrent Neural Network)
2.5 LSTM RNN 循环神经网络 (LSTM)
2.6 自编码 (Autoencoder)
- 压缩与解压
2.7 生成对抗网络 (GAN)
- 新手画家
- 新手鉴赏家
2.8 科普: 神经网络的黑盒不黑
- 代表特征
- 迁移学习
2.9 神经网络 梯度下降
- ”optimization” (优化问题)。包括牛顿法 (Newton’s method), 最小二乘法(Least Squares method), 梯度下降法 (Gradient Descent) 等等
- 梯度下降
- 误差方程 (Cost Function)
- 全局 and 局部最优
2.10 迁移学习 Transfer Learning