机器学习,尤其是深度学习,是接下来一项很重要的技能,为了接下来的技术发展需要,开始尝试去了解相关的技术。不管是计算机视觉、数据挖掘,还是别的相关领域,其底层的基础知识都是相通的。下面是近三个月的目标,主要需要了解的相关基础知识:

一个很好的学习资源是斯坦福大学的 cs231 课程,很值得学习。本轮的学习重点在于第一个模块,内容包括:

  • K 近邻算法及数据集的划分(训练集、测试集、交叉验证集)
  • 线性分类算法(SVM 与 softmax 算法),本质上,Logistic Regression 和 Softmax 的 Loss 定义都是基于概率。
  • 随机梯度下降法
  • 反向传播算法(不同于标准教材的公式式的推导,作者以另一个视角提示反向传播是如何从输出结果反向优化输入参数的)
  • 神经网络
    • 基础神经网络结构(model of a biological neuron, activation functions, neural net architecture, representational power)
    • 代价函数的定义achin
    • 优化网络结构

http://deeplearning.net/tutorial/contents.html

一些课程的学习:

  1. Intro to Inferential Statistics
  2. Introduction to Machine Learning
  3. Deep Learning
  4. Reinforcement Learning
  5. cs231n
  6. Deep learning at Oxford 2015:非常详细的推导过程
  7. Quoc Le’s Lectures on Deep Learning

FOR FUTURE