回顾机器学习基础知识

分类任务和回归任务

• 左图是一个图片分类的案例,解决对离散值得预测
• 右图是一个回归问题,主要针对连续值的预测

机器学习问题的构成元素

• 样本一般具有属性$x$和标签$y$
  • $y=f(x)$
• 模型用来分析样本
  • $f(x) = wx+b$
• 训练用来求解模型的参数 $w$和 $b$
• 测试用来评估训练出来的参数应用到模型后,模型的性能如何
• 完成测试后,得到一个最好的模型,然后把它应用到新的数据集中进行预测,这就是推理

Pytorch基本概念

1. 张量 Tensor

   张量（tensor）理论是数学的一个分支学科，在力学中有重要应用。张量这一术语起源于力学，它最初是用来表示弹性介质中各点应力状态的，后来张量理论发展成为力学和物理学的一个有力的数学工具。张量之所以重要，在于它可以满足一切物理定律必须与坐标系的选择无关的特性。张量概念是矢量概念的推广，矢量是一阶张量。张量是一个可用来表示在一些矢量、标量和其他张量之间的线性关系的多线性函数。

   • Tensor 在中文中被称为张量
   • 简单来理解就是,一维数组我们可以用向量表示$[1,2,3,4,...]$,二维数组$H*M$可以用矩阵表示,如$\left[\begin{matrix}1 & 2 & 3\\4 & 5 & 6\end{matrix}\right]$, 更高阶的数组该如何表示呢?或者说不同维度的数据有没有统一的表示方法呢?
   • 有的这个就是张量 tensor, 用以表示不同维度($HMCD...$)的数据

2. 变量 variable

   • 机器学习主要处理的部分,未知的的模型参数

3. nn.Module

   • 计算机视觉网络结构库
   • 搭建模型的基础"积木"元素

Tensor的基本概念

• 在同构的意义下，第零阶张量 （r = 0） 为标量 （Scalar），第一阶张量 （r = 1） 为向量 （Vector）， 第二阶张量 （r = 2） 则成为矩阵 （Matrix）。例如，对于3维空间，r=1时的张量为此向量：（x,y,z）。

  • 为什么要用张量呢?

    • 因为我们机器学习输入的数据特征维度很可能是不确定的,因此需要用到张量来表示特征

  • 比如我们的训练样本在机器中就是通过 tensor 来描述的,例如:

    • 一条语音数据我们可以用向量表述
    • 图像我们可以用矩阵描述, 2 维的像素图点,彩色图再加一维表示颜色

  • 模型中也需要 tensor 来描述$X$

    

Tensor 的基本操作

Tensor 的基本类型

• 理解 tensor 的类型很简单,表示时需要加上 torch.