Monthly Archive: 十二月 2018

概率论 Cheat Sheet 2:概率论公理

1. 样本空间和事件   对于一个试验,假设所有可能的结果是一致的,则所有可能结果构成的集合称为该试验的样本空间(Sample Space),记为 $S$。   样本空间的任意子集 $E$ 称为事件(Event),事件是由试验的某些可能结果组成的一个集合。如果试验的结果包含在 $E$ 里面,就称事件 $E$ 发生了。   对于用一个样本空间 $S$ 的任意两个事件 $E$ 和 $F$,定义一个新的…
Read more

概率论 Cheat Sheet 1:组合分析

  本系列整理自《概率论基础教程(原书第 9 版)》,包含关键定义、定理和证明,便于查用。 1. 引言   概率论中的很多问题都可以通过计算某个事件可能发生结果的数目来解决。关于计数的数学理论通常称为组合分析(Combinatorial Analysis)。 2. 计数基本法则   计数基本法则 假设有两个试验,其中试验 1 有 $m$ 种可能的结果,对应于试验 1 的每一个结果,试验 2 有 $…
Read more

线性代数 Cheat Sheet 7-5:图像处理和统计学中的应用

  主成分分析用于分析多维数据,如研究生产塑料材料的化学过程时,为了监控生产过程,在材料生产过程中取得 $300$ 个样本,且每一个样本经过 8 个一组的测试,实验报告是一个属于 $\mathbb{R}^8$ 的向量,这类向量集合形成一个 $8 \times 300$ 的矩阵,称为观测矩阵。 1. 均值和协方差   令 $\begin{bmatrix} \boldsymbol X_1 & …
Read more

线性代数 Cheat Sheet 7-4:奇异值分解

  对角化定理有很多重要的应用,但并不是所有矩阵都有分解式 $A = PDP^{-1}$,且 $D$ 是对角的。但分解 $A = QDP^{-1}$ 对任意 $m \times n$ 矩阵 $A$ 都有可能。这类特殊的分解称为奇异值分解。   奇异值分解基于一般的矩阵对角化性质,可以被长方形矩阵模仿:一个对称矩阵 $A$ 的特征值的绝对值表示度量 $A$ 拉长或压缩一个向量(特征向量)的成都。如果…
Read more

线性代数 Cheat Sheet 7-3:条件优化

  工程中常常需要寻找一些特定集合内的 $\boldsymbol x$ 值,使得二次型 $Q(\boldsymbol x)$ 取得最大值或最小值。具有代表性的是,这类问题可化为 $\boldsymbol x$ 在一组单位向量中的变量的优化问题。   $\mathbb{R}^n$ 中的一个单位向量 $\boldsymbol x$ 可用以下几种等价形式来描述: \begin{equation} \lV…
Read more

线性代数 Cheat Sheet 7-2:二次型

  $\mathbb{R}^n$ 上的一个二次型是一个定义在 $\mathbb{R}^n$ 上的函数,它在向量 $\boldsymbol x$ 处的值可由表达式 $Q(x) = \boldsymbol x^\mathsf{T} A \boldsymbol x$ 计算,其中 $A$ 是一个 $n \times n$ 矩阵。矩阵 $A$ 称为关于二次型的矩阵。   在某些情况下,二次型对应的矩阵是对角…
Read more

线性代数 Cheat Sheet 7-1:对称矩阵的对角化

  一个对称矩阵是一个满足 $A^\mathsf{T} = A$ 的矩阵 $A$,这种矩阵是方阵,其主对角线元素是任意的,但其他元素在主对角线的两边成对出现。   定理 1 如果 $A$ 是对称矩阵,那么不同特征空间的任意两个特征向量是正交的。   设 $\boldsymbol v_1, \boldsymbol v_2$ 是对应于不同特征值 $\lambda_1, \lambda_2$ 的特征向量…
Read more