考研数学笔记
数学分析
- 当题目中有关于积分的不等式时，可以考虑构造一个原函数$F(x)$使$F^{\prime}(x)$有不等式的形式，如$F(x)=x\int_{x}^{1}f(y)dy$或直接求它的导函数$f^{\prime}(x)$；使用积分中值定理（与积分面积相等的矩形必与曲线相交于一点$(\xi,f(\xi))$）
- 当题目中有等式或函数某点值时，可考虑拉格朗日中值定理和罗尔定理.（拉格朗日中值定理与一阶泰勒公式等价.）
- 题目中有定积分时可考虑将常数项凑成定积分.
- 注意定义域.
- $$(\ln(x+\sqrt{x^{2}\pm1}))^{\prime}\\=\frac{1}{\sqrt{x^{2}\pm1}}$$ $$(\arcsin x)^{\prime}\\=\frac{1}{\sqrt{1-x^{2}}}$$ $$(\frac{1}{2}x\sqrt{x^{2}\pm1}\pm\frac{1}{2}\ln|x+\sqrt{x^{2}\pm1}|)^{\prime}\\=\sqrt{x^{2}\pm1}$$ $$(\frac{1}{2}x\sqrt{1-x^{2}}+\frac{1}{2}\arcsin x)^{\prime}\\=\sqrt{1-x^{2}}$$(可用dx中的x分部积分得出)
- 分部积分时设积分结果为$I$，要尽量凑出$I$以构成关于$I$的方程，如$I=\int_{0}^{\frac{m\pi}{2}}\sin^{n}xdx$要尽量使右侧出现$\sin x$.
- 能用三角解决的不要用无理式，有$\sin^{2}x$，$\cos^{2}x$可凑$\tan^{2}x$，有$\frac{1}{\cos^{2}x}dx$可凑$d(\tan x)$，有$\sqrt{1-x^{2}}$可换$\sin t$，想办法凑$\tan t$.
- $\int\frac{du}{(\frac{u}{2})^{2}+1}\neq\arctan\frac{u}{2}$不要忘记积分变量与变量一致性.
- 积分结果一定要求导验证.
- 能拆出常数项或多项式项的要先拆后积分，如$$\int\frac{du}{(2u-1)(u^{2}+1)}=\int\frac{u^{2}+1-u^{2}}{(2u-1)(u^{2}+1)}du$$ 从高阶开始配凑，也可使用待定参数，令$$\frac{1}{(2u-1)(u^{2}+1)}=A\frac{1}{2u-1}+B\frac{u}{u^{2}+1}+C\frac{1}{u^{2}+1}$$解得$$A=\frac{4}{5},B=-\frac{2}{5},C=-\frac{1}{5}$$
归纳：分母要化为$$(A_{1}x+B_{1})^{n}(A_{2}x^{2}+B_{2})(A_{3}x^{2}+B_{3}x+C_{3})$$时，若后两式不能因式分解则最简分量必有$$\frac{1}{(A_{1}x+B_{1})^{n}},\frac{x}{A_{2}x^{2}+B_{2}},$$ $$\frac{1}{A_{2}x^{2}+B_{2}},$$ $$\frac{x}{A_{3}x^{2}+B_{3}x+C_{3}},\frac{1}{A_{3}x^{2}+B_{3}x+C_{3}}$$. - 柯西不等式$[\int_{a}^{b}f(x)g(x)dx]^{2}\leq\int_{a}^{b}[f(x)]^{2}dx\cdot\int_{a}^{b}[g(x)]^{2}dx$.
- 直线$l$ $\frac{x-x_{0}}{a}=\frac{y-y_{0}}{b}=\frac{z-z_{0}}{c}$方向向量为$\vec{l}=(a,b,c)$，经过点$L(x_{0},y_{0},z_{0})$，点 $M$ 到 $l$ 的距离为 $d=\frac{|\vec{l} \times \vec{L}|}{|\vec{l}|}$ .
- 一条直线与另外两条直线相交，它们的方向向量没有直接关系，也不能联立两直线求交点，认为它在第三条直线上，因为交点可能有两个.
- 若$f(x,y)$在$(x,y)$点可微，则$f(x+\Delta x,y+\Delta y)-f(x,y)=f'_{x}(x,y)\Delta x+f'_{y}(x,y)\Delta y=O(\sqrt{(\Delta x)^{2}+(\Delta y)^{2}})$.
- $\frac{d}{dy}f(0,y)|_{y=0}=\lim\limits_{\Delta y\to0}\frac{f(0,\Delta y)-f(0,0)}{\Delta y}=\lim\limits_{\Delta y\to0}[\frac{f(x,\Delta y)-f(x,0)}{\Delta y}]_{x=0}=\frac{\partial}{\partial y}f(x,y)|_{(0,0)}$，因此可在求偏导前对无关变量赋值.
- 设$\vec{l}$与$x,y,z$轴夹角分别为$\alpha,\beta,\gamma$，则函数$u(x,y,z)$沿$\vec{l}$方向的方向导数为
$$ \frac{\partial u}{\partial\vec{l}}=\frac{\partial u}{\partial x}\cos\alpha+\frac{\partial u}{\partial y}\cos\beta+\frac{\partial u}{\partial z}\cos\gamma $$. - $[f(u(x,y),v(x,y))]_{x}^{\prime}=f_{1}^{\prime}u_{x}^{\prime}+f_{2}^{\prime}v_{x}^{\prime}.$
- $u(x,y,z)$在$\nabla u$方向上的方向导数最大，值为$|\nabla u|$.
- $f_{x}^{\prime}(x,y,z)$ $(z=z(x,y))$ $\neq$ $\frac{\partial}{\partial x}[f(x,y,z(x,y))]$.
- $\varphi_{x}^{\prime}(2x^{2})=\varphi^{\prime}(2x^{2})\cdot4x$.
- 当$f_{12}^{\prime\prime}=f_{21}^{\prime\prime}$时,最后结果应合并.
- 隐函数求导之前应将所有$z=z(x,y)$标记出来以免遗忘.
- 多项式要统一格式，如$x-y,y-x$应统一为$x-y,-(x-y)$.
- 求导要一步一步地求，不要跳步.
- 对$f(x,y)=0$可用全微分为0得到$\frac{dy}{dx}=-\frac{f_{x}^{\prime}}{f_{y}^{\prime}}$.
- $\frac{\partial(x,y)}{\partial(u,v)}$
$=\begin{pmatrix}\frac{\partial x}{\partial u} & \frac{\partial x}{\partial v}\\ \frac{\partial y}{\partial u} & \frac{\partial y}{\partial v}\end{pmatrix}$
$=\begin{pmatrix}\frac{\partial x}{}\\ \frac{\partial y}{}\end{pmatrix}\begin{pmatrix}\frac{}{\partial u} & \frac{}{\partial v}\end{pmatrix}$. - 曲线$(x(t),y(t),z(t))$在$(x,y,z)$点切线方向向量为$(x^{\prime},y^{\prime},z^{\prime})$.
- 曲面$f(x,y,z)=0$在$(x,y,z)$点法线方向向量为$(\frac{\partial f}{\partial x},\frac{\partial f}{\partial y},\frac{\partial f}{\partial z})$.
- $\vec{a}=(x_{1},y_{1},z_{1})$，$\vec{b}=(x_{2},y_{2},z_{2})$方向相同$\Rightarrow$ $\frac{x_{1}}{x_{2}}=\frac{y_{1}}{y_{2}}=\frac{z_{1}}{z_{2}}$ $\nRightarrow$ $\begin{cases}x_{1}=x_{2}\\y_{1}=y_{2}\\z_{1}=z_{2}\end{cases}$
- 求函数在曲面上的最值(条件最值)，因最值点一定在曲面上，可将曲面作为乘子引入，令$F=(\ln)f(x,y,z)+\lambda\cdot g(x,y,z)$(拉格朗日乘子法).
- 海伦公式：$S=\sqrt{\frac{L}{2}(\frac{L}{2}-a)(\frac{L}{2}-b)(\frac{L}{2}-c)}$.
- $z(x,y)$在$(x_{0},y_{0})$处满足$\frac{\partial z}{\partial x}=\frac{\partial z}{\partial y}=0$，$A=\frac{\partial^{2}z}{\partial x^{2}},B=\frac{\partial^{2}z}{\partial x\partial y},C=\frac{\partial^{2}z}{\partial y^{2}}$，若：1.$B^{2}-AC<0$, $1^{\circ}$.$A>0$，取极小值，$2^{\circ}$.$A<0$，取极大值；2.$B^{2}-AC>0$，非极值点.
- 对$f(x,y)$若$\frac{\partial^{2}f}{\partial x\partial y}=0$，则$\frac{\partial f}{\partial y}=\int0dx=\varphi(y)$，$f=\int\varphi(y)dy=\psi(y)+C(x)$，对变量$x$积分会出现$\varphi(y)$.
- 不要把法向量与$(\frac{\partial F}{\partial x},\frac{\partial F}{\partial y},\frac{\partial F}{\partial z})$划等号，它们是共线关系.
- 多重积分时，$x$的上下限为区域画横线，$y$的上下限为区域画竖线.
- 曲面面积$S=\iint\sqrt{1+(z_x^{\prime})^2+(z_y^{\prime})^2}\mathrm{d}x\mathrm{d}y$
- $(x^2)^{\frac{3}{2}}\neq x^3$
- 函数奇偶性，周期性结合积分上下限可极大简化运算
- 多重积分$ \int \mathrm{d}x \int \mathrm{d}y \int f \mathrm{d}z$中y的上下限由对z积分后降维图形区域范围确定
- 转动惯量$ I=\iiint r^2\rho\mathrm{d}V$
- 开根号一定要加绝对值
- 不要轻易破坏对称性用于化简，如$ \int_{-\frac{\pi}{2}}^{\frac{\pi}{2}}\sin\theta\cos^3\theta\mathrm{d}\theta$因$\sin\theta\cos^3\theta$为奇，得积分为0
- $\int_C P\mathrm{d}x+Q\mathrm{d}y$与路径无关$\Leftrightarrow\oint_CP\mathrm{d}x+Q\mathrm{d}y =0\Leftrightarrow P\mathrm{d}x+Q\mathrm{d}y=\mathrm{d}u\Leftrightarrow\frac{\partial Q}{\partial x}=\frac{\partial P}{\partial y}$，设$\vec{F}=(P(x,y,z),Q(x,y,z),R(x,y,z)),\\ \mathrm{d}\vec{l}=(\mathrm{d}x,\mathrm{d}y,\mathrm{d}z),\\ \oint_L\vec{F}\mathrm{d}\vec{l}=\oint_LP\mathrm{d}x+Q\mathrm{d}y +R\mathrm{d}z =\iint_\Sigma\nabla \times\vec{F}\cdot\mathrm{d}\vec{\sigma}$
对于可分离出保守场的积分要进行分离以简化运算 - 设平面$\Sigma(x,y,z)$法向量为$\vec{p}=(A,B,C)$面积为S，则它在$\vec{n}=(\alpha,\beta,\gamma)$方向降维后面积为$S^{\prime}=S\frac{\vec{n}\cdot\vec{p}}{|\vec{n}|\cdot|\vec{p}|}$，其中$\vec{p}$的方向与围成$\Sigma$的封闭曲线有关，从z轴正向看即从z的正无穷处向下看，逆时针则$\vec{p}$向上
- 求体积分和平面积分时，不要用边界条件化简被积函数
- 无穷级数若可展开为$\frac{1}{n}+\frac{1}{n^2}+\cdots$则应展开后根据最低阶判断收敛性（比较判别法的极限形式）没有$\frac{1}{n}$可先凑出$\frac{1}{n}$；可积分时使用积分判别法；带有$p^n$时考虑$\lim\limits_{n\to\infty}\sqrt[n]{a_n}$判别（根值判别法）
- 使用洛必达后再用级数展开会引起系数错误，如$1-\frac{\sin x}{x}$
交错级数：
- 求$\lim\limits_{n\to\infty}|a_n|$，不为0则不收敛，再看是否绝对收敛
- 求$a_n$与$a_{n+1}$大小关系，若$a_n>a_{n+1}$，条件收敛
- $\sum\limits_{n=1}^{+\infty}\frac{1}{n}=\ln n+c+r_n$，c为欧拉常数，$r_n\to0,\sum\limits_{n=1}^{\infty}\frac{1}{n^2}=\frac{\pi^2}{6}$
- $\because \frac{\ln n}{n}>\frac{1}{n}, (n\geq3), \therefore\sum\limits_{n=1}^{+\infty}\frac{\ln n}{n}$发散
- 一阶线性微分方程$\frac{\mathrm{d}y}{\mathrm{d}x}+P(x)y=Q(x)$先解齐次方程通解$y=C_1e^{-\int P(x)\mathrm{d}x}$令$C_1=C_1(x)$将通解代入非齐次方程得$y=e^{-\int P\mathrm{d}x}[c+\int Q\mathrm{e}^{\int P\mathrm{d}x}\mathrm{d}x]$
- 复杂级数先求导或积分再求幂级数
- $b_n=\frac{2}{T}\int_0^Tf(x)\sin\frac{n\pi x}{T}\mathrm{d}x$ （延拓）， $b_n=\frac{2}{2T}\int_{-T}^Tf(x)\sin\frac{n\pi x}{T}\mathrm{d}x$
- 和差化积$$\sin\alpha+\sin\beta=2\sin\frac{\alpha+\beta}{2}\cos\frac{\alpha-\beta}{2}\\ \cos\alpha+\cos\beta=2\cos\frac{\alpha+\beta}{2}\cos\frac{\alpha-\beta}{2}$$
- 解一阶非线性方程时，将x和y凑到一起再进行换元，如$(x+y)y^{\prime}+(x-y)=0$ ，令$u=\frac{y}{x},y^\prime=\frac{u-1}{u+1}$
- 定积分不要忘记减下限
- $P(y,x)\mathrm{d}x+Q(y,x)\mathrm{d}y=0$形式的方程：先看$\frac{\partial P}{\partial y}=\frac{\partial Q}{\partial x}$是否成立，成立则用线积分，或考虑积分因子；再看是否可化为$y^\prime+Py=Q$形式，可以就用公式；最后看是否可分离变量，换元
- 曲率$\kappa={|\frac{\mathrm{d}\alpha}{\mathrm{d}s}|}=\frac{\mathrm{d}(\arctan y^\prime)}{\sqrt{1+y^{\prime2}}\mathrm{d}x}=\frac{|y^{\prime \prime}|}{(1+y^{\prime2})^{\frac{3}{2}}}$
- 方程$y^{\prime \prime}+Py^\prime+qy=P_m(x)\mathrm{e}^{ax}$，特解为$y^*=x^kQ_m(x)\mathrm{e}^{ax}$,k为$\mathrm{e}^{ax}$根重数，m为阶数
- 方程$y^{\prime \prime}+Py^\prime+qy=P_m(x)\mathrm{e}^{ax}\sin bx$，特解为$y^*=x^k(R_m(x)\cos bx + S_m(x)\sin bx)\mathrm{e}^{ax}$，k与a无关，k为$a+ib$的根重数
- 解伯努利方程$y^\prime+P(x)y=q(x)y^n$应令$z=y^{1-n}$ ；解欧拉方程$x^2\frac{\mathrm{d}^2y}{\mathrm{d}x^2}+a_1x\frac{\mathrm{d}y}{\mathrm{d}x}+a_2y=f(x)$ ，令$x=\mathrm{e}^t$
- 逆序数：从左到右每个数右边小于它的个数之和
- $\int_0^{+\infty}\frac{f(x)}{x^p}\mathrm{d}x=\lim\limits_{\epsilon\to0}\int_\epsilon^{1}\frac{f(x)}{x^p}\mathrm{d}x+\lim\limits_{N\to+\infty}\int_1^{N}\frac{f(x)}{x^p}\mathrm{d}x$可判断敛散性，利用极限由洛必达法则还可求出等价积分式；当p<1时，$\int_0^1\frac{1}{x^p}\mathrm{d}x$存在，当p>1时，$\int_1^{+\infty}\frac{1}{x^p}\mathrm{d}x$存在
- 前n-1阶导数为0，第n阶不为0$\begin{cases}若n为奇，拐点\\若n为偶，极值点\end{cases}$
- 拐点只能在二阶导数为0或不存在的点取到；极值点只能在驻点或导数不存在的点取到
- $f(x,y)$在$(x,y)$点最大方向导数为$|\vec{\nabla}f|$（模）
- 代数运算时应把x写在一起，把y写在一起减少失误
- 出现$f(x)+f^\prime(x)$时考虑构造$g(x)=f(x)\mathrm{e}^x$
- 解非齐次线性方程组时不要直接找线性无关解向量，应先转化为齐次线性方程组找到线性无关解再结合特解得到通解
- $S=\frac{1}{x}\sum\limits_{n=0}^{\infty}\frac{x^{2n+1}}{2n+1}\neq\int\frac{1}{x}\sum\limits_{n=0}^{\infty}x^{2n}\mathrm{d}x$提出的x在求导时会影响结果，应令$S=\frac{1}{x}f(x),f^{\prime}(x)=\sum\limits_{n=0}^{\infty}x^{2n}$
- $+\infty$和$-\infty$可能对应两条水平渐近线或一条，奇点处常有一条垂直渐近线，有两条水平渐近线就不可能有斜渐近线
- $f(x,y)$在$(x_0,y_0)$可微$\Leftrightarrow\Delta z=z_x^\prime\Delta x+z_y^\prime \Delta y+O(P)\Leftarrow f^\prime_x, f^\prime_y连续$
- 读题要仔细，不要把$\mathrm{e}^{x^2}$看成$\mathrm{e}^{-x^2}$
- 分清收敛区间（开区间）和收敛域
- 单调有界$\Rightarrow$收敛
- $\frac{f(x)}{\vec{n}} = \nabla f(x)^T \vec{n}$
- 鞍点$(x_0,y_0)$：$f(x,y_0)\leq f(x_0,y_0)\leq f(x_0,y)$
- $\sum_{i}^{}\sum_{j}A_{ij}X_{i}X_{j} = \sum_{i}^{}\sum_{j}X_{i}A_{ij}X_{j} = \sum_iX_i \sum_jA_{ij}X_j = \sum_iX_i[AX]_i = X^T[AX]$
- 矩阵微积分方法：先正常求导，注意非交换性，再对结果取转置。求导法则：$dy=\mathrm{tr}(\frac{dy}{d\mathbf{X}}d\mathbf{X})$，$d({\mathbf{X}\otimes\mathbf{Y}})=(d\mathbf{X})\otimes\mathbf{Y}+\mathbf{X}\otimes(d\mathbf{Y})$，$d({\mathbf{X}\odot\mathbf{Y}})=(d\mathbf{X})\odot\mathbf{Y}+\mathbf{X}\odot(d\mathbf{Y})$，$d(\mathbf{X}^{-1})=-\mathbf{X}^{-1}(d\mathbf{X})\mathbf{X}^{-1}$，$d(\mathrm{tr}(\mathbf{X}))=\mathrm{tr}(d\mathbf{X}))$ ，$d(|\mathbf{X}|)=\mathrm{tr}(adj(\mathbf{X})d\mathbf{X})=|\mathbf{X}|\mathrm{tr}(\mathbf{X}^{-1}d\mathbf{X})$ ，$df(x,\mathbf{y},\mathbf{Z})=\frac{\partial f}{\partial x}dx+\frac{\partial f}{\partial \mathbf{y}}d\mathbf{y}+\mathrm{tr}(\frac{\partial f}{\partial \mathbf{Z}}d\mathbf{Z})$ 例子： $\dfrac{\partial (b^Tx)}{\partial x} = (\dfrac{b^T dx}{dx})^T = b$ , $\dfrac{\partial (x^TAx)}{\partial x} =(\dfrac{d(x^T)Ax+x^TAdx}{dx})^T=(\dfrac{x^TA^Tdx+x^TAdx}{dx})^T= (A+A^T)x$ 其中，$\odot$是Hadamard积，$\otimes$是Kronecker积
线性代数
- 左/右乘逆矩阵$\Leftrightarrow$增广行/列变换；行/列增广时，逆矩阵的原矩阵的放在左边/上边
- 行列式为0$\Leftrightarrow$齐次线性方程组有非0解
- 齐次线性方程组可写成列向量线性组合和行向量点乘形式
- 实对称阵，不同特征值对应的不同特征向量正交
- 实对称$\Rightarrow$相似于对角阵；n个不同特征值$\Rightarrow$ 相似对角；n个特征向量线性无关$\Leftrightarrow$ 相似对角
- $\sum\limits_{i=1}^n\lambda_i=\sum\limits_{i=1}^na_{ii}=tri(A),\prod\limits_{i=1}^n\lambda_i=|A|$ ，相似$\Rightarrow$同秩，同特征值，同行列式
- 设特征向量$\alpha_1,\alpha_2\cdots\alpha_n$对应特征值$\lambda_1,\lambda_2\cdots\lambda_n$ ，则$[\alpha_1\cdots\alpha_n]^{-1}A[\alpha_1\cdots\alpha_n]=\left[\begin{matrix}\lambda_1&\cdots&0\\0&\cdots&0\\\vdots&&\vdots\\0&\cdots&\lambda_n\end{matrix}\right]=\Lambda$
- 一个特征值至少有一个特征向量
- $A=\left[\begin{matrix}a&b\\c&d\end{matrix}\right],A^*=\left[\begin{matrix}d&-b\\-c&a\end{matrix}\right],A^{-1}=\frac{1}{ad-bc}\left[\begin{matrix}d&-b\\-c&a\end{matrix}\right]$
- 标准型可与相似对角阵无关，但满足惯性定律
- $AX=B$有解$\Leftrightarrow \mathrm{rank}(A)=\mathrm{rank}(\bar{A})$ 其中$\bar{A}=[A|B]$为增广矩阵
- 绕y轴旋转的绕点会构成一个以y轴为圆心的圆，即$\sqrt{x^2+z^2}=r$，y坐标不变，因此$\frac{x^2}{a^2}-\frac{y^2}{b^2}=1\Rightarrow\frac{x^2+z^2}{a^2}-\frac{y^2}{b^2}=1$
- 非实对称阵无对应的正交对角化阵，即不存在$P^TP=E$，使$P^{-1}AP=\Lambda$（其中A为任一非对称阵）
- 若$\alpha$为单位向量，即$\alpha^T\alpha=1$，则$\alpha(\alpha^T\cdot\alpha)=\alpha\cdot1=1\cdot\alpha$，即1为$\alpha\alpha^T$的唯一非零特征值
- 矩阵与对角阵相似时，对角阵中特征值顺序不影响。矩阵A特征值$\lambda_1\cdots\lambda_n$，则$A\sim\left[\begin{matrix}\lambda_1&\cdots&0\\0&\cdots&0\\\vdots&&\vdots\\0&\cdots&\lambda_n\end{matrix}\right]\Leftrightarrow$有n个线性无关特征向量$\Leftrightarrow\lambda_1=\cdots=\lambda_n(=\lambda)$时，$A-\lambda E$秩为n-r（r重根）
- 平面图形或线图形绕轴旋转应找到三维坐标与平面某长度关系
- 看到$a_{ij}$先想到转化成矩阵
- 环——(+乘法逆元)——>体——(+乘法交换律)——>域。域一定是环，二者的差别在于乘法群：一方面集合差一个元素0，另一方面一个是环的乘半群，一个是交换群
- ${\displaystyle \delta _{\nu _{1}\dots \nu _{p}}^{\mu _{1}\dots \mu _{p}}={\begin{cases}+1&\quad {\text{if }}\nu _{1}\dots \nu _{p}{\text{ are distinct integers and are an even permutation of }}\mu _{1}\dots \mu _{p}\\-1&\quad {\text{if }}\nu _{1}\dots \nu _{p}{\text{ are distinct integers and are an odd permutation of }}\mu _{1}\dots \mu _{p}\\\;\;0&\quad {\text{in all other cases}}.\end{cases}}}$
- $\frac{\partial x^TAx}{x}\\=\frac{\partial x_i A_j^i x^j}{\partial x^k}\\=\frac{\partial x_i}{\partial x^k}A_j^i x^j+x_i A_j^i \frac{\partial x^j}{\partial x^k}\\=\delta_i^k A_j^i x^j+ x_i A_j^i \delta^{jk}\\=A_j^k x^j+x_i A_j^i \delta^{jk} \delta_{kk} \delta^{kk}\\=A_j^k x^j+x_i A_j^i \delta^{j}_k \delta^{kk}\\=A_j^k x^j+x_i A_k^i \delta^{kk}\\=A_j^k x^j+\delta_{ii}x^i A_k^i \delta^{kk}\\=Ax+A^Tx$
概率论与数理统计
- 随机事件常用技巧：加一个有的，$(A+B)+B=C+B$；乘一个有的，$(AB)B=CB$；拆成独立事件
- $C_0^0$不存在，当$P(B)=0$时，$P(A|B)$不存在
- 贝叶斯公式：$P(H|X)=\frac{P(X|H)P(H)}{P(X)}$ ，其中$P(H|X)$ 是参数的后验概率（posterior），$P(X|H)$ 是似然函数（likelihood/参数的合理性大小），$P(H)$ 是先验概率（prior），$P(X)$ 是证据因子（evidence），用于归一化
- 切比雪夫大数定律：$P\left\{偏差比\epsilon大\right\}\leq\frac{方差}{\epsilon^2}$；依概率收敛$n\rightarrow+\infty$时，偏差小于任意小常数；切比雪夫大数定律：$n\rightarrow+\infty$时，总偏差的平均值小于任意小常数；伯努利大数定律：为二项分布时大数定律的特例；辛钦大数定律：二项分布且$E(x_i)=\mu$时大数定律的特例；棣莫弗-拉普拉斯中心极限定律：二项分布当n很大时，$\frac{偏差}{标准差}$服从正态分布；列维-林德伯格中心极限定理：$\sqrt{n}\frac{总偏差的平均值}{标准差}$服从正态分布
- $D(X-Y)=D(X)+D(Y)-2\mathrm{Cov}(x,y)$
- $\sigma$和$\sigma^2$ 注意区分，指数分布$P(x)=\lambda\mathrm{e}^{-\lambda x},E(X)=\frac{1}{\lambda},D(X)=\frac{1}{\lambda^2}$泊松分布$P(X=k)=\frac{\lambda^k}{k!}\mathrm{e}^{-\lambda},E(X)=D(X)=\lambda$
- $X+Y\sim N(2\mu,2\sigma^2),X-Y\sim N(0,2\sigma^2)$，X，Y满足独立，正态分布
- $\int_0^{+\infty}x^n\mathrm{e}^{-x}\mathrm{d}x=n!,\int_0^{+\infty}\frac{x^n}{n!}\mathrm{e}^{-x}\mathrm{d}x=1$
- 正态分布运算法则：$D(X_1+X_2+X_3)=3\sigma^2,D(X_1+2X_2)=\sigma^2+4\sigma^2$
- 正态总体的抽样分布中，$\bar{X}$与$S^2$相互独立（$\mu=0,\sigma=1$）$n\bar{X}^2\sim\chi^2(1),(n-1)S^2\sim\chi^2(n),E(\chi^2(n))=n,D(\chi^2(n))=2n$
- 若$X\sim\chi^2(n)$，则2X不服从$\chi^2$分布，因此先化系数
- 计算正态分布概率大小要化成标准正态分布再比较
- 加和规则：$p(X)=\sum\limits_X p(X,Y)$ 乘积规则：$p(X,Y)=p(Y|X)p(X)$
- 一维正态分布：$f(x)=\frac{1}{\sqrt{2\pi}\sigma}\mathrm{e}^{-\frac{(x-\mu)^2}{2\sigma^2}}$，n维正态分布：$f_n(\vec{x})=\frac{1}{\sqrt{(2\pi)^n\det(\Sigma)}}\exp (-\frac{1}{2}(\vec{x}-\vec{\mu})^T\Sigma^{-1}(\vec{x}-\vec{\mu}))$ 。对二维正态分布，取$x_1=x_0,-\infty<x_2<+\infty$的 一个平面去截此二维分布曲线，得到的函数曲线设为$g(x_2)$，在全空间积分结果不为1，而是$x_1$的边缘概率分布$f_n(x_1)$在$x_1=x_0$点的值
- 对于一个有K个结点的图，联合概率为$p(\textbf{x})=\prod\limits_{k=1}^Kp(x_k|pa_k)$ ，其中$pa_k$ 表示$x_k$ 的父结点的集合，$\textbf{x}$ 是所有结点的集合
- 似然函数$L(\theta|\textbf{x})$ 与概率密度函数$f(\textbf{x}|\theta)$ 的唯一区别是似然函数中$\textbf{x}$ 是已知的给定样本点，$\theta$ 是变量
- 准确率Precision是分为正例的样本中正确比例:$P=\frac{tp}{tp+fp}$ ，召回率Recall是实际为正例的样本中正确比例:$R=\frac{tp}{tp+fn}$ ，F-measure:$\frac{2PR}{P+R}$ ，精确度Accuracy是正确分类的样本占总体的比例:$A=\frac{tp+tn}{tp+fp+tn+fn}$
- 衡量聚类结果好坏的指标 纯度Purity:$Purity=\frac1N\sum\limits_{i=1}^k\max_j|c_i\cap t_j|$ ，其中k是聚类个数，$c_i$ 是一个聚类，$t_j$ 是实际类 兰德指数Rand:$Rand=\frac{a+c}{n(n-1)/2}$ ，其中a是两点聚在同一类且正确的点对个数，c是两点聚在不同类且正确的点对个数，n是测试集的大小
- $\prod\limits_{i\in I}(1+x_i)=\sum\limits_{J\subseteq I}\prod\limits_{j\in J}x_j$
- 离/偏差：deviation 方差：variance 标准差：standard deviation 平均差：mean deviation
- 皮尔逊相关系数$\rho_{x,y}$ $= \frac{x和y的协方差}{(x的标准差 * y的标准差)} = \frac{\sum\limits_{i=1}^n(x_i-\bar{x})(y_i-\bar{y})}{\sqrt{\sum\limits_{i=1}^n(x_i-\bar{x})^2}\sqrt{\sum\limits_{i=1}^n(y_i-\bar{y})^2}}$
最优化方法
- 当$f(x)$满足$f(x_2)-f(x_1)\geq \nabla f(x_1)(x_2-x_1)$ 时，或$\nabla^2 f(x)$ 是半正定阵/正定（特征值$\geq / >$ 0）时，$f(x)$是凸函数/严格凸函数
- 如果$\frac{\partial f}{\partial x} (x_0,y_0) = \frac{\partial f}{\partial y} (x_0,y_0)=0, \Delta=\{\frac{\partial^2f}{\partial x^2} \frac{\partial^2f}{\partial y^2} - (\frac{\partial^2f}{\partial x\partial y})^2\}_{(x_0,y_0)}$ ，1.若$\Delta>0$且$\frac{\partial^2 f}{\partial x^2} (x_0,y_0) <0 / \frac{\partial^2 f}{\partial y^2} (x_0,y_0)<0$ ，则$(x_0,y_0)$是局部最大值点 2.若$\Delta>0$且$\frac{\partial^2 f}{\partial x^2} (x_0,y_0) >0 / \frac{\partial^2 f}{\partial y^2} (x_0,y_0)>0$ ，则$(x_0,y_0)$是局部最小值点 3.若$\Delta<0$则$(x_0,y_0)$为鞍点
- 局部极小点处满足下降方向集与可行方向集的交是空集，下降方向与可行方向不在过原点的任何超平面的同一侧，由Gordan引理可得目标函数$f(x)$梯度与约束函数$c_i(x)$梯度关于非负系数线性相关，等式约束组合系数任意，不等式约束组合系数非负，而当$i\in I^*$时，$c_i(x^*)=0$，$i\in I\backslash I^*$时，$\lambda_i^*=0$，即互补松驰条件$\lambda_i^*c_i(x^*)=0$。若将目标函数梯度的系数取定为1，上述条件即KKT条件。
- 二阶最优性条件即凹凸要求，即拉格朗日函数的二阶梯度在驻点处约束超曲面的切平面所形成的子空间上正定。
机器学习
- 验证/开发集用于调整超参数，测试集用于检查模型泛化能力
- 高偏差/偏置（bias）指过多的泛化，过多的假设；高方差（variance）指过多的拟合，过多的参数（过少的假设）
- RNN的展开图可以从左下往右上看就是从输入到输出
评论已关闭