机器学习入门算法之主成分分析法（PCA）一 、概述一个非监督的机器学习算法主要用于数据的降维通过降维，可以发现更便于人类理解的特征其他应用：可视化；降噪（一）分析并得出目标函数以2个特征值为例，曲线是二维平面。要找到一个直线，使得特征值1和特征值2都拟合到直线上，这样就从二维降维到了一维, 这样就可以用拟合的这个新的拟合值同时反映原来2个特征值。同时拟合后的值尽可能的使得特征值排列稀疏，这样...
机器学习入门算法之梯度下降法（Gradient Descent）一、概述不是一个机器学习算法是一种基于搜索的最优化算法作用：最小化一个损失函数梯度上升法：最大化一个效用函数在函数曲线中，一点的导数代表自变量单位变化时，$损失函数J$响应的变化量，即为$\frac{dJ}{d\theta}$，另一方面，导数可以代表$损失函数J$增大的方向，通过梯度下降找到$损失函数J$的最小值，梯度的步长可表...
机器学习入门算法之线性回归法(Linear Regression)文章中使用的测试样例：sklearn.datasets中的波士顿房产数据一、简单线性回归（一） 分析求解多元线性回归的正规方程解(Normal Equation)：$\theta = (X_b^TX_b)^{-1}X_b^T y$ 问题：时间复杂度高，O(n^3)(优化后O(^2.4))。&emsp...