机器学习相关概念

xiaoxiao2021-02-28  72

机器学习的理论基础----函数逼近

由万能逼近定理可知,神经网络理论上可以以任意精度逼近任意连续可导函数。个人理解类似于函数的泰勒公式展开。

f(x)=f(0)+f'(0)x+f''(0)/2!*x^2,+f'''(0)/3!*x^3+……+f(n)(0)/n!*x^n+Rn

机器学习最终需要做的是最小化损失函数,其中,L为损失函数,Y为预测值,f为真实值。

但损失函数并不是越小越好,因为可能引起过拟合,可过大又会导致欠拟合。欠拟合和过拟合的解决方法见此文

为此,定义了一个函数 ,这个函数专门用来度量模型的复杂度,在机器学习中也叫正则化(regularization)。常用的有 , 范数。至此,我们最终的优化函数是: ,这个函数也被称为目标函数。而我们常说的梯度下降算法和最小二乘算法,就是用来快速寻找目标函数最小值。而激活函数是在网络传递过

程中,引入非线性因素,使数据可分。而SVD,PCA,ICA,kernal等等都是在处理这一过程中用到的处理数据的

具体算法。

机器学习一般处理三大类问题:分类,回归,聚类。针对不同类别的问题,我们应该采取不同的机器学习算法

文章末尾分享几个机器学习的常用框架(点击可进入链接):

1 sklearn

2 keras

3 tensorflow

本文只是粗略写了机器学习的概念,以后还会写点具体算法,本人自知水平有限,诸位姑且凑合着看吧。。。

转载请注明原文地址: https://www.6miu.com/read-2632453.html

最新回复(0)