机器学习算法数不胜数，要想找到一个合适的算法并不是一件简单的事情。通常在对精度要求较高的情况下，最好的方法便是通过交叉验证来对各个算法一一尝试，进行比较后再调整参数以确保每个算法都能达到最优解，并从优中择优。但是每次都进行这一操作不免过于繁琐，下面小编来分析下各个算法的优缺点，以助大家有针对性地进行选择，解决问题。

1.朴素贝叶斯

朴素贝叶斯的思想十分简单，对于给出的待分类项，求出在此项出现的条件下各个类别出现的概率，以概率大小确定分类项属于哪个类别。
6 O/ C& q; h+ [9 z" h) z
优点：
5 k& d. s$ ^) G, j
1）朴素贝叶斯模型发源于古典数学理论，因此有着坚实的数学基础，以及稳定的分类效率；
/ D( W+ o: o3 ~# T% u0 F3 V
( x6 w3 b1 H6 ^2）算法较简单，常用于文本分类；
2 y4 m$ d7 H! r; C/ Z
3）对小规模的数据表现很好，能够处理多分类任务，适合增量式训练。
5 m. K+ X) O+ a8 r" o
缺点：

1）需要计算先验概率；
* E- J9 T) B" D. U& ^
% X4 f! \# H1 b% p6 r2）对输入数据的表达形式很敏感；
0 ]+ y2 h( @8 l: x7 n% o8 Y
- l# F4 E4 j9 H- B3 U8 H( `3）分类决策存在错误率。

2.逻辑回归
6 X- a! l: C) [4 G- L
优点：
# |6 l, s8 _8 ^! }' f. L
1）实现简单，广泛地应用于工业问题上；
& C' ^9 @. E/ e
2）可以结合L2正则化解决多重共线性问题；

) W8 _1 U9 F# P- ~: m3）分类时计算量非常小，速度很快，存储资源低；

缺点：

2 M; _1 H0 t1 a2 X1）不能很好地处理大量多类特征或变量；

: y: s4 i: x2 t5 n$ C) p$ a2）容易欠拟合，一般准确度较低；

6 X& S/ Y9 v1 q9 g- D  |3 ?3）对于非线性特征，需要进行转换；

) p( g/ M: \7 `, h( E/ y7 d4）当特征空间很大时，逻辑回归的性能不是很好；

6 ~& Z: b% N7 v$ q$ C6 H5）只能处理两分类问题（在该基础上衍生出来的softmax可以用于多分类），且必须线性可分。

9 R  R6 s1 ^( [% f  U2 G( R

3.线性回归

% o# _; m# c; `$ d- z线性回归与逻辑回归不同，它是用于回归的，而不是用于分类。其基本思想是用梯度下降法对最小二乘法形式的误差函数进行优化。

+ S% ^' Q* B* Q( U: t3 N* M, I# y优点：实现简单，计算简单；
+ a! q, T3 F: r$ f
* b2 C6 `' L6 b9 V: {2 x% t. i缺点：不能拟合非线性数据。

- r$ [' t- \4 l7 W6 y0 Q7 T: |+ }( I4.最近邻算法

优点：
* I% t' }7 W( z" s3 _. `
1）对数据没有假设，准确度高；
: @5 e- E' P; _7 h
3 H- _9 C' u( }9 m/ ?( Q) F' a8 q2）可用于非线性分类；
  C6 y" o  u, \, @
* c. M  S% Z* X3 n3）训练时间复杂度为O(n)；
4 _: m, l- ?1 Q+ M( e# c/ R& a
4）理论成熟，思想简单，既可以用来做分类也可以用来做回归。
/ I2 c8 m6 w- x, w- Z
缺点：

1）计算量大；

2）需要大量的内存；

" L7 n/ D+ W/ t: W- Z5 w2 _" P3）样本不平衡问题（即有些类别的样本数量很多，而其它样本的数量很少）。

5.决策树

优点：

1）能够处理不相关的特征；

2）在相对短的时间内能够对大型数据源做出可行且效果良好的分析；

; r+ \+ K* F" p3）计算简单，易于理解，可解释性强；
5 M4 y- V. p5 Z, F. q9 F
2 a9 ^+ C3 v( m4）比较适合处理有缺失属性的样本。

缺点：

1）忽略了数据之间的相关性；

) C$ ?7 Q: K# t2）容易发生过拟合（随机森林可以很大程度上减少过拟合）；
2 }' w' U6 N4 n
! k, |4 R) c. |) V" \) a; G3）在决策树当中,对于各类别样本数量不一致的数据，信息增益的结果偏向于那些具有更多数值的特征。

学习了

卧槽，感觉有点太高级啊！！！