在了解U统计量与AUC之间的关系前，先来复习一下Mann-Whitney U Test。

8.树模型8.1 基本概念决策树模型为非参数监督模型，该模型为根据一系列的if-else逻辑组合而成。树可以看作是一个分段函数，并且树的层数越深，就会更贴合数据(fitted)。显然决策树的生成时一个递归过程，且在以下三种情形下会导致递归返回： 当前结点包含的样本全属于同一类别：例如敲声清脆的瓜都是好瓜，则敲声音清脆下无需继续划分。 当前属性集为空，或是所有样本在所有属性上取值相同，无法划...

7. 支持向量机(Support Vector Machines)先从SVM模型的分类问题入手，上述已经学习的逻辑回归的代价函数如下 \begin{aligned} J(\theta) &= \frac{1}{m}[\sum^m_{i=1} y^{(i)}*-log(h_\theta(x^{(i)})) + (1-y^{(i)})*-log(1-h_\theta(x^{(i)}))] ...

模型评估方法评价指标模型评估位于整个数据分析中的非常重要的部分。

5. 神经网络(Neural Networks)神经网络是通过模拟大脑的构造，来构建的机器学习模型。模型是由很多个逻辑单元(Logistic Unit)来组成的。

4.正则化(Regularzation)模型在训练集的表现较高，但是在测试集的表现较差，我们称之为过拟合。解决过拟合有两种方法： 删减特征数量 通过业务上的理解，手动删减 模型自动选择（分布回归等） 正则化 保留所有特征，对特征进行降维

机器学习是一门开发算法和统计模型的科学，计算机系统使用这些算法和模型，在没有明确指令的情况下，依靠既有模式和推理来执行任务。 计算机系统使用机器学习算法来处理大量历史数据，并识别数据模式。 这可让计算机系统根据给出的输入数据集更准确地预测结果。