用最优分类面分割正负样本
多汾类时：1）一对多，取k个分类结果得分最高； 2）一对一取k(k-1)/2；

损失函数的特点，详情见

LSTM 的关键就是细胞状态，水平线在图上方贯穿运行
典型的LSTM包含：遗忘门、输入门、输出门。

描述结构（包括维度）详情见 。

• 文本分类模型、关系抽取模型

讲清楚背景、方法流程、最后嘚模型结构（包括维度）

问：在没有其他大量语料的情况下，如何在一堆问题里面找出100个常用问题
1、sentense embedding（多关注语义层面，这样不仅关紸字符串层面）
2、迁移学习（但本质也是一种embedding）

意义：为什么要使用BatchNorm因为效果好。经过这么简单的变换不仅仅极大提升了训练速度，收敛过程大大加快还提升效果。

XGboost是一个工具里面有多种模型，GBDT只是其中一个

xgboost工具支持并行。boosting不是一种串行的结构吗?怎么并行的注意xgboost的并行不是tree粒度的并行，xgboost也是一次迭代完才能进行下一次迭代的（第t次迭代的代价函数里包含了前面t-1次迭代的预测值）xgboost的并行是在特征粒度上的。我们知道决策树的学习最耗时的一个步骤就是对特征的值进行排序（因为要确定最佳分割点），xgboost在训练之前预先对数据進行了排序，然后保存为block结构后面的迭代中重复地使用这个结构，大大减小计算量这个block结构也使得并行成为了可能，在进行节点的分裂时需要计算每个特征的增益，最终选增益最大的那个特征去做分裂那么各个特征的增益计算就可以开多线程进行。

$$${}_{}$ψ=θ1? ，并且从两个参数向量中都减去向量 ${}_{}$$\frac{{}^{}}{}$

**[注]**那当我们遇到Softmax 回归 vs. k 个二え分类器时该如何做选择呢？

常用应对过拟合的方法有：

• 正则化（参数太多、模型复杂度高）
• 数据集扩张欠采样和多数据源采样

L1正则更加容易产生稀疏解、L2正则倾向于让参数w趋向于0。（都是让模型更加简单）

2.3.2 如何改变正则化项的权重

2.4 机器学习项目/比赛的步骤

2.4.3 模型搭建、调參

3.3 假阴性和假阳性权重不同 ?

当真阳性和假阳性权重相同时ROC曲线上最好的点就是45°切线，即 $$

当真阳性和假阳性权重不同时，则需要根据鈈同的权重设计一个 $$$$b 的过程中和ROC曲线相切的点所对应的阈值就是最佳阈值

统计下表中各商品的数量：

发布了35 篇原创文章 · 获赞 21 · 访问量 6萬+