数学基础
- 线性代数
- 概率论与随机过程
- 数值计算
- 蒙特卡洛方法与 MCMC 采样
- 机器学习方法概论
统计学习
深度学习
- 深度学习简介
- 深度前馈网络
- 反向传播算法
- 正则化
- 深度学习中的最优化问题
- 卷积神经网络
- CNN:图像分类
- 循环神经网络 RNN
- Transformer
- 一、Transformer [2017]
- 二、Universal Transformer [2018]
- 三、Transformer-XL [2019]
- 四、GPT1 [2018]
- 五、GPT2 [2019]
- 六、GPT3 [2020]
- 七、OPT [2022]
- 八、BERT [2018]
- 九、XLNet [2019]
- 十、RoBERTa [2019]
- 十一、ERNIE 1.0 [2019]
- 十二、ERNIE 2.0 [2019]
- 十三、ERNIE 3.0 [2021]
- 十四、ERNIE-Huawei [2019]
- 十五、MT-DNN [2019]
- 十六、BART [2019]
- 十七、mBART [2020]
- 十八、SpanBERT [2019]
- 十九、ALBERT [2019]
- 二十、UniLM [2019]
- 二十一、MASS [2019]
- 二十二、MacBERT [2019]
- 二十三、Fine-Tuning Language Models from Human Preferences [2019]
- 二十四 Learning to summarize from human feedback [2020]
- 二十五、InstructGPT [2022]
- 二十六、T5 [2020]
- 二十七、mT5 [2020]
- 二十八、ExT5 [2021]
- 二十九、Muppet [2021]
- 三十、Self-Attention with Relative Position Representations [2018]
- 三十一、USE [2018]
- 三十二、Sentence-BERT [2019]
- 三十三、SimCSE [2021]
- 三十四、BERT-Flow [2020]
- 三十五、BERT-Whitening [2021]
- 三十六、Comparing the Geometry of BERT, ELMo, and GPT-2 Embeddings [2019]
- 三十七、CERT [2020]
- 三十八、DeCLUTR [2020]
- 三十九、CLEAR [2020]
- 四十、ConSERT [2021]
- 四十一、Sentence-T5 [2021]
- 四十二、ULMFiT [2018]
- 四十三、Scaling Laws for Neural Language Models [2020]
- 四十四、Chinchilla [2022]
- 四十七、GLM-130B [2022]
- 四十八、GPT-NeoX-20B [2022]
- 四十九、Bloom [2022]
- 五十、PaLM [2022] (粗读)
- 五十一、PaLM2 [2023](粗读)
- 五十二、Self-Instruct [2022]
- 句子向量
- 词向量
- 传统CTR 预估模型
- CTR 预估模型
- 一、DSSM [2013]
- 二、FNN [2016]
- 三、PNN [2016]
- 四、DeepCrossing [2016]
- 五、Wide 和 Deep [2016]
- 六、DCN [2017]
- 七、DeepFM [2017]
- 八、NFM [2017]
- 九、AFM [2017]
- 十、xDeepFM [2018]
- 十一、ESMM [2018]
- 十二、DIN [2017]
- 十三、DIEN [2019]
- 十四、DSIN [2019]
- 十五、DICM [2017]
- 十六、DeepMCP [2019]
- 十七、MIMN [2019]
- 十八、DMR [2020]
- 十九、MiNet [2020]
- 二十、DSTN [2019]
- 二十一、BST [2019]
- 二十二、SIM [2020]
- 二十三、ESM2 [2019]
- 二十四、MV-DNN [2015]
- 二十五、CAN [2020]
- 二十六、AutoInt [2018]
- 二十七、Fi-GNN [2019]
- 二十八、FwFM [2018]
- 二十九、FM2 [2021]
- 三十、FiBiNET [2019]
- 三十一、AutoFIS [2020]
- 三十三、AFN [2020]
- 三十四、FGCNN [2019]
- 三十五、AutoCross [2019]
- 三十六、InterHAt [2020]
- 三十七、xDeepInt [2023]
- 三十九、AutoDis [2021]
- 四十、MDE [2020]
- 四十一、NIS [2020]
- 四十二、AutoEmb [2020]
- 四十三、AutoDim [2021]
- 四十四、PEP [2021]
- 四十五、DeepLight [2021]
- 图的表达
- 一、DeepWalk [2014]
- 二、LINE [2015]
- 三、GraRep [2015]
- 四、TADW [2015]
- 五、DNGR [2016]
- 六、Node2Vec [2016]
- 七、WALKLETS [2016]
- 八、SDNE [2016]
- 九、CANE [2017]
- 十、EOE [2017]
- 十一、metapath2vec [2017]
- 十二、GraphGAN [2018]
- 十三、struc2vec [2017]
- 十四、GraphWave [2018]
- 十五、NetMF [2017]
- 十六、NetSMF [2019]
- 十七、PTE [2015]
- 十八、HNE [2015]
- 十九、AANE [2017]
- 二十、LANE [2017]
- 二十一、MVE [2017]
- 二十二、PMNE [2017]
- 二十三、ANRL [2018]
- 二十四、DANE [2018]
- 二十五、HERec [2018]
- 二十六、GATNE [2019]
- 二十七、MNE [2018]
- 二十八、MVN2VEC [2018]
- 二十九、SNE [2018]
- 三十、ProNE [2019]
- Graph Embedding 综述
- 图神经网络
- 一、GNN [2009]
- 二、Spectral Networks 和 Deep Locally Connected Networks [2013]
- 三、Fast Localized Spectral Filtering On Graph [2016]
- 四、GCN [2016]
- 五、神经图指纹 [2015]
- 六、GGS-NN [2016]
- 七、PATCHY-SAN [2016]
- 八、GraphSAGE [2017]
- 九、GAT [2017]
- 十、R-GCN [2017]
- 十一、 AGCN [2018]
- 十二、FastGCN [2018]
- 十三、PinSage [2018]
- 十四、GCMC [2017]
- 十五、JK-Net [2018]
- 十六、PPNP [2018]
- 十七、VRGCN [2017]
- 十八、ClusterGCN [2019]
- 十九、LDS-GNN [2019]
- 二十、DIAL-GNN [2019]
- 二十一、HAN [2019]
- 二十二、HetGNN [2019]
- 二十三、HGT [2020]
- 二十四、GPT-GNN [2020]
- 二十五、Geom-GCN [2020]
- 二十六、Graph Network [2018]
- 二十七、GIN [2019]
- 二十八、MPNN [2017]
- 二十九、UniMP [2020]
- 三十、Correct and Smooth [2020]
- 三十一、LGCN [2018]
- 三十二、DGCNN [2018]
- 三十三、AS-GCN
- 三十四、DGI [2018]
- 三十五、DIFFPOLL [2018]
- 三十六、DCNN [2016]
- 三十七、IN [2016]
- 图神经网络 2
- 图神经网络 3
- 推荐算法(传统方法)
- 一、Tapestry [1992]
- 二、GroupLens [1994]
- 三、ItemBased CF [2001]
- 四、Amazon I-2-I CF [2003]
- 五、Slope One Rating-Based CF [2005]
- 六、Bipartite Network Projection [2007]
- 七、Implicit Feedback CF [2008]
- 八、PMF [2008]
- 九、SVD++ [2008]
- 十、MMMF 扩展 [2008]
- 十一、OCCF [2008]
- 十二、BPR [2009]
- 十三、MF for RS [2009]
- 十四、 Netflix BellKor Solution [2009]
- 推荐算法(神经网络方法 1)
- 一、MIND [2019](用于召回)
- 二、DNN For YouTube [2016]
- 三、Recommending What Video to Watch Next [2019]
- 四、ESAM [2020]
- 五、Facebook Embedding Based Retrieval [2020](用于检索)
- 六、Airbnb Search Ranking [2018]
- 七、MOBIUS [2019](用于召回)
- 八、TDM [2018](用于检索)
- 九、DR [2020](用于检索)
- 十、JTM [2019](用于检索)
- 十一、Pinterest Recommender System [2017]
- 十二、DLRM [2019]
- 十三、Applying Deep Learning To Airbnb Search [2018]
- 十四、Improving Deep Learning For Airbnb Search [2020]
- 十五、HOP-Rec [2018]
- 十六、NCF [2017]
- 十七、NGCF [2019]
- 十八、LightGCN [2020]
- 十九、Sampling-Bias-Corrected Neural Modeling [2019](检索)
- 二十、EGES [2018](Matching 阶段)
- 二十一、SDM [2019](Matching 阶段)
- 二十二、COLD [2020 ] (Pre-Ranking 模型)
- 二十三、ComiRec [2020](https://www.wenjiangs.com/doc/0b4e1736-ac78)
- 二十四、EdgeRec [2020]
- 二十五、DPSR [2020](检索)
- 二十六、PDN [2021](mathcing)
- 二十七、时空周期兴趣学习网络ST-PIL [2021]
- 推荐算法之序列推荐
- 一、FPMC [2010]
- 二、GRU4Rec [2015]
- 三、HRM [2015]
- 四、DREAM [2016]
- 五、Improved GRU4Rec [2016]
- 六、NARM [2017]
- 七、HRNN [2017]
- 八、RRN [2017]
- 九、Caser [2018]
- 十、p-RNN [2016]
- 十一、GRU4Rec Top-k Gains [2018]
- 十二、SASRec [2018]
- 十三、RUM [2018]
- 十四、SHAN [2018]
- 十五、Phased LSTM [2016]
- 十六、Time-LSTM [2017]
- 十七、STAMP [2018]
- 十八、Latent Cross [2018]
- 十九、CSRM [2019]
- 二十、SR-GNN [2019]
- 二十一、GC-SAN [2019]
- 二十二、BERT4Rec [2019]
- 二十三、MCPRN [2019]
- 二十四、RepeatNet [2019]
- 二十五、LINet(2019)
- 二十六、NextItNet [2019]
- 二十七、GCE-GNN [2020]
- 二十八、LESSR [2020]
- 二十九、HyperRec [2020]
- 三十、DHCN [2021]
- 三十一、TiSASRec [2020]
- 推荐算法(综述)
- 多任务学习
- 系统架构
- 实践方法论
- 深度强化学习 1
- 自动代码生成
工具
- CRF
- lightgbm
- xgboost
- scikit-learn
- spark
- numpy
- matplotlib
- pandas
- huggingface_transformer
- 一、Tokenizer
- 二、Datasets
- 三、Model
- 四、Trainer
- 五、Evaluator
- 六、Pipeline
- 七、Accelerate
- 八、Autoclass
- 九、应用
- 十、Gradio
Scala
- 环境搭建
- 基础知识
- 函数
- 类
- 样例类和模式匹配
- 测试和注解
- 集合 collection(一)
- 集合collection(二)
- 集成 Java
- 并发
一、特征处理
1.1 二元化
二元化
Binarizer
的原型为:class sklearn.preprocessing.Binarizer(threshold=0.0, copy=True)
threshold
:一个浮点数,它指定了转换阈值:低于此阈值的值转换为0,高于此阈值的值转换为 1。copy
:一个布尔值,指定是否拷贝数据。
方法:
fit(X[, y])
:不作任何事情,主要用于为流水线Pipeline
提供接口。transform(X[, copy])
:将每个样本的特征二元化。fit_transform(X[, y])
:将每个样本的特征二元化。
1.2 独热码
独热码
OneHotEncoder
的原型为:xxxxxxxxxx
class sklearn.preprocessing.OneHotEncoder(n_values='auto', categorical_features='all', dtype=<class 'float'>, sparse=True, handle_unknown='error')n_values
:字符串'auto'
,或者一个整数,或者一个整数的数组,它指定了样本每个特征取值的上界(特征的取值为从0开始的整数):'auto'
:自动从训练数据中推断特征值取值的上界。- 一个整数:指定了所有特征取值的上界。
- 一个整数的数组:每个元素依次指定了每个特征取值的上界。
categorical_features
:字符串'all'
,或者下标的数组,或者是一个mask
,指定哪些特征需要独热码编码 :'all'
:所有的特征都将独热码编码。- 一个下标的数组:指定下标的特征将独热码编码。
- 一个
mask
:对应为True
的特征将编码为独热码。
所有的非
categorical
特征都将被安排在categorical
特征的右边。dtype
:一个类型,指定了独热码编码的数值类型,默认为np.float
。sparse
:一个布尔值,指定编码结果是否作为稀疏矩阵。handle_unknown
:一个字符串,指定转换过程中遇到了未知的categorical
特征时的异常处理策略。可以为:'error'
:抛出异常。'ignore'
:忽略。
属性:
active_features_
:一个索引数组,存放转换后的特征中哪些是由独热码编码而来。仅当
n_values='auto'
时该属性有效。feature_indices_
:一个索引数组,存放原始特征和转换后特征位置的映射关系。第
i
个原始特征将被映射到转换后的[feature_indices_[i],feature_indices_[i+1])
之间的特征。n_values_
:一个计数数组,存放每个原始特征取值的种类。一般为训练数据中该特征取值的最大值加1,这是因为默认每个特征取值从零开始。
方法:
fit(X[, y])
:训练编码器。transform(X)
:执行独热码编码。fit_transform(X[, y])
:训练编码器,然后执行独热码编码。
1.3 标准化
1.3.1 MinMaxScaler
MinMaxScaler
实现了min-max
标准化,其原型为:xxxxxxxxxx
class sklearn.preprocessing.MinMaxScaler(feature_range=(0, 1), copy=True)feature_range
:一个元组(min,max)
,指定了执行变换之后特征的取值范围。copy
:一个布尔值,指定是否拷贝数据。
属性:
min_
:一个数组,给出了每个特征的原始最小值的调整值。设特征 $ MathJax-Element-4 $ 的原始最小值为 $ MathJax-Element-2 $ ,原始最大值为 $ MathJax-Element-3 $ 。则特征 $ MathJax-Element-4 $ 的原始最小值的调整值为: $ MathJax-Element-5 $ 。
scale_
:一个数组,给出了每个特征的缩放倍数 。data_min_
:一个数组,给出了每个特征的原始最小值 。data_max_
:一个数组,给出了每个特征的原始最大值。data_range_
:一个数组,给出了每个特征的原始的范围(最大值减最小值)。
方法:
fit(X[, y])
:计算每个特征的最小值和最大值,从而为后续的转换做准备。transform(X)
:执行特征的标准化。fit_transform(X[, y])
:计算每个特征的最大小值和最大值,然后执行特征的标准化。inverse_transform(X)
:逆标准化,还原成原始数据。partial_fit(X[, y])
:学习部分数据,计算每个特征的最小值和最大值,从而为后续的转换做准备。它支持批量学习,这样对于内存更友好。即训练数据并不是一次性学习,而是分批学习。
1.3.2 MaxAbsScaler
MaxAbsScaler
实现了max-abs
标准化,其原型为:xxxxxxxxxx
class sklearn.preprocessing.MaxAbsScaler(copy=True)copy
:一个布尔值,指定是否拷贝数据。
属性:
scale_
:一个数组,给出了每个特征的缩放倍数的倒数。max_abs_
:一个数组,给出了每个特征的绝对值的最大值。n_samples_seen_
:一个整数,给出了当前已经处理的样本的数量(用于分批训练)。
方法:参考
MinMaxScaler
。
1.3.3 StandardScaler
StandardScaler
实现了z-score
标准化,其原型为:xxxxxxxxxx
class sklearn.preprocessing.StandardScaler(copy=True, with_mean=True, with_std=True)copy
:一个布尔值,指定是否拷贝数据。with_mean
:一个布尔值,指定是否中心化。- 如果为
True
,则缩放之前先将每个特征中心化(即特征值减去该特征的均值)。 - 如果元素数据是稀疏矩阵的形式,则不能指定
with_mean=True
。
- 如果为
with_std
:一个布尔值,指定是否方差归一化。如果为
True
,则缩放每个特征到单位方差。
属性:
scale_
:一个数组,给出了每个特征的缩放倍数的倒数。mean_
:一个数组,给出了原始数据每个特征的均值。var_
:一个数组,给出了原始数据每个特征的方差。n_samples_seen_
:一个整数,给出了当前已经处理的样本的数量(用于分批训练)。
方法:参考
MinMaxScaler
。
1.4 正则化
Normalizer
实现了数据正则化,其原型为:xxxxxxxxxx
class sklearn.preprocessing.Normalizer(norm='l2', copy=True)norm
:一个字符串,指定正则化方法。可以为:'l1'
:采用 $ MathJax-Element-14 $ 范数正则化。'l2'
:采用 $ MathJax-Element-7 $ 范数正则化。'max'
:采用 $ MathJax-Element-8 $ 范数正则化。
copy
:一个布尔值,指定是否拷贝数据。
方法:
fit(X[, y])
:不作任何事情,主要用于为流水线Pipeline
提供接口。transform(X[, y, copy])
:将每一个样本正则化为范数等于单位1。fit_transform(X[, y])
:将每一个样本正则化为范数等于单位1。
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论