数学基础
- 线性代数
- 概率论与随机过程
- 数值计算
- 蒙特卡洛方法与 MCMC 采样
- 机器学习方法概论
统计学习
深度学习
- 深度学习简介
- 深度前馈网络
- 反向传播算法
- 正则化
- 深度学习中的最优化问题
- 卷积神经网络
- CNN:图像分类
- 循环神经网络 RNN
- Transformer
- 一、Transformer [2017]
- 二、Universal Transformer [2018]
- 三、Transformer-XL [2019]
- 四、GPT1 [2018]
- 五、GPT2 [2019]
- 六、GPT3 [2020]
- 七、OPT [2022]
- 八、BERT [2018]
- 九、XLNet [2019]
- 十、RoBERTa [2019]
- 十一、ERNIE 1.0 [2019]
- 十二、ERNIE 2.0 [2019]
- 十三、ERNIE 3.0 [2021]
- 十四、ERNIE-Huawei [2019]
- 十五、MT-DNN [2019]
- 十六、BART [2019]
- 十七、mBART [2020]
- 十八、SpanBERT [2019]
- 十九、ALBERT [2019]
- 二十、UniLM [2019]
- 二十一、MASS [2019]
- 二十二、MacBERT [2019]
- 二十三、Fine-Tuning Language Models from Human Preferences [2019]
- 二十四 Learning to summarize from human feedback [2020]
- 二十五、InstructGPT [2022]
- 二十六、T5 [2020]
- 二十七、mT5 [2020]
- 二十八、ExT5 [2021]
- 二十九、Muppet [2021]
- 三十、Self-Attention with Relative Position Representations [2018]
- 三十一、USE [2018]
- 三十二、Sentence-BERT [2019]
- 三十三、SimCSE [2021]
- 三十四、BERT-Flow [2020]
- 三十五、BERT-Whitening [2021]
- 三十六、Comparing the Geometry of BERT, ELMo, and GPT-2 Embeddings [2019]
- 三十七、CERT [2020]
- 三十八、DeCLUTR [2020]
- 三十九、CLEAR [2020]
- 四十、ConSERT [2021]
- 四十一、Sentence-T5 [2021]
- 四十二、ULMFiT [2018]
- 四十三、Scaling Laws for Neural Language Models [2020]
- 四十四、Chinchilla [2022]
- 四十七、GLM-130B [2022]
- 四十八、GPT-NeoX-20B [2022]
- 四十九、Bloom [2022]
- 五十、PaLM [2022] (粗读)
- 五十一、PaLM2 [2023](粗读)
- 五十二、Self-Instruct [2022]
- 句子向量
- 词向量
- 传统CTR 预估模型
- CTR 预估模型
- 一、DSSM [2013]
- 二、FNN [2016]
- 三、PNN [2016]
- 四、DeepCrossing [2016]
- 五、Wide 和 Deep [2016]
- 六、DCN [2017]
- 七、DeepFM [2017]
- 八、NFM [2017]
- 九、AFM [2017]
- 十、xDeepFM [2018]
- 十一、ESMM [2018]
- 十二、DIN [2017]
- 十三、DIEN [2019]
- 十四、DSIN [2019]
- 十五、DICM [2017]
- 十六、DeepMCP [2019]
- 十七、MIMN [2019]
- 十八、DMR [2020]
- 十九、MiNet [2020]
- 二十、DSTN [2019]
- 二十一、BST [2019]
- 二十二、SIM [2020]
- 二十三、ESM2 [2019]
- 二十四、MV-DNN [2015]
- 二十五、CAN [2020]
- 二十六、AutoInt [2018]
- 二十七、Fi-GNN [2019]
- 二十八、FwFM [2018]
- 二十九、FM2 [2021]
- 三十、FiBiNET [2019]
- 三十一、AutoFIS [2020]
- 三十三、AFN [2020]
- 三十四、FGCNN [2019]
- 三十五、AutoCross [2019]
- 三十六、InterHAt [2020]
- 三十七、xDeepInt [2023]
- 三十九、AutoDis [2021]
- 四十、MDE [2020]
- 四十一、NIS [2020]
- 四十二、AutoEmb [2020]
- 四十三、AutoDim [2021]
- 四十四、PEP [2021]
- 四十五、DeepLight [2021]
- 图的表达
- 一、DeepWalk [2014]
- 二、LINE [2015]
- 三、GraRep [2015]
- 四、TADW [2015]
- 五、DNGR [2016]
- 六、Node2Vec [2016]
- 七、WALKLETS [2016]
- 八、SDNE [2016]
- 九、CANE [2017]
- 十、EOE [2017]
- 十一、metapath2vec [2017]
- 十二、GraphGAN [2018]
- 十三、struc2vec [2017]
- 十四、GraphWave [2018]
- 十五、NetMF [2017]
- 十六、NetSMF [2019]
- 十七、PTE [2015]
- 十八、HNE [2015]
- 十九、AANE [2017]
- 二十、LANE [2017]
- 二十一、MVE [2017]
- 二十二、PMNE [2017]
- 二十三、ANRL [2018]
- 二十四、DANE [2018]
- 二十五、HERec [2018]
- 二十六、GATNE [2019]
- 二十七、MNE [2018]
- 二十八、MVN2VEC [2018]
- 二十九、SNE [2018]
- 三十、ProNE [2019]
- Graph Embedding 综述
- 图神经网络
- 一、GNN [2009]
- 二、Spectral Networks 和 Deep Locally Connected Networks [2013]
- 三、Fast Localized Spectral Filtering On Graph [2016]
- 四、GCN [2016]
- 五、神经图指纹 [2015]
- 六、GGS-NN [2016]
- 七、PATCHY-SAN [2016]
- 八、GraphSAGE [2017]
- 九、GAT [2017]
- 十、R-GCN [2017]
- 十一、 AGCN [2018]
- 十二、FastGCN [2018]
- 十三、PinSage [2018]
- 十四、GCMC [2017]
- 十五、JK-Net [2018]
- 十六、PPNP [2018]
- 十七、VRGCN [2017]
- 十八、ClusterGCN [2019]
- 十九、LDS-GNN [2019]
- 二十、DIAL-GNN [2019]
- 二十一、HAN [2019]
- 二十二、HetGNN [2019]
- 二十三、HGT [2020]
- 二十四、GPT-GNN [2020]
- 二十五、Geom-GCN [2020]
- 二十六、Graph Network [2018]
- 二十七、GIN [2019]
- 二十八、MPNN [2017]
- 二十九、UniMP [2020]
- 三十、Correct and Smooth [2020]
- 三十一、LGCN [2018]
- 三十二、DGCNN [2018]
- 三十三、AS-GCN
- 三十四、DGI [2018]
- 三十五、DIFFPOLL [2018]
- 三十六、DCNN [2016]
- 三十七、IN [2016]
- 图神经网络 2
- 图神经网络 3
- 推荐算法(传统方法)
- 一、Tapestry [1992]
- 二、GroupLens [1994]
- 三、ItemBased CF [2001]
- 四、Amazon I-2-I CF [2003]
- 五、Slope One Rating-Based CF [2005]
- 六、Bipartite Network Projection [2007]
- 七、Implicit Feedback CF [2008]
- 八、PMF [2008]
- 九、SVD++ [2008]
- 十、MMMF 扩展 [2008]
- 十一、OCCF [2008]
- 十二、BPR [2009]
- 十三、MF for RS [2009]
- 十四、 Netflix BellKor Solution [2009]
- 推荐算法(神经网络方法 1)
- 一、MIND [2019](用于召回)
- 二、DNN For YouTube [2016]
- 三、Recommending What Video to Watch Next [2019]
- 四、ESAM [2020]
- 五、Facebook Embedding Based Retrieval [2020](用于检索)
- 六、Airbnb Search Ranking [2018]
- 七、MOBIUS [2019](用于召回)
- 八、TDM [2018](用于检索)
- 九、DR [2020](用于检索)
- 十、JTM [2019](用于检索)
- 十一、Pinterest Recommender System [2017]
- 十二、DLRM [2019]
- 十三、Applying Deep Learning To Airbnb Search [2018]
- 十四、Improving Deep Learning For Airbnb Search [2020]
- 十五、HOP-Rec [2018]
- 十六、NCF [2017]
- 十七、NGCF [2019]
- 十八、LightGCN [2020]
- 十九、Sampling-Bias-Corrected Neural Modeling [2019](检索)
- 二十、EGES [2018](Matching 阶段)
- 二十一、SDM [2019](Matching 阶段)
- 二十二、COLD [2020 ] (Pre-Ranking 模型)
- 二十三、ComiRec [2020](https://www.wenjiangs.com/doc/0b4e1736-ac78)
- 二十四、EdgeRec [2020]
- 二十五、DPSR [2020](检索)
- 二十六、PDN [2021](mathcing)
- 二十七、时空周期兴趣学习网络ST-PIL [2021]
- 推荐算法之序列推荐
- 一、FPMC [2010]
- 二、GRU4Rec [2015]
- 三、HRM [2015]
- 四、DREAM [2016]
- 五、Improved GRU4Rec [2016]
- 六、NARM [2017]
- 七、HRNN [2017]
- 八、RRN [2017]
- 九、Caser [2018]
- 十、p-RNN [2016]
- 十一、GRU4Rec Top-k Gains [2018]
- 十二、SASRec [2018]
- 十三、RUM [2018]
- 十四、SHAN [2018]
- 十五、Phased LSTM [2016]
- 十六、Time-LSTM [2017]
- 十七、STAMP [2018]
- 十八、Latent Cross [2018]
- 十九、CSRM [2019]
- 二十、SR-GNN [2019]
- 二十一、GC-SAN [2019]
- 二十二、BERT4Rec [2019]
- 二十三、MCPRN [2019]
- 二十四、RepeatNet [2019]
- 二十五、LINet(2019)
- 二十六、NextItNet [2019]
- 二十七、GCE-GNN [2020]
- 二十八、LESSR [2020]
- 二十九、HyperRec [2020]
- 三十、DHCN [2021]
- 三十一、TiSASRec [2020]
- 推荐算法(综述)
- 多任务学习
- 系统架构
- 实践方法论
- 深度强化学习 1
- 自动代码生成
工具
- CRF
- lightgbm
- xgboost
- scikit-learn
- spark
- numpy
- matplotlib
- pandas
- huggingface_transformer
- 一、Tokenizer
- 二、Datasets
- 三、Model
- 四、Trainer
- 五、Evaluator
- 六、Pipeline
- 七、Accelerate
- 八、Autoclass
- 九、应用
- 十、Gradio
Scala
- 环境搭建
- 基础知识
- 函数
- 类
- 样例类和模式匹配
- 测试和注解
- 集合 collection(一)
- 集合collection(二)
- 集成 Java
- 并发
一、Hmmlearn
hmmlearn
中有三种隐马尔可夫模型:GaussianHMM
、GMMHMM
、MultinomialHMM
。它们分别代表了观测序列的不同分布类型。
1.1 GaussianHMM
GaussianHMM
是高斯分布的隐马尔可夫模型,其原型为:class hmmlearn.hmm.GaussianHMM(n_components=1, covariance_type='diag', min_covar=0.001,startprob_prior=1.0, transmat_prior=1.0, means_prior=0, means_weight=0,covars_prior=0.01, covars_weight=1, algorithm='viterbi', random_state=None, n_iter=10, tol=0.01,verbose=False, params='stmc', init_params='stmc')
n_components
:一个整数,指定了状态的数量。covariance_type
:一个字符串,指定了使用方差矩阵的类型。可以为:'spherical'
:对每个状态,该状态的所有特征的方差都是同一个值。'diag'
:每个状态的方差矩阵为对角矩阵。'full'
:每个状态的方差矩阵为普通的矩阵。'tied'
:所有状态都是用同一个普通的方差矩阵。
min_covar
:一个浮点数。给出了方差矩阵对角线上元素的最小值,用于防止过拟合。startprob_prior
:一个数组,形状为(n_components, )
。初始状态的先验概率分布。transmat_prior
:一个数字,形状为(n_components, n_components )
。先验的状态转移矩阵。algorithm
:一个字符串。指定了Decoder
算法。可以为'viterbi'
(维特比算法)或者'map'
。random_state
:指定随机数种子。tol
:指定迭代收敛阈值。verbose
:指定打印日志。params
:一个字符串。控制在训练过程中,哪些参数能够得到更新(你也可以指定它们的组合形式):'s'
:初始概率。't'
:转移概率。'm'
:均值。'c'
:偏差。
init_params
:一个字符串。控制在训练之前,先初始化哪些参数(你也可以指定它们的组合形式):'s'
:初始概率。't'
:转移概率。'm'
:均值。'c'
:偏差。
属性:
n_features
:一个整数,特征维度。monitor_
:一个ConvergenceMonitor
对象,可用它检查EM
算法的收敛性。transmat_
:一个矩阵,形状为(n_components, n_components)
,是状态之间的转移概率矩阵。startprob_
:一个数组,形状为(n_components, )
,是初始状态的概率分布。means_
:一个数组,形状为(n_components,n_features )
,每个状态的均值参数。covars_
:一个数组,每个状态的方差参数,其形状取决于方差类型:'spherical'
:形状为(n_components, )
。'diag'
:形状为(n_components,n_features )
。'full'
:形状为(n_components, n_features, n_features)
。'tied'
:形状为(n_features,n_features )
。
方法:
decode(X, lengths=None, algorithm=None)
:已知观测序列X
寻找最可能的状态序列。参数:
X
:一个array-like
,形状为(n_samples, n_features)
。指定了观测的样本。lengths
:一个array-like
,形状为(n_sequences, )
。指定了观测样本中,每个观测序列的长度,其累加值必须等于n_samples
。algorithm
:一个字符串,指定解码算法。必须是'viterbi'
(维特比)或者'map'
。如果未指定,则使用构造函数中的decoder
参数。
返回值:
logprob
:浮点数,代表产生的状态序列的对数似然函数。state_sequence
:一个数组,形状为(n_samples, )
,代表状态序列。
fit(X, lengths=None)
:根据观测序列X
,来训练模型参数。在训练之前会执行初始化的步骤。如果你想避开这一步,那么可以在构造函数中通过提供
init_params
关键字参数来避免。参数:
X
,lengths
参考decode()
方法。返回值:
self
对象。predict(X, lengths=None)
:已知观测序列X
,寻找最可能的状态序列。参数:
X
,lengths
参考decode()
方法。返回:一个数组,形状为
(n_samples, )
,代表状态序列。predict_proba(X, lengths=None)
:计算每个状态的后验概率。参数:
X
,lengths
参考decode()
方法。返回:一个数组,代表每个状态的后验概率。
sample(n_samples=1, random_state=None)
:从当前模型中生成随机样本。参数:
n_samples
:生成样本的数量。random_state
:指定随机数。如果为None
,则使用构造函数中的random_state
。
返回值:
X
:观测序列,长度为n_samples
。state_sequence
:状态序列,长度为n_samples
。
score(X, lengths=None)
:计算预测结果的对数似然函数。参数:
X
,lengths
参考decode()
方法。返回值:预测结果的对数似然函数。
1.2 GMMHMM
GMMHMM
是混合高斯分布的隐马尔可夫模型,其原型为:xxxxxxxxxx
hmmlearn.hmm.GMMHMM(n_components=1, n_mix=1, startprob_prior=1.0,transmat_prior=1.0, covariance_type='diag', covars_prior=0.01, algorithm='viterbi', random_state=None, n_iter=10, tol=0.01, verbose=False, params='stmcw', init_params='stmcw')n_mix
:一个整数,指定了混合高斯分布中的分模型数量。- 其它参数:参考
hmmlearn.hmm.GaussianHMM
。
属性:
n_features
:一个整数,特征维度。monitor_
:一个ConvergenceMonitor
对象,可用它检查EM
算法的收敛性。transmat_
:一个矩阵,形状为(n_components, n_components)
,是状态之间的转移概率矩阵。startprob_
:一个数组,形状为(n_components, )
,是初始状态的概率分布。gmms_
:一个列表,指定了每个状态的混合高斯分布的分模型。
方法:参考
hmmlearn.hmm.GaussianHMM
。
1.3 MultinomialHMM
MultinomialHMM
是多项式分布的隐马尔可夫模型,其原型为:xxxxxxxxxx
class hmmlearn.hmm.MultinomialHMM(n_components=1, startprob_prior=1.0, transmat_prior=1.0, algorithm='viterbi', random_state=None, n_iter=10, tol=0.01, verbose=False, params='ste', init_params='ste')参数:一个整数,参考
hmmlearn.hmm.GaussianHMM
。属性:
n_features
:一个整数,特征维度。monitor_
:一个ConvergenceMonitor
对象,可用它检查EM
算法的收敛性。transmat_
:一个矩阵,形状为(n_components, n_components)
,是状态之间的转移概率矩阵。startprob_
:一个数组,形状为(n_components, )
,是初始状态的概率分布。emissionprob_
:一个数组,形状为(n_components, n_features)
,每个状态的发射概率。
方法:参考
hmmlearn.hmm.GaussianHMM
。
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论