数学基础
- 线性代数
- 概率论与随机过程
- 数值计算
- 蒙特卡洛方法与 MCMC 采样
- 机器学习方法概论
统计学习
深度学习
- 深度学习简介
- 深度前馈网络
- 反向传播算法
- 正则化
- 深度学习中的最优化问题
- 卷积神经网络
- CNN:图像分类
- 循环神经网络 RNN
- Transformer
- 一、Transformer [2017]
- 二、Universal Transformer [2018]
- 三、Transformer-XL [2019]
- 四、GPT1 [2018]
- 五、GPT2 [2019]
- 六、GPT3 [2020]
- 七、OPT [2022]
- 八、BERT [2018]
- 九、XLNet [2019]
- 十、RoBERTa [2019]
- 十一、ERNIE 1.0 [2019]
- 十二、ERNIE 2.0 [2019]
- 十三、ERNIE 3.0 [2021]
- 十四、ERNIE-Huawei [2019]
- 十五、MT-DNN [2019]
- 十六、BART [2019]
- 十七、mBART [2020]
- 十八、SpanBERT [2019]
- 十九、ALBERT [2019]
- 二十、UniLM [2019]
- 二十一、MASS [2019]
- 二十二、MacBERT [2019]
- 二十三、Fine-Tuning Language Models from Human Preferences [2019]
- 二十四 Learning to summarize from human feedback [2020]
- 二十五、InstructGPT [2022]
- 二十六、T5 [2020]
- 二十七、mT5 [2020]
- 二十八、ExT5 [2021]
- 二十九、Muppet [2021]
- 三十、Self-Attention with Relative Position Representations [2018]
- 三十一、USE [2018]
- 三十二、Sentence-BERT [2019]
- 三十三、SimCSE [2021]
- 三十四、BERT-Flow [2020]
- 三十五、BERT-Whitening [2021]
- 三十六、Comparing the Geometry of BERT, ELMo, and GPT-2 Embeddings [2019]
- 三十七、CERT [2020]
- 三十八、DeCLUTR [2020]
- 三十九、CLEAR [2020]
- 四十、ConSERT [2021]
- 四十一、Sentence-T5 [2021]
- 四十二、ULMFiT [2018]
- 四十三、Scaling Laws for Neural Language Models [2020]
- 四十四、Chinchilla [2022]
- 四十七、GLM-130B [2022]
- 四十八、GPT-NeoX-20B [2022]
- 四十九、Bloom [2022]
- 五十、PaLM [2022] (粗读)
- 五十一、PaLM2 [2023](粗读)
- 五十二、Self-Instruct [2022]
- 句子向量
- 词向量
- 传统CTR 预估模型
- CTR 预估模型
- 一、DSSM [2013]
- 二、FNN [2016]
- 三、PNN [2016]
- 四、DeepCrossing [2016]
- 五、Wide 和 Deep [2016]
- 六、DCN [2017]
- 七、DeepFM [2017]
- 八、NFM [2017]
- 九、AFM [2017]
- 十、xDeepFM [2018]
- 十一、ESMM [2018]
- 十二、DIN [2017]
- 十三、DIEN [2019]
- 十四、DSIN [2019]
- 十五、DICM [2017]
- 十六、DeepMCP [2019]
- 十七、MIMN [2019]
- 十八、DMR [2020]
- 十九、MiNet [2020]
- 二十、DSTN [2019]
- 二十一、BST [2019]
- 二十二、SIM [2020]
- 二十三、ESM2 [2019]
- 二十四、MV-DNN [2015]
- 二十五、CAN [2020]
- 二十六、AutoInt [2018]
- 二十七、Fi-GNN [2019]
- 二十八、FwFM [2018]
- 二十九、FM2 [2021]
- 三十、FiBiNET [2019]
- 三十一、AutoFIS [2020]
- 三十三、AFN [2020]
- 三十四、FGCNN [2019]
- 三十五、AutoCross [2019]
- 三十六、InterHAt [2020]
- 三十七、xDeepInt [2023]
- 三十九、AutoDis [2021]
- 四十、MDE [2020]
- 四十一、NIS [2020]
- 四十二、AutoEmb [2020]
- 四十三、AutoDim [2021]
- 四十四、PEP [2021]
- 四十五、DeepLight [2021]
- 图的表达
- 一、DeepWalk [2014]
- 二、LINE [2015]
- 三、GraRep [2015]
- 四、TADW [2015]
- 五、DNGR [2016]
- 六、Node2Vec [2016]
- 七、WALKLETS [2016]
- 八、SDNE [2016]
- 九、CANE [2017]
- 十、EOE [2017]
- 十一、metapath2vec [2017]
- 十二、GraphGAN [2018]
- 十三、struc2vec [2017]
- 十四、GraphWave [2018]
- 十五、NetMF [2017]
- 十六、NetSMF [2019]
- 十七、PTE [2015]
- 十八、HNE [2015]
- 十九、AANE [2017]
- 二十、LANE [2017]
- 二十一、MVE [2017]
- 二十二、PMNE [2017]
- 二十三、ANRL [2018]
- 二十四、DANE [2018]
- 二十五、HERec [2018]
- 二十六、GATNE [2019]
- 二十七、MNE [2018]
- 二十八、MVN2VEC [2018]
- 二十九、SNE [2018]
- 三十、ProNE [2019]
- Graph Embedding 综述
- 图神经网络
- 一、GNN [2009]
- 二、Spectral Networks 和 Deep Locally Connected Networks [2013]
- 三、Fast Localized Spectral Filtering On Graph [2016]
- 四、GCN [2016]
- 五、神经图指纹 [2015]
- 六、GGS-NN [2016]
- 七、PATCHY-SAN [2016]
- 八、GraphSAGE [2017]
- 九、GAT [2017]
- 十、R-GCN [2017]
- 十一、 AGCN [2018]
- 十二、FastGCN [2018]
- 十三、PinSage [2018]
- 十四、GCMC [2017]
- 十五、JK-Net [2018]
- 十六、PPNP [2018]
- 十七、VRGCN [2017]
- 十八、ClusterGCN [2019]
- 十九、LDS-GNN [2019]
- 二十、DIAL-GNN [2019]
- 二十一、HAN [2019]
- 二十二、HetGNN [2019]
- 二十三、HGT [2020]
- 二十四、GPT-GNN [2020]
- 二十五、Geom-GCN [2020]
- 二十六、Graph Network [2018]
- 二十七、GIN [2019]
- 二十八、MPNN [2017]
- 二十九、UniMP [2020]
- 三十、Correct and Smooth [2020]
- 三十一、LGCN [2018]
- 三十二、DGCNN [2018]
- 三十三、AS-GCN
- 三十四、DGI [2018]
- 三十五、DIFFPOLL [2018]
- 三十六、DCNN [2016]
- 三十七、IN [2016]
- 图神经网络 2
- 图神经网络 3
- 推荐算法(传统方法)
- 一、Tapestry [1992]
- 二、GroupLens [1994]
- 三、ItemBased CF [2001]
- 四、Amazon I-2-I CF [2003]
- 五、Slope One Rating-Based CF [2005]
- 六、Bipartite Network Projection [2007]
- 七、Implicit Feedback CF [2008]
- 八、PMF [2008]
- 九、SVD++ [2008]
- 十、MMMF 扩展 [2008]
- 十一、OCCF [2008]
- 十二、BPR [2009]
- 十三、MF for RS [2009]
- 十四、 Netflix BellKor Solution [2009]
- 推荐算法(神经网络方法 1)
- 一、MIND [2019](用于召回)
- 二、DNN For YouTube [2016]
- 三、Recommending What Video to Watch Next [2019]
- 四、ESAM [2020]
- 五、Facebook Embedding Based Retrieval [2020](用于检索)
- 六、Airbnb Search Ranking [2018]
- 七、MOBIUS [2019](用于召回)
- 八、TDM [2018](用于检索)
- 九、DR [2020](用于检索)
- 十、JTM [2019](用于检索)
- 十一、Pinterest Recommender System [2017]
- 十二、DLRM [2019]
- 十三、Applying Deep Learning To Airbnb Search [2018]
- 十四、Improving Deep Learning For Airbnb Search [2020]
- 十五、HOP-Rec [2018]
- 十六、NCF [2017]
- 十七、NGCF [2019]
- 十八、LightGCN [2020]
- 十九、Sampling-Bias-Corrected Neural Modeling [2019](检索)
- 二十、EGES [2018](Matching 阶段)
- 二十一、SDM [2019](Matching 阶段)
- 二十二、COLD [2020 ] (Pre-Ranking 模型)
- 二十三、ComiRec [2020](https://www.wenjiangs.com/doc/0b4e1736-ac78)
- 二十四、EdgeRec [2020]
- 二十五、DPSR [2020](检索)
- 二十六、PDN [2021](mathcing)
- 二十七、时空周期兴趣学习网络ST-PIL [2021]
- 推荐算法之序列推荐
- 一、FPMC [2010]
- 二、GRU4Rec [2015]
- 三、HRM [2015]
- 四、DREAM [2016]
- 五、Improved GRU4Rec [2016]
- 六、NARM [2017]
- 七、HRNN [2017]
- 八、RRN [2017]
- 九、Caser [2018]
- 十、p-RNN [2016]
- 十一、GRU4Rec Top-k Gains [2018]
- 十二、SASRec [2018]
- 十三、RUM [2018]
- 十四、SHAN [2018]
- 十五、Phased LSTM [2016]
- 十六、Time-LSTM [2017]
- 十七、STAMP [2018]
- 十八、Latent Cross [2018]
- 十九、CSRM [2019]
- 二十、SR-GNN [2019]
- 二十一、GC-SAN [2019]
- 二十二、BERT4Rec [2019]
- 二十三、MCPRN [2019]
- 二十四、RepeatNet [2019]
- 二十五、LINet(2019)
- 二十六、NextItNet [2019]
- 二十七、GCE-GNN [2020]
- 二十八、LESSR [2020]
- 二十九、HyperRec [2020]
- 三十、DHCN [2021]
- 三十一、TiSASRec [2020]
- 推荐算法(综述)
- 多任务学习
- 系统架构
- 实践方法论
- 深度强化学习 1
- 自动代码生成
工具
- CRF
- lightgbm
- xgboost
- scikit-learn
- spark
- numpy
- matplotlib
- pandas
- huggingface_transformer
- 一、Tokenizer
- 二、Datasets
- 三、Model
- 四、Trainer
- 五、Evaluator
- 六、Pipeline
- 七、Accelerate
- 八、Autoclass
- 九、应用
- 十、Gradio
Scala
- 环境搭建
- 基础知识
- 函数
- 类
- 样例类和模式匹配
- 测试和注解
- 集合 collection(一)
- 集合collection(二)
- 集成 Java
- 并发
一、基本概念
Java
提供了围绕着共享内存和锁构建的并发支持。虽然这种支持是完备的,但是这种并发方案在实际过程中很难正确使用。Scala
标准库提供了另一种能够规避这些难点的选择,将程序员的精力集中在不可变状态的异步变换上,即Future
。虽然
Java
也提供Future
,但是它和Scala
的Future
不同:虽然两个
Future
都代表某个异步计算的结果,但是Java
的Future
要求通过阻塞的get
方法来访问这个结果。虽然在调用
get
方法之前可以先通过调用idDone
来判断某个Java
的Future
是否已经完成,从而避免阻塞,但是你却必须等到Java
的Future
完成之后才能继续用这个结果来进行下一步的计算。Scala
的Future
不同:无论Future
的计算是否完成,都可以指定对它的变换逻辑。每个变换都会产生新的Future
来表示对原始的Future
经过给定的函数变换之后产生的异步结果。执行计算的线程由隐式给出的执行上下文execution context
来决定。这使得你可以将异步的计算描述成一系列的、对不可变值的变换,完成不用考虑共享内存的锁。
在
Java
平台上,每个对象都关联了一个逻辑监视器moniter
,可以用于控制对数据的多线程访问。此时,需要由你来决定哪些数据将被多个线程共享,并将访问共享数据或者控制对这些共享数据访问的代码段标记为synchronized
。Java
在运行时将运用一种锁机制来确保同一时间只有一个线程进入由同一个锁控制的同步代码段,从而让你可以协调共享数据的多线程访问。为了兼容,
Scala
提供了对Java
并发原语的支持。我们可以用Scala
调用wait, notify, notifyAll
等方法,它们的含义跟Java
中的方法一样。从技术上讲,
Scala
并没有synchronized
关键字,不过它有一个synchronized
方法,可以像这样来调用:var counter = 0 synchronized{ counter += 1 // 这里每次只有一个线程在执行 }
事实上,程序员发现通过使用共享数据和锁模型来构建健壮的多线程的应用程序十分困难。难点在于:在程序中的每一点,你都必须推断出哪些你正在修改或访问的数据有可能被其它线程修改或访问,以及在这一点你持有哪些锁。
每次方法调用,你都必须推断它将会尝试持有那些锁,并判断它有没有可能死锁。而这种推断过程并不是在编译器决定的,而是在运行过程中动态决定的,因为程序在运行过程中可以任意创建新的锁。这进一步加剧了问题的复杂性。
另外,对于多线程的代码而言,测试是不可靠的。由于线程是非确定性的,可能当你测试
1000
次都是成功的,但是程序第一次在线上运行时就出问题了。对于共享数据和锁,你必须通过推断来验证程序的正确性,别无他途。
另外,你也无法通过过度的同步来解决问题。同步一切并不比什么都不同步要更好。原因是:尽管使用尽可能多的锁来解决竞争问题,但是也增加了死锁的可能性。正确的程序既不应该存在竞争情况,也不应该存在死锁情况。因此无论偏向哪个方向都是不安全的。
java.util.concurrent
类库提供了并发编程的更高级别的抽象。使用这个工具包来进行多线程编程要比你自己使用更低级别的同步语法更方便,并且引入问题的可能性要小得多。尽管如此,这个工具包还是基于共享数据和锁的,因此并没有从根本上解决这类模型的问题。Scala
的Future
提供了一种减少(甚至免去)对共享数据和锁进行推断的方式。- 当你调用
Scala
方法时,它 “在你等待的过程中” 执行某项计算并返回结果。 - 如果该结果是一个
Future
,则表示另一个将要被异步执行的计算,并且这个计算通常是由另一个完全不同的线程来执行。
因此,对
Future
的很多操作都需要一个隐式的执行上下文execution context
来提供异步执行函数的策略。可以通过使用Scala
提供的一个全局的执行上下文。对JVM
而言,这个全局的执行上下文使用的是一个线程池。一旦将隐式的执行上下文纳入到作用域中,在可以创建Future
:x import scala.concurrent.ExecutionContext.Implicits.global import scala.concurrent.Future val fut = Future{ Thread.sleep(10000); 21 + 21} // 对应的线程先睡眠10秒,然后计算出 42
- 当你调用
Future
有两个方法让你轮询:isCompleted
:判断Future
的异步计算是否完成。如果已完成则返回true
;如果未完成则返回false
。value
:返回Future
异步计算的结果。如果已完成则返回Some
;如果未完成则返回None
。
xxxxxxxxxx
val fut = Future{ Thread.sleep(10000); 21 + 21} //***************** 10 秒钟以内 **************// fut.isCompleted // 返回 false fut.value // 返回 None //***************** 10 秒钟以后 **************// fut.isCompleted // 返回 true fut.value // 返回 Some(Success(42))value
的返回值类型其实是Option[scala.util.Try[T]]
。当Future
计算已完成时,Some
包含一个Try
类型的对象。Try
对象要么是包含类型为T
的值的Success
、要么是包含一个异常(java.lang.Throwable
实例)的Failure
。Try
的目的是为异步计算提供一种与同步计算中try
表达式类似的东西:允许你处理那些有可能异常终止而不是返回正常结果的情况。Try
的继承关系如下:xxxxxxxxxx
scala.util Try[+T] << sealed abstract >> ^ ^ / \ / \ scala.util scala.util Success[T] Failure[T] << final case >> << final case >>对同步计算而言,你可以通过使用
try / catch
来确保调用某个方法的线程可以捕获并处理由该方法抛出的异常。不过对于异步计算而言,发起该计算的线程通常都转到别的任务了。在这之后,如果异步计算因为某个异常失败了,原始的线程就无法再用catch
来捕获这个异常了。因此,当处理表示异步计算的Future
时,你需要用Try
来处理这种情况:该活动未能交出某个结果,而是异常终止了。
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论