数学基础
- 线性代数
- 概率论与随机过程
- 数值计算
- 蒙特卡洛方法与 MCMC 采样
- 机器学习方法概论
统计学习
深度学习
- 深度学习简介
- 深度前馈网络
- 反向传播算法
- 正则化
- 深度学习中的最优化问题
- 卷积神经网络
- CNN:图像分类
- 循环神经网络 RNN
- Transformer
- 一、Transformer [2017]
- 二、Universal Transformer [2018]
- 三、Transformer-XL [2019]
- 四、GPT1 [2018]
- 五、GPT2 [2019]
- 六、GPT3 [2020]
- 七、OPT [2022]
- 八、BERT [2018]
- 九、XLNet [2019]
- 十、RoBERTa [2019]
- 十一、ERNIE 1.0 [2019]
- 十二、ERNIE 2.0 [2019]
- 十三、ERNIE 3.0 [2021]
- 十四、ERNIE-Huawei [2019]
- 十五、MT-DNN [2019]
- 十六、BART [2019]
- 十七、mBART [2020]
- 十八、SpanBERT [2019]
- 十九、ALBERT [2019]
- 二十、UniLM [2019]
- 二十一、MASS [2019]
- 二十二、MacBERT [2019]
- 二十三、Fine-Tuning Language Models from Human Preferences [2019]
- 二十四 Learning to summarize from human feedback [2020]
- 二十五、InstructGPT [2022]
- 二十六、T5 [2020]
- 二十七、mT5 [2020]
- 二十八、ExT5 [2021]
- 二十九、Muppet [2021]
- 三十、Self-Attention with Relative Position Representations [2018]
- 三十一、USE [2018]
- 三十二、Sentence-BERT [2019]
- 三十三、SimCSE [2021]
- 三十四、BERT-Flow [2020]
- 三十五、BERT-Whitening [2021]
- 三十六、Comparing the Geometry of BERT, ELMo, and GPT-2 Embeddings [2019]
- 三十七、CERT [2020]
- 三十八、DeCLUTR [2020]
- 三十九、CLEAR [2020]
- 四十、ConSERT [2021]
- 四十一、Sentence-T5 [2021]
- 四十二、ULMFiT [2018]
- 四十三、Scaling Laws for Neural Language Models [2020]
- 四十四、Chinchilla [2022]
- 四十七、GLM-130B [2022]
- 四十八、GPT-NeoX-20B [2022]
- 四十九、Bloom [2022]
- 五十、PaLM [2022] (粗读)
- 五十一、PaLM2 [2023](粗读)
- 五十二、Self-Instruct [2022]
- 句子向量
- 词向量
- 传统CTR 预估模型
- CTR 预估模型
- 一、DSSM [2013]
- 二、FNN [2016]
- 三、PNN [2016]
- 四、DeepCrossing [2016]
- 五、Wide 和 Deep [2016]
- 六、DCN [2017]
- 七、DeepFM [2017]
- 八、NFM [2017]
- 九、AFM [2017]
- 十、xDeepFM [2018]
- 十一、ESMM [2018]
- 十二、DIN [2017]
- 十三、DIEN [2019]
- 十四、DSIN [2019]
- 十五、DICM [2017]
- 十六、DeepMCP [2019]
- 十七、MIMN [2019]
- 十八、DMR [2020]
- 十九、MiNet [2020]
- 二十、DSTN [2019]
- 二十一、BST [2019]
- 二十二、SIM [2020]
- 二十三、ESM2 [2019]
- 二十四、MV-DNN [2015]
- 二十五、CAN [2020]
- 二十六、AutoInt [2018]
- 二十七、Fi-GNN [2019]
- 二十八、FwFM [2018]
- 二十九、FM2 [2021]
- 三十、FiBiNET [2019]
- 三十一、AutoFIS [2020]
- 三十三、AFN [2020]
- 三十四、FGCNN [2019]
- 三十五、AutoCross [2019]
- 三十六、InterHAt [2020]
- 三十七、xDeepInt [2023]
- 三十九、AutoDis [2021]
- 四十、MDE [2020]
- 四十一、NIS [2020]
- 四十二、AutoEmb [2020]
- 四十三、AutoDim [2021]
- 四十四、PEP [2021]
- 四十五、DeepLight [2021]
- 图的表达
- 一、DeepWalk [2014]
- 二、LINE [2015]
- 三、GraRep [2015]
- 四、TADW [2015]
- 五、DNGR [2016]
- 六、Node2Vec [2016]
- 七、WALKLETS [2016]
- 八、SDNE [2016]
- 九、CANE [2017]
- 十、EOE [2017]
- 十一、metapath2vec [2017]
- 十二、GraphGAN [2018]
- 十三、struc2vec [2017]
- 十四、GraphWave [2018]
- 十五、NetMF [2017]
- 十六、NetSMF [2019]
- 十七、PTE [2015]
- 十八、HNE [2015]
- 十九、AANE [2017]
- 二十、LANE [2017]
- 二十一、MVE [2017]
- 二十二、PMNE [2017]
- 二十三、ANRL [2018]
- 二十四、DANE [2018]
- 二十五、HERec [2018]
- 二十六、GATNE [2019]
- 二十七、MNE [2018]
- 二十八、MVN2VEC [2018]
- 二十九、SNE [2018]
- 三十、ProNE [2019]
- Graph Embedding 综述
- 图神经网络
- 一、GNN [2009]
- 二、Spectral Networks 和 Deep Locally Connected Networks [2013]
- 三、Fast Localized Spectral Filtering On Graph [2016]
- 四、GCN [2016]
- 五、神经图指纹 [2015]
- 六、GGS-NN [2016]
- 七、PATCHY-SAN [2016]
- 八、GraphSAGE [2017]
- 九、GAT [2017]
- 十、R-GCN [2017]
- 十一、 AGCN [2018]
- 十二、FastGCN [2018]
- 十三、PinSage [2018]
- 十四、GCMC [2017]
- 十五、JK-Net [2018]
- 十六、PPNP [2018]
- 十七、VRGCN [2017]
- 十八、ClusterGCN [2019]
- 十九、LDS-GNN [2019]
- 二十、DIAL-GNN [2019]
- 二十一、HAN [2019]
- 二十二、HetGNN [2019]
- 二十三、HGT [2020]
- 二十四、GPT-GNN [2020]
- 二十五、Geom-GCN [2020]
- 二十六、Graph Network [2018]
- 二十七、GIN [2019]
- 二十八、MPNN [2017]
- 二十九、UniMP [2020]
- 三十、Correct and Smooth [2020]
- 三十一、LGCN [2018]
- 三十二、DGCNN [2018]
- 三十三、AS-GCN
- 三十四、DGI [2018]
- 三十五、DIFFPOLL [2018]
- 三十六、DCNN [2016]
- 三十七、IN [2016]
- 图神经网络 2
- 图神经网络 3
- 推荐算法(传统方法)
- 一、Tapestry [1992]
- 二、GroupLens [1994]
- 三、ItemBased CF [2001]
- 四、Amazon I-2-I CF [2003]
- 五、Slope One Rating-Based CF [2005]
- 六、Bipartite Network Projection [2007]
- 七、Implicit Feedback CF [2008]
- 八、PMF [2008]
- 九、SVD++ [2008]
- 十、MMMF 扩展 [2008]
- 十一、OCCF [2008]
- 十二、BPR [2009]
- 十三、MF for RS [2009]
- 十四、 Netflix BellKor Solution [2009]
- 推荐算法(神经网络方法 1)
- 一、MIND [2019](用于召回)
- 二、DNN For YouTube [2016]
- 三、Recommending What Video to Watch Next [2019]
- 四、ESAM [2020]
- 五、Facebook Embedding Based Retrieval [2020](用于检索)
- 六、Airbnb Search Ranking [2018]
- 七、MOBIUS [2019](用于召回)
- 八、TDM [2018](用于检索)
- 九、DR [2020](用于检索)
- 十、JTM [2019](用于检索)
- 十一、Pinterest Recommender System [2017]
- 十二、DLRM [2019]
- 十三、Applying Deep Learning To Airbnb Search [2018]
- 十四、Improving Deep Learning For Airbnb Search [2020]
- 十五、HOP-Rec [2018]
- 十六、NCF [2017]
- 十七、NGCF [2019]
- 十八、LightGCN [2020]
- 十九、Sampling-Bias-Corrected Neural Modeling [2019](检索)
- 二十、EGES [2018](Matching 阶段)
- 二十一、SDM [2019](Matching 阶段)
- 二十二、COLD [2020 ] (Pre-Ranking 模型)
- 二十三、ComiRec [2020](https://www.wenjiangs.com/doc/0b4e1736-ac78)
- 二十四、EdgeRec [2020]
- 二十五、DPSR [2020](检索)
- 二十六、PDN [2021](mathcing)
- 二十七、时空周期兴趣学习网络ST-PIL [2021]
- 推荐算法之序列推荐
- 一、FPMC [2010]
- 二、GRU4Rec [2015]
- 三、HRM [2015]
- 四、DREAM [2016]
- 五、Improved GRU4Rec [2016]
- 六、NARM [2017]
- 七、HRNN [2017]
- 八、RRN [2017]
- 九、Caser [2018]
- 十、p-RNN [2016]
- 十一、GRU4Rec Top-k Gains [2018]
- 十二、SASRec [2018]
- 十三、RUM [2018]
- 十四、SHAN [2018]
- 十五、Phased LSTM [2016]
- 十六、Time-LSTM [2017]
- 十七、STAMP [2018]
- 十八、Latent Cross [2018]
- 十九、CSRM [2019]
- 二十、SR-GNN [2019]
- 二十一、GC-SAN [2019]
- 二十二、BERT4Rec [2019]
- 二十三、MCPRN [2019]
- 二十四、RepeatNet [2019]
- 二十五、LINet(2019)
- 二十六、NextItNet [2019]
- 二十七、GCE-GNN [2020]
- 二十八、LESSR [2020]
- 二十九、HyperRec [2020]
- 三十、DHCN [2021]
- 三十一、TiSASRec [2020]
- 推荐算法(综述)
- 多任务学习
- 系统架构
- 实践方法论
- 深度强化学习 1
- 自动代码生成
工具
- CRF
- lightgbm
- xgboost
- scikit-learn
- spark
- numpy
- matplotlib
- pandas
- huggingface_transformer
- 一、Tokenizer
- 二、Datasets
- 三、Model
- 四、Trainer
- 五、Evaluator
- 六、Pipeline
- 七、Accelerate
- 八、Autoclass
- 九、应用
- 十、Gradio
Scala
- 环境搭建
- 基础知识
- 函数
- 类
- 样例类和模式匹配
- 测试和注解
- 集合 collection(一)
- 集合collection(二)
- 集成 Java
- 并发
三、For 表达式
所有给出
yield
结果的for
表达式都会被编译器翻译成对高阶函数map,flatMap
和withFilter
的调用;所有不带yield
结果的for
表达式都被翻译成更小范围(只有withFilter
和foreach
)的高阶函数。xxxxxxxxxx
case class Person(name:String, isMale:Boolean, children:Person*) // 找出所有母亲和其孩子的 pair 对 persons.filter(p => !p.isMale).flatMap{ case p => p.children.map( c => (p.name,c.name)) } // 或者 persons.withFilter(p => !p.isMale).flatMap.flatMap{ case p=> p.children.map(c => (p.name,c.name)) } // 或者 for (p <- persons if !p.isMale ; c<- p.children) yield (p.name,c.name)一般而言一个
for
表达式的格式为:xxxxxxxxxx
for (seq) yield exprseq
是一个序列的生成器generator
、定义definition
和过滤器filter
,它们用分号隔开。如:
xxxxxxxxxx
for (p <- persons; n = p.name; if(n.startsWith("To"))) yield n其中
p <- persons
表示生成器,n = p.name
表示定义,if(n.startsWith("To"))
表示过滤器。也可以将
seq
放到花括号而不是圆括号中,此时分号就变成可选的:xxxxxxxxxx
for { p <- persons // 一个生成器 n = p.name; // 一个定义 if(n.startsWith("To")) // 一个过滤器 } yield n生成器
generator
的格式为:xxxxxxxxxx
pat <- expr这里的表达式
expr
通常返回一个列表,然后模式pat
会跟这个列表里的每个元素依次匹配。如果匹配成功,则模式中的变量就会被绑定上该元素对应的部分;如果匹配失败,则列表的当前元素就被丢弃,并不会抛出MatchError
异常。最常见的情况下,模式
pat
只是一个变量x
,如x <- expr
。此时变量x
仅仅是简单的遍历expr
返回的所有元素。定义
definition
的格式为:xxxxxxxxxx
pat = expr这个定义将模式
pat
绑定到expr
的值,因此跟如下的val
定义的作用是一样的:xxxxxxxxxx
val x = expr最简单的情况是简单的变量
x
。过滤器
filter
的格式为:xxxxxxxxxx
if expr这里
expr
是个类型为Boolean
的表达式。过滤器会将迭代中所有让expr
返回false
的元素丢弃。
每个
for
表达式都以生成器开始。如果一个for
表达式中存在多个生成器,则出现在后面的生成器比出现在前面的生成器调用得更频繁。组合数学问题是
for
表达式特别适合的应用领域。
3.1 翻译
每个
for
表达式都可以用三个高阶函数map、flatMap、withFilter
来表示。单个生成器的
for
表达式:xxxxxxxxxx
for (x <- expr1) yield expr2等价于:
xxxxxxxxxx
expr1.map(x => expr2)带一个生成器和一个过滤器的
for
表达式:xxxxxxxxxx
for(x <- expr1 if expr2) yield expr3等价于:
xxxxxxxxxx
for( x <- expr1 withFilter (x => expr2)) yield expr3这进一步等价于:
xxxxxxxxxx
expr1.withFilter(x => expr2).map(x => expr3)相同的翻译机制对于过滤器后面更多元素也同样适用。如果
seq
是一组任意的生成器、定义和过滤器序列,则有:xxxxxxxxxx
for (x <- expr1 if expr2; seq) yield expr3等价于:
xxxxxxxxxx
for(x <- expr1 withFilter expr2; seq) yield expr3然后翻译过程继续处理第二个表达式 ,这个表达式已经比原始版本少了一个元素。
如果有两个生成器开始的
for
表达式,则等价于对flatMap
的应用。如:xxxxxxxxxx
for(x <- expr1; y<- expr2; seq) yield expr3等价于:
xxxxxxxxxx
expr1.flatMap(x => for (y <- expr2; seq) yield expr3 )这里传递给
flatMap
的函数值当中,会有另一个for
表达式。这个for
表达式比原始版本少一个元素,因此更简单。它也会按照相同的规则翻译。
如果生成器左边的部分是模式
pat
而不是简单变量时,翻译机制变得复杂。如果
for
表达式绑定一个元组的情况相对比较容易处理,此时跟单变量的规则几乎相同。如:
xxxxxxxxxx
for ((x1,..., xn) <- expr1 ) yield expr2被翻译为:
xxxxxxxxxx
expr1.map{ case (x1,...,xn) => expr2}如果生成器左边的部分是一个任意的模式
pat
而不是单个变量或者元组时,情况更复杂。如:
xxxxxxxxxx
for (pat <- expr1) yield expr2被翻译为:
xxxxxxxxxx
expr1 withFilter { case pat => true case _ => false } map{ case pat => expr2 }也就是说,生成的项首先会被过滤,只有那些跟
pat
匹配的项才能进入下一步处理。因此,采用模式匹配的生成器不会抛出MatchError
。这里的机制仅处理包含单个模式匹配的生成器的
for
表达式的case
。如果for
表达式包含了其它生成器、过滤器或定义,编译器也有类似的规则来处理。
当
for
表达式中包含内嵌定义时,如:xxxxxxxxxx
for (x <- expr1; y = expr2; seq) yield expr3我们假设
seq
是一个(或者为空的)生成器、定义和过滤器的序列。则上述表达式被翻译为:xxxxxxxxxx
for ((x,y) <- for (x <- expr1) yield (x,expr2); seq) yield epxr3可以看到:每当新的
x
值生成出来时,expr2
就会被重新求值。这个重新求值操作是必要的,因为expr2
可能会用到x
,因此需要针对x
值的变化重新求值。因此可以看到:如果
y
的值在for
循环内是不变的,则没必要在for
表达式内部内嵌该定义。如:xxxxxxxxxx
for (x <- expr1; y = func();) yield x + y其中
func
和x
无关,且非常耗时。由于在for
循环过程中func
结果不变,且又非常耗时,因此可以修改为:xxxxxxxxxx
y = func() for (x <- expr1) yield x + y如果
for
循环只是简单的执行副作用,但是并不返回任何值(没有yield
表达式),则其翻译也是类似的。从原理上讲,之前的翻译机制中用到
map
和flatMap
的地方,这里都用foreach
。如:
xxxxxxxxxx
for ( x <- expr1) body等价于:
xxxxxxxxxx
expr1 foreach (x => body)如:
xxxxxxxxxx
for (x <- expr1; if expr2; y <- expr3) body等价于:
xxxxxxxxxx
expr1 withFilter (x => expr2) foreach ( x=> expr3 foreach (y => body ) )事实上,也可以把高阶函数翻译成
for
表达式:每个map
、flatMap
、filter
的应用也可以由for
表达式来表示。xxxxxxxxxx
object Demo{ def map[A, B](xs: List[A], f: A=> B) : List[B] = for (x <- xs) yield f(x) def flatMap[A, B](xs: List[A], f: A => List[B]) : List[B] = for (x <- xs; y <- f(x)) yield y def filter[A](xs: List[A], p: A => Boolean): List[A] = for ( x <- xs if p(x)) yield x }因此不难看出:
for
表达式就是对map,flatMap,withFilter
这三个函数的等效表达。
3.2 泛化 for
由于编译器对
for
表达式的翻译仅依赖于相应的map,flatMap,withFilter
方法,因此我们可以对很多数据类型应用for
表达式。除了列表、数组之外,
Scala
标准类库中还有很多类型支持map,flatMap,withFilter,foreach
方法,因此允许对它们使用for
表达式。对于自定义数据类型,你也可以通过支持这四个方法来支持
for
表达式。你也可以仅支持其中的一部分方法,从而部分的支持for
表达式。- 如果你的类型仅定义了
map
方法,则你可以对该类型的对象应用包含单个生成器的for
表达式。 - 如果你的类型同时定义了
map, flatMap
方法,则你可以对该类型的对象应用包含单个或者多个生成器的for
表达式。 - 如果你的类型仅定义了
foreach
方法,则你可以对该类型的对象应用for
循环(而不是表达式),此时可以支持单个生成器或者多个生成器。 - 如果你的类型定义了
withFilter
方法,则你可以对该类型的对象应用的for
循环或者for
表达式中存在if
过滤器。
- 如果你的类型仅定义了
for
表达式的翻译发生在类型检查之前。Scala
对于for
表达式本身没有规定任何类型规则,也不要求map,flatMap,withFilter,foreach
有任何特定的类型签名。如:
xxxxxxxxxx
abstract class C[A] { def map[B](f: A => B): C[B] def flatMap[B](f: A => C[B]): C[B] def withFilter(p: A => Boolean): C[A] def foreach(b: A=> Unit): Unit }在这里
withFilter
产出相同类的新集合,这意味着每次withFilter
调用都会创建新的C
对象,就跟filter
做的事情一样。如果
withFilter
创建的对象会被接下来某个方法再次解开,且C
对象很大(比如很长的一个字符串),则你可能希望避免创建这个中间对象。一个标准的做法是:让withFilter
不要返回C
的对象,而是返回一个“记住”这个元素需要被过滤的包装器,然后继续处理。
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论