数学基础
- 线性代数
- 概率论与随机过程
- 数值计算
- 蒙特卡洛方法与 MCMC 采样
- 机器学习方法概论
统计学习
深度学习
- 深度学习简介
- 深度前馈网络
- 反向传播算法
- 正则化
- 深度学习中的最优化问题
- 卷积神经网络
- CNN:图像分类
- 循环神经网络 RNN
- Transformer
- 一、Transformer [2017]
- 二、Universal Transformer [2018]
- 三、Transformer-XL [2019]
- 四、GPT1 [2018]
- 五、GPT2 [2019]
- 六、GPT3 [2020]
- 七、OPT [2022]
- 八、BERT [2018]
- 九、XLNet [2019]
- 十、RoBERTa [2019]
- 十一、ERNIE 1.0 [2019]
- 十二、ERNIE 2.0 [2019]
- 十三、ERNIE 3.0 [2021]
- 十四、ERNIE-Huawei [2019]
- 十五、MT-DNN [2019]
- 十六、BART [2019]
- 十七、mBART [2020]
- 十八、SpanBERT [2019]
- 十九、ALBERT [2019]
- 二十、UniLM [2019]
- 二十一、MASS [2019]
- 二十二、MacBERT [2019]
- 二十三、Fine-Tuning Language Models from Human Preferences [2019]
- 二十四 Learning to summarize from human feedback [2020]
- 二十五、InstructGPT [2022]
- 二十六、T5 [2020]
- 二十七、mT5 [2020]
- 二十八、ExT5 [2021]
- 二十九、Muppet [2021]
- 三十、Self-Attention with Relative Position Representations [2018]
- 三十一、USE [2018]
- 三十二、Sentence-BERT [2019]
- 三十三、SimCSE [2021]
- 三十四、BERT-Flow [2020]
- 三十五、BERT-Whitening [2021]
- 三十六、Comparing the Geometry of BERT, ELMo, and GPT-2 Embeddings [2019]
- 三十七、CERT [2020]
- 三十八、DeCLUTR [2020]
- 三十九、CLEAR [2020]
- 四十、ConSERT [2021]
- 四十一、Sentence-T5 [2021]
- 四十二、ULMFiT [2018]
- 四十三、Scaling Laws for Neural Language Models [2020]
- 四十四、Chinchilla [2022]
- 四十七、GLM-130B [2022]
- 四十八、GPT-NeoX-20B [2022]
- 四十九、Bloom [2022]
- 五十、PaLM [2022] (粗读)
- 五十一、PaLM2 [2023](粗读)
- 五十二、Self-Instruct [2022]
- 句子向量
- 词向量
- 传统CTR 预估模型
- CTR 预估模型
- 一、DSSM [2013]
- 二、FNN [2016]
- 三、PNN [2016]
- 四、DeepCrossing [2016]
- 五、Wide 和 Deep [2016]
- 六、DCN [2017]
- 七、DeepFM [2017]
- 八、NFM [2017]
- 九、AFM [2017]
- 十、xDeepFM [2018]
- 十一、ESMM [2018]
- 十二、DIN [2017]
- 十三、DIEN [2019]
- 十四、DSIN [2019]
- 十五、DICM [2017]
- 十六、DeepMCP [2019]
- 十七、MIMN [2019]
- 十八、DMR [2020]
- 十九、MiNet [2020]
- 二十、DSTN [2019]
- 二十一、BST [2019]
- 二十二、SIM [2020]
- 二十三、ESM2 [2019]
- 二十四、MV-DNN [2015]
- 二十五、CAN [2020]
- 二十六、AutoInt [2018]
- 二十七、Fi-GNN [2019]
- 二十八、FwFM [2018]
- 二十九、FM2 [2021]
- 三十、FiBiNET [2019]
- 三十一、AutoFIS [2020]
- 三十三、AFN [2020]
- 三十四、FGCNN [2019]
- 三十五、AutoCross [2019]
- 三十六、InterHAt [2020]
- 三十七、xDeepInt [2023]
- 三十九、AutoDis [2021]
- 四十、MDE [2020]
- 四十一、NIS [2020]
- 四十二、AutoEmb [2020]
- 四十三、AutoDim [2021]
- 四十四、PEP [2021]
- 四十五、DeepLight [2021]
- 图的表达
- 一、DeepWalk [2014]
- 二、LINE [2015]
- 三、GraRep [2015]
- 四、TADW [2015]
- 五、DNGR [2016]
- 六、Node2Vec [2016]
- 七、WALKLETS [2016]
- 八、SDNE [2016]
- 九、CANE [2017]
- 十、EOE [2017]
- 十一、metapath2vec [2017]
- 十二、GraphGAN [2018]
- 十三、struc2vec [2017]
- 十四、GraphWave [2018]
- 十五、NetMF [2017]
- 十六、NetSMF [2019]
- 十七、PTE [2015]
- 十八、HNE [2015]
- 十九、AANE [2017]
- 二十、LANE [2017]
- 二十一、MVE [2017]
- 二十二、PMNE [2017]
- 二十三、ANRL [2018]
- 二十四、DANE [2018]
- 二十五、HERec [2018]
- 二十六、GATNE [2019]
- 二十七、MNE [2018]
- 二十八、MVN2VEC [2018]
- 二十九、SNE [2018]
- 三十、ProNE [2019]
- Graph Embedding 综述
- 图神经网络
- 一、GNN [2009]
- 二、Spectral Networks 和 Deep Locally Connected Networks [2013]
- 三、Fast Localized Spectral Filtering On Graph [2016]
- 四、GCN [2016]
- 五、神经图指纹 [2015]
- 六、GGS-NN [2016]
- 七、PATCHY-SAN [2016]
- 八、GraphSAGE [2017]
- 九、GAT [2017]
- 十、R-GCN [2017]
- 十一、 AGCN [2018]
- 十二、FastGCN [2018]
- 十三、PinSage [2018]
- 十四、GCMC [2017]
- 十五、JK-Net [2018]
- 十六、PPNP [2018]
- 十七、VRGCN [2017]
- 十八、ClusterGCN [2019]
- 十九、LDS-GNN [2019]
- 二十、DIAL-GNN [2019]
- 二十一、HAN [2019]
- 二十二、HetGNN [2019]
- 二十三、HGT [2020]
- 二十四、GPT-GNN [2020]
- 二十五、Geom-GCN [2020]
- 二十六、Graph Network [2018]
- 二十七、GIN [2019]
- 二十八、MPNN [2017]
- 二十九、UniMP [2020]
- 三十、Correct and Smooth [2020]
- 三十一、LGCN [2018]
- 三十二、DGCNN [2018]
- 三十三、AS-GCN
- 三十四、DGI [2018]
- 三十五、DIFFPOLL [2018]
- 三十六、DCNN [2016]
- 三十七、IN [2016]
- 图神经网络 2
- 图神经网络 3
- 推荐算法(传统方法)
- 一、Tapestry [1992]
- 二、GroupLens [1994]
- 三、ItemBased CF [2001]
- 四、Amazon I-2-I CF [2003]
- 五、Slope One Rating-Based CF [2005]
- 六、Bipartite Network Projection [2007]
- 七、Implicit Feedback CF [2008]
- 八、PMF [2008]
- 九、SVD++ [2008]
- 十、MMMF 扩展 [2008]
- 十一、OCCF [2008]
- 十二、BPR [2009]
- 十三、MF for RS [2009]
- 十四、 Netflix BellKor Solution [2009]
- 推荐算法(神经网络方法 1)
- 一、MIND [2019](用于召回)
- 二、DNN For YouTube [2016]
- 三、Recommending What Video to Watch Next [2019]
- 四、ESAM [2020]
- 五、Facebook Embedding Based Retrieval [2020](用于检索)
- 六、Airbnb Search Ranking [2018]
- 七、MOBIUS [2019](用于召回)
- 八、TDM [2018](用于检索)
- 九、DR [2020](用于检索)
- 十、JTM [2019](用于检索)
- 十一、Pinterest Recommender System [2017]
- 十二、DLRM [2019]
- 十三、Applying Deep Learning To Airbnb Search [2018]
- 十四、Improving Deep Learning For Airbnb Search [2020]
- 十五、HOP-Rec [2018]
- 十六、NCF [2017]
- 十七、NGCF [2019]
- 十八、LightGCN [2020]
- 十九、Sampling-Bias-Corrected Neural Modeling [2019](检索)
- 二十、EGES [2018](Matching 阶段)
- 二十一、SDM [2019](Matching 阶段)
- 二十二、COLD [2020 ] (Pre-Ranking 模型)
- 二十三、ComiRec [2020](https://www.wenjiangs.com/doc/0b4e1736-ac78)
- 二十四、EdgeRec [2020]
- 二十五、DPSR [2020](检索)
- 二十六、PDN [2021](mathcing)
- 二十七、时空周期兴趣学习网络ST-PIL [2021]
- 推荐算法之序列推荐
- 一、FPMC [2010]
- 二、GRU4Rec [2015]
- 三、HRM [2015]
- 四、DREAM [2016]
- 五、Improved GRU4Rec [2016]
- 六、NARM [2017]
- 七、HRNN [2017]
- 八、RRN [2017]
- 九、Caser [2018]
- 十、p-RNN [2016]
- 十一、GRU4Rec Top-k Gains [2018]
- 十二、SASRec [2018]
- 十三、RUM [2018]
- 十四、SHAN [2018]
- 十五、Phased LSTM [2016]
- 十六、Time-LSTM [2017]
- 十七、STAMP [2018]
- 十八、Latent Cross [2018]
- 十九、CSRM [2019]
- 二十、SR-GNN [2019]
- 二十一、GC-SAN [2019]
- 二十二、BERT4Rec [2019]
- 二十三、MCPRN [2019]
- 二十四、RepeatNet [2019]
- 二十五、LINet(2019)
- 二十六、NextItNet [2019]
- 二十七、GCE-GNN [2020]
- 二十八、LESSR [2020]
- 二十九、HyperRec [2020]
- 三十、DHCN [2021]
- 三十一、TiSASRec [2020]
- 推荐算法(综述)
- 多任务学习
- 系统架构
- 实践方法论
- 深度强化学习 1
- 自动代码生成
工具
- CRF
- lightgbm
- xgboost
- scikit-learn
- spark
- numpy
- matplotlib
- pandas
- huggingface_transformer
- 一、Tokenizer
- 二、Datasets
- 三、Model
- 四、Trainer
- 五、Evaluator
- 六、Pipeline
- 七、Accelerate
- 八、Autoclass
- 九、应用
- 十、Gradio
Scala
- 环境搭建
- 基础知识
- 函数
- 类
- 样例类和模式匹配
- 测试和注解
- 集合 collection(一)
- 集合collection(二)
- 集成 Java
- 并发
一、视图
集合有相当多的方法来构造新的集合,如
map/filter/++
等。我们称这些方法为变换器transformer
,因为它们至少接受一个集合作为参数,并产生另一个集合作为结果。变换器有两种主要的实现方式:
- 严格的
transformer
:构造出带有所有元素的新集合。 - 非严格的
transformer
(或者惰性的):只是构造出结果集合的一个代理,结果集合的元素会根据需要来构造。
考虑如下的一个惰性
map
:def lazyMap[T, U](iter : Iterable[T], f : T => U) = new Iterable[U]{ def iterator = iter.iterator map f }
该方法将给定的集合
iter
通过f
函数映射到一个新集合。lazyMap
在构造新的Iterable
时并没有遍历给定集合iter
的所有元素,而是返回一个iterator
。只有在需要iterator
元素的时候才去迭代。- 严格的
有一种系统化的方式可以将每个集合转换成惰性的版本,或者将惰性版本转换成非惰性版本。这个方式的基础是视图
view
。视图是一种特殊的集合,它代表了某个基础集合,但是采用惰性的方式实现了所有的变换器。
要想从集合得到它的视图,可以对集合采用
view
方法。如果xs
是一个集合,则xs.view
就是同一个集合、但是所有变换器都是按惰性的方式来实现的。xxxxxxxxxx
val v = Vector(1 to 10 : _*) v.map(_ +1).map( _ * 2)这里有两个连续的
map
操作,第一个map
会构造出一个新的向量,然后第二个map
会构造出第三个向量。因此,第一个map
构造出来的中间向量有些浪费。可以通过将两个函数
_ + 1
和_ * 2
整成一个函数,从而只需要一个map
就可以。但是通常情况下,对一个集合的连续变化发生在不同的函数或者模块中,将这些变换整合在一起会破坏模块化设计。此时,使用视图就是最好的方法:
xxxxxxxxxx
v.view.map( _ + 1).map(_ * 2).force首先通过集合的
.view
方法将集合转换为视图,然后进行一系列的惰性变换,最后通过视图的.force
方法将视图转换回集合。进一步拆解:
v.view
:该调用得到一个SeqView
对象,即一个惰性求值的Seq
。该类型有两个类型参数:第一个类型参数Int
给出了该视图的元素类型;第二个类型参数Vector[Int]
给出了当你force
该视图时将取回的类型构造器。xxxxxxxxxx
val v = Vector(1 to 10 : _*) val vv = v.view // SeqView[Int, Vector[Int]]vv.map( _ + 1)
返回一个SeqViewM(...)
的值。这本质上是一个记录了一个带有函数( _ + 1)
的map
操作需要被应用到向量v
的包装器。但是,它并不会在force
操作之前应用这个map
操作。SeqViewM
后面的M
表示该视图封装了一个map
操作,还有其它字母表示其它惰性操作。如S
表示惰性的slice
操作,R
表示惰性的reverse
操作。vv.map( _ + 1).map( _ * 2)
返回一个SeqViewMM(...)
的值。这里MM
表示封装了两个map
操作。最后的
force
操作,两个惰性的map
操作会被执行,同时构造了新的Vector
。通过这种方式,我们避免了创建中间数据结构。注意一个细节:最终结果的静态类型是
Seq
,而不是Vector
。这是因为第一次惰性map
应用时,结果的静态类型为SeqViewM[Int, Seq[_]]
。也就是类型系统丢失了视图背后的Vector
类型的信息。对任何特定类的视图的实现都需要大量的代码开发,因此Scala
集合类库几乎只对一般化的集合类型而不是具体的实现提供了视图支持(Array
是个例外,对Array
操作的惰性操作会得到Array
本身)。xxxxxxxxxx
val v = Vector(1 to 10 : _*) val vv = v.view // 结果类型 SeqView[Int, Vector[Int]] val m1 = vv.map( _ + 1) // 结果类型 SeqViewM[Int, Seq[_]] val m2 = m1.map( _ * 2) // 结果类型 SeqViewMM[Int, Seq[_]] val v2 = m2.force // 结果类型 Seq[Int]
采用视图有两个原因:
首先是性能。通过将集合切换成视图,可以避免中间结果的产生。这些节约下来的开销可能非常重要。
其次是针对可变序列。这类视图的很多变换器提供了对原始序列的一个窗口,可以用于有选择的对序列中的某些原始进行更新。
如:
xxxxxxxxxx
val arr = (0 to 9).toArray可以通过创建该数组的一个切片的视图来创建到该数组的子窗口,它返回一个叫做
IndexedSeqViewS(...)
的对象:xxxxxxxxxx
val subArr = arr.view.slice(3, 6) // 返回一个 IndexedSeqView[Int, Array[Int]] 类型对象现在视图
subArr
指向arr
数组位置中3
到5
的元素。该视图并不会复制这些元素,它只是提供了对它们的引用。注意,这是一个mutable.IndexedSeqView
。最后我们可以原地修改序列中的某些元素:
xxxxxxxxxx
def negate(xs: scala.collection.mutable.Seq[Int]) = { for (i <- 0 until xs.length) xs(i) = - xs(i) } negate(subArr) arr// 现在为 Array(0, 1, 2, -3, -4, -5, 6, 7, 8, 9)
既然视图具有如此多的优点,为什么还需要严格求值的集合?有两个原因:
惰性求值的视图并不是始终性能最优。对于小型集合而言,组织视图和应用闭包的额外开销通常会大于省略中间数据结构的收益。
惰性求值可能带来副作用。比如:
xxxxxxxxxx
val arr = (0 to 9).toArray val v = arr.view .... //经过了很多步之后 v.map( x => do_with(x))我们发现
do_with(x)
并没有真正的执行,这是因为map
的结果是视图,元素并未真正创建。如果我们对map
的结果调用.force
,do_with
就能执行。也就是do_with
执行的时刻由force
来决定,这看起来比较奇怪。
Scala
类库从2.8
开始规定:除了流之外的所有集合都是严格求值的;从严格求值的集合到惰性求值的集合的唯一方式是通过view
方法;从惰性求值集合到严格求值集合的唯一方式是通过force
方法。为了避免被延迟求值的各种细节困扰,应该将视图的使用局限在两种场景:
- 要么在集合变换没有副作用的纯函数式的代码中应用视图。
- 要么对所有修改都应用显式执行的可变集合应用视图。
最好避免在既创建新集合、又有副作用的场景混合视图和各种集合操作。
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论