Question

1. 大多数推荐系统根据用户的一般偏好 general preference 来推荐 item，但是没有关注用户最近交互的 item 。例如，一些用户总是更喜欢苹果的产品（而不是三星的产品），这反应了用户的一般偏好。一般偏好代表用户的长期long term的、静态static的行为。

   另一种类型的用户行为是序列模式 sequential pattern，其中 next item 或者 next action 更可能取决于用户最近互动的 item 或 action 。序列模式代表了用户的短期short term的、动态dynamic的行为。序列模式源自在相近时间内互动的 item 之间的某种关系 relationship 。例如，用户可能会在购买 iPhone 之后不久购买手机配件，但是通常而言用户是不会突然购买手机配件的（没有人会对手机配件产生长期兴趣）。在这种情况下，仅考虑一般偏好的推荐系统将错过在销售 iPhone 之后向用户推荐手机配件的机会，因为购买手机配件不是长期的用户行为。

2. top-N 序列推荐 Sequential Recommendation：令用户集合$\mathcal{U}=\{u_1,\cdots ,u_{|\mathcal{U}|}\}$$ \mathcal U=\{u_1,\cdots,u_{|\mathcal U|}\} $ 以及 item 集合$\mathcal{I}=\{i_1,\cdots ,i_{|\mathcal{I}|}\}$$ \mathcal I=\{i_1,\cdots,i_{|\mathcal I|}\} $ ，每个用户$u$$ u $ 关联一个 item 序列，记做${\mathcal{S}}^u=\{S_1^u,\cdots ,S_{|{\mathcal{S}}^u|}^u\},S_t^u\in \mathcal{I}$$ \mathcal S^u=\left\{S^u_1,\cdots,S^u_{|\mathcal S^u|}\right\}, S_t^u\in \mathcal I $ ，$S_t^u$$ S_t^u $ 的下标$t$$ t $ 代表该 item 在用户行为序列${\mathcal{S}}^u$$ \mathcal S^u $ 中发生交互的次序 order 。注意，$t$$ t $ 并不是代表发生交互的绝对时间戳absolute timestamp 。

   给定所有用户的行为序列$\mathcal{S}={\left\{{\mathcal{S}}^u\right\}}_{u\in \mathcal{U}}$$ \mathcal S = \left\{\mathcal S^u\right\}_{u\in \mathcal U} $ ，top-N 序列推荐的目标是：通过考虑一般偏好和序列模式，向每个用户推荐一个 item list ，从而最大化用户的未来需求 future need 。

   与传统的 top-N 推荐不同，top-N 序列推荐将用户行为建模为 item 的序列sequence，而不是 item 的集合 set （序列是有序的，集合是无序的）。

3. 先前工作的局限性：基于马尔科夫链的模型是一种早期的 top-N 序列推荐方法，其中$L$$ L $ 阶马尔科夫链根据先前的$L$$ L $ 个 action 进行推荐。

   • 一阶马尔科夫链使用最大似然估计maximum likelihood estimation来学习 item-to-item 的转移矩阵 transition matrix 。
   • Factorized personalized Markov chain: FPMC 及其变体通过将转移矩阵分解为两个潜在latent 的、低秩low-rank的子矩阵来改进该方法。
   • Factorized Sequential Prediction with Item Similarity Models: Fossil 通过对先前的 item 的 latent representation 进行加权的 sum 聚合，从而将该方法推广到高阶马尔科夫链。

   但是，现有方法受到两个主要限制：

   • 无法建模 union-level 的序列模式。如下图 (a) 所示，马尔科夫链仅建模 point-level 序列模式，其中每个先前的 action （蓝色）独自地individually （而不是协同地collectively）影响 target action （黄色）。

     FPMC 和 Fossil 就属于 point-level 序列模式。尽管 Fossil 考虑了一个高阶马尔科夫链，但是它的总体影响 overall influence 是：从一阶马尔科夫转移矩阵分解的、先前的 item latent representation 的加权和。这种 point-level 影响不足以建模下图 (b) 中的 union-level 影响，其中若干个先前的 action 以给定的顺序共同影响 target action 。例如，同时购买牛奶和黄油之后再购买面粉的概率，要比单独购买牛奶（或者单独购买黄油）之后再购买面粉的概率更高。再例如，同时购买内存和硬盘之后再购买操作系统的概率，要比单独购买其中一个配件之后再购买操作系统的概率更高。

     假设同时购买牛奶和黄油之后再购买面粉的概率为$p_0$$ p_0 $ ，单独购买牛奶之后再购买面粉的概率为$p_1$$ p_1 $ ，单独购买黄油之后再购买面粉的概率为$p_2$$ p_2 $ 。假设加权的权重为${\alpha }_1,{\alpha }_2$$ \alpha_1,\alpha_2 $ 且满足$0.0\le {\alpha }_1,{\alpha }_2\le 1.0$$ 0.0\le \alpha_1,\alpha_2\le 1.0 $ 以及${\alpha }_1+{\alpha }_2=1.0$$ \alpha_1+\alpha_2 = 1.0 $ 。假设采用 point-level 的加权和的形式，则有：

     $$p_0={\alpha }_1\times p_1+{\alpha }_2\times p_2,min(p_1,p_2)\le p_0\le max(p_1,p_2)$$

     一种缓解方案是调整加权的权重范围，如选择${\alpha }_1=1.0,{\alpha }_2=1.0$$ \alpha_1=1.0,\alpha_2=1.0 $ 。

   • 不允许 skip 行为behavior。现有模型不考虑 skip 行为的序列模式，如下图 (c) 所示，其中过去的行为可能会 skip 几个 step 之后仍然产生影响。例如，游客在机场、酒店、餐厅、酒吧以及景点依次进行 check-ins。虽然机场check-ins 和酒店 check-ins 并不是景点 check-ins 的直接前驱，但是它们也与景点 check-ins 密切相关。另一方面，餐厅check-ins 和酒吧 check-ins 对景点 check-ins 的影响很小（因为到访景点之前不一定需要到访餐厅或到访酒吧，但是几乎一定意味着到访机场和酒店）。$L$$ L $ 阶马尔科夫链没有显式地建模这种 skip 行为，因为它假设前面的$L$$ L $ 个 step 对紧接的 next step 有影响。

   

   为了提供关于 union-level 影响以及 skip 行为的证据，论文《Personalized Top-N Sequential Recommendation via Convolutional Sequence Embedding》从两个现实生活数据集 MovieLens 和 Gowalla 中挖掘了以下形式的序列关联规则sequential association rule ：

   $$(S_{t-L}^u,\cdots ,S_{t-2}^u,S_{t-1}^u)\to S_t^u$$

   对于上述形式的规则$X\to Y$$ X\rightarrow Y $ ，支持度统计 support count$\text{sup}(XY)$$ \text{sup}(XY) $ 是$X$$ X $ 和$Y$$ Y $ 按照规则顺序出现的序列的数量。置信度 confidence$\frac{\text{sup}(XY)}{\text{sup}(X)}$$ \frac{\text{sup}(XY)}{\text{sup}(X)} $ 是在$X$$ X $ 出现的序列中，$X$$ X $ 之后跟随着$Y$$ Y $ 的序列的占比。该规则表示$X$$ X $ 中所有 item 对于$Y$$ Y $ 的联合影响。

   通过将右侧调整为$S_{t+1}^u$$ S^u_{t+1} $ 或$S_{t+2}^u$$ S_{t+2}^u $ ，该规则还可以进一步捕获 skip 1 step或者 skip 2 step 的影响。

   下图总结了找到的有效规则数量（过滤掉无效的规则）与马尔科夫阶次$L$$ L $ 、以及 skip 步数的关系。过滤条件为：支持度 >= 5、置信度 >= 50% （作者还尝试了最小置信度为 10%, 20%, 30%，但是这些趋势是相似的）。可以看到：

   • 大多数规则的阶次为$L=2$$ L=2 $ 和$L=3$$ L=3 $ ，并且$L$$ L $ 越大则规则的置信度越高。

     可以看到$L=1$$ L=1 $ 阶的规则数量最少，主要是因为大量的$L=1$$ L=1 $ 阶的规则被置信度所过滤。$L=1$$ L=1 $ 阶的规则就是 point-level 规则，$L>1$$ L\gt 1 $ 阶的规则就是 union-level 规则。

   • 该图还表明，相当多的规则是 skip 一步或两步的。

   这些发现支持 union-level 以及 skip 行为的影响。

   注意，这里并不意味着$L=1$$ L=1 $ 阶的规则不重要。下图的一个迷惑之处在于：它仅保留置信度 >= 50% 的规则。通常而言，$L=1$$ L=1 $ 阶的规则噪音更大（即置信度更低），因此绝大多数$L=1$$ L=1 $ 阶的规则被置信度阈值所过滤掉。但是，即使$L=1$$ L=1 $ 阶的规则包含更少的有效信息，考虑到庞大的数量（过滤前的），$L=1$$ L=1 $ 阶的规则也是相当重要的。

   因此下图仅能说明 union-level 和 skip 行为比较重要，但是并不能说明 point-level 行为不重要，更不能说明 union-level 和 skip 行为比 point-level 行为更重要。事实上，在现实世界的数据集中，point-level 行为才是占据统治地位。

   从论文后面的实验部分（Caser 组件分析）也能验证这一点：point-level 行为比 union-level 行为更重要。

   

4. 为了解决现有工作的上述限制，论文《Personalized Top-N Sequential Recommendation via Convolutional Sequence Embedding》提出了一个 ConvolutionAl Sequence Embedding Recommendation Model: Caser 模型 作为 top-N 序列推荐的解决方案。Caser利用卷积神经网络，其创新之处在于：将前面$L$$ L $ 个 item 表示为一个embedding 矩阵$\mathbf{E}\in {\mathbb{R}}^{L\times d}$$ \mathbf E\in \mathbb R^{L\times d} $ ，其中$d$$ d $ 为embedding的维度，并且矩阵的行保留了 item 之间的次序order 。论文将这个 embedding 矩阵视为潜在空间中由$L$$ L $ 个 item 构成的 image ，并使用各种卷积 filter 来搜索序列模式从而作为该 image 的局部特征。然而，与图像识别不同的是，这个 image 并不是通过input 直接给出的，而是必须与所有 filter 同时学习。

   论文主要贡献：

   • Caser 使用水平卷积filter和垂直卷积filter 来捕获 point-level、union-level 、以及skip 行为的序列模式。
   • Caser 同时建模一般偏好以及序列模式，并在单个统一框架中概括了几种现有的 state-of-the-art 方法。
   • 在现实生活的数据集上，Caser 优于 state-of-the-art 的 top-N 序列推荐方法。

5. 相关工作：

   • 传统的推荐方法，如协同过滤、矩阵分解、以及 top-N 推荐，都不适合捕获序列模式，因为它们没有建模 action 的顺序。

     序列模式挖掘的早期工作基于统计共现来找到显式的序列关联规则 sequential association rule 。这种方法依赖于模式的显式表示explicit representation，因此可能会错过未观察到的状态unobserved state 下的模式。此外，这种方法还存在：过大的搜索空间、阈值设置的敏感性（置信度阈值）、大量的规则（大多数规则是冗余的）等等问题。

     observed state 下的模式指的是训练数据中已经观察到的序列模式，unobserved state 下的模式指的是所有可能的序列模式。

   • 受限玻尔兹曼机Restricted Bolzmann Machine: RBM 是首个成功应用于推荐问题的 2 层神经网络。自编码器autoencoder框架及其变体降噪自编码器denoising autoencoder 也产生了良好的推荐性能。卷积神经网络已用于从用户的评论中提取用户的偏好。这些工作都不是用于序列推荐的。

   • 循环神经网络 RNN 已被用于 session-based 推荐。虽然 RNN 在序列建模方面已展示出卓越的能力，但是其顺序地连接的网络结构在序列推荐setting 下可能无法正常工作。因为在序列推荐的问题中，并非所有相邻的 action 都有依赖关系，例如，用户在购买 item$i_1$$ i_1 $ 之后购买了 item1$i_2$$ i_2 $ 仅仅是因为用户喜欢$i_2$$ i_2 $ （而不是因为$i_2$$ i_2 $ 和$i_1$$ i_1 $ 之间存在依赖关系）。我们将在实验部分验证这一点：当数据集中包含相当多的序列模式时，RNN-based 方法表现更好。

     这也意味着，如果数据集中包含的序列模式较少，那么 RNN-based 方法的表现会很差。所以应用 RNN-based 方法之前首先需要评估数据集中序列模式的占比。

     然而我们提出的方法没有将序列模式建模为邻接adjacent 的 action，我们的方法采用了来自 CNN 的卷积 filter ，并将序列模式建模为先前$L$$ L $ 个 item 的 embedding 的局部特征 local feature 。这种方法在单个统一框架中提供了灵活性，从而同时建模 point-level 序列模式、 union-level 建模序列模式、以及 skip 行为。事实上，我们将展示 Caser 概括了几种 state-of-the-art 方法。

   • 一个相关的、但是不同的问题是时间推荐 temporal recommendation，例如应该在早晨而不是在晚上推荐咖啡。而我们的 top-N 序列推荐会在用户购买 iPhone 后不久推荐手机配件，这与时间无关。显然，这两个问题是不同的，需要不同的解决方案。

9.1 模型

1. 我们提出的 ConvolutionAl Sequence Embedding Recommendation: Caser 模型结合了卷积神经网络 Convolutional Neural Network: CNN 来学习序列特征、以及 Latent Factor Model: LFM 来学习 user specific 特征。Caser 网络设计的目标是多方面的：同时捕获一般偏好以及序列模式、同时在 union-level 和 point-level 进行捕获、捕获 skip 行为、所有一切都在 unobserved space 中进行。

   如下图所示，Caser 由三个组件构成：Embedding Look-up、Convolutional Layers、Fully-connected Layers。为了训练 CNN，对于每个用户$u$$ u $ ，我们从用户的action序列${\mathcal{S}}^u$$ \mathcal S^u $ 中提取每$L$$ L $ 个连续的 item 作为输入，并将它们的 next T items 作为 target （如下图左侧所示）。这是通过在用户的 action 序列上滑动一个大小为$L+T$$ L+T $ 的窗口来完成的。每个窗口为用户$u$$ u $ 生成一个训练实例，该实例以三元组 (u, previous L items, next T items) 来表示。

   

9.1.1 Embedding Look-up

1. Caser 通过将前面$L$$ L $ 个 item 的 embedding 馈入神经网络中来捕获潜在空间中的序列特征。item$i$$ i $ 的 embedding${\overrightarrow{\mathbf{e}}}_i\in {\mathbb{R}}^d$$ \mathbf{\vec e}_i\in \mathbb R^d $ 是类似于 latent factor 的概念，这里$d$$ d $ 为 embedding 维度。embedding look-up 操作检索前面$L$$ L $ 个 item 对应的 item embedding，并将它们拼接在一起，从而为用户$u$$ u $ 生成在 time step$t$$ t $ 的embedding matrix${\mathbf{E}}^{(u,t)}\in {\mathbb{R}}^{L\times d}$$ \mathbf E^{(u,t)}\in \mathbb R^{L\times d} $ ：

   $$\begin{array}{c}{\mathbf{E}}^{(u,t)}=\left[\begin{array}{c}{\overrightarrow{\mathbf{e}}}_{S_{t-L}^u}^{\mathrm{\top }}\\ ⋮\\ {\overrightarrow{\mathbf{e}}}_{S_{t-2}^u}^{\mathrm{\top }}\\ {\overrightarrow{\mathbf{e}}}_{S_{t-1}^u}^{\mathrm{\top }}\end{array}\right]\in {\mathbb{R}}^{L\times d}\end{array}$$

   ${\mathbf{E}}^{(u,t)}$$ \mathbf E^{(u,t)} $ 的第$l$$ l $ 行代表这$L$$ L $ 个 item 中的第$l$$ l $ 个 item 的 embedding 。

   除了 item embedding 之外，我们还为用户$u$$ u $ 提供了一个 embedding 向量${\overrightarrow{\mathbf{P}}}_u\in {\mathbb{R}}^d$$ \mathbf{\vec P}_u\in \mathbb R^d $ ，它表示潜在空间中的 user feature。item embedding 和 user embedding 分别由上图中 Embedding Look-up 方框中的蓝色圆圈和紫色圆圈来表示。

9.1.2 卷积层

1. 参考在文本分类中使用 CNN 的思想，我们的方法将 embedding 矩阵$\mathbf{E}\in {\mathbb{R}}^{L\times d}$$ \mathbf E\in \mathbb R^{L\times d} $ 视为潜在空间中由前面$L$$ L $ 个 item 组成的 image ，并将序列模式视为该 image 的局部特征。这种方法可以使用卷积 filter 来搜索序列模式。

   下图展示了两个 horizontal filter （不同颜色的方块代表不同的参数值，颜色越深则数值越大），它们捕获两个 union-level 的序列模式。这些 filter（表示为$h\times d$$ h\times d $ 的矩阵），高度为$h=2$$ h=2 $ ，宽度$d$$ d $ 等于 embedding 维度（称作 full width）。它们通过在$\mathbf{E}$$ \mathbf E $ 的行row 上滑动从而筛选序列模式的信号。例如，第一个 filter 通过在潜在维度中具有更大的值（其中酒店和机场具有更大的值）来选择序列模式 (Airport, Hotel) -> Great Wall。

   Latent Space 给出的是 embedding 矩阵，颜色越深则数值越大。Horizontal FIlters 给出的是 filter 矩阵，颜色越深则数值越大。第一个 filter 主要捕获前面3 个维度（filter 末尾2 个维度的取值几乎为零），而 Airport 和 Hotel 的 embedding 在前面3 个维度取值较大、末尾 2 个维度取值几乎为零。

   

   类似地，vertical filter 是一个$L\times 1$$ L\times 1 $ 的矩阵，将在$\mathbf{E}$$ \mathbf E $ 的列上滑动。更多细节将在后面解释。

   与图像识别不同，这里的 image$\mathbf{E}$$ \mathbf E $ 并不是直接提供，因为所有 item$i$$ i $ 的 embedding 向量${\overrightarrow{\mathbf{e}}}_i$$ \mathbf{\vec e}_i $ 必须与所有 filter 一起同时学习。

2. 水平卷积层Horizontal Convolutional Layer：该层有$K$$ K $ 个 horizontal filter${\mathbf{F}}^{(k)}\in {\mathbb{R}}^{h\times d},1\le k\le n$$ \mathbf F^{(k)}\in \mathbb R^{h\times d},1\le k\le n $ ，$h\in \{1,\cdots ,L\}$$ h\in \{1,\cdots,L\} $ 为filter 的高度。例如，如果$L=4$$ L=4 $ ，首先可以选择$K=8$$ K=8 $ 个 filter，然后可以选择$h\in \{1,2,3,4\}$$ h\in \{1,2,3,4\} $ 。

   ${\mathbf{F}}^{(k)}$$ \mathbf F^{(k)} $ 将在$\mathbf{E}$$ \mathbf E $ 上从上到下滑动，并且与$\mathbf{E}$$ \mathbf E $ 的所有水平维度horizontal dimension （每个水平的行表示一个 item 的 embedding ）交互。第$i$$ i $ 次交互的结果得到第$i$$ i $ 个卷积值：

   $$c_i^{(k)}={\varphi }_c({\mathbf{E}}_{i:i+h-1}\odot {\mathbf{F}}^{(k)})$$

   其中：$\odot$$ \odot $ 表示内积算子inner product operator，${\varphi }_c(\cdot )$$ \phi_c(\cdot) $ 为卷积层的激活函数，第$i$$ i $ 次交互覆盖了第$i$$ i $ 个 item 到第$i+h-1$$ i+h-1 $ 个 item 的 embedding 。

   卷积值是${\mathbf{F}}^{(k)}$$ \mathbf F^{(k)} $ 与$\mathbf{E}$$ \mathbf E $ 的子矩阵${\mathbf{E}}_{i:i+h-1}$$ \mathbf E_{i:i+h-1} $ （这个子矩阵是由$\mathbf{E}$$ \mathbf E $ 的第$i$$ i $ 行到第$i-h+1$$ i-h+1 $ 行构成）的内积。${\mathbf{F}}^{(k)}$$ \mathbf F^{(k)} $ 的最终卷积结果是向量：

   $${\overrightarrow{\mathbf{c}}}^{(k)}=[c_1^{(k)},c_2^{(k)},\cdots ,c_{L-h+1}^{(k)}]\in {\mathbb{R}}^L$$

   然后我们对${\overrightarrow{\mathbf{c}}}^{(k)}$$ \mathbf{\vec c}^{(k)} $ 应用最大池化max pooling操作，从而从该特定 filter 产生的所有卷积值中提取最大值。这个最大值捕获了 filter 抽取的最重要的特征。因此，对于卷积层的$K$$ K $ 个 filter，它们最终总的输出为$\overrightarrow{\mathbf{o}}\in {\mathbb{R}}^K$$ \mathbf{\vec o}\in \mathbb R^K $ ：

   $$\overrightarrow{\mathbf{o}}=[max\left({\overrightarrow{\mathbf{c}}}^{(1)}\right),max\left({\overrightarrow{\mathbf{c}}}^{(2)}\right),\cdots ,max\left({\overrightarrow{\mathbf{c}}}^{(K)}\right)]\in {\mathbb{R}}^K$$

   horizontal filter 通过 embedding$\mathbf{E}$$ \mathbf E $ 从而与每连续的$h$$ h $ 个 item 交互。模型同时学习 embedding 和 filter 从而最小化目标函数，这个目标函数编码了 target item 的预测误差prediction error。

   通过滑动不同高度的 filter，模型将会接收到重要的信号，无论这些信号处在什么位置。因此，可以训练 horizontal filter 从而捕获具有多种 union size 的 union-level 序列模式。

   这$K$$ K $ 个 filter 可以采用不同的高度，因此这些 filter 的$h$$ h $ 是很重要的超参数。

3. 垂直卷积层Vertical Convolutional Layer：我们用 tilde 符号$\sim$$ \sim $ 来表示垂直卷积层。假设垂直卷积层有$\tilde{K}$$ \tilde K $ 个 filter${\tilde{\mathbf{F}}}^{(k)}\in {\mathbb{R}}^{L\times 1},1\le k\le \tilde{K}$$ \tilde{\mathbf F}^{(k)}\in \mathbb R^{L\times 1}, 1\le k\le \tilde K $ 。每个 filter${\tilde{\mathbf{F}}}^{(k)}$$ \tilde{\mathbf F}^{(k)} $ 通过在$\mathbf{E}$$ \mathbf E $ 上从左到右滑动$d$$ d $ 次从而与$\mathbf{E}$$ \mathbf E $ 的列交互，最终产生垂直卷积结果${\widetilde{\overrightarrow{\mathbf{c}}}}^{(k)}$$ \tilde{\mathbf{\vec c}}^{(k)} $ ：

   $$\begin{array}{c}{\tilde{c}}_j^{(k)}={\mathbf{E}}_{:,j}\odot {\tilde{\mathbf{F}}}^{(k)}\\ {\widetilde{\overrightarrow{\mathbf{c}}}}^{(k)}=[{\tilde{c}}_1^{(k)},c_2^{(k)},\cdots ,c_d^{(k)}]\in {\mathbb{R}}^d\end{array}$$

   其中：$\odot$$ \odot $ 表示内积算子inner product operator，${\mathbf{E}}_{:,j}\in {\mathbb{R}}^L$$ \mathbf E_{:,j}\in \mathbb R^L $ 表示$\mathbf{E}$$ \mathbf E $ 的第$j$$ j $ 列。

   由于内积算子的性质，可以很容易地证明：${\widetilde{\overrightarrow{\mathbf{c}}}}^{(k)}$$ \tilde{\mathbf{\vec c}}^{(k)} $ 等于$\mathbf{E}$$ \mathbf E $ 各行的加权和，权重为${\tilde{F}}_i^{(k)}$$ \tilde F^{(k)}_i $ ，即：

   $${\tilde{\mathbf{c}}}^{(k)}=\sum _{i=1}^L{\tilde{F}}_i^{(k)}\times {\overrightarrow{\mathbf{e}}}_i\in {\mathbb{R}}^d$$

   其中${\overrightarrow{\mathbf{e}}}_i\in {\mathbb{R}}^d$$ \mathbf{\vec e}_i\in \mathbb R^d $ 为$\mathbf{E}$$ \mathbf E $ 的第$i$$ i $ 行，代表第$i$$ i $ 个 item 的 embedding 。因此，通过 vertical filter 我们可以学习聚合前面$L$$ L $ 个 item 的 embedding，类似于 Fossil 的加权 sum 来聚合前面$L$$ L $ 个 item 的 latent representation 。不同之处在于每个 filter${\tilde{\mathbf{F}}}^{(k)}$$ \tilde{\mathbf F}^{(k)} $ 扮演了不同的聚合器。因此，与 Fossil 类似，这些 vertical filter 通过对前面 item 的 latent representation 的加权和来捕获 point-level 序列模式。然而 Fossile 对每个用户使用a single weighted sum ，我们的方法使用$\tilde{K}$$ \tilde K $ 个全局 vertical filter 为所有用户生成$\tilde{K}$$ \tilde K $ 个加权和$\widetilde{\overrightarrow{\mathbf{o}}}\in {\mathbb{R}}^{(d\tilde{K})}$$ \tilde{\mathbf{\vec o}}\in \mathbb R^{(d\tilde K)} $ ：

   $$\widetilde{\overrightarrow{\mathbf{o}}}=[{\widetilde{\overrightarrow{\mathbf{c}}}}^{(1)}||{\widetilde{\overrightarrow{\mathbf{c}}}}^{(2)}||\cdots ||{\widetilde{\overrightarrow{\mathbf{c}}}}^{(\tilde{K})}]\in {\mathbb{R}}^{(d\tilde{K})}$$

   其中$\cdot ||\cdot$$ \cdot||\cdot $ 表示向量拼接（因此$\widetilde{\overrightarrow{\mathbf{o}}}$$ \tilde{\mathbf{\vec o}} $ 向量的长度为$d\tilde{K}$$ d\tilde K $ ）。

   注：

   • 原始论文中，垂直卷积层没有使用激活函数，理论上也可以添加激活函数。
   • 垂直卷积层并没有使用最大池化，而是直接将不同 filter 产生的卷积结果进行拼接。

   虽然 vertical filter 和 horizontal filter 的用途都是聚合，但是二者稍有不同：

   • 每个 vertical filter 的尺寸固定为$L\times 1$$ L\times 1 $ （而不是$L\times s$$ L\times s $ ，$s>1$$ s\gt 1 $ 为宽度）。这是因为$\mathbf{E}$$ \mathbf E $ 的每一列对我们来说都是潜在latent 的，单次与多个连续的列进行交互是没有意义的。
   • 不需要对垂直卷积的结果应用最大池化操作，因为我们希望对每个潜在维度 latent dimension 保留聚合结果。

9.1.3 全连接层

1. 我们将两个卷积层的输出拼接起来，并将它们馈入一个全连接层，从而获得更 high-level、更抽象的特征：

   $$\overrightarrow{\mathbf{z}}={\varphi }_a(\mathbf{W}[\overrightarrow{\mathbf{o}}||\widetilde{\overrightarrow{\mathbf{o}}}]+\overrightarrow{\mathbf{b}})\in {\mathbb{R}}^d$$

   其中：$\cdot ||\cdot$$ \cdot||\cdot $ 表示向量拼接，$\mathbf{W}\in {\mathbb{R}}^{d\times (K+d\tilde{K})}$$ \mathbf W\in \mathbb R^{d\times (K+ d\tilde K)} $ 为待学习的投影矩阵（将被拼接的向量投影到一个$d$$ d $ 维的潜在空间），$\overrightarrow{\mathbf{b}}\in {\mathbb{R}}^d$$ \mathbf{\vec b}\in \mathbb R^d $ 为对应的 bias 向量，${\varphi }_a(\cdot )$$ \phi_a(\cdot) $ 为全连接层的激活函数。

   $\overrightarrow{\mathbf{z}}\in {\mathbb{R}}^d$$ \mathbf{\vec z}\in \mathbb R^d $ 也就是我们所说的 convolutional sequence embedding ，它对前面$L$$ L $ 个 item 的各种序列特征进行编码。

2. 为了捕获用户的一般偏好，我们还 look-up 了 user embedding${\overrightarrow{\mathbf{P}}}_u$$ \mathbf{\vec P}_u $ ，并将它与$\overrightarrow{\mathbf{z}}$$ \mathbf{\vec z} $ 拼接在一起，然后将它们投影到具有$|\mathcal{I}|$$ |\mathcal I| $ 维输出的 output layer，即：

   $${\overrightarrow{\mathbf{y}}}^{(u,t)}={\mathbf{W}}_o[\overrightarrow{\mathbf{z}}||{\overrightarrow{\mathbf{P}}}_u]+{\overrightarrow{\mathbf{b}}}_o\in {\mathbb{R}}^{|\mathcal{I}|}$$

   其中：${\mathbf{W}}_o\in {\mathbb{R}}^{|\mathcal{I}|\times 2d}$$ \mathbf W_o\in \mathbb R^{|\mathcal I|\times 2d} $ 为输出层的权重矩阵，${\overrightarrow{\mathbf{b}}}_o\in {\mathbb{R}}^{|\mathcal{I}|}$$ \mathbf{\vec b}_o\in \mathbb R^{|\mathcal I|} $ 为输出层的 bias 向量。

   输出层的值${\overrightarrow{\mathbf{y}}}^{(u,t)}$$ \mathbf{\vec y}^{(u,t)} $ 中第$i$$ i $ 个元素$y_i^{(u,t)}$$ y_i^{(u,t)} $ 代表了用户$u$$ u $ 在 time step$t$$ t $ 与 item$i$$ i $ 交互的可能性。

3. $\overrightarrow{\mathbf{z}}$$ \mathbf{\vec z} $ 旨在捕获短期序列模式，而 user embedding${\overrightarrow{\mathbf{P}}}_u$$ \mathbf{\vec P}_u $ 捕获用户的长期一般偏好。这里我们将 user embedding${\overrightarrow{\mathbf{P}}}_u$$ \mathbf{\vec P}_u $ 放在最后一个隐层（而不是生成$\overrightarrow{\mathbf{z}}$$ \mathbf{\vec z} $ 的、第一个隐层），有几个原因：

   • 正如我们将在后文看到的，这使得我们的模型具有概括generalize 其它模型的能力。
   • 我们可以用其它被概括模型的参数来预训练pre-train我们模型的参数。正如 《Neural collaborative filtering》 所述，这种预训练对模型性能至关重要。

9.1.4 模型训练和推断

1. 为了训练模型，我们将输出层的值${\overrightarrow{\mathbf{y}}}^{(u,t)}$$ \mathbf{\vec y}^{(u,t)} $ 变换为概率：

   $$p(S_t^u\mid S_{t-1}^u,\cdots ,S_{t-L}^u)=\sigma \left(y_{S_t^u}^{(u,t)}\right)$$

   其中：$\sigma (x)=1/(1+e^{-x})$$ \sigma(x) = 1/(1+e^{-x}) $ 为 sigmoid 函数。

   这里本质上是通过负采样技术将 softmax 输出转换变 sigmoid 输出。

   令${\mathcal{C}}^u=\{L+1,L+2,\cdots ,|{\mathcal{S}}^u|\}$$ \mathcal C^u = \left\{L+1,L+2,\cdots,|\mathcal S^u|\right\} $ 为我们需要对用户$u$$ u $ 执行预测的 time step 的集合。数据集中所有序列的似然 likelihood 为：

   $$p(\mathcal{S}\mid \mathrm{\Theta })=\prod _{u\in \mathcal{U}}\prod _{t\in {\mathcal{C}}^u}\sigma \left(y_{{\mathcal{S}}_t^u}^{(u,t)}\right)\prod _{j\in \mathcal{I}\wedge j\ne {\mathcal{S}}_t^u}(1-\sigma \left(y_j^{(u,t)}\right))$$

   其中$\mathrm{\Theta }=\{\mathbf{P},\mathbf{E},\mathbf{F},\tilde{\mathbf{F}},\mathbf{W},\overrightarrow{\mathbf{b}},{\mathbf{W}}_o,{\overrightarrow{\mathbf{b}}}_o\}$$ \Theta = \left\{\mathbf P,\mathbf E,\mathbf F,\tilde{\mathbf F},\mathbf W ,\mathbf{\vec b} ,\mathbf W_o,\mathbf{\vec b}_o\right\} $ 为模型参数。

   为进一步捕获 skip 行为，我们通过用${\mathcal{D}}_t^u=\{S_t^u,S_{t+1}^u,\cdots ,S_{t+T}^u\}$$ \mathcal D_t^u=\left\{S_t^u,S_{t+1}^u,\cdots,S_{t+T}^u\right\} $ 来替代上式中的 next item$S_t^u$$ S_t^u $ 从而考虑 next T target items。采用负的对数似然之后，我们得到目标函数（即二元交叉熵损失）：

   $$\mathcal{L}=\sum _{u\in \mathcal{U}}\sum _{t\in {\mathcal{C}}^u}\sum _{i\in {\mathcal{D}}_t^u}-[\log \sigma \left(y_i^{(u,t)}\right)+\sum _{j\in \mathcal{I}\wedge j\ne i}\log (1-\sigma \left(y_j^{(u,t)}\right))]$$

   参考已有的工作，对于每个 target item$i$$ i $ ，我们随机负采样若干个负样本$j$$ j $ （在我们的实验中负采样数量为 3 ）。

2. 模型参数$\mathrm{\Theta }$$ \Theta $ 通过在训练集上最小化损失函数来学到，而超参数$\{d,K,\tilde{K},L,T\}$$ \{d,K,\tilde K,L,T\} $ 等等是在验证集上通过 grid search 调优得到。我们使用 Adam 优化算法，batch size = 100。

   为了控制模型复杂度并避免过拟合，我们使用了两种正则化方法：应用于所有参数的$L_2$$ L_2 $ 正则化、应用于全连接层的 drop ratio = 50% 的 Dropout 技术。

   我们使用 MatConvNet 实现了 Caser。整个训练时间与训练样本数量成正比。例如，在 4-cores i7 CPU 和 32 GB RAM 的机器上，MovieLens 数据大约需要 1 小时、Gowalla 数据需要 2 小时、Foursquare 数据需要 2 小时、TMall 数据需要 1 小时。这些时间与 Fossil 的运行时间相当，并且可以通过使用 GPU 进一步减少。

3. 在训练好模型之后，为了在 time step$t$$ t $ 为用户$u$$ u $ 提供推荐，我们获取用户$u$$ u $ 的 latent embedding${\overrightarrow{\mathbf{P}}}_u$$ \mathbf{\vec P}_u $ 、以及该用户前面$L$$ L $ 个 item 的 embedding 作为网络的输入。我们向用户$u$$ u $ 推荐在输出层$\overrightarrow{\mathbf{y}}$$ \mathbf{\vec y} $ 中取值最大的$N$$ N $ 个 item 。向所有用户进行推荐的复杂度为$O(|\mathcal{U}|\times |\mathcal{I}|\times d)$$ O(|\mathcal U|\times |\mathcal I|\times d) $ ，其中忽略了卷积运算的复杂度。

   注意，target item 数量$T$$ T $ 是模型训练期间使用的超参数，而$N$$ N $ 是模型推断期间向用户推荐的 item 数量。

4. 读者注：Caser 模型的几个不足的地方：

   • 水平卷积虽然 “宣称” 捕获了 union-level 序列模式，但是卷积操作本身是 non-sequential 的。更准确的说法是：水平卷积捕获了 union-level 的局部模式 local mode 。

     如果需要捕获序列模式，那么可以用 RNN 代替水平卷积。

   • 超参数$h$$ h $ 定义了水平卷积 filter 的大小，它刻画了 local mode究竟有多 local。目前 Caser 模型中，$h$$ h $ 是一个超参数，在训练期间对所有样本都是 fixed 。这使得模型不够灵活，因为不同的样本可能需要不同的$h$$ h $ 值。

     可以通过 self attention 机制自适应地选择相关的 item ，从而得到自适应的、soft 的$h$$ h $ 值。

   • 超参数$T$$ T $ 决定了当前的 local mode 影响到未来的第几个 target item 。目前 Caser 模型中，$T$$ T $ 是一个超参数，在训练期间对所有样本都是 fixed 。这使得模型不够灵活，因为不同的样本可能需要不同的$T$$ T $ 值。

     此外，Caser 模型考虑${\mathcal{D}}_t^u=\{S_t^u,S_{t+1}^u,\cdots ,S_{t+T}^u\}$$ \mathcal D_t^u=\left\{S_t^u,S_{t+1}^u,\cdots,S_{t+T}^u\right\} $ 作为目标，这意味着当前的 local mode 会影响未来的多个 target item。这会引入大量的噪声，因为很可能当前的 local mode 仅与其中的某个（而不是连续的多个） target item 相关。

     可以通过 target attention 机制自适应地选择与 target item 最相关的 item，从而过滤掉无关的 item 。然后对剩下的 item 应用 CNN 或 RNN 。

9.1.5 和现有模型的联系

1. Caser vs MF：通过丢弃所有卷积层，我们的模型变成一个普通的 LFM ，其中 user embedding 作为 user latent factor，它们关联的权重作为 item latent factor。MF 通常包含 bias 项，在我们的模型中为${\overrightarrow{\mathbf{b}}}_o$$ \mathbf{\vec b}_o $ 。丢弃所有卷积层之后，得到的模型与 MF 相同：

   $$y_i^{(u,t)}={\overrightarrow{\mathbf{w}}}_{o,i}\cdot [\overrightarrow{\mathbf{0}}||{\overrightarrow{\mathbf{P}}}_u]+b_{o,i}$$

   其中：$y_i^{(u,t)}$$ y_i^{(u,t)} $ 为${\overrightarrow{\mathbf{y}}}^{(u,t)}$$ \mathbf{\vec y}^{(u,t)} $ 的第$i$$ i $ 个元素，${\overrightarrow{\mathbf{w}}}_{o,i}$$ \mathbf{\vec w}_{o,i} $ 为${\mathbf{W}}_o$$ \mathbf W_o $ 的第$i$$ i $ 行，$b_{o,i}$$ b_{o,i} $ 为${\overrightarrow{\mathbf{b}}}_o$$ \mathbf{\vec b}_o $ 的第$i$$ i $ 个元素。

2. Caser vs FPMC：FPMC 将分解的一阶马尔科夫链与 LFM 融合，并通过 Bayesian personalized ranking : BPR 进行优化。尽管 Caser 使用了不同的优化准则（即，交叉熵），但是它能够通过将前一个 item 的 embedding 复制到 hidden layer$\overrightarrow{\mathbf{z}}$$ \mathbf{\vec z} $ （即，将$\overrightarrow{\mathbf{z}}$$ \mathbf{\vec z} $ 替换为${\overrightarrow{\mathbf{e}}}_{S_{t-1}^u}$$ \mathbf{\vec e}_{S^u_{t-1}} $ ）并且不使用任何 bias 项来概括 FPMC：

   $$y_i^{(u,t)}={\overrightarrow{\mathbf{w}}}_{o,i}\cdot [{\overrightarrow{\mathbf{e}}}_{S_{t-1}^u}||{\overrightarrow{\mathbf{P}}}_u]$$

   由于 FPMC 使用 BPR 作为准则，因此我们的模型与 FPMC 并不完全相同。然而，BPR 被限制为在每个 time step 仅有一个 target 样本和一个 negative 样本。我们的交叉熵损失没有这些限制。

3. Caser vs Fossil：通过忽略水平卷积层并使用单个 vertical filter （即$\tilde{K}=1$$ \tilde K=1 $ ）并将垂直卷积结果$\widetilde{\overrightarrow{\mathbf{c}}}$$ \tilde{\mathbf{\vec c}} $ 复制到 hidden layer$\overrightarrow{\mathbf{z}}$$ \mathbf{\vec z} $ ，我们得到：

   $$y_i^{(u,t)}={\overrightarrow{\mathbf{w}}}_{o,i}\cdot [\widetilde{\overrightarrow{\mathbf{c}}}||{\overrightarrow{\mathbf{P}}}_u]+b_{o,i}$$

   正如垂直卷积层中所讨论的那样，这个 vertical filter 将前面$L$$ L $ 个item 的 embedding 进行加权和，就像在 Fossil 中一样（然而 Fossil 使用 Similarity Model 而不是 LFM） ，并将其分解在与马尔科夫模型相同的潜在空间中。

   另一个区别是 Fossil 对每个用户使用一个局部权重，而我们通过 vertical filter 使用多个全局权重。

9.2 实验

1. 数据集：仅当数据集包含序列模式时，序列推荐才有意义。为了识别这样的数据集，我们对几个公共数据集应用了序列关联规则挖掘 sequential association rule mining ，并计算了它们的序列强度sequential intensity: SI ：

   $$\text{SI}=\frac{\mathrm{\#}\text{rules}}{\mathrm{\#}\text{users}}$$

   分子是$(S_{t-L}^u,\cdots ,S_{t-2}^u,S_{t-1}^u)\to S_t^u$$ \left(S_{t-L}^u,\cdots,S_{t-2}^u,S_{t-1}^u\right)\rightarrow S_t^u $ 形式的规则总数，该规则是基于$L$$ L $ 阶马尔科夫链（$L$$ L $ 从1 到 5）找到的，并对支持度（最小支持度为 5 ）和置信度（最低置信度为 50%）进行过滤。分母是用户总数。我们使用 SI 来估计数据集中序列信号sequential signal 的强度。

   下表描述了四个数据集及其 SI。

   • MovieLens 是广泛使用的电影评分数据集。
   • Gowalla 和 Foursquare 包含通过 user-venue check-ins 得到的隐式反馈。
   • Tmall 是从 IJCAI 2015 竞赛中获得的用户购买数据，旨在预测重复的购买者 buyer 。

   根据前人的工作，我们将所有数字评分转换为取值为 1 的隐式反馈。我们还删除了冷启动cold-start 的用户和 item （反馈数量少于$n$$ n $ 的用户和 item） ，因为处理冷启动推荐通常在文献中被视为一个单独separate的问题。对于 MovieLens, Gowalla, Foursquare, Tmall，$n$$ n $ 的取值分别为5, 16, 10, 10 。

   前人的工作所使用的的 Amazon 数据集由于其 SI 太小（Office Products 的 SI 为 0.0026，Clothing, Shoes, Jewelry 和 Video Games 的SI 为 0.0019）而未被使用。换句话讲，该数据集的序列信号远远低于前面的四个数据集。

   我们将每个用户序列中前 70% 的 action 作为训练集，使用接下来的 10% 的 action 作为验证集来调优所有模型的最佳超参数，使用最后的 20%的 action 作为测试集来评估模型性能。

   

2. 评估指标：

   • Precision@N 和 Recall@N ：给定一个用户的、长度为$N$$ N $ 的推荐列表，记做${\hat{\mathcal{R}}}_{1:N}$$ \hat{\mathcal R}_{1:N} $ 。该用户测试集中的 action 记做$\mathcal{R}$$ \mathcal R $ （即， action 序列中最后 20% 的 action ）。则 Precision@N、Recall@N 定义为：

     $$\begin{array}{c}\text{Precision@N}=\frac{|\mathcal{R}\bigcap {\hat{\mathcal{R}}}_{1:N}|}{N}\\ \text{Recall@N}=\frac{|\mathcal{R}\bigcap {\hat{\mathcal{R}}}_{1:N}|}{|\mathcal{R}|}\end{array}$$

     我们报告所有用户的平均 Precision@N 和平均 Recall@N，并且选择$N\in \{1,5,10\}$$ N\in \{1,5,10\} $ 。

   • Mean Average Precision: MAP：给定用户的、全量 item 的推荐列表，记做$\hat{\mathcal{R}}$$ \hat {\mathcal R} $ ，则：

     $$\text{AP}=\frac{\sum _{N=1}^{|\hat{\mathcal{R}}|}\text{Precision@N}\times \mathbb{I}(N)}{|\hat{\mathcal{R}}|}$$

     其中：如果$\hat{\mathcal{R}}$$ \hat {\mathcal R} $ 中第$N$$ N $ 个 item 位于$\mathcal{R}$$ \mathcal R $ 中 则$\mathbb{I}(N)=1$$ \mathbb I(N) = 1 $ 否则$\mathbb{I}(N)=0$$ \mathbb I(N) = 0 $ 。

     也有文献移除了$\mathbb{I}(N)$$ \mathbb I(N) $ 这个系数。

     MAP 是所有用户的 AP 均值。

3. baseline 方法：

   • POP：根据 item 的流行度popularity 进行推荐，而流行度取决于 item 的交互次数。
   • BPR：结合了矩阵分解模型的 Bayesian personalized ranking: BPR 是对隐式反馈数据进行非序列推荐的 state-of-the-art 方法。
   • FMC 和 FPMC：FMC 将一阶马尔科夫转移矩阵分解为两个低维子矩阵，而 FPMC 是 FMC 和 LFM 的融合。它们都是 state-of-the-art 的序列推荐方法。FPMC 在每一步都允许推荐一个 basket 的若干个 item。对于我们的序列推荐问题，每个 basket 都只有一个 item 。
   • Fossil ：Fossil 对高阶马尔科夫链进行建模，并使用 Similarity Model 而不是 LFM 来建模一般用户偏好。
   • GRU4Rec：GRU4Rec 使用 RNN 来捕获序列依赖性并进行预测。

4. 配置：对每种方法，都在验证集上使用 grid search 调优最佳超参数。调优的超参数包括：

   • 对所有模型（除了 POP）：潜在因子维度$d\in \{5,10,20,30,50,100\}$$ d\in \{5,10,20,30,50,100\} $ ，正则化超参数，学习率（取值范围$\{1,0.1,0.01,0.001,0.0001\}$$ \{1,0.1,0.01,0.001,0.0001\} $ ） 。
   • 对 Fossil, Caser, GRU4Rec ：马尔科夫链阶次$L\in \{1,\cdots ,9\}$$ L\in \{1,\cdots,9\} $ 。
   • 对于 Caser：horizontal filter 的高度$h\in \{1,\cdots ,L\}$$ h\in \{1,\cdots,L\} $ ，target 数量$T\in \{1,2,3\}$$ T\in \{1,2,3\} $ ，激活函数${\varphi }_a,{\varphi }_c$$ \phi_a,\phi_c $ 来自于 {identity, sigmoid, tanh, relu} 。对于每个高度$h$$ h $ ，horizontal filter 的数量$K\in \{4,8,16,32,64\}$$ K\in \{4,8,16,32,64\} $ 。vertical filter 的数量$\tilde{K}\in \{1,2,4,8,16\}$$ \tilde K\in \{1,2,4,8,16\} $ 。

   我们报告每种方法在其最佳超参数 setting 下的结果。

5. 实验结果：下表总结了所有方法的最佳结果。每一行中表现最好的结果以粗体突出显式。最后一列是 Caser 相对于最佳 baseline 的改进，定义为 (Caser-baseline)/baseline 。结论：

   • 除了 MovieLens 之外，Caser 在所有指标上相对于最佳 baseline 都取得了大幅提升。
   • 在 baseline 方法中，序列推荐器（如 FPMC 和 Fossil ）通常在所有数据集上都优于非序列推荐器（即 BPR），这表明考虑序列信息sequential information的重要性。
   • FPMC 和 Fossil 在所有数据集上的表现都优于 FMC，这表明个性化的有效性。
   • 在 MovieLens 上，GRU4Rec 的性能接近于 Caser，但在其它三个数据集上的性能要差得多。
   • 事实上，MovieLens 比其它三个数据集具有更多的序列信号，因此 RNN-based 的 GRU4Rec 可以在 MovieLens 上表现良好，但是在其它三个数据集上效果不佳。此外，GRU4Rec 的推荐是 session-based的，而不是个性化的，这在一定程度上扩大了泛化误差。

   

6. 接下来我们研究超参数$d,L,T$$ d,L,T $ 的影响，每次仅研究一个超参数并将剩余的超参数保持在之前调优的最佳 setting。我们聚焦于 MAP 超参数，因为它是一个整体的性能指标，并且与其它指标一致。

   • 维度$d$$ d $ 的影响：

     • 在更稠密的 MovieLens 数据集上，更大的$d$$ d $ 并不总能带来更好的模型性能。当$d$$ d $ 选择合适大小时，模型会达到最佳性能；当$d$$ d $ 较大时，模型会因为过拟合而变得更糟。
     • 但是对于其它三个更稀疏的数据集，每个模型都需要更大的$d$$ d $ 才能达到最佳效果。
     • 对于所有数据集，Caser 通过使用较小的$d$$ d $ 来击败最强的 baseline 方法。

     

   • 马尔科夫阶次$L$$ L $ 和 target 数量$T$$ T $ 的影响：Caser-1, Caser-2, Caser-3 表示target 数量$T=1,2,3$$ T=1,2,3 $ 的Caser ，从而研究 skip 行为的影响。

     • 在更稠密的 MovieLens 数据集上，Caser 较好地利用了较大$L$$ L $ 提供的额外信息（$L$$ L $ 越大效果越好）。而且 Caser-3 表现最好，这表明 skip 行为的好处。
     • 然而，对于稀疏的数据集，并非所有模型都始终受益于较大的$L$$ L $ 。这是合理的，因为对于稀疏的数据集，更高阶的马尔科夫链往往会引入额外的信息和更多的噪声。
     • 在大多数情况下，Caser-2 在这三个稀疏数据集上的表现略优于 Caser-1 和 Caser-3。

     

7. Caser 组件分析：现在我们评估 Caser 每个组件，水平卷积层（即$\overrightarrow{\mathbf{o}}$$ \mathbf{\vec o} $ ）、垂直卷积层（即$\widetilde{\overrightarrow{\mathbf{o}}}$$ \tilde{\mathbf{\vec o}} $ ）、个性化（即${\overrightarrow{\mathbf{P}}}_u$$ \mathbf{\vec P}_u $ ），对于整体性能的贡献。这里我们保持所有超参数为它们的最佳 setting 。

   MovieLens 和 Gowalla 的结果如下表所示，其它两个数据集的结果是类似的因此没有列出。对于$\text{x}\in \text{p,h,v,vh,ph,pv,pvh}$$ \text{x}\in \text{p,h,v,vh,ph,pv,pvh} $ ，Caser-x 表示启用了组件 x 的 Caser，其中 h 表示水平卷积层，v 表示垂直卷积层，p 表示个性化。任何缺失的组件都通过将其对应的位置填充零向量来解决。例如，vh 表示采用垂直卷积层和水平卷积层，同时将${\overrightarrow{\mathbf{P}}}_u$$ \mathbf{\vec P}_u $ 置为全零。

   结论：

   • Caser-p 表现最差，而 Caser-h、Caser-v、Caser-vh 显著提高了性能，这表明将 top-N 序列推荐视为传统的 top-N 推荐将丢失有用的信息（如序列信息），并且同时在 union-level 和 point-level 建模序列模式有助于改进预测。
   • 对于这两个数据集，通过联合使用 Caser 的所有组件（即 Caser-pvh）可以获得最佳性能。

   Caser-pvh 与 Caser-pv 之间的 gap 刻画了水平卷积层的收益，Caser-pvh 与 Caser-ph 之间的 gap 刻画了垂直卷积层的收益。可以看到，垂直卷积层要远比水平卷积层更重要，这也间接说明了 point-level 序列模式要比 union-level 序列模式更重要。

   

8. 网络可视化：我们仔细研究了一些训练好的网络及其预测。

   • vertical filter：下图显示了在 MovieLens 数据集上训练$L=9$$ L=9 $ 的 Caser 之后，四个 vertical filter 的值（指的是卷积核的权重）。在微观上四个 filter 被训练为多元化 diverse 的，但是在宏观上它们遵循从过去位置past position 到最近位置recent position 的上升趋势。由于每个 vertical filter 都是作为对前面 action 的 embedding 进行加权的一种方式，这一趋势表明 Caser 更加重视最近的 action，这与传统的 top-N 推荐有很大不同（传统的 top-N 推荐认为每个 action 的重要性是相同的）。

     

   • horizontal filter：为了查看 horizontal filter 的有效性，下图 (a) 显示了 Caser 针对一名用户推荐的、排名 top N = 3 的电影，即：${\hat{R}}_1$$ \hat R_1 $ （疯狂麦克斯(Mad Max）、${\hat{R}}_2$$ \hat R_2 $ （星球大战Star War）、${\hat{R}}_3$$ \hat R_3 $ （星际迷航Star Trek）。该用户的前面$L=5$$ L=5 $ 部电影为：$S_1$$ S_1 $ （第十三勇士13th Warrior）、$S_2$$ S_2 $ （美国女士American Beauty）、$S_3$$ S_3 $ （星际迷航二 Star Trek II）、$S_4$$ S_4 $ （星际迷航三Star Trek III）、$S_5$$ S_5 $ （星际迷航四 Star Trek IV）。${\hat{R}}_3$$ \hat R_3 $ 是 ground truth （即用户序列中的 next movie）。注意，${\hat{R}}_1$$ \hat R_1 $ 和${\hat{R}}_2$$ \hat R_2 $ 与${\hat{R}}_3$$ \hat R_3 $ 非常相似，都是动作片和科幻片，因此也推荐给用户。

     下图 (b) 显示了将该用户前面$L=5$$ L=5 $ 部电影中的某些电影的 embedding 屏蔽为全零之后（即 item mask ），模型预测${\hat{R}}_3$$ \hat R_3 $ 的新的排名。

     • 屏蔽$S_1$$ S_1 $ 和$S_2$$ S_2 $ 实际上将${\hat{R}}_3$$ \hat R_3 $ 的排名提升到第 2 （从排名第 3）。事实上$S_1$$ S_1 $ 和$S_2$$ S_2 $ 是历史电影或爱情电影，并且在推荐${\hat{R}}_3$$ \hat R_3 $ 时表现得像是噪音。

       既然如此，为什么不屏蔽$S_1$$ S_1 $ 和$S_2$$ S_2 $ 呢？论文并未提出讨论。读者认为，一种比较好的方法是通过 target attention 机制对历史 action 序列过滤掉与 target item 无关的 action 。

     • 屏蔽$S_3,S_4,S_5$$ S_3,S_4,S_5 $ 中的每一个都会降低${\hat{R}}_3$$ \hat R_3 $ 的排名，因为这些电影与${\hat{R}}_3$$ \hat R_3 $ 属于同一类别。

     • 当同时屏蔽$S_3,S_4,S_5$$ S_3,S_4,S_5 $ 之后，${\hat{R}}_3$$ \hat R_3 $ 的排名下降得最多。

     这项研究清晰地表明：我们的模型正确地捕获到了${\hat{R}}_3$$ \hat R_3 $ 对相关的电影$\{S_3,S_4,S_5\}$$ \{S_3,S_4,S_5\} $ 的依赖，并且$\{S_3,S_4,S_5\}$$ \{S_3,S_4,S_5\} $ 作为推荐${\hat{R}}_3$$ \hat R_3 $ 的 union-level 序列特征。