Denoised Self-Augmented Learning for Social Recommendation

Denoised Self-Augmented Learning for Social Recommendation

  1. 背景:社交推荐系统旨在从用户-项目交互图 Gr = {U, V, Er} 和用户用户社交图 Gs = {U, Es} 中学习模型,对用户兴趣进行编码以做出准确的推荐。

  2. 问题:社交推荐中存在很多兴趣不相关的群体,例如同学,同事等。导致社交信息在表征用户偏好时不可避免地会产生噪音。

  3. 贡献:提出DSL(Denoised Self-Augmented Learning)范式:

    1. 自监督去噪:保留有用的社交关系

    2. 跨视图对齐:文章使用双视图图神经网络编码</span>用户社交</span>交互图中的潜在表示。在这个结构中,每个视图都有一个独立的编码器来学习节点的表示,利用可学习的相似性映射函数将两个视图对齐。

结构图:

\<img alt="" data-attachment-key="V7QF7HVQ" width="1000" height="389.21226232052777" src="“Denoised Self-Augmented Learning for Social Recommendation”/V7QF7HVQ.png" ztype="zimage">

  1. 两个视图:

    • 用户商品视图->用户表示$\bar{e}_i^{(r)}$
    • 用户社交视图->用户表示$\bar{e}_i^{(s)}$
  2. 嵌入表示聚合:为了聚合Gr和Gs中不同顺序编码的表示

  3. 用户相似度:

    • 用户商品视图->$z{i,i^`}=[\bar{e}_i^{(r)};\bar{e}{i`}^{(r)}]$

    • 社交网络视图->$\hat{z}{i,i^`}=[\bar{e}_i^{(s)};\bar{e}{i`}^{(s)}]$

    • 相似度融合:d,T,c为可学习参数

  4. 无监督去噪:用户商品视图得到的相似性指导社交视图的相似性

多目标优化

  1. 用户-商品交互可能性:

  2. 用户-用户相似性:

  3. 推荐损失:bpr\<img alt="" data-attachment-key="26APJYWK" width="453" height="69" src="“Denoised Self-Augmented Learning for Social Recommendation”/26APJYWK.png" ztype="zimage">

  4. 社交关系损失:bpr\<img alt="" data-attachment-key="B7SZWJVC" width="461" height="66" src="“Denoised Self-Augmented Learning for Social Recommendation”/B7SZWJVC.png" ztype="zimage">

    其中$u_i+$表示和$u_i$相连接的user,$u_i-$表示和$u_i$未连接的user

  5. 总损失:\<img alt="" data-attachment-key="HNWTNMLX" width="543" height="39" src="“Denoised Self-Augmented Learning for Social Recommendation”/HNWTNMLX.png" ztype="zimage">

实验

  1. 数据集:

    • Ciao:DVD相关评分数据集
    • Epinions:消费者评论网站数据,Epinions适用于社会化推荐任务,规模较大,包含用户对电影的评分信息,同时包含用户间的信任社交信息。
    • Yelp

    \<img alt="" data-attachment-key="AK8H3FW8" width="456" height="132" src="“Denoised Self-Augmented Learning for Social Recommendation”/AK8H3FW8.png" ztype="zimage">

  2. BaseLine

    1. 基于MF的推荐
    • PFM[2007]:一种概率方法,使用矩阵分解将用户和项目分解为表示的潜在向量
      • TrustMF [2016]:将用户之间的社交关系作为社会信息引入矩阵分解,提高推荐性能。
  3. 注意力社交推荐:

    *   EATNN \[2019]:建立在注意力机制上的自适应迁移学习模型,用于聚合来自用户交互和社会关系的信息。
    
    1. GNN增强的社交推荐:
    • DiffNet [2019]:一种深度影响力传播架构,用社交影响力扩散组件递归更新用户的嵌入。
      • DGRec [2019]:该社交推荐系统利用图注意力网络对用户的动态行为模式和社交影响进行联合建模。
    • NGCF+ [ 2019]:一种 GNN 增强型协作过滤方法,通过具有社交意识的用户-项目关系图执行消息传递。
    1. 自监督社交推荐:
      • MHCN [2021]:提出了多通道超图卷积网络,考虑高阶关系来增强社交推荐。
    • KCGN [2021]:通过多任务学习框架将商品的内在知识与社交网络相结合
      • SMIN [2021]:该模型将元路径引导的异构图学习任务引入入社交推荐,使用互信息最大化的自我监督信号。
  4. 实验结果:%Imp 表示相对于所有基线的平均改进。\<img alt="" data-attachment-key="GIUDFBY4" width="1513" height="277" src="“Denoised Self-Augmented Learning for Social Recommendation”/GIUDFBY4.png" ztype="zimage">

  5. 消融实验:设置了三个模型

    • DSL-d:去除跨视图自监督去噪模块即$L_{ssl}$;

    • DSL-s:去除社交模块,即$L_{soc}$;

    • DSL-c:用对比学习损失替代$L_{ssl}$;

    • 实验结果:表明去噪模块和社交网络都有用\<img alt="" data-attachment-key="4UG89AGV" width="718" height="254" src="“Denoised Self-Augmented Learning for Social Recommendation”/4UG89AGV.png" ztype="zimage">

  6. 鲁棒性评估

    1. 数据稀疏:将数据按照节点的度分四类(0,5)、[5,10)、[ 10,15) 和 [20, +∞)\<img alt="" data-attachment-key="BHKE37IR" width="1031" height="633" src="“Denoised Self-Augmented Learning for Social Recommendation”/BHKE37IR.png" ztype="zimage">

    2. 数据噪音:为user-item图添加虚假边(10%、20%、30%)\<img alt="" data-attachment-key="QCK6DRXX" width="1495" height="623" src="“Denoised Self-Augmented Learning for Social Recommendation”/QCK6DRXX.png" ztype="zimage">

      • 归因:
        • 社交网络的自监督信号
        • 跨域的自增强,从交互视图学习有用信息

启发

  • 将模型在稀疏数据上的表现归为鲁棒性,即将数据稀疏问题归为鲁棒性问题,属于推荐任务中的非对抗鲁棒性