1. Linux 上部署 LangChain-Chatchat

    详细介绍 LangChain-Chatchat 项目在 Linux 系统上的部署

    2024/01/04 LLM

  2. RoPE:旋转位置编码

    RoPE 原理与代码详解

    2024/01/02 LLM

  3. GLM 原理详解

    GLM 原理详解

    2024/01/02 LLM

  4. LLM-Agent

    创建属于自己的 LLM-Agent

    2024/01/01 LLM Agent

  5. LLM4VG 基准:用于评估 LLM 的视频时刻定位能力

    清华大学发布 LLM4VG 基准,用于评估 LLM 模型的视频时刻定位能力。

    2023/12/31 LLM video

  6. Large Language Model 综述

    一篇非常详细的关于 LLM 的综述,并且作者还提供了中文版本。

    2023/12/25 LLM

  7. GPT-2 论文 & nanoGPT 代码

    GPT-2 论文粗读,以及 nanoGPT 核心代码的解读

    2023/12/24 LLM GPT-2

  8. KV Cache:LLM 推理加速

    现有的 LLM 大多采用 Decoder-Only 架构,这些 LLM 使用到了 Casual Mask(也成为 Casual Attention)。正是由于 Casual Mask,我们可以通过将注意力中的 K 和 V 进行保存,以空间换时间,从而加快 LLM 的推理过程。

    2023/12/17 LLM