1. Cesium 加载离线地图

    Cesium 加载离线地图

    2023/06/20 Cesium

  2. VanillaNet

    VanillaNet

    2023/06/03 CNN lightweight

  3. Stable-Diffusion-WebUI 初尝

    初次使用 Stable-Diffusion-WebUI,纯新手篇

    2023/06/02 Diffusion

  4. 在小数据集上更稳定地微调 BERT 模型

    在小数据集上更稳定地微调 BERT 模型

    2023/05/30 LM

  5. Multimodal Transformer 综述

    Multimodal Transformer 综述

    2023/05/28 Multimodal

  6. 梯度视角下的 LoRA

    本文从优化器(梯度)的角度来分析和实现 LoRA

    2023/05/18 PEFT

  7. Transformer 的各种位置编码方式

    介绍各种 Transformer 位置编码方式,包括:

    2023/05/16 Transformer

  8. Google I/O 2023 总结(AI 部分)

    总结一下 2023 年的 Google I/O 大会,主要聚焦于 AI 部分

    2023/05/11 AI

  9. ImageBind:通过 Image 将其他模态的数据进行绑定(bind,对齐)

    ImageBind:以 Image/Video 数据作为参照物,将文本(Text)、音频(Audio)、深度图(Depth)、热红外图(thermal)以及 IMU 数据,嵌入到一个联合的向量空间中

    2023/05/11 多模态

  10. DeepNet:成功训练 1000 层的 Transformer

    现有的大 Transformer 模型通常是把模型的 "宽度" 做大,而不是把 "深度" 做大,主要的原因是深的 Transformer 模型训练起来非常困难。DeepNet 通过 Post Norm 的结构以及 DEEPNORM 归一化方法,成功训练了 1000 层的 Transformer 模型。

    2023/04/29 Transformer