OpenAI 搞出了 GPT-4,却给全世界留下了对齐的难题。怎么破?DeepMind 在政治哲学家罗尔斯的「无知之幕」中找到了答案。
清华大学 开源了 UltraChat 数据集,有两个独立 ChatGPT Turbo API 的对话数据组成
LLaMA:Open and Efficient Foundation Language Models,是 Meta AI ("被迫") 开源的 LLaMA,又称 "大羊驼"。
一篇关于基础模型的研究报告(200 多页)
一些 PEFT 工具,包括 peft 和 adapter-transformers
Pre-training Video-Language Models
SAM:第一个致力于图像分割的基础模型
Transformer 中 FFN 的记忆功能(Memory)
大型语言模型(Large Language Model, LLM)的涌现能力(Emergent Ability)