new: add nlp qa

GaoangLiu · Dec 22, 2023 · 62df4e3 · 62df4e3
1 parent 52557a9
commit 62df4e3
Show file tree

Hide file tree

Showing 3 changed files with 69 additions and 1 deletion.
diff --git a/_drafts/2023/nlp_qa.md b/_drafts/2023/nlp_qa.md
@@ -0,0 +1,31 @@
+---
+layout:     post
+title:      NPL questions 
+date:       2023-01-01
+tags:   [nlp]
+categories: 
+- nlp
+---
+
+# LLM
+# 待整理 
+- 文本生成的重复问题
+- 介绍下 ChatGLM
+- 介绍下 CRF
+- 介绍下 Deepspeed 的 zero
+- 介绍下 Adam 的原理和思想
+- FP16，BP16 区别
+- 介绍下 GLU 和 SwiGLU
+- 介绍下 Lora
+- 介绍下 Lamma 系列
+- 介绍下 Transformer
+- 介绍下 BART，以及 BART 与 T5 的区别
+- BN 和 LN
+- 介绍下交叉熵
+- 几个位置编码的区别
+- 详细介绍下旋转位置编码
+- 简单介绍下分词方式
+- 用 torch 实现欧氏距离
+- 三大并行方式
+- 大小王概率题
+
diff --git a/_posts/2023/2023-01-01-NPL-questions.md b/_posts/2023/2023-01-01-NPL-questions.md
@@ -0,0 +1,37 @@
+---
+layout: post
+title: NPL questions
+date: 2023-01-01
+tags: nlp
+categories: nlp
+author: berrysleaf
+---
+* content
+{:toc}
+
+
+# LLM
+# 待整理 
+- 文本生成的重复问题
+- 介绍下 ChatGLM
+
+
+
+- 介绍下 CRF
+- 介绍下 Deepspeed 的 zero
+- 介绍下 Adam 的原理和思想
+- FP16，BP16 区别
+- 介绍下 GLU 和 SwiGLU
+- 介绍下 Lora
+- 介绍下 Lamma 系列
+- 介绍下 Transformer
+- 介绍下 BART，以及 BART 与 T5 的区别
+- BN 和 LN
+- 介绍下交叉熵
+- 几个位置编码的区别
+- 详细介绍下旋转位置编码
+- 简单介绍下分词方式
+- 用 torch 实现欧氏距离
+- 三大并行方式
+- 大小王概率题
+
diff --git a/assets/progress.json b/assets/progress.json
@@ -609,6 +609,6 @@
   ],
   [
     "2023-12-22",
-    -600
+    -488
   ]
 ]