|
|
@@ -152,6 +152,9 @@ OpenAI开源GPT的过程并非简单直接，而是有着复杂的发展历程
|
|
|
|
|
|
总的来说，OpenAI开源GPT的过程是一个不断探索和调整的过程，他们在技术创新、安全考虑和商业利益之间寻求平衡，以推动人工智能的发展和应用。
|
|
|
|
|
|
+
|
|
|
+
|
|
|
+
|
|
|
# 入门
|
|
|
|
|
|
1) 300行代码实现minGPT
|
|
|
@@ -164,7 +167,11 @@ OpenAI开源GPT的过程并非简单直接，而是有着复杂的发展历程
|
|
|
[openAI GPT2 的源代码](http://www.gitpp.com/robot101/openai-gpt-2)
|
|
|
|
|
|
|
|
|
-# 提高
|
|
|
+# 啃源代码
|
|
|
+
|
|
|
+敢不敢啃源代码？想不想年薪百万？啃！
|
|
|
+
|
|
|
+[GPT的源代码！啃！](http://lab.gitpp.com/html-docs/docs/zh/index.html)
|
|
|
|
|
|
|
|
|
# 实战
|
|
|
@@ -217,6 +224,15 @@ GPT - 1包含12个相同的解码器块，每个解码器块都由两个主要
|
|
|
- **单向语言模型**：GPT - 1是一个单向语言模型，在处理序列时，只关注当前词之前的上下文信息，这使得它在文本生成任务中能够自然地生成连贯的文本。
|
|
|
- **预训练和微调**：GPT - 1采用了预训练和微调的两阶段训练方法。在预训练阶段，模型在大规模无监督文本数据上学习语言的通用模式；在微调阶段，模型在特定任务的有监督数据上进行微调，以适应不同的自然语言处理任务，如文本分类、问答系统等。
|
|
|
|
|
|
+
|
|
|
+# 啃源代码
|
|
|
+
|
|
|
+敢不敢啃源代码？想不想年薪百万？啃！
|
|
|
+
|
|
|
+[GPT的源代码！啃！](http://lab.gitpp.com/html-docs/docs/zh/index.html)
|
|
|
+
|
|
|
+
|
|
|
+
|
|
|
# 返回 AI BOOK 主页
|
|
|
|
|
|
[返回 AI BOOK 主页](http://www.gitpp.com/ai1/ai-book)
|
zhongqiao yuan