LLM学习-基础知识seo优化

LLM学习-基础知识

news/2024/10/21 23:51:44

NLP

NLP代表自然语言处理，是关于计算机和人类语言之间交互的领域。NLP涵盖了一系列任务，包括文本处理、语音识别、语言翻译、信息检索等。NLP技术的发展使得计算机能够理解、解释和生成人类语言，促进了许多领域的发展，包括智能助手、文本分析、情感分析等。

LLM

LLM指的是大型语言模型（Large Language Models），是一类基于深度学习的模型，用于处理自然语言处理任务(NLP)。NLP是关于计算机和人类语言之间交互的领域，是一种概念；而LLM是一类基于深度学习的大型语言模型，是一种。
常见LLM模型：

闭源LLM：ChatGPT(OpenAI)、Claude(Anthropic)、PaLM/Gemini(Google)、文心一言(百度)、星⽕⼤模型(讯⻜)..
开源LLM：LLama(Meta)、通义千问(阿里巴巴)、ChatGLM(清华+智谱)、Baichuan(百川智能)..

RAG

检索增强⽣成(RAG, Retrieval-Augmented Generation)，一种架构，通过融合检索模块和生成模块，提供更加准确和连贯的文本生成能力。整合了从庞⼤知识库中检索到的相关信息，并以此为基础，指导⼤型语⾔模型⽣成更为精准的答案，从⽽显著提升了回答的准确性与深度。
工作流：

Finetune

微调，通过在特定数据集上进⼀步训练⼤语⾔模型，来提升模型在特定任务上的表现。

LangChain

LangChain是一个用于构建基于语言模型的应用程序的框架。它的设计目标是帮助开发者更方便地使用大型语言模型并将其集成到实际应用中。LangChain提供了一系列工具和组件，使得开发者能够更容易地进行任务如生成文本、问答、对话系统等。

Embeddings

也叫词向量，一种文本嵌入技术，文本嵌入技术的核心思想是将文本中的单词、短语或句子映射到高维向量空间中。这些向量空间中的点表示文本单位，并且相似的文本单位在向量空间中应该距离较近。通过这种方式，文本嵌入可以捕捉到词语之间的语义关系。

向量数据库

存储经过了Embeddings的向量数据。向量数据库是⽤于⾼效计算和管理⼤量向量数据的解决⽅案。向量数据库是⼀种专⻔⽤于存储和检索向量数据（embedding）的数据库系统。它与传统的基于关系模型的数据库不同，它主要关注的是向量数据的特性和相似性。

Prompt

提示词，分为系统提示词、用户提示词。

System Prompt：在整个会话过程中持久地影响模型的回复，且相⽐于普通Prompt 具有更⾼的重要性。(如：设定模型始终模拟一个幽默的助理)
User Prompt：用户给模型的原始输入。
所谓的提示词工程Prompt Engineering便是通过更加合理的输入，让大模型理解问题，以输出最合理的答案。

temperature参数

LLM中的温度参数，控制模型输出的随机性和多样性的重要超参数。它通常用于采样生成文本的过程，尤其是在生成式任务中，如文本生成、对话系统等。temperature 参数可以影响生成文本的样式和内容。
Temperature ⼀般取值在 0~1 之间，当取值较低接近 0 时，预测的随机性会较低，产⽣更保守、可预测的⽂本，不太可能⽣成意想不到或不寻常的词。当取值较⾼接近 1 时，预测的随机性会较⾼，所有词被选择的可能性更⼤，会产⽣更有创意、多样化的⽂本，更有可能⽣成不寻常或意想不到的词。

Transformer

是一种深度学习模型架构，最初用于自然语言处理任务，ChatGPT就是基于此架构开发的。

TensorFlow、PyTorch

TensorFlow(谷歌)和 PyTorch(Meta)为最受欢迎的两个深度学习开源框架，它们提供了丰富的算法库和工具，支持研究者和开发人员高效地实现复杂的神经网络模型。

预训练

使用海量的训练数据(纯文本，没有QA)，这些数据可以来自互联网网页、维基百科、书籍、GitHub、论文、问答网站等，构建包含数千亿甚至数万亿单词的具有多样性的内容，经过数千块高性能GPU和高速网络组成的超级计算机，花费数十天甚至数月的时间完成深度神经网络参数的训练，构建基础模型(Foundation Model)，也叫基座模型。
此时，基础模型能够对长文本进行建模，具备语言生成能力，根据输入的提示词，模型可以生成文本补全句子。