机设——Langchain与LLM集成解决方案
了解Langchain
LangChain是一个强大的框架，旨在帮助开发人员使用语言模型构建端到端的应用程序。它提供了一套工具、组件和接口，可简化创建由大型语言模型 (LLM) 和聊天模型提供支持的应用程序的过程。LangChain 可以轻松管理与语言模型的交互，将多个组件链接在一起，并集成额外的资源，例如 API 和数据库。
一句话概括就是：langchain 完成了对数据一个提炼、查找的完全链路。它并不能提供数据源、查找理由，只是一种方法的凝练。
数据源支持由用户等自行提供，因此它支持本地知识库的搭建，合理想象未来的学生课设系统将会是：金融知识系统（使用 langchain 爬取金融网站提取摘要凝练成知识）、图书简介系统（使用 langchain 对图书提取摘要进行展示）……
安装
Jupyter 就是一个非常好用的 Python 语言编程工具。
或者说是一个 Python 编程语言、以及更多其他编程语言的，交互式集成开发环境。
Jupyter 的一个非常重要的优点，就是 写程序的界面，和运行程序的界面，在一起。
jubyter notebook的安装：pip install jupyterlab
web页面的启动：jupyter-lab
vscode：创建.ipynb格式的文件
langchain的安装：pip install langchain
提供一种LLM集成解决方案，一份代码支持快速同时支持gpt大模型、国产大模型(通义千问、文心一言、百度千帆、讯飞星火等)、本地开源大模型(Ollama)
前期准备
openai-api代理：云雾 API
安装One-Api
利用exe
默认账号密码：root 12345
创建渠道，这里以阿里通义千问为例
获取API-KEY：阿里云百炼
2024年最新免费AI大模型API汇总及国内大模型使用教程（附代码）_免费大模型api-CSDN博客
使用 Ollama 非常简单，只需要按照以下步骤：
- 安装 Ollama ： 根据你的操作系统，从 Ollama 官网下载并安装最新版本。
- 启动 Ollama ： 打开终端或命令行，输入
ollama serve命令启动 Ollama 服务器。 - 下载模型： 在模型仓库找到想要的模型，然后使用
ollama pull命令下载，例如ollama pull llama3:70b。 - 运行模型 ： 使用
ollama run命令启动模型，例如ollama run llama3:70b。 - 开始聊天 ： 在终端中输入你的问题或指令，Ollama 会根据模型生成相应的回复。
- 查看模型列表 ：
ollama list
项目
初始化：采用pycharm+anaconda
安装依赖
pip install -r requirements.txt 每个软件包后面都指定了本次视频测试中固定的版本号 注意： 截止2024.10.18，langchain最新版本为0.3.3，langchain-openai最新版本为0.2.2
调整api，调整 utils/myLLM.py 内容
调整 llmTest.py 内容
LLM_TYPE = “oneapi” # openai：调用gpt模型;oneapi：调用oneapi方案支持的模型（这里调用通义千问）
参考文献
langchain-ai/langchain：🦜🔗构建上下文感知推理应用程序