回应模式 - No.61621515


No.61621515 - 技术宅


DB-GPT摸索中无名氏No.61621515 返回主串

2024-03-14(四)10:49:18 ID:skx2EDK 回应

这是什么(=゚ω゚)=:这是一个研究如何使用语言类大模型(即Chat GPT类)的应用的串,本质是记录分享使用过程中的问题,应该不会有开发

DB-GPT简介无名氏No.61621596

2024-03-14(四)10:54:06 ID: skx2EDK (PO主)

首先介绍一下DB-GPT是什么:DB-GPT是一个langchain应用,用于使用自然语言和数据库进行交互,通俗的来说就是一个应用的壳子,核心处理的部分可以接上市面上大部分语言大模型(以下简称LLM,即large language model)。

我用的LLM无名氏No.61621733

2024-03-14(四)11:01:50 ID: skx2EDK (PO主)

我使用的LLM是清华推出的“智谱清言”的三代,本地部署开源了的ChatGLM3-6B。性能方面肯定是比不上ChatGPT,但也够用了,毕竟是免费的不用科学,还要什么自行车( ゚ 3゚)

硬件设备无名氏No.61621800

2024-03-14(四)11:06:11 ID: skx2EDK (PO主)

虽然本地部署LLM很香,但是得有硬件才能跑起来( ´ー`),我用的是13代i9加4070laptop(没错就是暗影精灵9)。久闻黑屏精灵大名,我已经找好线下售后店了( -д-)

先从本地部署开始讲~无名氏No.61621948

2024-03-14(四)11:14:40 ID: skx2EDK (PO主)

本地部署我就跟着官方的部署教学文档一步步做的https://www.yuque.com/eosphoros/dbgpt-docs/urh3fcx8tu0s9xmb,因为是win11系统所以用的miniconda部署,总之就是各种配置环境(ゝ∀・)