DB-GPT摸索中无名氏No.61621515 返回主串
2024-03-14(四)10:49:18
ID:skx2EDK 回应
这是什么(=゚ω゚)=:这是一个研究如何使用语言类大模型(即Chat GPT类)的应用的串,本质是记录分享使用过程中的问题,应该不会有开发
DB-GPT简介无名氏No.61621596
2024-03-14(四)10:54:06 ID: skx2EDK (PO主)
首先介绍一下DB-GPT是什么:DB-GPT是一个langchain应用,用于使用自然语言和数据库进行交互,通俗的来说就是一个应用的壳子,核心处理的部分可以接上市面上大部分语言大模型(以下简称LLM,即large language model)。
我用的LLM无名氏No.61621733
2024-03-14(四)11:01:50 ID: skx2EDK (PO主)
我使用的LLM是清华推出的“智谱清言”的三代,本地部署开源了的ChatGLM3-6B。性能方面肯定是比不上ChatGPT,但也够用了,毕竟是免费的不用科学,还要什么自行车( ゚ 3゚)
硬件设备无名氏No.61621800
2024-03-14(四)11:06:11 ID: skx2EDK (PO主)
虽然本地部署LLM很香,但是得有硬件才能跑起来( ´ー`),我用的是13代i9加4070laptop(没错就是暗影精灵9)。久闻黑屏精灵大名,我已经找好线下售后店了( -д-)
先从本地部署开始讲~无名氏No.61621948
2024-03-14(四)11:14:40 ID: skx2EDK (PO主)
本地部署我就跟着官方的部署教学文档一步步做的https://www.yuque.com/eosphoros/dbgpt-docs/urh3fcx8tu0s9xmb,因为是win11系统所以用的miniconda部署,总之就是各种配置环境(ゝ∀・)