No.61483120 - 技术宅
无标题无名氏No.61483120 只看PO
2024-03-03(日)21:24:23 ID:BzY3Xfl
求助朱军，想让ai根据提供的课本资料来回答问题，且ai是本地运行的。插了些资料说是要自己练个模型，但是ai模型完全不懂。
有没有别的办法实现这个需求，或者怎么练个模型？
本人只会点c#，前两天才看完Python基础(;´Д`)，看了些教程还是满头雾水。
无标题无名氏No.61483120 只看PO
2024-03-03(日)21:24:23 ID:BzY3Xfl 回应
求助朱军，想让ai根据提供的课本资料来回答问题，且ai是本地运行的。插了些资料说是要自己练个模型，但是ai模型完全不懂。
有没有别的办法实现这个需求，或者怎么练个模型？
本人只会点c#，前两天才看完Python基础(;´Д`)，看了些教程还是满头雾水。
无标题无名氏No.61491070
2024-03-04(一)13:44:01 ID: BzY3Xfl (PO主)
>>No.61487508
看了看这个是在别人的平台上，我这边是需要完全本地运行(;´Д`)
无标题无名氏No.61491808
2024-03-04(一)14:50:46 ID: 4hBVD4b
试试这种？16G显存本地跑个7B的应该差不多
https://github.com/chatchat-space/Langchain-Chatchat
无标题无名氏No.61491922
2024-03-04(一)14:59:22 ID: Rpmacy9
从头训练一个是不可能的，最多自己微调一个，但训练集又不太好搞，而且说实话，16G显存干不了什么事。
无标题无名氏No.61494198
2024-03-04(一)17:31:57 ID: j3lJQyS
>>No.61483120
找别人做的AI问答网站里搞搞乐子就行了，
如果你要练模型，那得从手写识别之类简单的开始，且后面自己跑不了语义识别这么大的。
如果你直接用别人的模型，只是搭个交互框架，那不如直接用别人做好的。
搞清楚你的需求。
