写作绅士,读作丧尸 X岛揭示板
顺猴者昌 逆猴者亡 首页版规 |用户系统 |移动客户端下载 | 丧尸路标 | | 常用图串及路标 | 请关注 官方公众号:【X岛揭示板】 官方微博: 【@X岛极速版】| 人,是会思考的芦苇
常用串:·豆知识·跑团板聊天室·公告汇总串·X岛路标

No.63341265 - 无标题 - 技术宅


回应模式
No.63341265
名 称
E-mail
标题
颜文字
正文
附加图片
•程序语言、压制投稿、视频制作以及各计算机领域的技术问题
•我觉得还是CSDN靠谱一点
•本版发文间隔为15秒。

无标题 无名氏 2024-08-05(一)11:31:04 ID:6gbuo8q [举报] [订阅] [只看PO] No.63341265 [回应] 管理
求助肥哥们,如何从头写一个偏独立的ai?( ;´д`)
先叠个甲,po不是计算机专业的学生所以一些表述可能不太准确还请见谅。
想要达到的效果类似于一个独立的聊天机器人,可以通过训练让聊天至少有逻辑一些,最好能通过对话简单判断人类的情绪。
如果要从头开始,需要下载什么软件?有什么样的硬件基础?并学习什么编程语言?
Tips 无名氏 2099-01-01 00:00:01 ID:Tips超级公民 [举报] No.9999999 管理
(=゚ω゚)=是不是冷场了,埋一下
无标题 无名氏 2024-08-06(二)00:32:25 ID:6gbuo8q (PO主) [举报] No.63351305 管理
>>No.63351231
好的我回去研究一下,谢谢(=゚ω゚)=
无标题 无名氏 2024-08-06(二)00:33:29 ID:6gbuo8q (PO主) [举报] No.63351323 管理
>>No.63351284
准确的说,我是看了她的直播才重新燃起了做这个的想法( ゚∀。)
不过幸好因为有这样的ai存在,让我知道至少是能做出来的
无标题 无名氏 2024-08-06(二)00:44:20 ID:6gbuo8q (PO主) [举报] No.63351487 管理
我再更新一下表述吧:
我想做出一个ai——这样的表述很笼统,我希望能做出一个能够对话,实时反应,具有(类)独立人格的ai。
他不需要记得我灌输给他的所有设定,他只需要至少记住他是谁并且避免“我是由xx公司做的xxai”这样的对话。
我希望他可以通过数据进行训练,逐渐进化,让逻辑接近真实的人类。

如果我的表述还不够清晰:
国外有个叫Neuro的AI主播,她就是我心目中的完全体,她可以自己进行直播,甚至进行一些伪独立思考。
当然我不是那种学了点游戏引擎就想着做gta5的人,我只希望我能做出一个base版的neuro,能够和我对话(打字聊天)并且有逻辑就足够了。日后可以慢慢更新进步是最好。

今(昨)天做了什么:
下载了本地ai管理的软件
首次运行了qwen2
学习了Python的皮毛
收货了很多资源网址,看了很多大佬的视频,发现自己什么都不懂()

我仍需要的:
学习Python
尝试coze.com并试着编写prompt以用于创造个性化ai
最重要的,攒钱换一台好的电脑( ´д`)

先到这里,明天白天还有事,晚上继续研究,晚安各位。
无标题 无名氏 2024-08-06(二)01:49:54 ID:CzzTJVo [举报] No.63351987 管理
>>No.63351043
并不会被重置啊,你可能没理解我的意思,你想让它记住的东西会存在服务器上跟着你的账号走,之后的每次对话它都能记得这部分内容,直到你手动把它删掉。也就是代码帮你实现了每次对话之前把这部分内容复述一遍的操作( ゚∀。)

或者po不拘泥于自己做的话,日本那边一应有个类似的付费服务了,叫hakko ai据说能够理解你当前的游戏画面,但是我没用过不知道实际效果如何
无标题 无名氏 2024-08-06(二)09:08:07 ID:Wg3hx6R [举报] No.63353282 管理
你可能需要rag来实现长期记忆,可以用一些框架比如langchain或llamaindex
无标题 无名氏 2024-08-06(二)20:46:16 ID:6gbuo8q (PO主) [举报] No.63360851 管理
>>No.63351231
我大致试用了一下你说的coze.cn/coze.com,我不知道你说的是哪个……
首先.cn打开的是国内网站,有分专业版和个人版,我是使用了个人版,但是无法创建机器人(当前无可用模型请切换至专业版),显示需要到专业版,我就暂时放弃了。
然后进了coze.com,这个是不分个人专业,也可以建立bot,我试着在上面编写了一下prompt,确实很方便,她也能记住我的话,但是这是建立在调用gpt-4o的情况下而且是按照每条信息消耗代币这样收费的。
我也不知道什么时候会突然要求付款。
我觉得后者已经很符合我的想象,现在是有一个很大的缺陷,就是我希望能在本地跑这个东西,而这个bot似乎只能在规定网站用?他可以导出我编写的prompt并应用在我的本地ai上吗?或者说是有其他办法?
我的英语确实比较渣,只能混着谷歌的机翻凑合理解一下,如果只能用这个网站的话,无论如何都不是很方便。
但至少我觉得prompt的确是可以创造出一个个人ai的形象,至于怎么做,我还不好说。
无标题 无名氏 2024-08-06(二)20:49:52 ID:6gbuo8q (PO主) [举报] No.63360927 管理
>>No.63351987
可能是我的理解有误,不好意思( ´д`)
不过我希望可以在本地跑模型,如果按你的说法,应该是要在网络上去运行这个,并且数据是跟随账号?
无标题 无名氏 2024-08-06(二)20:50:16 ID:6gbuo8q (PO主) [举报] No.63360936 管理
>>No.63353282
感谢回复,我先消化一下这些名词( ゚∀。)
无标题 无名氏 2024-08-06(二)23:25:39 ID:6gbuo8q (PO主) [举报] No.63363977 管理
大问题,昨天还能跑qwen2,今天卡得要死。
我下了anythingLLM来管理,发了个你好,回应你好两个字就花了半分钟。
和昨天区别也太大了点吧( ゚∀。)
昨天可是能流畅回答我问题的,限制他发挥的是显示速度,今天就变成这样是我做错了什么吗( ゚∀。)
无标题 无名氏 2024-08-06(二)23:32:06 ID:6gbuo8q (PO主) [举报] No.63364057 管理
>>No.63363977
已解决,重启了一下ollama
无标题 无名氏 2024-08-06(二)23:51:30 ID:6gbuo8q (PO主) [举报] No.63364270 管理
只能先从攒钱和学习Python开始了,跑个简单的对话都能把显存顶满,肯定是不行的( ´_ゝ`)
无标题 无名氏 2024-08-07(三)00:38:45 ID:LJv9Fby [举报] No.63364877 管理
只是让ai改变“自己是谁”的认知这种程度,不需要训练模型,参数微调就能做到
po可以搜一下lora方法,虽然它并不精确,但却是使用显存最少的方法了,有可能在本地实现
其他方法都要使用不少计算资源,只能搞云服务了
无标题 无名氏 2024-08-07(三)00:43:52 ID:k54dJB1 [举报] No.63364917 管理
试试智谱清言的本地部署版本呢?
无标题 无名氏 2024-08-07(三)00:58:46 ID:srhhMab [举报] No.63365046 管理
( ゚∀。)我有一计,po考虑一下已有的大模型微调。

现在gpt支持3.5-turbo的微调,如果难以访问gpt的api也可以考虑接入国内大模型,比如说chatglm或者讯飞星火。

然后po只需要准备一些数据集,具体格式大概是:

Q: 你想问大模型什么问题 or 你想跟模型说什么话。
A: 大模型期望说出什么话 or 你期待大模型给出什么东西。

其中,为了让训练效果更佳,可以在微调数据集中进行一些 prompt 工程,就比如说你可以在问题前面加入一些句子完善基础设定,或者在模型回答前让模型先思考一下。

我这里推一篇论文,你在谷歌或者百度上搜"ReAct + llm" 即可。还是挺有意思的。
无标题 无名氏 2024-08-07(三)02:50:35 ID:83YvGLK [举报] No.63365499 管理
>>No.63351008
请问现在商业没有短期记忆的需求吗?这段时间接触了character.AI 幻幻等,产生了研究长期记忆的想法,可能研究生研究这个,但是还没开始去了解,目前对AI相关的了解也不多就只有吴恩达的机器学习网课,是老版用Octave做项目的版本,如果想要研究长期记忆的话,需要从哪里了解,以及是不是有这方面的需求?
无标题 无名氏 2024-08-07(三)04:01:53 ID:YfgpobQ [举报] No.63365723 管理
看开头我就在猜你是不是想养自己的牛肉( ゚∀。)

不过我的建议是:写一段足够好的prompt就是现阶段比较好的解决方案。
即使是7b模型的finetune,需要的知识、数据和算力也比较夸张。neuro虽然基础模型可能很小(从速度和早期胡言乱语程度判断),但是ved有时间有钱有数据,这是普通人很难匹敌的
换个角度来想,如果你真能自己调出一个7b版ai主播,那这个聪明的多的模型可能让你挣得比v还多——毕竟剩下的vlm适配和tts看起来都不存在什么特别难的地方
或许这有些打击你的信心,但是我确实认为这件事的开销远超一个正常人能为兴趣做到的事情

还是不想放弃?那建议等。等的同时祈祷皮衣黄未来几代计算卡提升高点,这样你说不定能在五年或者十年后以很低的价格买到机房拆下来的卡
无标题 无名氏 2024-08-07(三)04:28:47 ID:YfgpobQ [举报] No.63365803 管理
>>No.63365499
>有没有需求:
太有了。不只是商业应用,如果能解决面对长序列的权重衰退问题,那你的文章可能就是下一篇attention is all your need

>从哪开始:
不妨先从最基础的rnn开始,看看问题最初的样子;然后沿着网络结构发展史一路看过来,了解目前大家为解决这个问题做了哪些成功的尝试

另:
我个人感觉吴恩达的课即使在七八年前也称不上很好,在现在想通过这门课来入门并不是很好的选择
我的建议是初期多看带各种可视化的博客/笔记,获取宏观认知。深入靠实践,动手写写比看别人干推公式更有用
收起 查看大图 向左旋转 向右旋转
无标题 无名氏 2024-08-07(三)06:11:44 ID:LAmxdWY [举报] No.63365905 管理
之前看的一个视频,他用左边这套配置跑起了70b的模型,但是视频只是演示不是教程,实际自己操作可能要学很多很多东西,po最好仔细考虑一下再决定是否入手
收起 查看大图 向左旋转 向右旋转
无标题 无名氏 2024-08-07(三)06:34:05 ID:LAmxdWY [举报] No.63365932 管理
我也是纯小白,我现在想实现的是“以最低成本没有限制的和ai涩涩”现在我找到的办法只有酒馆+克劳德,但是发现他们封杀曲奇的速度实在是快所以就没动力折腾了,不知道肥哥们有没有办法实现我这个愿望( ´д`)人
jp

UP主: