写作绅士,读作丧尸 X岛揭示板
顺猴者昌 逆猴者亡 首页版规 |用户系统 |移动客户端下载 | 丧尸路标 | | 常用图串及路标 | 请关注 官方公众号:【X岛揭示板】 官方微博: 【@X岛极速版】| 人,是会思考的芦苇
常用串:·豆知识·跑团板聊天室·公告汇总串·X岛路标

[只看PO]No.54192526 - 无标题 - 技术宅


•程序语言、压制投稿、视频制作以及各计算机领域的技术问题
•我觉得还是CSDN靠谱一点
•本版发文间隔为15秒。

无标题 无名氏 2022-12-15(四)12:17:52 ID:4Mq1EDs [举报] [订阅] [返回主串] No.54192526 [回应] 管理
有肥哥擅长深度学习的吗?最近改一个模型,原始模型在固定随机种子的情况下结果是可复现的,我在网络里加了一个模块后即使固定随机种子每次跑出来结果也都不同(´゚Д゚`)
检查了网络权重初始化和batch抽样是相同的,就是同一个epoch每次跑完在验证集上效果都不一样,最终在测试集上的效果也不一样,完全没有头绪(;´Д`)
有肥哥遇到过这种情况吗,很急( ´_ゝ`)
收起 查看大图 向左旋转 向右旋转
无标题 无名氏 2022-12-15(四)12:22:05 ID:4Mq1EDs (PO主) [举报] No.54192607 管理
jp
无标题 无名氏 2022-12-15(四)19:16:20 ID:4Mq1EDs (PO主) [举报] No.54200758 管理
>>No.54196895
1.固定了,新增模块也是固定了的,至少初始化权重每次是相同的
2.没有,训练完才看的效果
3.是的,超参都没动,跑相同epoch后在训练集和验证集上效果不一样
无标题 无名氏 2022-12-15(四)19:17:23 ID:4Mq1EDs (PO主) [举报] No.54200778 管理
>>No.54197131
lstm+mlp能有啥随机采样啊(´゚Д゚`)
无标题 无名氏 2022-12-15(四)19:19:42 ID:4Mq1EDs (PO主) [举报] No.54200831 管理
我现在严重怀疑是每次丢到服务器上跑都给我随机分配了不同的gpu,因为我在本地debug了几个step,model的输出都是相同的|∀゚
无标题 无名氏 2022-12-15(四)19:20:45 ID:4Mq1EDs (PO主) [举报] No.54200852 管理
>>No.54200758
第3条写错了,是验证集和测试集( ゚∀。)
无标题 无名氏 2022-12-16(五)12:01:49 ID:4Mq1EDs (PO主) [举报] No.54212366 管理
>>No.54208021
我本地cpu和显卡都debug过了,batch输出是一样的,放到服务器就寄了,很奇怪(;´Д`)
无标题 无名氏 2022-12-16(五)12:21:20 ID:4Mq1EDs (PO主) [举报] No.54212730 管理
>>No.54208021
如果cpu可以,cuda不行,可能是什么原因呢肥哥
无标题 无名氏 2022-12-16(五)12:51:12 ID:4Mq1EDs (PO主) [举报] No.54213280 管理
>>No.54212810
这个阿肥我当然设了的,毕竟原模型就有,我又没动
无标题 无名氏 2022-12-16(五)13:33:28 ID:4Mq1EDs (PO主) [举报] No.54214113 管理
破案了,就是服务器的问题,我自己租了一个gpu,跑出来结果完全一致( ゚∀。)

UP主: