无标题无名氏No.61781194 只看PO
2024-03-25(一)14:19:42 ID:ilWxD6F 回应
肥哥们
肥肥现在大一,找了个NLP方向的导师,然后导师要求我先自学一下NLP。前两天把Python囫囵吞枣了一遍,想问一下肥哥们NLP从哪里学起啊,啃b站上的网课吗(;´Д`)
无标题无名氏No.61781319
2024-03-25(一)14:32:00 ID: DV7VFJv
论文就是挑一些早期的和最新的综述类对整个领域有大致了解,工程的话先了解怎么跑各种综述里面提到的算法,不需要真跑,知道怎么回事就行
无标题无名氏No.61809003
2024-03-27(三)12:41:10 ID: zfsPDyB
python先学好,然后学
机器学习:线性回归,逻辑回归,卷积神经网络(CNN)
循环神经网络(RNN)及其变体长短期记忆神经网络(LSTM, GRU)
NLP基础:分词器,N-gram模型,word2vec
深度学习:梯度下降(GD,SGD,SGD with moment,Adam, AdamW), 然后就是大名鼎鼎的 Transformer, 之后就是其衍生模型如:BERT, GPT, T5, plam
Python主要掌握基础语法,numpy,和pytorch/TensorFlow
然后有空的话把C++学了,最好在大四前学完Cuda
之后就要多读读相关论文了(`・ω・)
无标题无名氏No.61809064
2024-03-27(三)12:45:48 ID: zfsPDyB
>>No.61809003
资源的话B站大部分都有,可以考虑关注一下NLP方面的公众号。最好英语学扎实点( ´_ゝ`)
无标题无名氏No.61817047
2024-03-27(三)23:30:07 ID: AhhNmHW
Speech and Language Processing (3rd ed. draft) Dan Jurafsky and James H. Martin.
圣经
无标题无名氏No.61832264
2024-03-29(五)05:26:16 ID: zfsPDyB
>>No.61823371
大模型也是NLP,而且现在确实还有挺多问题要解决的。比如怎么把高水平模型扔手机里什么的(`ε´ )