回应模式 - No.61781194


No.61781194 - 技术宅


无标题无名氏No.61781194 只看PO

2024-03-25(一)14:19:42 ID:ilWxD6F 回应

肥哥们
肥肥现在大一,找了个NLP方向的导师,然后导师要求我先自学一下NLP。前两天把Python囫囵吞枣了一遍,想问一下肥哥们NLP从哪里学起啊,啃b站上的网课吗(;´Д`)

无标题无名氏No.61781304

2024-03-25(一)14:30:52 ID: DV7VFJv

如果是研究型课题,当然是先开始读论文,如果是工程型,先开始学微机原理

无标题无名氏No.61781319

2024-03-25(一)14:32:00 ID: DV7VFJv

论文就是挑一些早期的和最新的综述类对整个领域有大致了解,工程的话先了解怎么跑各种综述里面提到的算法,不需要真跑,知道怎么回事就行

无标题无名氏No.61781345

2024-03-25(一)14:34:08 ID: inyIHEY

不是,为什么我总能刷到不读岛规的,哪怕这个版我几乎没看过( ゚∀。)

无标题无名氏No.61809003

2024-03-27(三)12:41:10 ID: zfsPDyB

python先学好,然后学

机器学习:线性回归,逻辑回归,卷积神经网络(CNN)
循环神经网络(RNN)及其变体长短期记忆神经网络(LSTM, GRU)

NLP基础:分词器,N-gram模型,word2vec

深度学习:梯度下降(GD,SGD,SGD with moment,Adam, AdamW), 然后就是大名鼎鼎的 Transformer, 之后就是其衍生模型如:BERT, GPT, T5, plam

Python主要掌握基础语法,numpy,和pytorch/TensorFlow
然后有空的话把C++学了,最好在大四前学完Cuda

之后就要多读读相关论文了(`・ω・)

无标题无名氏No.61809064

2024-03-27(三)12:45:48 ID: zfsPDyB

>>No.61809003
资源的话B站大部分都有,可以考虑关注一下NLP方面的公众号。最好英语学扎实点( ´_ゝ`)

无标题无名氏No.61817047

2024-03-27(三)23:30:07 ID: AhhNmHW

Speech and Language Processing (3rd ed. draft) Dan Jurafsky and James H. Martin.

圣经

无标题无名氏No.61823371

2024-03-28(四)13:27:33 ID: 5OiFZ7z

nlp在大模型出来后不是半废了吗?

无标题无名氏No.61823542

2024-03-28(四)13:44:50 ID: Zpep2Hv

现在大一就开始学NLP了嘛( ゚∀。)?
就光里面的数学原理感觉不是大学能顶得住的啊

无标题无名氏No.61832264

2024-03-29(五)05:26:16 ID: zfsPDyB

>>No.61823371
大模型也是NLP,而且现在确实还有挺多问题要解决的。比如怎么把高水平模型扔手机里什么的(`ε´ )