秋月春风学AI/DS

2024

02月

NLP(6):问答系统

CS224n Lec10 笔记,资料整合与一些自己的思考。阅读理解问答、开放域问答、知识库问答。

NLP(5):机器翻译、seq2seq、注意力机制

CS224n Lec8 笔记,资料整合与一些自己的思考。机器翻译、seq2seq、注意力机制、机器翻译摘要与文本生成的评估指标(BLEU、ROUGE、METEOR、PPL、BERTScore)。

NLP(4):语言模型与RNN

CS224n Lec6&7 笔记,资料整合与一些自己的思考。语言模型(n-gram、NNLM)、循环神经网络RNN、长短期记忆网络LSTM、门控循环单元GRU。

NLP(3):句法分析与依存解析

CS224n Lec5 笔记,资料整合与一些自己的思考。句法分析与依存解析。

NLP(2):神经网络与反向传播

CS224n Lec3&4 笔记,资料整合与一些自己的思考。神经网络与反向传播、激活函数、优化算法(梯度下降、动量优化、自适应学习率优化、二阶优化)。

NLP(1):NLP简介、词向量

CS224n Lec1&2 笔记,资料整合与一些自己的思考。NLP简介、wordnet、one-hot、词袋、TF-IDF、n-gram、共现矩阵与SVD、Word2Vec(Skip-grams&CBOW)、GloVe、词向量构建与评估。

2023

10月

机器学习模型评估方法与准则

ML领域常见评估指标与方法:留出法(Hold-Out)、交叉验证法(Cross Validation)、自助法(Bootstrap)、Accuracy、Precision、Recall、Fβ-Score、F1-Score、真正例率(TPR)、假正例率(FPR)、ROC曲线、AUC值、PR曲线。

机器学习降维算法

【无监督学习】降维算法:主成分分析(PCA)、线性判别分析(LDA)、UMAP、t-SNE、自编码器(AutoEncoder)

机器学习聚类算法

【无监督学习】聚类算法:K-Means、K-Medoids、Single-linkage、Complete-linkage、DB-SCAN

机器学习分类算法

【监督学习】逻辑回归(Logistic Regression)、K近邻(K-Nearest Neighbors)、支持向量机(Support Vector Machine)、朴素贝叶斯(Naive Bayesian)、决策树(Decision Tree)、XGBoost、LightGBM等。