主页

索引

模块索引

搜索页面

2.2. 关键定义

推荐系统

• 2.2.1. 协同过滤（Collaborative Filtering, CF）
• 2.2.2. MF(Matrix Factorization，矩阵分解)
• 2.2.3. PMF（Probabilistic Matrix Factorization，概率矩阵分解）
• 2.2.4. Two-Tower Models（双塔模型）

分布式训练

• 2.2.5. 通用
• 2.2.6. Pipeline Parallelism
• 2.2.7. Tensor Parallesim

激活函数

• 2.2.8. 激活函数-GELU
• 2.2.9. 激活函数-Leaky ReLU
• 2.2.10. 激活函数-ReLU
• 2.2.11. 激活函数-SiLU
• 2.2.12. 激活函数-Sigmoid
• 2.2.13. 激活函数-Tanh
• 2.2.14. 归一化-L1
• 2.2.15. 归一化-L2
• 2.2.16. 概率分布-Softmax
• 2.2.17. 概率分布-Sparsemax
• 2.2.18. 概率分布-logsoftmax

损失函数

• 2.2.19. 损失函数-分类-cross-entropy(交叉熵)
• 2.2.20. 损失函数-分类-负对数似然损失NLL Loss
• 2.2.21. 损失函数-分类-对数损失(Log Loss)
• 2.2.22. 损失函数-分类-KL 散度(KL Loss)
• 2.2.23. 损失函数-回归-均方误差(MSE)
• 2.2.24. 损失函数-回归-平均绝对误差(MAE)
• 2.2.25. 损失函数-回归-Huber 损失
• 2.2.26. 损失函数-回归-对数余弦损失(Log-Cosh Loss)
• 2.2.27. 权重衰减(L2正则化)

调优函数

• 2.2.28. GD(梯度下降)
• 2.2.29. SGD随机梯度下降
• 2.2.30. RMSprop
• 2.2.31. Adam
• 2.2.32. AdamW
• 2.2.33. Momentum

命名实体识别

• 2.2.34. HMM-隐马尔可夫模型
• 2.2.35. WWM-Whole Word Masking
• 2.2.36. CRF-条件随机场

神经网络

• 2.2.37. ANN(NN)
• 2.2.38. 深度神经网络(Deep Neural Network, DNN)
• 2.2.39. 卷积神经网络(Convolutional Neural Network, CNN)
• 2.2.40. RNN: 循环神经网(Recurrent Neural Network, RNN)
• 2.2.41. LSTM: 长短时记忆(Long Short Term Memory, LSTM)

深度神经网络理论

• 2.2.42. 前向/反向传播
• 2.2.43. Linear Layer
• 2.2.44. Feedforward Network-前馈网络
• 2.2.45. LayerNorm(层归一化)
• 2.2.46. Weight Tying
• 2.2.47. Greedy Decoding
• 2.2.48. Image Grounding
• 2.2.49. Perplexity(PPL)困惑度

3D

• 2.2.50. Manhattan World(曼哈顿世界)
• 2.2.51. Hough Transform（霍夫变换）
• 2.2.52. 极坐标表示法(Polar Coordinate System)
• 2.2.53. Gaussian Sphere（高斯球）
• 2.2.54. 边缘方向 Edge Direction
• 2.2.55. NormalVector法向量

其他

• 2.2.56. AllReduce
• 2.2.57. BPE
• 2.2.58. Embedding 模型
• 2.2.59. K-Means聚类算法
• 2.2.60. LLM
• 2.2.61. 深度学习相关
• 2.2.62. 其他
• 2.2.63. 判别式模型vs生成式模型
• 2.2.64. 欧几里得空间(Euclidean space)
• 2.2.65. 矢量化计算(Vectorize calculations)

主页

索引

模块索引

搜索页面