主页

索引

模块索引

搜索页面

2.1. 关键定义

推荐系统

• 2.1.1. 协同过滤（Collaborative Filtering, CF）
• 2.1.2. MF(Matrix Factorization，矩阵分解)
• 2.1.3. PMF（Probabilistic Matrix Factorization，概率矩阵分解）
• 2.1.4. Two-Tower Models（双塔模型）

分布式训练

• 2.1.5. 通用
• 2.1.6. Pipeline Parallelism
• 2.1.7. Tensor Parallesim

激活函数

• 2.1.8. 激活函数-Sigmoid
• 2.1.9. 激活函数-ReLU
• 2.1.10. 激活函数-Leaky ReLU
• 2.1.11. 激活函数-Tanh
• 2.1.12. 激活函数-GELU
• 2.1.13. 归一化-L1
• 2.1.14. 归一化-L2
• 2.1.15. 概率分布-Softmax
• 2.1.16. 概率分布-logsoftmax
• 2.1.17. 概率分布-Sparsemax

损失函数

• 2.1.18. 损失函数-分类-cross-entropy(交叉熵)
• 2.1.19. 损失函数-分类-负对数似然损失NLL Loss
• 2.1.20. 损失函数-分类-对数损失(Log Loss)
• 2.1.21. 损失函数-分类-KL 散度(KL Loss)
• 2.1.22. 损失函数-回归-均方误差(MSE)
• 2.1.23. 损失函数-回归-平均绝对误差(MAE)
• 2.1.24. 损失函数-回归-Huber 损失
• 2.1.25. 损失函数-回归-对数余弦损失(Log-Cosh Loss)
• 2.1.26. 权重衰减(L2正则化)

调优函数

• 2.1.27. GD(梯度下降)
• 2.1.28. SGD随机梯度下降
• 2.1.29. RMSprop
• 2.1.30. Adam
• 2.1.31. AdamW
• 2.1.32. Momentum

命名实体识别

• 2.1.33. HMM-隐马尔可夫模型
• 2.1.34. WWM-Whole Word Masking
• 2.1.35. CRF-条件随机场

神经网络

• 2.1.36. ANN(NN)
• 2.1.37. 深度神经网络(Deep Neural Network, DNN)
• 2.1.38. 卷积神经网络(Convolutional Neural Network, CNN)
• 2.1.39. RNN: 循环神经网(Recurrent Neural Network, RNN)
• 2.1.40. LSTM: 长短时记忆(Long Short Term Memory, LSTM)

深度神经网络理论

• 2.1.41. 前向/反向传播
• 2.1.42. Linear Layer
• 2.1.43. Feedforward Network-前馈网络
• 2.1.44. LayerNorm(层归一化)
• 2.1.45. Weight Tying
• 2.1.46. Greedy Decoding
• 2.1.47. Image Grounding
• 2.1.48. Perplexity(PPL)困惑度

3D

• 2.1.49. Manhattan World(曼哈顿世界)
• 2.1.50. Hough Transform（霍夫变换）
• 2.1.51. 极坐标表示法(Polar Coordinate System)
• 2.1.52. Gaussian Sphere（高斯球）
• 2.1.53. 边缘方向 Edge Direction
• 2.1.54. NormalVector法向量

其他

• 2.1.55. AllReduce
• 2.1.56. BPE
• 2.1.57. Embedding 模型
• 2.1.58. K-Means聚类算法
• 2.1.59. LLM
• 2.1.60. 深度学习相关
• 2.1.61. 其他
• 2.1.62. 判别式模型vs生成式模型
• 2.1.63. 欧几里得空间(Euclidean space)
• 2.1.64. 矢量化计算(Vectorize calculations)

主页

索引

模块索引

搜索页面