AI相关¶
AI
- 1. 常用
- 2. 理论
- 2.1. 通用
- 2.2. 关键定义
- 2.2.1. 协同过滤(Collaborative Filtering, CF)
- 2.2.2. MF(Matrix Factorization,矩阵分解)
- 2.2.3. PMF(Probabilistic Matrix Factorization,概率矩阵分解)
- 2.2.4. Two-Tower Models(双塔模型)
- 2.2.5. 通用
- 2.2.6. Pipeline Parallelism
- 2.2.7. Tensor Parallesim
- 2.2.8. 激活函数-GELU
- 2.2.9. 激活函数-Leaky ReLU
- 2.2.10. 激活函数-ReLU
- 2.2.11. 激活函数-SiLU
- 2.2.12. 激活函数-Sigmoid
- 2.2.13. 激活函数-Tanh
- 2.2.14. 归一化-L1
- 2.2.15. 归一化-L2
- 2.2.16. 概率分布-Softmax
- 2.2.17. 概率分布-Sparsemax
- 2.2.18. 概率分布-logsoftmax
- 2.2.19. 损失函数-分类-cross-entropy(交叉熵)
- 2.2.20. 损失函数-分类-负对数似然损失NLL Loss
- 2.2.21. 损失函数-分类-对数损失(Log Loss)
- 2.2.22. 损失函数-分类-KL 散度(KL Loss)
- 2.2.23. 损失函数-回归-均方误差(MSE)
- 2.2.24. 损失函数-回归-平均绝对误差(MAE)
- 2.2.25. 损失函数-回归-Huber 损失
- 2.2.26. 损失函数-回归-对数余弦损失(Log-Cosh Loss)
- 2.2.27. 权重衰减(L2正则化)
- 2.2.28. GD(梯度下降)
- 2.2.29. SGD随机梯度下降
- 2.2.30. RMSprop
- 2.2.31. Adam
- 2.2.32. AdamW
- 2.2.33. Momentum
- 2.2.34. HMM-隐马尔可夫模型
- 2.2.35. WWM-Whole Word Masking
- 2.2.36. CRF-条件随机场
- 2.2.37. ANN(NN)
- 2.2.38. 深度神经网络(Deep Neural Network, DNN)
- 2.2.39. 卷积神经网络(Convolutional Neural Network, CNN)
- 2.2.40. RNN: 循环神经网(Recurrent Neural Network, RNN)
- 2.2.41. LSTM: 长短时记忆(Long Short Term Memory, LSTM)
- 2.2.42. 前向/反向传播
- 2.2.43. Linear Layer
- 2.2.44. Feedforward Network-前馈网络
- 2.2.45. LayerNorm(层归一化)
- 2.2.46. Weight Tying
- 2.2.47. Greedy Decoding
- 2.2.48. Image Grounding
- 2.2.49. Perplexity(PPL)困惑度
- 2.2.50. Manhattan World(曼哈顿世界)
- 2.2.51. Hough Transform(霍夫变换)
- 2.2.52. 极坐标表示法(Polar Coordinate System)
- 2.2.53. Gaussian Sphere(高斯球)
- 2.2.54. 边缘方向 Edge Direction
- 2.2.55. NormalVector法向量
- 2.2.56. AllReduce
- 2.2.57. BPE
- 2.2.58. Embedding 模型
- 2.2.59. K-Means聚类算法
- 2.2.60. LLM
- 2.2.61. 深度学习相关
- 2.2.62. 其他
- 2.2.63. 判别式模型vs生成式模型
- 2.2.64. 欧几里得空间(Euclidean space)
- 2.2.65. 矢量化计算(Vectorize calculations)
- 2.3. 临时
- 2.3.1. ReAct框架
- 2.3.2. Reflection反思
- 2.3.3. 数学
- 2.3.4. bag-of-words
- 2.3.5. Word2Vec
- 2.3.6. Doc2Vec
- 2.3.7. FastText
- 2.3.8. LDA-Latent Dirichlet Allocation(潜在狄利克雷分配)
- 2.3.9. overfitting&underfitting
- 2.3.10. RAG
- 2.3.11. Agent
- 2.3.12. LLM
- 2.3.13. Prompt Engineering
- 2.3.14. LLM调优(finetune)
- 2.3.15. Workflow
- 2.3.16. 通用
- 3. 大模型
- 4. RAG相关
- 5. NLP
- 6. 函数库
- 7. 学习框架
- 8. 关键网站
- 9. 实践
- 10. 开源项目
- 11. 数据集
- 12. 常见模型
- 13. 图形&计算加速技术
- 14. Evaluate评测
- 15. 传统AI