WikiEdge:ArXiv-2404.19756/terms

編輯

• 多層感知器（Multi-Layer Perceptron, MLP）：一種前饋人工神經網絡，由多個層組成，每層由多個神經元組成，是深度學習模型的基礎。
• 科爾莫哥洛夫-阿諾德網絡（Kolmogorov-Arnold Network, KAN）：一種受科爾莫哥洛夫-阿諾德表示定理啟發的神經網絡，其特點是在網絡的邊緣（而非節點）上具有可學習的激活函數。
• 科爾莫哥洛夫-阿諾德表示定理（Kolmogorov-Arnold Representation Theorem）：一個數學定理，表明任何多變量連續函數都可以表示為單變量連續函數的有限組合和加法運算。
• 激活函數（Activation Function）：在人工神經網絡中，用於增加非線性特性的函數，使得網絡能夠學習和執行更複雜的任務。
• 可學習激活函數（Learnable Activation Functions）：在神經網絡中，其參數可以通過訓練過程進行學習和優化的激活函數。
• B-樣條（B-Spline）：一種參數化的分段多項式曲線，常用於計算機圖形學和數值分析中，作為激活函數的參數化形式。
• 網格擴展技術（Grid Extension Technique）：一種通過增加網格點的數量來提高樣條函數精度的技術，用於提高科爾莫哥洛夫-阿諾德網絡的準確性。
• 稀疏正則化（Sparsity Regularization）：一種正則化技術，通過懲罰大的權重值來鼓勵模型學習更稀疏的表示。
• 熵正則化（Entropy Regularization）：一種正則化技術，通過最大化激活函數的熵來鼓勵模型學習更多樣化的表示。
• 符號化（Symbolification）：將神經網絡中的激活函數轉換為特定的符號函數，以提高模型的可解釋性。