WikiEdge:ArXiv-2404.19756/summary
跳至導覽
跳至搜尋
這篇論文提出了一種新型的神經網絡——Kolmogorov-Arnold Networks(KANs),作為多層感知器(MLPs)的有力替代。KANs的核心創新在於將激活函數從節點(「神經元」)轉移到邊(「權重」),並且每個權重參數被一個可學習的一元函數替代,該函數以樣條函數的形式參數化。論文展示了KANs在小規模人工智慧與科學任務中,在準確性和可解釋性方面優於MLPs。在準確性方面,較小的KANs在函數擬合任務中可以達到與較大的MLPs相當甚至更好的準確度。從理論和實證角度,KANs擁有比MLPs更快的神經擴展法則。在可解釋性方面,KANs可以直觀地可視化,並且能夠輕鬆與人類用戶交互。通過數學和物理學中的兩個例子,展示了KANs作為科學家的「合作者」,幫助(重新)發現數學和物理定律的潛力。總體而言,KANs作為MLPs的替代品,為進一步改進當今嚴重依賴MLPs的深度學習模型提供了機會。