FI-KAN: 프랙탈 보간 콜모고로프-아르노 네트워크
FI-KAN: Fractal Interpolation Kolmogorov-Arnold Networks
콜모고로프-아르노 네트워크(KAN)는 고정된 격자에서 B-스플라인 기저를 사용하며, 비부드러운 함수 근사에는 내재적인 다중 스케일 분해 능력이 부족합니다. 본 논문에서는 반복 함수 시스템(IFS) 이론에서 파생된 학습 가능한 프랙탈 보간 함수(FIF) 기저를 KAN에 통합한 프랙탈 보간 KAN(FI-KAN)을 소개합니다. 두 가지 변형이 제시됩니다. 순수 FI-KAN(Barnsley, 1986)은 B-스플라인을 완전히 FIF 기저로 대체합니다. 하이브리드 FI-KAN(Navascues, 2005)은 B-스플라인 경로를 유지하고 학습 가능한 프랙탈 보정 항을 추가합니다. IFS 수축 파라미터는 각 변에 미분 가능한 프랙탈 차원을 부여하며, 이는 학습 과정에서 목표 함수의 규칙성에 적응합니다. 홀더 규칙성 벤치마크($α ext{∈}[0.2, 2.0]$)에서, 하이브리드 FI-KAN은 모든 규칙성 수준에서 KAN보다 우수한 성능을 보입니다(1.3배에서 33배). 프랙탈 목표 함수에 대해, FI-KAN은 KAN보다 최대 6.3배의 MSE 감소를 달성했으며, 5 dB SNR에서도 4.7배의 성능 우위를 유지합니다. 비부드러운 PDE 해(scikit-fem)에 대해, 하이브리드 FI-KAN은 거친 계수를 가진 확산 문제에서 최대 79배, L자형 영역의 모서리 특이점에서 3.5배의 성능 향상을 보입니다. 순수 FI-KAN은 거친 목표 함수에서는 우수한 성능을 보이지만, 부드러운 목표 함수에서는 성능이 저하되는 상호 보완적인 특성을 가지고 있으며, 이는 기저의 기하학적 구조가 목표 함수의 규칙성과 일치해야 한다는 통제된 증거를 제공합니다. 프랙탈 차원 정규화기는 해석 가능한 복잡도 제어를 제공하며, 학습된 값은 각 목표 함수의 실제 프랙탈 차원을 복구합니다. 이러한 결과는 규칙성에 맞는 기저 설계가 신경망 함수 근사에 대한 원칙적인 전략임을 입증합니다.
Kolmogorov-Arnold Networks (KAN) employ B-spline bases on a fixed grid, providing no intrinsic multi-scale decomposition for non-smooth function approximation. We introduce Fractal Interpolation KAN (FI-KAN), which incorporates learnable fractal interpolation function (FIF) bases from iterated function system (IFS) theory into KAN. Two variants are presented: Pure FI-KAN (Barnsley, 1986) replaces B-splines entirely with FIF bases; Hybrid FI-KAN (Navascues, 2005) retains the B-spline path and adds a learnable fractal correction. The IFS contraction parameters give each edge a differentiable fractal dimension that adapts to target regularity during training. On a Holder regularity benchmark ($α\in [0.2, 2.0]$), Hybrid FI-KAN outperforms KAN at every regularity level (1.3x to 33x). On fractal targets, FI-KAN achieves up to 6.3x MSE reduction over KAN, maintaining 4.7x advantage at 5 dB SNR. On non-smooth PDE solutions (scikit-fem), Hybrid FI-KAN achieves up to 79x improvement on rough-coefficient diffusion and 3.5x on L-shaped domain corner singularities. Pure FI-KAN's complementary behavior, dominating on rough targets while underperforming on smooth ones, provides controlled evidence that basis geometry must match target regularity. A fractal dimension regularizer provides interpretable complexity control whose learned values recover the true fractal dimension of each target. These results establish regularity-matched basis design as a principled strategy for neural function approximation.
No Analysis Report Yet
This paper hasn't been analyzed by Gemini yet.
Log in to request an AI analysis.