CFNN: 연속 분수 신경망

CFNN: Continued Fraction Neural Network

과학 컴퓨팅 분야에서 특이점을 갖는 비선형 함수 공간을 정확하게 특성화하는 것은 근본적인 과제입니다. 다층 퍼셉트론(MLP)이 주류를 이루고 있지만, MLP의 스펙트럼 편향은 과도한 파라미터 없이 고곡률 특징을 해결하는 데 어려움을 겪습니다. 본 연구에서는 연속 분수를 기울기 기반 최적화와 통합하여 '합리적인 유도 편향'을 제공하는 연속 분수 신경망(CFNN)을 제안합니다. 이를 통해 복잡한 점근 및 불연속성을 극히 적은 파라미터로 표현할 수 있습니다. 우리는 공식적인 근사 경계를 제시하여 지수적 수렴과 안정성을 보장합니다. 재귀적 불안정성을 해결하기 위해, CFNN-Boost, CFNN-MoE, 그리고 CFNN-Hybrid의 세 가지 구현 방식을 개발했습니다. 벤치마크 결과, CFNN은 일관되게 MLP보다 더 높은 정확도를 제공하며, 파라미터 수가 1~2배 적게 듭니다. 또한, 노이즈 강건성 및 물리적 일관성이 최대 47배 향상되었습니다. CFNN은 블랙박스 유연성과 화이트박스 투명성을 결합하여, AI 기반 과학 연구를 위한 신뢰할 수 있는 '그레이박스' 패러다임을 구축합니다.

Accurately characterizing non-linear functional manifolds with singularities is a fundamental challenge in scientific computing. While Multi-Layer Perceptrons (MLPs) dominate, their spectral bias hinders resolving high-curvature features without excessive parameters. We introduce Continued Fraction Neural Networks (CFNNs), integrating continued fractions with gradient-based optimization to provide a ``rational inductive bias.'' This enables capturing complex asymptotics and discontinuities with extreme parameter frugality. We provide formal approximation bounds demonstrating exponential convergence and stability guarantees. To address recursive instability, we develop three implementations: CFNN-Boost, CFNN-MoE, and CFNN-Hybrid. Benchmarks show CFNNs consistently outperform MLPs in precision with one to two orders of magnitude fewer parameters, exhibiting up to a 47-fold improvement in noise robustness and physical consistency. By bridging black-box flexibility and white-box transparency, CFNNs establish a reliable ``grey-box'' paradigm for AI-driven scientific research.