Archive - Home

2026

22 posts

Nested Learning (NL): 深層学習アーキテクチャの再解釈と連続的学習への数理的アプローチ

#Machine Learning #Optimization #Neural Architecture #Continual Learning #Associative Memory

多様体制約付きハイパーコネクション (mHC) の数理的構造と大規模言語モデルにおける安定化：残差結合の拡張と制御

#Deep Learning #Transformer #Optimization #Differential Geometry #LLM #System Architecture

反応経路探索・構造最適化のためのオープンソースソフトウェア（OSS）リソース集

#OSS #Reaction Path #Transition State #Python #Optimization #ASE

『The Matrix Cookbook』Page 10完全解読：逆行列の成分微分・固有値摂動論・基本形式

#Matrix Calculus #Eigenvalue Perturbation #Sensitivity Analysis #Linear Algebra #Optimization

『The Matrix Cookbook』Page 11完全解読：二次形式・高次形式・最小二乗法の微分

#Matrix Calculus #Quadratic Forms #Least Squares #LMS Algorithm #Control Theory #Optimization

『The Matrix Cookbook』Page 12完全解読：勾配・ヘッセ行列・トレース微分の基礎

#Matrix Calculus #Optimization #Newton's Method #Trace #Signal Processing #Rayleigh Quotient

AdaDerivative: 「勾配の変化」を見ることでオーバーシュートを抑制する新手法

#Machine Learning #Optimization #AdaDerivative #AdaBelief #PID Control

Cautious Optimizers: 「たった1行の修正」でAdamを高速化するC-AdamWの衝撃

#Machine Learning #Optimization #C-AdamW #Adam #Deep Learning #Algorithm

Lion: AIが自ら発見した「単純ゆえに最強」のオプティマイザ

#Machine Learning #Optimization #Lion #AutoML #Deep Learning #Algorithm

Adam: 適応的モーメント推定に基づく確率的最適化手法の理論的構造と実証的評価

#Machine Learning #Optimization #Adam #Deep Learning #Algorithm

Eve: 目的関数の変動情報をフィードバックする適応的勾配降下法の拡張

#Machine Learning #Optimization #Eve #Adam #Deep Learning #Algorithm

勾配降下法に基づく最適化アルゴリズムの数理的構造と収束特性に関する包括的レビュー

#Machine Learning #Optimization #Gradient Descent #Numerical Analysis #Deep Learning #Adam #SGD

Interactive Optimization Playground: Exploring Gradient Descent Algorithms on Complex Landscapes

#Machine Learning #Optimization #Interactive #Visualization #Algorithm

RAdam: 学習率の分散を「整流」する、Warmup不要のAdam進化形

#Machine Learning #Optimization #RAdam #Adam #Deep Learning #Algorithm

Schedule-Free Learning: 学習率スケジュールからの解放と最適化の新地平

#Machine Learning #Optimization #Schedule-Free #Deep Learning #Algorithm

AdaBelief: 勾配への「確信度」で歩幅を変える、AdamとSGDのいいとこ取り

#Machine Learning #Optimization #AdaBelief #Adam #Deep Learning #Algorithm

YellowFin: 運動量項の自動チューニングによるMomentum SGDのロバスト化

#Machine Learning #Optimization #YellowFin #Momentum #Deep Learning

静的検索ライブラリPagefindのアーキテクチャと実装論：静的サイトにおける全文検索の最適化と多言語処理

#Pagefind #Search Engine #Static Site Generator #WebAssembly #Astro #Information Retrieval #Optimization

Müller-Brownポテンシャルと制約付きシンプレックス最適化法：数理的背景とアルゴリズムの詳細解説

#Computational Chemistry #Optimization #Saddle Point Search #Müller-Brown Potential #Algorithm #Historical Review

Improved Tangent Nudged Elastic Band (NEB) 法の理論的体系：最小エネルギー経路探索における数値的安定性と接線推定の革新

#Computational Chemistry #Minimum Energy Path #NEB #Transition State Theory #Optimization #Algorithm

Nudged Elastic Band (NEB) 法における大域的最適化アルゴリズムの包括的評価：Global L-BFGS法の数理的構造と実装論

#Computational Chemistry #NEB #Optimization #L-BFGS #Algorithm #Minimum Energy Path #Transition State Theory

Quadratic String Method (QSM) の理論的体系：多目的最適化に基づく最小エネルギー経路探索の二次近似アプローチ

#Computational Chemistry #Minimum Energy Path #String Method #Optimization #Transition State Theory #Potential Energy Surface

2025

1 posts

【DFT】B97-2汎関数の数理と歴史：熱化学データと第一原理ポテンシャルの融合による汎関数の物理的制約

#DFT #Computational Chemistry #B97-2 #Hybrid Functional #Exchange-Correlation Potential #Optimization