sp4ghet (すぱげっと)

@sp4ghet.com

@sp4ghet on other places I like computers

実数ではなく複素数や四元数を使ったニューラルネットワークを考えると学習時に通常の微分が使えないので、ウィルティンガー微分やGHR微積分を考える必要があるという話。特に四元数におけるGHR微積分は四元数の非可換性から積の微分法や合成関数の微分法が通常の形では成り立たず自動微分の実装に工夫を行う必要がある(のが面白い)/ 四元数ニューラルネットワークとGHR微積分 zenn.dev/lotz/article...

四元数ニューラルネットワークとGHR微積分

zenn.dev