数学

双曲線正接関数とその微分

双曲線正接ハイパボリックタンジェント関数 前回のシグモイド関数に続き、ニューラルネットワークの活性化関数でよく用いられる双曲線正接関数のお話です。双曲線正接関数の定義を 式 に示します。ちなみにこの双曲線正接関数は、三角関数の正接 の定義(式 …

シグモイド関数とその微分

シグモイド関数 今日は、こんな関数について考えます。機械学習の分野では、しばしばニューラルネットワークの活性化関数などに利用されています。 その手の古典的な参考書では必ず言及されるほど有名な関数です。このシグモイド関数を微分すると、ふしぎな…

合成関数の微分

なにかに使えるかも知れないので、あらためて復習してみる。 合成関数の微分 1変数関数の場合 から成る合成関数 の微分: かなり適当な導出:*1 Step 0 関数 の微分の定義を、以下に示します。 Step 1 改めて から成る合成関数の微分を考えましょう。 まず微分…