Softplus関数と1階・2階微分を安定計算

使い方

1. 実数xを入力します。
2. 計算ボタンを押し、Softplus値、1階微分、2階微分を確認します。
3. xが大きい正数・負数・0のときのReLUや0との関係を確認します。
4. β=1の標準Softplusであり、学習ライブラリのβ・threshold設定とは分けて比較します。

計算式・考え方

Softplus(x)=ln(1+exp(x))。安定計算はmax(x,0)+ln(1+exp(−|x|))です。1階微分はsigmoid(x)=1/(1+exp(−x))、2階微分はsigmoid(x)×(1−sigmoid(x))です。

注意事項

• SoftplusはReLU=max(x,0)を滑らかに近似する関数です。すべての有限xで正、単調増加で、xが大きい正数ならxへ、負数なら0へ近づきます。x=0ではln2≈0.693147です。
• ln(1+exp(x))を直接計算すると、大きな正xでexp(x)がオーバーフローします。max(x,0)+ln(1+exp(−|x|))なら指数の引数が常に0以下で、x=1,000,000でも有限値としてxに近い結果を返せます。
• 1階微分は0から1の範囲のシグモイドです。x=0で0.5、2階微分は0.25です。滑らかさは勾配法に便利ですが、特定のモデルやデータでReLUより良い性能を保証するものではありません。
• PyTorchのSoftplusはβとthresholdを持ち、β=1なら基本式が一致します。このページはβを固定して関数そのものを観察するため、ライブラリのthresholdによる線形切替と末尾が違う場合があります。
• 入力範囲を±1,000,000に制限します。安定式はこの範囲で中間指数を0から1に保ちますが、表示上は大きな正xで小さな補正が丸め落ち、Softplus(x)=xと同じように見えます。
• 分類出力へ使うときはSoftplus値を確率と解釈しません。値域は0より大きく上限がなく、確率正規化にはシグモイドやSoftmaxなど目的に合う関数が別に必要です。
• 定義はPyTorch Softplus公式ドキュメントのβ=1定義（2026年7月12日確認）と照合しました。参照先は数式の根拠であり、日本語説明、入力範囲、安定化、例、FAQ、テストはalfa-tools向けに独自作成しています。
• 計算式は許可制ASTの四則演算、比較、絶対値、最大値、対数、指数、または明示的に許可した有界関数だけで表します。文字列をコードとして実行せず、eval、new Function、外部API、CDN、fetch、XHR、WebSocketを使いません。
• 大きい正負の入力では、数学的に同じ式でもそのまま指数を取るとオーバーフローや0除算が起こります。このページは最大値の差し引き、絶対値、符号分岐などで中間値を有限範囲へ保ち、PythonとJavaScriptの結果を照合します。
• 表示は読みやすい有効桁へ丸めますが、内部計算は丸め前の倍精度値です。任意精度、複素数、誤差保証、極端な裾の研究計算が必要な場合は、用途に合う数値ライブラリと多倍長計算で再検証してください。
• ページ先頭に入力と結果を置き、その下で式、安定化、代表例、境界、用途、誤解を説明します。正常・境界・異常ケースを定義内へ保存し、デスクトップ幅と375px幅の実プレビューにも全ケースを入力します。
• 結果は数学関数の評価値で、機械学習モデルの精度、物理現象、収益、安全、将来結果を保証しません。実務利用では入力の意味、スケーリング、単位、前処理、モデル全体の仮定を別に確認してください。
• 入力値は利用者の端末内だけで処理され、外部へ送信・保存されません。フォームには氏名、データセット、モデル重み、機密情報を入力する欄がなく、WordPress用の本文・追加CSS・追加JavaScriptも静的に生成します。
• 別の計算環境と比較するときは、関数名だけでなく添字、ベクトル軸、パラメータ、入力範囲、丸め、オーバーフロー時の処理をそろえてください。数式上は同じでも、近似式や安全化の分岐位置により末尾が異なる場合があります。代表値と境界値の両方で検算すると違いを見つけやすくなります。
• 計算結果をレポートへ使う場合は、入力値だけでなく採用した定義と制約も併記してください。グラフを描く場合は、このスカラー評価を複数点へ適用する必要がありますが、本ページは一点または固定3成分の数値確認に限定し、連続曲線や任意長配列を暗黙に生成しません。
• 数学関数の倍精度評価です。モデル性能や現実の結果を保証しません。

よくある質問