本文用于直观对比 独立静态博客(Hugo + MathJax 3) 与飞书/Notion 在重度数学推导排版上的差异:

  1. 无需手动转义:开启 Hugo passthrough 后,矩阵换行 \\ 与多下标 $\boldsymbol{\theta}_{t+1}$ 原样直传给 MathJax;
  2. AMS 自动编号与点击跳转:下文式 $\eqref{eq:regret-base}$ 与式 $\eqref{eq:conic-id}$ 均由 \label / \eqref 自动生成编号并支持点击定位;
  3. 视觉分离:行内符号如 $\eta > 0$、$\boldsymbol{\varphi}\in\boldsymbol{\Theta}$ 采用宝蓝色 TeX 衬线字体,无需在中西文之间强迫症式敲空格也一目了然。

1. 常数学习率下的线性化遗憾上界

设参数可行集 $\boldsymbol{\Theta}\subset\mathbb{R}^d$ 为非空凸闭集,欧氏投影算子记作 $\Pi_{\boldsymbol{\Theta}}(\boldsymbol{y}) = \mathop{\mathrm{argmin}}_{\boldsymbol{x}\in\boldsymbol{\Theta}}\Vert\boldsymbol{y}-\boldsymbol{x}\Vert_2$。考虑常数步长 $\eta > 0$ 的投影梯度更新:

\begin{equation} \boldsymbol{\theta}_{t+1} = \Pi_{\boldsymbol{\Theta}}(\boldsymbol{\theta}_t - \eta \boldsymbol{g}_t) \label{eq:pgd-update} \end{equation}

利用凸集投影的非扩张性(Non-expansiveness),对任意参考点 $\boldsymbol{\varphi}\in\boldsymbol{\Theta}$,单步距离满足 $\Vert\boldsymbol{\theta}_{t+1}-\boldsymbol{\varphi}\Vert_2^2 \leq \Vert\boldsymbol{\theta}_t - \eta\boldsymbol{g}_t - \boldsymbol{\varphi}\Vert_2^2$。展开并对 $t=1,\dots,T$ 望远镜求和,立即得到经典的线性化遗憾(Linearized Regret)界:

\begin{equation} \sum_{t=1}^T \boldsymbol{g}_t\cdot(\boldsymbol{\theta}_t - \boldsymbol{\varphi}) \leq \frac{\Vert\boldsymbol{\theta}_1 - \boldsymbol{\varphi}\Vert_2^2}{2\eta} + \frac{\eta}{2}\sum_{t=1}^T \Vert\boldsymbol{g}_t\Vert_2^2 \label{eq:regret-base} \end{equation}

观察式 $\eqref{eq:regret-base}$ 右端:若要最小化该上界,最优常数步长 $\eta^*$ 必须依赖未来的梯度平方和 $\sum_{t=1}^T \Vert\boldsymbol{g}_t\Vert_2^2$ 或预设总步数 $T$。

2. 锥提升(Conic Lifting)消去步长尺度

当 $\boldsymbol{\Theta}$ 为有界凸闭集(例如超球体 $\Vert\boldsymbol{\theta}\Vert_2 \leq R$)时,引入非负尺度变量 $\lambda_t \geq 0$ 与常数 $K = R > 0$,在 $\mathbb{R}^{d+1}$ 中构造提升向量:

\begin{align} \check{\boldsymbol{\theta}}_t &\triangleq (\lambda_t \boldsymbol{\theta}_t,\, \lambda_t R) \\ \check{\boldsymbol{g}}_t &\triangleq (\boldsymbol{g}_t,\, -\boldsymbol{g}_t\cdot\boldsymbol{\theta}_t / R) \\ \check{\boldsymbol{\varphi}} &\triangleq (\boldsymbol{\varphi},\, R) \end{align}

容易验证正交性恒等式 $\check{\boldsymbol{g}}_t \cdot \check{\boldsymbol{\theta}}_t \equiv 0$ 处处成立!因此,提升空间的线性化遗憾与原空间严格相等:

\begin{equation} \sum_{t=1}^T \check{\boldsymbol{g}}_t \cdot (\check{\boldsymbol{\theta}}_t - \check{\boldsymbol{\varphi}}) = -\sum_{t=1}^T \check{\boldsymbol{g}}_t \cdot \check{\boldsymbol{\varphi}} = \sum_{t=1}^T \boldsymbol{g}_t \cdot (\boldsymbol{\theta}_t - \boldsymbol{\varphi}) \label{eq:conic-id} \end{equation}

由于圆锥可行域 $\check{\boldsymbol{\Theta}} = \{(\lambda\boldsymbol{\theta}, \lambda R) \mid \boldsymbol{\theta}\in\boldsymbol{\Theta}, \lambda\geq 0\}$ 上的欧氏投影满足正齐次性 $\Pi_{\check{\boldsymbol{\Theta}}}(\alpha \boldsymbol{z}) = \alpha \Pi_{\check{\boldsymbol{\Theta}}}(\boldsymbol{z})$($\forall \alpha > 0$),从零初值 $\check{\boldsymbol{\theta}}_1 = \boldsymbol{0}$ 出发时,学习率 $\eta$ 退化为分子与分母同时约掉的全局缩放因子。固定 $\eta = 1$ 并结合式 $\eqref{eq:regret-base}$ 与式 $\eqref{eq:conic-id}$,对任意自由参数 $\rho > 0$ 有:

$$ \sum_{t=1}^T \boldsymbol{g}_t\cdot(\boldsymbol{\theta}_t - \boldsymbol{\varphi}) \leq \inf_{\rho > 0}\left\{\frac{\rho\big(\Vert\boldsymbol{\varphi}\Vert_2^2 + R^2\big)}{2} + \frac{1}{2\rho}\sum_{t=1}^T\Big(\Vert\boldsymbol{g}_t\Vert_2^2 + \frac{(\boldsymbol{g}_t\cdot\boldsymbol{\theta}_t)^2}{R^2}\Big)\right\} \leq 2R\sqrt{\sum_{t=1}^T \Vert\boldsymbol{g}_t\Vert_2^2} $$

无需预设总步数 $T$ 或手动调学习率,平均遗憾即以 $\mathcal{O}(1/\sqrt{T})$ 的最优速率自动收敛。