-
A New Home for My Notes
Rebuilding this site as a durable home for technical notes and projects.
-
Cross-Entropy、KL、NLL 与 MLE：同一个目标的四种写法
从一个统一目标出发，推导 cross-entropy、forward KL divergence、negative log-likelihood 与 maximum likelihood estimation 的关系及成立条件。
-
证据下界的推导和解释 What Can We Know from ELBO?
从 importance sampling 和 Jensen's inequality 出发推导 ELBO，并解释它在 VAE 中的两种形式。
-
极大似然估计的推导和期望形式 Why MLE Comes in Expectation Form?
从独立样本的联合概率出发推导 MLE，并解释 empirical average 为什么收敛到 expectation。
-
为什么你应该卖烤炉鸡蛋灌饼，而不是锅包肉？
同样是五个步骤，为什么烤炉鸡蛋灌饼出餐更快？从一个小摊理解流水线、吞吐量与系统瓶颈。