The Detective and the Evidence 🔍Detective और सबूत 🔍侦探与证据 🔍
A detective reaches a crime scene. The event is over. She cannot go back in time. But she has evidence: footprints, a broken lock, a camera timestamp. She works backwards. She asks: which story best explains this evidence?
एक detective crime scene पर पहुँचती है। घटना खत्म हो चुकी है। वह समय में पीछे नहीं जा सकती। लेकिन उसके पास सबूत हैं: पैरों के निशान, टूटा ताला, camera का timestamp। वह उल्टा सोचती है। वह पूछती है: कौन-सी कहानी इन सबूतों को सबसे अच्छे से समझाती है?
一位侦探来到犯罪现场。事情已经发生，她无法回到过去。但她有证据：脚印、被撬的锁、监控 camera 上的时间戳。她从证据倒推，问自己：哪种解释最能说明这些证据？
Maximum Likelihood Estimation (MLE) does the same with data. You have observed data. You cannot see the process that made it. You assume it follows a probability distribution with unknown parameters. MLE asks one question: "Which parameter values make this data most probable?" That answer is the Maximum Likelihood Estimate.
Maximum Likelihood Estimation (MLE) data के साथ यही करता है। आपके पास observed data है। जिस process ने यह data बनाया, वह दिखाई नहीं देता। हम मानते हैं कि data किसी probability distribution से आया है, जिसके parameters अज्ञात हैं। MLE एक ही सवाल पूछता है: "कौन-से parameter values इस data को सबसे ज़्यादा probable बनाते हैं?" यही जवाब Maximum Likelihood Estimate है।
Maximum Likelihood Estimation (MLE) 对 data 做的正是同样的事。你手里有观测到的 data，但看不到产生它的过程。我们假设 data 来自某个 probability distribution，其 parameters 未知。MLE 只问一个问题：“哪些 parameter 值能让这组 data 出现的概率最大？” 这个答案就是 Maximum Likelihood Estimate。
MLE is the most used estimation method in statistics and machine learning. Linear regression, logistic regression, neural networks and large language models are all trained with it.
MLE statistics और machine learning में सबसे ज़्यादा इस्तेमाल होने वाला estimation method है। Linear regression, logistic regression, neural networks और large language models — सब इसी से train होते हैं।
MLE 是 statistics 和 machine learning 中使用最广的估计方法。Linear regression、logistic regression、neural networks 以及 large language models 都是用它来训练的。
Probability: parameters θ are fixed. Data is uncertain. We ask: how probable is data x? → P(X = x | θ). | Likelihood: data x is fixed (already seen). Parameters are uncertain. We ask: how plausible is each θ? → L(θ | x). Same formula, opposite question.
Probability: parameters θ तय हैं। Data अनिश्चित है। सवाल: data x कितना probable है? → P(X = x | θ)। | Likelihood: data x तय है (हम देख चुके हैं)। Parameters अनिश्चित हैं। सवाल: हर θ कितना plausible है? → L(θ | x)। Formula वही, सवाल उल्टा।
Probability：parameters θ 固定，data 不确定。问题：data x 出现的概率多大？→ P(X = x | θ)。 | Likelihood：data x 固定（已经观测到），parameters 不确定。问题：每个 θ 有多合理？→ L(θ | x)。公式相同，问题方向相反。
The Likelihood Function 📐Likelihood Function 📐Likelihood Function 📐
The Story: The Biased Coin Inspectorकहानी: Biased Coin का Inspector故事：检查偏币的质检员
Arjun is a quality inspector at a coin factory. He thinks a new coin is biased. He cannot see the bias directly. So he flips it 10 times: H, H, T, H, H, T, H, H, H, T. That is 7 heads and 3 tails. He wants to estimate p, the true chance of heads.
अर्जुन एक coin factory में quality inspector है। उसे लगता है कि एक नया coin biased है। वह bias को सीधे नहीं देख सकता। इसलिए वह coin को 10 बार उछालता है: H, H, T, H, H, T, H, H, H, T। यानी 7 heads और 3 tails। वह p का अनुमान लगाना चाहता है — heads आने की असली probability।
阿尔琼（Arjun）是硬币工厂的质检员。他怀疑一枚新硬币是 biased 的。他无法直接看到偏差，于是把硬币抛了 10 次：H, H, T, H, H, T, H, H, H, T，即 7 次正面、3 次反面。他想估计 p——出现正面的真实概率。
For each possible p, Arjun asks: "If the true bias were p, how probable are 7 heads in 10 flips?" The function that answers this for every p is the Likelihood Function.
हर संभावित p के लिए अर्जुन पूछता है: "अगर असली bias p होता, तो 10 में से 7 heads आने की probability कितनी होती?" जो function हर p के लिए यह जवाब देता है, उसे Likelihood Function कहते हैं।
对每一个可能的 p，他都问：“如果真实的 bias 是 p，10 次中出现 7 次正面的概率是多少？” 对每个 p 都给出这个答案的函数，就是 Likelihood Function。
Computing the Likelihood — Step by Step 🧮Likelihood की गणना — Step by Step 🧮逐步计算 Likelihood 🧮
P(7 heads | p) = C(10,7) × p⁷ × (1−p)³
Maximising the Likelihood — Calculus Approach 🎓Likelihood को Maximise करना — Calculus तरीका 🎓最大化 Likelihood — 微积分方法 🎓
To find the exact peak, take the derivative with respect to θ. Set it to zero. Solve. Products are hard to differentiate, so we first take the log. This gives the log-likelihood ℓ(θ). Log is always increasing, so the peak of ℓ is the peak of L.
सटीक peak खोजने के लिए θ के सापेक्ष derivative लें। उसे zero के बराबर रखें। हल करें। गुणा का derivative मुश्किल होता है, इसलिए पहले log लेते हैं। इससे log-likelihood ℓ(θ) मिलता है। Log हमेशा बढ़ता है, इसलिए ℓ का peak वही है जो L का।
要找到精确峰值，对 θ 求导，令其为零，然后求解。乘积求导很麻烦，所以先取 log，得到 log-likelihood ℓ(θ)。log 单调递增，所以 ℓ 的峰值就是 L 的峰值。
ℓ(p) = constant + 7·log(p) + 3·log(1−p)
The MLE is simply k/n — the observed share of heads.MLE बस k/n है — heads का observed हिस्सा।MLE 就是 k/n —— 观测到的正面比例。
The proof works for any n and k. For k successes in n trials, p̂ = k/n. The MLE of a proportion is just the observed frequency. MLE matches common sense here.
यह proof किसी भी n और k के लिए सही है। n trials में k successes हों तो p̂ = k/n। किसी proportion का MLE बस observed frequency है। यहाँ MLE common sense से मेल खाता है।
这个证明对任意 n 和 k 都成立。n 次试验中有 k 次成功，则 p̂ = k/n。比例的 MLE 就是观测频率，MLE 与常识一致。
MLE for the Normal Distribution 📊Normal Distribution के लिए MLE 📊Normal Distribution 的 MLE 📊
The Story: Measuring Reaction Timeकहानी: Reaction Time मापना故事：测量反应时间
A neuroscientist measures the reaction times of 5 people: 240, 255, 261, 248, 271 ms. She assumes the times follow a Normal distribution N(μ, σ²). She does not know μ or σ². She uses MLE to estimate both from her 5 readings.
एक neuroscientist 5 लोगों का reaction time मापती है: 240, 255, 261, 248, 271 ms। वह मानती है कि ये समय Normal distribution N(μ, σ²) को follow करते हैं। उसे μ और σ² नहीं पता। वह MLE से 5 readings से दोनों का अनुमान लगाती है।
一位神经科学家测量了 5 个人的反应时间：240, 255, 261, 248, 271 ms。她假设这些时间服从 Normal distribution N(μ, σ²)，但不知道 μ 和 σ²。她用 MLE 从这 5 个数据同时估计两者。
σ̂² = 566/5 = 113.2 ms² | σ̂ = 10.64 ms
The MLE divides by n. The unbiased sample variance divides by n−1 (Bessel's correction). So σ̂² slightly underestimates the true variance. For large n the gap is tiny. For small n it matters. Compare σ̂ and s in the simulator above.
MLE n से भाग देता है। Unbiased sample variance n−1 से भाग देता है (Bessel's correction)। इसलिए σ̂² असली variance को थोड़ा कम आँकता है। बड़े n पर अंतर बहुत छोटा है। छोटे n पर यह मायने रखता है। ऊपर simulator में σ̂ और s की तुलना करें।
MLE 除以 n，而无偏样本方差除以 n−1（Bessel's correction）。所以 σ̂² 会略微低估真实方差。n 大时差距很小，n 小时影响明显。可在上面的模拟器中对比 σ̂ 和 s。
Log-Likelihood — Why It Matters 📉Log-Likelihood — यह क्यों ज़रूरी है 📉Log-Likelihood — 为什么重要 📉
The Story: The Astronomy Data Problemकहानी: Astronomy Data की समस्या故事：天文 data 难题
An astronomer has photon counts from 10,000 stars. The likelihood is a product of 10,000 numbers, each between 0 and 1. A computer rounds this product to zero. This is called underflow. The log-likelihood turns the product into a safe sum.
एक astronomer के पास 10,000 तारों के photon counts हैं। Likelihood 10,000 संख्याओं का गुणा है, हर संख्या 0 और 1 के बीच। Computer इस गुणनफल को zero कर देता है। इसे underflow कहते हैं। Log-likelihood गुणा को एक सुरक्षित जोड़ में बदल देता है।
一位天文学家有 10,000 颗恒星的光子计数。Likelihood 是 10,000 个介于 0 和 1 之间的数的乘积，计算机会把它舍入为零，这叫 underflow。Log-likelihood 把乘积变成安全的求和。
1. Stability: sums of logs never underflow. | 2. Easy calculus: sums are easy to differentiate term by term. | 3. Nice shape: for many models the negative log-likelihood is convex. So it has one global minimum, and gradient methods work well.
1. Stability: logs का जोड़ कभी underflow नहीं होता। | 2. आसान calculus: जोड़ का derivative हर term पर अलग से लेना आसान है। | 3. अच्छा आकार: कई models में negative log-likelihood convex होता है। इसका एक ही global minimum होता है, और gradient methods अच्छे से काम करते हैं।
1. 稳定：log 求和不会 underflow。 | 2. 求导简单：求和可以逐项求导。 | 3. 形状好：许多模型的 negative log-likelihood 是 convex 的，只有一个全局最小值，gradient 方法效果好。
MLE for Logistic Regression 🤖Logistic Regression के लिए MLE 🤖Logistic Regression 的 MLE 🤖
The Story: Predicting Loan Defaultकहानी: Loan Default का अनुमान故事：预测贷款违约
A bank wants to predict if a person will default (Y=1) or repay (Y=0) from their income X. The model is P(Y=1|X) = σ(β₀ + β₁X), where σ is the sigmoid. There is no closed-form answer for β₀ and β₁. So we climb the log-likelihood step by step with gradient ascent. This is exactly how logistic regression and neural networks are trained.
एक bank income X से अनुमान लगाना चाहता है कि व्यक्ति default करेगा (Y=1) या loan चुकाएगा (Y=0)। Model है P(Y=1|X) = σ(β₀ + β₁X), जहाँ σ sigmoid है। β₀ और β₁ का कोई closed-form जवाब नहीं है। इसलिए हम gradient ascent से log-likelihood पर कदम-दर-कदम चढ़ते हैं। Logistic regression और neural networks ठीक इसी तरह train होते हैं।
银行想根据收入 X 预测一个人会违约（Y=1）还是还款（Y=0）。模型是 P(Y=1|X) = σ(β₀ + β₁X)，σ 是 sigmoid。β₀ 和 β₁ 没有 closed-form 解，所以用 gradient ascent 一步步爬上 log-likelihood。logistic regression 和 neural networks 正是这样训练的。
ℓ = log 0.269 + log(1−0.690) + log 0.168 = −1.313 − 1.171 − 1.784 = −4.27
It says richer people default more — the opposite of the data.यह कहता है कि ज़्यादा income वाले ज़्यादा default करते हैं — data के उल्टा।它认为收入越高越容易违约——与 data 相反。
ℓ = log 0.500 + log 0.917 + log 0.690 = −0.693 − 0.087 − 0.371 = −1.15
MLE for the Poisson Distribution 📦Poisson Distribution के लिए MLE 📦Poisson Distribution 的 MLE 📦
The Story: The Call Centre Managerकहानी: Call Centre Manager故事：呼叫中心经理
Priya runs a call centre. Over 8 hours she counts calls per hour: 3, 5, 2, 8, 4, 6, 3, 5. She models calls as a Poisson process with unknown rate λ. She wants the MLE of λ to plan staff.
प्रिया एक call centre चलाती है। 8 घंटों में वह हर घंटे की calls गिनती है: 3, 5, 2, 8, 4, 6, 3, 5। वह calls को अज्ञात rate λ वाले Poisson process से model करती है। Staff की योजना के लिए उसे λ का MLE चाहिए।
Priya 管理一个呼叫中心。8 小时内她记录了每小时的来电数：3, 5, 2, 8, 4, 6, 3, 5。她用速率 λ 未知的 Poisson 过程建模，想求 λ 的 MLE 来安排人手。
Numerical MLE — When Calculus Fails 🔢Numerical MLE — जब Calculus काम न करे 🔢数值 MLE — 当微积分行不通时 🔢
Many real models have no closed-form answer. Mixture models are a common example: customer lifetimes, pixel intensities, gene expression. Here we use numerical methods: gradient ascent, the EM algorithm, or other optimisers. The idea is simple: start with a guess, then keep stepping uphill.
कई असली models का कोई closed-form जवाब नहीं होता। Mixture models इसका आम उदाहरण हैं: customer lifetimes, pixel intensities, gene expression। यहाँ numerical methods इस्तेमाल होते हैं: gradient ascent, EM algorithm या अन्य optimisers। Idea सरल है: एक अनुमान से शुरू करें, फिर ऊपर की ओर कदम बढ़ाते रहें।
许多实际模型没有 closed-form 解，mixture models 就是常见例子：客户生命周期、像素强度、基因表达。这时使用数值方法：gradient ascent、EM algorithm 或其他优化器。思路很简单：从一个猜测出发，不断往上坡走。
| MethodMethod方法 | How It Worksकैसे काम करता है原理 | Best Forकिसके लिए अच्छा适用场景 | Used Inकहाँ इस्तेमाल应用 |
|---|---|---|---|
| Analytical MLE | dℓ/dθ = 0 → θ̂ | Simple distributions (Normal, Binomial, Poisson)सरल distributions (Normal, Binomial, Poisson)简单分布（Normal、Binomial、Poisson） | Closed-form textbook resultsClosed-form textbook परिणाम教科书中的 closed-form 结果 |
| Gradient Ascent | β ← β + η·∂ℓ/∂β | Smooth, differentiable ℓSmooth, differentiable ℓ光滑可导的 ℓ | Logistic regression, GLMs |
| Newton-Raphson | Uses 2nd derivative (Hessian)2nd derivative (Hessian) इस्तेमाल करता है使用二阶导数（Hessian） | Fast near the peakPeak के पास तेज़在峰值附近收敛快 | GLMs, survival models |
| EM Algorithm | Alternates E-step and M-stepE-step और M-step बारी-बारी सेE-step 与 M-step 交替 | Latent variable / mixture modelsLatent variable / mixture models隐变量 / mixture models | GMMs, HMMs |
| BFGS / L-BFGS | Quasi-Newton, approximates HessianQuasi-Newton, Hessian का अनुमानQuasi-Newton，近似 Hessian | Many parametersबहुत सारे parameters参数很多时 | scipy.optimize, ML libraries |
| SGD / Adam | Gradient on mini-batchesMini-batches पर gradient在 mini-batch 上求 gradient | Huge datasets, deep learningबहुत बड़े datasets, deep learning超大数据集、deep learning | PyTorch, TensorFlow |
Properties of MLE — Why It Is So Widely Used ⭐MLE के गुण — यह इतना क्यों इस्तेमाल होता है ⭐MLE 的性质 — 为什么用得这么广 ⭐
- As n→∞, θ̂ approaches the true θ
- More data = more accurate
- Holds under mild regularity conditions
- Asymptotically unbiased
- n→∞ होने पर θ̂ असली θ के पास पहुँचता है
- ज़्यादा data = ज़्यादा सटीक
- हल्की regularity conditions में सही
- Asymptotically unbiased
- n→∞ 时 θ̂ 趋近真实 θ
- data 越多越准确
- 在温和的 regularity 条件下成立
- Asymptotically unbiased
- For large n, θ̂ is roughly Normal
- Gives confidence intervals
- Gives hypothesis tests
- Variance ≈ 1 / Fisher Information
- बड़े n पर θ̂ लगभग Normal होता है
- Confidence intervals मिलते हैं
- Hypothesis tests मिलते हैं
- Variance ≈ 1 / Fisher Information
- n 大时 θ̂ 近似 Normal
- 可得 confidence intervals
- 可做 hypothesis tests
- 方差 ≈ 1 / Fisher Information
- Reaches the Cramér-Rao lower bound as n grows
- Lowest possible variance for large n
- "Best possible" in the long run
- n बढ़ने पर Cramér-Rao lower bound तक पहुँचता है
- बड़े n पर सबसे कम variance
- लंबे समय में "सबसे अच्छा"
- n 增大时达到 Cramér-Rao 下界
- 大样本下方差最小
- 长期来看是“最好的”
Small samples: can be biased (e.g. variance). | Wrong model: if the assumed distribution is wrong, the MLE is the best fit to the wrong model. | Overfitting: MLE fits training data as closely as it can; use regularisation. | Many peaks: some likelihoods have several peaks; gradient methods may stop at a local one.
छोटे samples: biased हो सकता है (जैसे variance)। | गलत model: अगर मानी गई distribution गलत है, तो MLE गलत model का सबसे अच्छा fit है। | Overfitting: MLE training data से जितना हो सके उतना fit करता है; regularisation इस्तेमाल करें। | कई peaks: कुछ likelihoods में कई peaks होते हैं; gradient methods किसी local peak पर रुक सकते हैं।
小样本：可能有偏（如方差）。 | 模型错误：若假设的分布错了，MLE 只是错误模型的最佳拟合。 | Overfitting：MLE 尽可能贴合训练 data，需用 regularisation。 | 多峰：有些 likelihood 有多个峰，gradient 方法可能停在局部峰。
MLE vs MAP — Adding Prior Knowledge 🧠MLE बनाम MAP — Prior Knowledge जोड़ना 🧠MLE 与 MAP — 加入先验知识 🧠
MLE uses only the data. Maximum A Posteriori (MAP) also uses a prior — what we believed before seeing data. MAP maximises the posterior: P(θ|data) ∝ L(θ|data) × P(θ).
MLE सिर्फ़ data इस्तेमाल करता है। Maximum A Posteriori (MAP) एक prior भी इस्तेमाल करता है — data देखने से पहले हमारा विश्वास। MAP posterior को maximise करता है: P(θ|data) ∝ L(θ|data) × P(θ)।
MLE 只用 data。Maximum A Posteriori (MAP) 还使用 prior——看到 data 之前的信念。MAP 最大化 posterior：P(θ|data) ∝ L(θ|data) × P(θ)。
| Featureविशेषता特征 | MLE | MAP |
|---|---|---|
| Objectiveलक्ष्य目标 | max L(θ|data) | max L(θ|data)·P(θ) |
| Uses prior?Prior इस्तेमाल?使用 prior？ | No — data onlyनहीं — सिर्फ़ data否 — 只用 data | Yes — data + priorहाँ — data + prior是 — data + prior |
| Small dataकम datadata 少时 | Can overfit badlyबुरी तरह overfit हो सकता है可能严重 overfit | Prior keeps it stablePrior इसे stable रखता हैprior 让它保持稳定 |
| Large dataज़्यादा datadata 多时 | Works wellअच्छा काम करता है效果很好 | Prior fades; MAP → MLEPrior फीका पड़ता है; MAP → MLEprior 影响消失；MAP → MLE |
| ML equivalentML में समकक्षML 中的对应 | No regularisationकोई regularisation नहीं无 regularisation | L2 regularisation (Gaussian prior)L2 regularisation (Gaussian prior)L2 regularisation（Gaussian prior） |
| Log-objective | log L(θ|data) | log L(θ|data) + log P(θ) |
| School of thoughtविचारधारा学派 | Frequentist | Bayesian |
Ridge / L2 adds λ‖θ‖² to the loss. That term equals −log P(θ) (up to a constant) for a Gaussian prior P(θ) = N(0, σ²). So every L2-regularised model is a MAP estimator in disguise. L1 matches a Laplace prior.
Ridge / L2 loss में λ‖θ‖² जोड़ता है। Gaussian prior P(θ) = N(0, σ²) के लिए यह term (एक constant छोड़कर) −log P(θ) के बराबर है। इसलिए हर L2-regularised model असल में एक MAP estimator है। L1 Laplace prior से मेल खाता है।
Ridge / L2 在 loss 中加上 λ‖θ‖²。对 Gaussian prior P(θ) = N(0, σ²)，这一项（相差一个常数）等于 −log P(θ)。所以每个 L2-regularised 模型本质上都是 MAP estimator。L1 对应 Laplace prior。
MLE Across Machine Learning — The Unified View 🤖Machine Learning में MLE — एकीकृत नज़रिया 🤖贯穿 Machine Learning 的 MLE — 统一视角 🤖
| ML AlgorithmML AlgorithmML 算法 | Assumed Distributionमानी गई Distribution假设的分布 | −Log-Likelihood = Loss−Log-Likelihood = Loss−Log-Likelihood = Loss | How It Is Fittedकैसे Fit होता है拟合方式 |
|---|---|---|---|
| Linear Regression | Normal errors ε ~ N(0,σ²)Normal errors ε ~ N(0,σ²)Normal 误差 ε ~ N(0,σ²) | Mean Squared Error (MSE) | Ordinary Least Squares (OLS) |
| Logistic Regression | Bernoulli outputsBernoulli outputsBernoulli 输出 | Binary Cross-Entropy | Gradient ascent / NewtonGradient ascent / NewtonGradient ascent / Newton |
| Softmax Regression | Categorical outputsCategorical outputsCategorical 输出 | Categorical Cross-Entropy | Gradient methodsGradient methodsGradient 方法 |
| Naive Bayes | Class-conditional distributionsClass-conditional distributions类条件分布 | Joint log-likelihoodJoint log-likelihood联合 log-likelihood | Counting frequenciesFrequencies गिनना统计频率 |
| Gaussian Mixture Model | Mixture of NormalsNormals का mixture多个 Normal 的混合 | Mixture log-likelihoodMixture log-likelihoodMixture log-likelihood | EM Algorithm |
| Deep Neural Network | Task-dependentTask पर निर्भर取决于任务 | MSE / Cross-Entropy | SGD / Adam |
| Cox Survival Model | Hazard modelHazard modelHazard 模型 | Partial log-likelihood | Newton-Raphson |
| Large Language Models | Next-token categoricalNext-token categorical下一个 token 的 categorical | −Σ log P(token|context) | SGD / Adam |
Every row above does the same thing: find parameters that make the observed data most probable. With Gaussian errors, minimising MSE IS maximising likelihood. With categorical outputs, minimising cross-entropy IS maximising likelihood. MLE explains why ML training works.
ऊपर की हर पंक्ति एक ही काम करती है: ऐसे parameters खोजो जो observed data को सबसे ज़्यादा probable बनाएँ। Gaussian errors के साथ MSE को minimise करना ही likelihood को maximise करना है। Categorical outputs के साथ cross-entropy को minimise करना ही likelihood को maximise करना है। MLE बताता है कि ML training क्यों काम करती है।
上表每一行做的都是同一件事：找到让观测 data 概率最大的 parameters。在 Gaussian 误差下，最小化 MSE 就是最大化 likelihood；在 categorical 输出下，最小化 cross-entropy 就是最大化 likelihood。MLE 解释了 ML 训练为什么有效。
Complete MLE Reference — All Distributionsपूरा MLE Reference — सभी Distributions完整 MLE 速查表 — 各种分布
| Distribution | Parameter(s) | MLE EstimateMLE EstimateMLE 估计 | Intuitionसहज अर्थ直观理解 |
|---|---|---|---|
| Bernoulli(p) | p | p̂ = k/n | Observed proportionObserved अनुपात观测比例 |
| Binomial(n,p) | p | p̂ = k/n | Observed success rateObserved success rate观测成功率 |
| Poisson(λ) | λ | λ̂ = x̄ | Mean of the countsCounts का mean计数的均值 |
| Normal(μ, σ²) | μ, σ² | μ̂ = x̄, σ̂² = (1/n)Σ(xᵢ−x̄)² | Sample mean & biased varianceSample mean और biased variance样本均值与有偏方差 |
| Exponential(λ) | λ | λ̂ = 1/x̄ | 1 ÷ mean waiting time1 ÷ औसत waiting time1 ÷ 平均等待时间 |
| Uniform(a,b) | a, b | â = min(xᵢ), b̂ = max(xᵢ) | Observed range (biased: too narrow)Observed range (biased: बहुत संकरा)观测范围（有偏：偏窄） |
| Geometric(p) | p | p̂ = 1/x̄ | 1 ÷ mean trials to first success1 ÷ पहली success तक औसत trials1 ÷ 首次成功的平均试验次数 |
| Beta(α,β) | α, β | Numerical (Newton)Numerical (Newton)数值解（Newton） | No closed form; start from method-of-moments guessClosed form नहीं; method-of-moments अनुमान से शुरू करें无 closed form；从 method-of-moments 初值开始 |
The Golden Rules of MLEMLE के सुनहरे नियमMLE 黄金法则
The detective and the deep learning system follow the same logic. Observe data. Assume a model. Find the parameters that make the data most probable. That is the likelihood. Maximise it. That is MLE. The best explanation of the data is the one that would have made that data most likely.
Detective और deep learning system एक ही तर्क अपनाते हैं। Data देखो। एक model मानो। वे parameters खोजो जो data को सबसे ज़्यादा probable बनाएँ। यही likelihood है। इसे maximise करो। यही MLE है। Data की सबसे अच्छी व्याख्या वह है जो उस data को सबसे ज़्यादा likely बना देती।
侦探和 deep learning 系统遵循同样的逻辑：观察 data，假设模型，找到让 data 概率最大的 parameters。这就是 likelihood，把它最大化，就是 MLE。对 data 最好的解释，就是最能让这些 data 出现的那个解释。