חסם ברנקין

חסם ברנקין (באנגלית: Barankin Bound), חסם תחתון על השונות של אומדים חסרי-הטיה של פרמטרים דטרמיניסטיים. זוהי הכללה של חסמי קרמר-ראו וצ'פמן-רובינס, ובהשוואה אליהם - הוא הדוק יותר. למעשה, זהו החסם התחתון ההדוק ביותר שקיים על השונות האמורה (Greatest lower bound), וחסרונו בכך שלפעמים קשה לחשב אותו.

החסם נגזר לראשונה על ידי אדוארד ברנקין (Edward William Barankin) ב-1949.

החסם

נניח שהתפלגות המשתנה המקרי ${\displaystyle \ X}$ תלויה בפרמטר הדטרמיניסטי ${\displaystyle \ \theta }$, ומתוארת על ידי פונקציית הצפיפות ${\displaystyle \ p(x;\theta )}$. תחת תנאים רחבים, אם ${\displaystyle \ T(X)}$ הוא אומד חסר-הטיה של ${\displaystyle \ \theta }$, כלומר ${\displaystyle \ \mathrm {E} \left[T(X)\right]=\theta }$ (ולכן עיבוד הנוסחה נכשל (שגיאת המרה. השרת ("https://en.wikipedia.org/api/rest_") השיב: "Cannot get mml. Server problem."): {\displaystyle Var\left[T(X)\right]=\mathrm {E} \left[(T(x)-\theta )^{2}\right]} ), אז לכל ${\displaystyle \ a_{1},...,a_{n},h_{1},...,h_{n}}$ מתקיים:

${\displaystyle \ Var\left[T(X)\right]\geq {\frac {\left[\sum _{k=1}^{n}a_{k}\cdot h_{k}\right]^{2}}{\mathrm {E} \left\{\left[\sum _{k=1}^{n}a_{k}\cdot {\frac {p(x;\theta +h_{k})-p(x;\theta )}{p(x;\theta )}}\right]^{2}\right\}}}}$.

במעבר לגבול שבו המרחק המקסימלי בין ערכי h שואף לאפס, מתקבלת צורה רציפה של החסם, שנגזרה על ידי ג'ק קיפר (Jack Kiefer):

עיבוד הנוסחה נכשל (MathML עם גיבוי SVG או PNG (מומלץ לדפדפנים מודרניים ולכלי נגישות): תגובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://en.wikipedia.org/api/rest_v1/":): {\displaystyle \ Var \left[T(X) \right] \ge \frac{\left[e_1-e_2 \right]^2}{\mathrm{E} \left\{ \left[\int \frac{p(x;\theta+h_k)}{p(x;\theta)} \cdot (p_{h1}(H)-p_{h2}(H)) \,dH \right]^2 \right\}}} .

כאשר ${\displaystyle \ p_{h1},p_{h2}}$ הן פונקציות התפלגות שרירותיות, ו-${\displaystyle \ e_{1},e_{2}}$ הן התוחלות של עיבוד הנוסחה נכשל (MathML עם גיבוי SVG או PNG (מומלץ לדפדפנים מודרניים ולכלי נגישות): תגובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://en.wikipedia.org/api/rest_v1/":): {\displaystyle \ h} לפי ${\displaystyle \ p_{h1},p_{h2}}$ בהתאמה.

מכיוון שהחסם מתקיים לכל בחירה של a,h (במקרה הראשון) ושל עיבוד הנוסחה נכשל (MathML עם גיבוי SVG או PNG (מומלץ לדפדפנים מודרניים ולכלי נגישות): תגובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://en.wikipedia.org/api/rest_v1/":): {\displaystyle \ p_{h1}, p_{h2}} (בשני), הוא נשאר נכון גם כשמחליפים את אגף ימין בסופרימום על כל האפשרויות.

הוכחת החסם

נוכיח את הצורה השנייה של החסם. נסמן:

${\displaystyle \ A=T(X)-\theta }$

עיבוד הנוסחה נכשל (MathML עם גיבוי SVG או PNG (מומלץ לדפדפנים מודרניים ולכלי נגישות): תגובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://en.wikipedia.org/api/rest_v1/":): {\displaystyle \ B=\int \frac{p(x;\theta+h_k)}{p(x;\theta)} \cdot (p_{h1}(H)-p_{h2}(H)) \,dH}

מתוך חוסר הטיה, לכל H מתקיים:

${\displaystyle \ \int \left[T(x)-(\theta +H)\right]\cdot p(x;\theta +H)\,dx=0}$

לכן, מתוך העברת אגפים ושימוש בתכונות של פונקציות פילוג:

עיבוד הנוסחה נכשל (MathML עם גיבוי SVG או PNG (מומלץ לדפדפנים מודרניים ולכלי נגישות): תגובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://en.wikipedia.org/api/rest_v1/":): {\displaystyle \ \int \left[T(x)-\theta \right] \cdot p(x;\theta+H) \,dx= H}

נבחן את תוחלת המכפלה של A,B. מצד אחד (תחת תנאים רגולריים המאפשרים החלפת סדר אינטגרציה):

עיבוד הנוסחה נכשל (שגיאת המרה. השרת ("https://en.wikipedia.org/api/rest_") השיב: "Cannot get mml. Server problem."): {\displaystyle \ \mathrm {E} (A\cdot B)=\int \mathrm {E} \left[(T(X)-\theta )\cdot {\frac {p(X;\theta +H)}{p(X;\theta )}}\right]\cdot (p_{h1}(H)-p_{h2}(H))\,dH}

התוחלת הפנימית היא בדיוק H, כפי שהראינו לעיל מתוך חוסר ההטיה. לכן, נקבל:

${\displaystyle \ \mathrm {E} (A\cdot B)=\int H\cdot (p_{h1}(H)-p_{h2}(H))\,dH=e_{1}-e_{2}}$.

מצד שני, לפי אי-שוויון קושי-שוורץ:

${\displaystyle \ \mathrm {E} (A\cdot B)^{2}\leq \mathrm {E} (A^{2})\cdot \mathrm {E} (B^{2})}$

לאחר הצבת כל הגדלים באי-שוויון זה מקבלים בדיוק את החסם.

על-מנת לקבל את הגרסה של ברנקין, יש להציב:

${\displaystyle \ p_{h2}(H)=\delta (H)}$

עיבוד הנוסחה נכשל (MathML עם גיבוי SVG או PNG (מומלץ לדפדפנים מודרניים ולכלי נגישות): תגובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://en.wikipedia.org/api/rest_v1/":): {\displaystyle \ p_{h1}(H)=\sum_{k=1}^n a_k \cdot \delta(H-h_k)}

כאשר עיבוד הנוסחה נכשל (MathML עם גיבוי SVG או PNG (מומלץ לדפדפנים מודרניים ולכלי נגישות): תגובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://en.wikipedia.org/api/rest_v1/":): {\displaystyle \ \delta} היא הדלתא של דיראק.

לקריאה נוספת