חסם הופדינג

בתורת ההסתברות, חסם הופדינג, על שמו של וסילי הופדינג, (Hoeffding) הוא חסם עליון על ההסתברות שסכום של משתנים מקריים יהיה שונה מהתוחלת שלו.

חסם הופדינג הוא תוצאה של אי שוויון ברנשטיין.

הגדרה פורמלית

יהיו עיבוד הנוסחה נכשל (MathML עם גיבוי SVG או PNG (מומלץ לדפדפנים מודרניים ולכלי נגישות): תגובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://en.wikipedia.org/api/rest_v1/":): {\displaystyle X_1 \dots X_n } משתנים מקריים בלתי תלויים. עיבוד הנוסחה נכשל (שגיאת המרה. השרת ("https://en.wikipedia.org/api/rest_") השיב: "Cannot get mml. Server problem."): {\displaystyle X_{i}\in [a_{i},b_{i}]} בהסתברות 1. אזי הממוצע שלהם ${\displaystyle {\bar {X}}_{n}={\frac {1}{n}}\sum _{i=1}^{n}X_{i}}$ מקיים לכל t חיובי את אי השוויונים הבאים (הופדינג 1963):

עיבוד הנוסחה נכשל (MathML עם גיבוי SVG או PNG (מומלץ לדפדפנים מודרניים ולכלי נגישות): תגובה בלתי־תקינה ("Math extension cannot connect to Restbase.") מהשרת "https://en.wikipedia.org/api/rest_v1/":): {\displaystyle \Pr(\bar{X}_n - \mathrm{E}[\bar{X}_n] \geq t) \leq \exp \left( - \frac{2\,n^2\,t^2}{\sum_{i=1}^n (b_i - a_i)^2} \right)\!}

$${\displaystyle \Pr(|{\bar {X}}_{n}-\mathrm {E} [{\bar {X}}_{n}]|\geq t)\leq 2\exp \left(-{\frac {2\,n^{2}\,t^{2}}{\sum _{i=1}^{n}(b_{i}-a_{i})^{2}}}\right)\!}$$

שימושים

משמעות החסם היא שההסתברות שמדגם כלשהו מתוך הסתברות, לא יהיה "מדגם מייצג", קטנה באופן מעריכי בגודל המדגם. לחסם זה חשיבות רבה בתחום של למידה חישובית, מכיוון שהוא נותן אינדיקציה לגבי גודל המדגם שדרוש כדי ללמוד על התפלגות.

ראו גם

• אי-שוויון צ'בישב