統計決策理論

概述
　　在此以前，人們對數理統計，主要是着眼於其推斷的功能，亦即從觀測數據出發對總體作出某種論斷（見統計推斷）。至於由此應該採取什么決策或行動，會產生什么後果，則被認爲不屬於統計的範疇。瓦爾德的理論則把後面這一部分內容也納入統計的範圍之內，這在數理統計學上是一項革新，有較大的實際意義。
　　在一個統計問題中，統計工作者掌握的資料是樣本X＝(x1,x2…,xn),X所來自的總體的分布Fθ中包含的參數θ爲未知,而只知道θ所屬的集合（爲θ所有可能取值的集合，稱爲參數空間）。但是，採取什么決策最好，則取決於未知的θ值。用形象化的說法，θ是由大自然在參數空間中選定的，人們力圖去找到它。大自然掌握了θ的祕密，而這個祕密又通過樣本泄露出來,統計工作者的任務就是根據樣本 X中所包含的關於θ的信息,去作出良好的決策。例如，一家商店根據抽樣決定是否接受一批來貨，一個工廠根據市場調查的結果決定某種產品生產多少等,希望所採取的行動取得盡可能好的效果,或者說，使“行動不當”所造成的損失盡可能小。統計決策三要素
　　可以通過三個要素把一個統計決策問題表達出來。

樣本空間

　　① 樣本空間 H與樣本分布族{Fθ：θ∈}這個要素規定了問題的概率模型。樣本空間是樣本可能的取值範圍，而樣本分布族是樣本所可能遵從的分布的集合。

行動空間

　　② 行動空間A　它是統計工作者可以採取的單純策略（或稱行動）的集合。例如，設 θ爲一維參數，要對θ作區間估計，則實軸上任一區間【α,b)】構成一個單純策略，這時行動空間爲所有【α,b)】構成的集合,即{【α,b)】：-∞<α≤b<∞}。若問題是要檢驗有關 θ的假設，則行動空間 A由α0（接受假設）和α1（拒絕假設）兩個元素構成。

損失函數

　　③ 損失函數L 統計決策理論有一個基本出發點：所採取的行動的後果可以數量化。設參數真值爲 θ，統計工作者採取的行動爲α，則所遭受的損失可表爲 α與θ的函數L(θ, α)，稱之爲損失函數。在一個具體問題中,採取什么損失函數最好，是一個需要進行大量調查研究以至理論工作的問題，這也是在使用決策理論時的一個困難點。
　　統計決策函數 當三個要素都已給定時，統計工作者採取什么行動，取決於他所掌握的樣本。求一個統計決策問題的解，就是制定一個規則，以便對樣本空間中每一點，在行動空間中都有一個元素與之對應，也就是找一個定義於樣本空間 H而取值於行動空間A的函數或分布函數δ，當有了樣本X=尣，就按δ(尣)採取行動，稱δ爲決策函數。用對策論的語言,δ就是統計工作者所採取的策略。選擇決策函數的準則
　　對一個統計決策問題，爲選定一個較優的決策函數，需要建立反映決策函數優劣的指標。風險函數R(θ,δ)就是這樣的指標,定義爲R(θ,δ)=Eθ 【L(θ，δ(X))】，即採取決策函數δ而參數真值爲θ時所遭受的平均損失。風險函數愈小，決策函數愈好。在這個原則下，可以引進種種更具體且可行的準則。

容許性準則

　　① 容許性準則　設δ爲一決策函數，若存在另一決策函數δ，使對一切θ∈有R(θ,δ)≤R(θ,δ),且不等號至少在中的某一點成立,則稱δ爲不可容許的，否則爲可容許的。從風險愈小愈好的原則出發,當δ不可容許時，便沒有理由使用它。判定一個決策函數是否可容許，是統計決策理論中一個重要而且困難的問題。在風險函數愈小愈好的原則下，若存在決策函數δ0，對一切θ∈必成立R(θ,δ0)≤R(θ,δ)，其中δ爲任一決策函數，則δ0是最好的決策函數，稱爲一致最優決策函數。但這種決策函數一般不存在，因而不得不放寬條件，常採用的有兩種方法：一種是不對風險函數在上作逐點比較，而採用某種綜合性指標；另一種方法是先從一定角度對允許使用的決策函數加以一定限制，然後再找一致最優的，從而又引出下列準則。

最小化最大準則

　　② 最小化最大準則　最大風險是一種綜合性指標，若存在使最大風險最小的決策函數δ,使得對一切決策函數δ都有：M(δ)≥M(δ)，則稱δ是最小化最大決策函數，它反映了一種較穩健或保守的策略思想。

貝葉斯準則

　　③ 貝葉斯準則　它以貝葉斯風險爲指標, 在參數空間上選定一概率測度ξ，稱ξ爲θ(θ∈)的先驗分布，而稱爲決策函數δ的相對於ξ的貝葉斯風險,它也是一個綜合性指標。若對一切決策函數δ都成立,稱δ爲ξ的貝葉斯決策函數。

最優同變性準則

　　④ 最優同變性準則 這是一種在限制決策函數有同變性的條件下，求一致最優決策函數的準則。同變性是指當問題由於平移、刻度等變換而發生變化時，相應的決策(對策)也能有同步地變換的性質。例如,在正態總體N(μ,1)中抽樣x1,x2,…,xn以估計μ,若將度量原由零點(O)移到с處，則樣本在新坐標系下變爲x1+с,x2+с…,xn+с,而參數變爲μ+с,如果接受“估計結果不應與坐標原點的取法有關”的原則,則所用的決策δ應滿足：對任何實數с,有；稱這樣的 δ在平移變換下有同變性。可以在樣本空間H上考慮更復雜的一一變換羣，而定義在這個變換羣之下的同變性，在所有具有同變性的決策函數類中，風險一致最小的決策函數被稱爲最優同變決策函數。
　　在點估計中，限制使用的估計量有無偏性，採用平方損失函數，在這個限制下,一致最優估計量就是一致最小方差無偏估計。這是另一個在限制決策函數下，求一致最優策略的例子。
　　一旦選定了優良性標準，統計決策問題的解決，就相當於一個數學上的最優化問題。1950年後的幾十年來在這方面做了不少工作，這不僅使統計問題有了嚴格的數學提法，同時也在形式上部分地突出了瓦爾德的想法，把形式不一樣的統計問題歸並在一個模式下統一處理。決策函數的觀點使統計更注重了所採取行動的效果，也使統計問題提法更加多樣化，從而开拓了某些新的研究領域，例如前面提到的關於容許性及最小化最大準則的研究。因此,瓦爾德的理論受到統計學界的重視,成爲二次大战後統計學史上一個重大事件。但是，在這個問題上的看法也並不一致，英國統計學家M.肯德爾認爲“損失的數量化”並非在任何情況下都合理可行，而且他還認爲，把統計問題歸之於統計工作者與大自然之間的博弈的觀點，是值得懷疑的。