本书对现代统计推断的基本概念进行了严谨而全面的阐述,对基本概念进行了清晰的阐述。具体内容包括:二项假设检验、多元假设检验、复合假设检验、信号检测、凸统计距离、假设检验的性能界限、假设检验的大偏差和误差指数、随机过程检测、贝叶斯参数估计、zui大似然估计、信号估计等。本书的一个显著特点是大量精心构造的例子,有助于读者理解和吸收这些概念。由于除了概率论,不需要任何特定领域的专门知识,所以这本书应该能够被广大读者广泛阅读。
译者序
前言
缩写词
第1章引言1
11背景1
12记号1
121概率分布2
122条件概率分布2
123期望和条件期望2
124统一记号3
125一般随机变量3
13统计推断4
131统计模型4
132一些常见的估计问题5
133一些常见的检测问题6
14性能分析6
15统计决策理论7
151条件风险和优决策法则8
152贝叶斯方法8
153极小化极大方法9
154其他非贝叶斯决策法则10
16贝叶斯决策法则的推导10
17极小化极大决策理论与贝叶斯
决策理论之间的联系12
171对偶概念12
172博弈论13
173鞍点13
174随机决策法则14
练习16
参考文献18
第一部分假设检验
第2章二元假设检验20
21一般框架20
22贝叶斯二元假设检验21
221似然比检验22
222一致成本22
223例22
23二元极小化极大假设检验26
231对等法则27
232贝叶斯风险线与贝叶斯小
风险曲线28
233可微的V(π0)28
234不可微的V(π0)29
235随机LRT30
236例31
24奈曼皮尔逊假设检验33
241NP优化问题的解33
242NP法则35
243受试者操作特征曲线35
244例36
245凸优化38
练习38
第3章多元假设检验44
31一般框架44
32贝叶斯假设检验45
321优决策域45
322高斯三元假设检验47
33极小化极大假设检验47
34广义NP检测51
35多重二元检验51
351Bonferroni校正52
352错误发现率53
353BenjaminiHochberg方法53
354与贝叶斯决策理论的联系54
练习55
参考文献58
第4章复合假设检验59
41引言59
42随机参数Θ60
421对每个假设都是同样的
成本60
422有不同成本的假设63
43一致大功效检验64
431例64
432单调似然比定理66
433双复合假设67
44局部大功效检验68
45广义似然比检验69
451高斯假设检验的GLRT70
452柯西假设检验的GLRT72
46随机与非随机的θ72
47非受控检验74
48复合m维假设检验75
481随机参数Θ76
482非受控检验76
483mGLRT77
49稳健假设检验77
491条件独立观测值的稳健
检测80
492ε污染族81
练习83
参考文献86
第5章信号检测87
51引言87
52问题描述88
53带独立噪声的已知信号检测88
531iid高斯噪声下的信号89
532iid拉普拉斯噪声下的
信号90
533iid柯西噪声下的信号91
534近似NP检验92
54带相关高斯噪声的已知信号
检测92
541转化为iid情形下的噪声
检测问题93
542性能分析95
55多元信号检测96
551贝叶斯分类法则96
552性能分析96
56信号选择97
561iid噪声97
562带相关性的噪声98
57高斯噪声下的高斯信号检测99
571在高斯白噪声中检测高斯
信号100
572iid零均值高斯信号的
检测101
573信号协方差矩阵的对角化102
574性能分析102
575非零均值的高斯信号104
58弱信号的检测105
59高斯白噪声下带有未知参数的
信号检测106
591一般方法107
592线性高斯模型107
593非线性高斯模型108
594离散参数集109
510高斯噪声下非高斯信号的基于
偏差的检测112
练习114
参考文献118
第6章凸统计距离119
61KullbackLeibler散度119
62熵与互信息121
63切尔诺夫散度、切尔诺夫信息和
巴塔恰里亚距离122
64AliSilvey距离123
65一些有用的不等式127
练习128
参考文献130
第7章假设检验的性能界132
71条件错误概率的简单下界132
72错误概率的简单下界133
73切尔诺夫界134
731矩母函数和累积量生成
函数134
732切尔诺夫界135
74切尔诺夫界在二元假设检验中的
应用138
741PF和PM上的指数形式
上界138
742贝叶斯错误概率140
743ROC的下界142
744例142
75分类错误概率的界143
751由每对错误概率得到的
上、下界143
752Bonferroni不等式145
753广义Fano不等式145
76附录:定理74的证明147
练习149
参考文献151
第8章假设检验的大偏差和错误
指数152
81引言152
82iid随机变量求和的切尔诺
夫界153
821克莱姆定理153
822为什么中心极限定理在此处
不适用154
83带iid观测值的假设检验154
831带iid观测值的贝叶斯
假设检验155
832带iid观测值的奈曼
皮尔逊假设检验156
833Hoeffding问题156
834例158
84精细的大偏差160
841指数倾斜方法160
842iid随机变量的和161
843大偏差概率的下界163
844二元假设检验的精细
渐近性165
845随机变量不是iid的
情形166
85附录:引理81的证明168
练习169
参考文献171
第9章序贯检测与速变检测173
91序贯检测173
911问题阐述173
912停时和决策法则173
913序贯假设检验问题的两种
阐述174
914 序贯概率比检验174
915 SPRT的性能评价176
92速变检测180
921极小化极大速变
检测182
922贝叶斯速变检测185
练习188
参考文献191
第10章随机过程检测192
101离散时间随机过程192
1011周期平稳高斯过程193
1012平稳高斯过程194
1013马尔可夫过程196
102连续时间过程198
1021协方差核199
1022KarhunenLoève变换200
1023高斯噪声下已知信号的
检测202
1024高斯噪声下的高斯信号
检测205
103泊松过程207
104一般过程208
1041似然比209
1042AliSilvey距离210
105附录:命题101的证明210
练习212
参考文献213
第二部分估计
第11章贝叶斯参数估计216
111引言216
112简介216
113MMSE估计217
114MMAE估计218
115MAP估计219
116线性高斯模型的参数估计221
117向量参数估计222
1171向量MMSE估计222
1172向量MMAE估计223
1173向量MAP估计223
1174线性MMSE估计224
1175线性高斯模型中的向量
参数估计225
1176贝叶斯估计的其他成本
函数225
118指数族225
1181基本性质226
1182共轭先验分布228
练习230
参考文献233
第12章小方差无偏估计234
121非随机参数估计234
122充分统计量235
123因子分解定理236
124RaoBlackwell定理238
125完备分布族239
1251完备族和充分性之间的
关系241
1252完备性与MVUE之间的
关系241
1253完备性和指数族之间的
关系242
126讨论243
127例:高斯分布族243
练习246
参考文献248
第13章信息不等式和CramérRao
下界249
131Fisher信息和信息不等式249
132CramérRao下界251
133Fisher信息量的性质253
134信息不等式中的等号成立条件255
135向量参数256
136随机参数的信息不等式260
137有偏估计量262
138附录:式(1316)的推导263
练习264
参考文献266
第14章大似然估计267
141引言267
142ML估计值的计算268
143ML估计量函数(参数变换)
的不变性269
144指数族中的MLE270
1441均值作为参数271
1442和MVUE的联系271
1443渐近性271
145边界上的参数估计273
146一般分布族的渐近性质274
1461一致性275
1462渐近有效性和正态性277
147非正则的ML估计问题279
148MLE的不存在性280
149非独立同分布的观测值282
1410M估计量和小二乘
估计量283
1411EM算法283
14111EM算法的一般结构284
14112EM算法的收敛性284
14113例285
1412递归估计290
14121递归MLE290
14122小二乘法解的递归
近似292
1413附录:定理142的证明292
1414附录:定理144的证明293
练习294
参考文献298
第15章信号估计299
151线性更新299
152离散时间的卡尔曼滤波301
153扩展的卡尔曼滤波306
154一般隐马尔可夫模型的非线性
滤波308
155有限字母隐马尔可夫模型的
估计310
1551Viterbi算法311
1552向前向后算法313
1553HMM学习的BaumWelch
算法316
练习318
参考文献320
附录A矩阵分析321
附录B随机向量与协方差矩阵326
附录C概率分布327
附录D随机序列的收敛性329
索引330