[学习方法] 两年来的学习总结四 [推广有奖]

接两年来的学习总结三，这是四。感谢版主帮我加链接

六，概率统计课程科目与教材推荐

好，现在终于到了与Econ，Finance 关系最紧密的概率统计部分。关于概率统计的重要性我实在不想再强调了，不过需要再说一句的是，很多同学觉得学计量，学Finance很多东西看不懂，迷茫，那就是因为你概率统计没学好；甚至还有很多论调说什么Idea最重要，数学不重要，对于这种说法，我想说，别说Econ，Finance，连数学都是Idea最重要，任何学科都是Idea最重要的，但是你连基本的知识，研究工具都没掌握，都一窍不通，何来资本去讨论什么Idea？？好了，语调有点激烈，不想多说了，这个问题说多了没意思！下面我概率统计分开讲。

1概率

1.1：Basic Probability Theory

这个很重要，虽然不是基于Measure-Theory的，但是是你明白概率是什么东西的基础。国内数学系本科一学期的概率论的内容基本跟这边Undergraduate的Honors Course for Probability差不多，但问题是很多学校的老师不怎么认真在讲的时候。比如我所在学校的数学系，当时那个老师真是不咋地，上课光在那闲扯淡，证明一点都不讲，而且课堂过大，整个数学院所有不同专业的学生一起在上课，起码100多号人，效果可想而知。我不知道别的学校情况咋样，但是我本科所在学校的数学系还是国内比较不错的，连这里况且如此，很多地方可能也好不到哪去。当然，这只是我个人的瞎猜想，没有任何证据。

这门课的主要教材是名家Durrett的《The essentials of Probability 》，我想很多人都知道他的另外一本Graduate Probability教材《Probability：Theory and Examples》，现在美国这边的学校几乎都用这本书作为Math PHD Probability课的教材。顺便说一句，Durrett是超级牛人钟开莱（中国人，虽然是美国公民）的学生，好像我记得他在一本书里管钟开莱叫做Academic Godfather，真是牛到无极限啊。

这门课Durrett这本书所有内容全讲，题目几乎全做，这样使得学生Basic Probability的基础相当好，Probability的Intuition很不错，从而在后面学习基于Measure Theory的Probability跟Stochastic Process时，不至于迷失在Technical Details中。不过这本主要是给Math的学生的，我自己觉得Casella & Berger的《Statistical Inference》前面的Basic Probability部分也是超好无比，而且这是一本数理统计的教材，多了很多Distribution的东西，从而给你学数理统计打下一个坚实的基础。并且，这本书习题量大质量又好，而且网上有Solution Manual，所以是非常好的习题书。我自己其实没有上这门课，不过我们计量I（美国这边计量I其实是概率论与数理统计的内容，不过有经济系的特点罢了）当时教材是Cassella & Berger，于是我就把前五章的习题都给做了，真是受益匪浅。 另外，国内复旦李贤平的那本概率论教材也是非常好的。

个人建议：经管类毕业的同学我想都有一点概率论基础了，所以个人觉得不必要专门花一学期修这门课，但是我想自己自学或者在上计量I的时候将基本内容再过一遍，查缺补漏是有必要的，多做点题目，最好能将Casella & Berger前面五章的题目做完，然后适当的参考下Durrett当有概念不清晰的问题时，这样基础就打的比较牢了。Casella & Berger国内有影印版，习题答案网上可以找得到。至于原来读数学的同学，请根据你原来学的深度自行决定。

1.2：Measure-Based Probability-Probability I

这门课跟下面的Introduction to Stochastic Process-Probability II通常在美国这边是一年的Core Course Sequence 给那些将来可能做Probability的Math PHD学生。Probability I的内容一般包括（以我所在的学校为例）以测度论为基础的的概率基本概念，经典的极限定理（LLN于CLT for Independent Sequence）, Random Walk，Conditional Expectation,有的还会加上Discrete Time Martingale Theory。这门课的先修课为Real Analysis或者Measure Theory，你必须对Measure and Integration的内容很熟才行。 这门课我想不论你是做微观，宏观，还是计量还是Finance基本上最好都要学，毕竟现代经济学Uncertainty是核心，从而概率的应用极为广泛。微观里现在做的Decision theory, 关于Imperfect Information的很多东西都需要很好的概率论基础，上周跟一个要跟我们这里一个微观牛人做的同学见面讨论，他说那个Professor的Paper里就用到了Martingale Convergence Theorem，虽然不是很深，但是一个好的Probability基础还是很必要的；宏观里面常用的Stochastic Optimal Control，Stochastic Dynamic Programming；还有更不要提Finance了，如果没有一个好的概率基础，根本连现在入门的Asset Pricing教材你都看不懂，比如Cochorane的《Asset Pricing》，更别说Duffie的《Dynamic Asset Pricing》跟Merton的《Continuous-time Finance》了；计量理论我就更不说了，它本来就是研究一些有经济数据特点的统计理论的，想想Time Series Econometrics里的Unit，Cointergration吧，那里Asymptotic distribution的推导都是基于Functional CLT的。我就不多说了，总之，我们这里理论做的比较好的同学，几乎都有一个很好的Probability基础。 

如果你Measure Theory掌握的好，学这门课会舒服很多，当然，你依然需要花费巨大的时间跟精力。我这门课上了两次，一次是在Operation Research系里上的，讲课的是个俄罗斯裔的老师，课讲的极好，真的算是领教了Russian的数学水平，一个字，牛！！！光作业就给我们布置了14次，每次5－7个题目，一学期下来做了快一百个题目，想象一下，Graduate Course，每个题目光写有的时候就要2页多纸，学的时候真的是痛苦之极，不过学完之后真的是感觉收获特别多。我经常跟OR几个同学讨论问题，他们都是国内数学系出身，有的都是在这边的学校读过数学然后再转到这边来的，他们对作业量之大也很头疼，不过我们都很觉得那个老师确实讲的好，没得说。一个搞笑的是，这个老师的Webpage上写着，“对于那些不想完成作业的同学请点这个链接”，然后等你点了后就到了另外一个Web上，上面是他练空手道的一张照片，而且照片的光线有问题，他两眼发的都是绿光，恐怖啊，呵呵！！

由于这个课老师为了照顾一些对Measure Theory不是很熟的同学，于是他花了快一半的时间又把Measure Theory讲了一遍（这部分内容他主要用Billingsley的《Probability and Measure》里面的测度论部分），因此后面概率的东西只是讲到了CLT，后面没有讲Martingale，而且LLN跟CLT讲的不是特别深入，只是证明了IID情形下的定理，并没有证明Independent but not Identical Distribution的情形，而且我也想学多一点，因此我就去上了Math PHD Probability Core Sequence的第一学期的课（我本来想着上了OR这个然后直接去上第二学期的Probability II就算了的）。总算是把这个搞定了。  

总的来说，Probability的好教材是非常之多，其中有Durrett,《Probability: Theory and Examples》，Williams,《Probability with Martingales》，Billingsley,《Probability and Measure》，Resnick 《A Probability Path 》，Jacod & Protter，《Probability Essentials》, Dudley，《Real Analysis and Probability》, Shirayev，《Probability》，以及牛人钟开莱的《A Course in Probability》这些教材基本上都是包括了Probability I的测度论为基础的的概率基本概念，极限定理与Probability II的Stochastic Process的内容，所以基本上每一本都可以作为这一Sequence的教材，不过不同的教材特点还是不一样的。

Billingsley是公认的好教材，特点是全，既有Measure Theory的完整介绍，又包含有直到Brownian Motion的一年Probability课的所有内容，但有个问题是体系安排很怪异，不适合从头看到尾，事实上我们是从Chp2，Chp3开始学，然后穿插上Chp1的内容，然后再过渡到后面的Probability部分的。这本书的行文也是Informal式的，很多重要定理的叙述证明都是在字里行间完成的，并不是定理－证明式的写法。我个人经验是不适合自学，如果有老师教课用这本书，那真的是再好不过了，不过如果没有老师教，最好把这本作为参考。这本书的课后习题非常好，对于比较难的题目后面附有简要的答案。做Econ的人好多Paper后面在涉及Probability的时候引用的都是这本书（看看White的《Asymptotic Theory for Econometrians》），我猜他们当时学概率用的都是Billingsley这本教材，呵呵。

Durrett的教材是给Math PHD的标准教材，全书主要讲概率，将Measure Theory的主要结果附录在书的后面，以供参考，因此，学这本书必须有扎实的Measure Theory基础。现在国内这本书刚出了影印版（Billingsley现在也刚处影印版，痛啊，这两本书花了我快200刀就，因为我修课的时候国内还没有影印版，唉），忘记上面是谁做的序了，讲了一个故事，说是有个Math PHD学生放假还是怎么着出去玩的时候，身边就带了这么一本书，然后这个学生现在美国是美国一所著名大学的Professor了已经。抛开故事真假不说，我对这种传说式的故事一点都不信，搞得好像背着宝剑，身怀绝世武功，天生的武功奇才一样，不知道是不是武侠小说看的是不是太多了（实际上，我的武侠小说看的是巨多无比）。Durrett这本教材讲的虽然挺难，但只是一些早期Probability结果的总结，离着研究前沿还差的很远。所以我觉得序里的故事是想说明把这本书学透基础就会打的很牢固，但是这种故事容易对人形成误导，起码我记得我在未学Measure Theory跟Probability I之前也看过很多这种小故事，看完后热血沸腾，老想着一口气吃成个胖子，但是事与愿违，反而事倍功半，其实最重要的还是下功夫好好学。当然，这只是针对我个人而言，别的同学可能比我要理智的多。闲话不多说，Durrett这本书Probability I的内容讲的比较深，其中Random Walk作为单独一章进行深入透彻的讲解，我想Random Walk做Econ的同学应该很熟吧，这就是Unit Root Process了。其他书唯一这样做的就是钟开莱了，我想Durrett这样做跟他是钟开莱先生的学生有关系吧应该。Durrett这本是我们这Probability I&II这个One Year Sequence的主要教材，老师没有自己的Lecture Notes，会把这本书从头讲到尾，至于为什么我就不多说了。

下面想说牛人钟开莱的书了，这本书如前面个人背景里面所述，我在国内的时候上那个测度论因为很多问题不明白所以就找了这本书来看，结果受益匪浅。忘记在哪里看过了，说这本书其实是将前苏联数学家对基于测度的概率论，对Independent情形下Limit Theorem的研究的一个总结。也就是说，这可以说是一本现代概率论教材的雏形，虽然在这之前也有很好的教材，但是正是这本书以及钟开莱在Stanford教授这个课程的经验，导致了现在大部分学校的第一门概率Core Course所教授的主要内容为Independent情形下的Limit Theorem。实际上，我觉得在Limit Theorem定理的证明上，这本书依然是讲的最好的，不但严格，而且清晰明了，反而现在很多新出的概率书讲的迷迷糊糊，要吗不严格，要么太Technical。不过这本书大量集中于Limit Theorem的证明，作为Probability II主要内容的Martingale，Markov Chain讲的很少（当然，我觉得依然讲的很好，特别干脆利落），对Ergodicity，Brownian Motion更是一点都没涉及，他前言里好像说了这些应该作为第二门课的内容我记得。所以，这本书是加强版的Probability I教材，但是不能作为Probability II的教材。

Shirayev的书是一本典型的Russian数学书，内容跟Durrett基本上一样，只是前面加了一章基本的Probability and Stochastic Process，后面用两章讲了Stationary Process，少了对Brownian Motion的介绍。这本教材证明上清楚明了，课后习题很多是一些重要结果，是很好的教材。而且对Stationary Process的讲解特别好，算是奠定了Time Series Analysis的一个数学基础。想做Time Series Analysis我想这是一本必备的参考书。

Williams的书短小精悍，讲完Probability的基本内容立即进入Martingale的学习，真的是又快又准，毕竟Martingale在现代Probability甚至是Econ，Finance等等都起着关键的作用。

Resnick的书是我上OR那个Probability的教材，因为Resnick本身就是在OR系，所以他写的教材就稍微简单点，很多结果都给出了证明，不象是前面那基本为Math PHD准备的书很多结果你自己要证明，有的时候花很多时间。这本书的内容最后一章讲了Martingale，前面是Measure Theory跟Probability I的内容，看起来相对其他几本要稍微容易点，很多学校开给Engeering，Statistics或者Finance学生的Probability课都用这个作为教材。

Dudley的书Probability部分讲的内容很多，从经典的Limit Theorem到Martingale，到Brownian Motion，Ergodicity甚至还有一些Weak Convergence的内容，由于这本书整合了Real Analysis跟这么多的Probability内容，深度上感觉稍微差一点。Dudley本人在Empirical Process方面是奠基人之一，他1978年左右的几篇Paper给出了处理Empirical Process不Measurable一种处理方法，奠定了他的地位。他本人是MIT的教授，这本书是MIT概率论的教材，这门课的内容你可以在MIT Opencourse上查得到，上面有一些讲义跟习题答案，可以用来作为参考。

Jacod & Protter我没读过，把它列出来是因为这本书近年来有很多地方都在用，更重要得是这两个人虽然都是数学出身，但是现在都在做Finance得东西，而且都是名家。Protter是OR的Professor，我想很多做Finance的人都知道，他跟Jarrow有一篇关于Term Structure的Paper影响很大，是用Diffusion Process作为Model的。而Jacod则是法国巴黎“？“大的数学系教授，他跟Princeton经济系的Professor Ait-Sahalia（Review of Financial Studies的上一个三年的Editor）合作了一系列关系Continuous Time Process的算是金融计量领域的文章。

当然，在这边Finance领域主要还是在Business School，但由于Merton，Duffie等人对连续时间模型的使用导致了很多原来做Probability的数学出身的人都在搞Asset Pricing，不过他们管这个叫做Financial Mathematics，Financial Engeering等等，国内山东大学的彭实戈搞得所谓的金融数学其实就是这个。结果现在在搞Econ，Finance的人与这批以前数学出身的人之间有了巨大的分歧，前者认为后者摆弄数学，没有Intuition，没有Idea；而后者认为前者数学不行，模型用的不严格。于是就各搞各的，各自形成了一个圈子。个人认为两者都有道理，前者很多数学确实不行，模型用的不是很好，统计工具掌握的也不好，于是Journal of Finance上的Paper非常多的计量用的不对，或者是为了一个比较Significant，比较Interesting的结论故意这么做。其实很多结果，如果你用正确的或者比较严格的计量方法再做一遍，根本就不对，从而得出的Interesting的结论的可信度大打折扣。但是由于这些人已经形成了一个圈子，他们之间互相接受这种做法，所以文章还是能发，研究还是能做。说道这里，顺便说一下，记得以前在国内看到有人把Journal of Finance(JF), J of Financial Economics(JFE) 跟Review of Financial Studies（RFS）给排了一个顺序，说什么这个比那个好，那个比这个好。我猜那个排法应该是按照所谓的影响因子或者引用率之类的来排的，但是个人觉得这种东西没什么意思，这三个Journal都是Finance的Top Journal，如我前面所说JF的文章数学水平，计量工具的严格性要差一点，但是这样导致了结果很Interesting，而RFS是数学应用深一点，计量工具用的严格，但反而结果不那么Interesting。如此一来，使得JF的引用率要高于RFS，但你能就说前者比后者好吗？如果你真的这么想，那比较一下Econometrica上文章的引用率跟其他Journal然后再来回答这个问题。实际上，在美国这边的学术圈子里也存在争论，有人觉得JF好一些，有人觉得RFS更好一些，所以这也是没办法的事。但是我觉得做事要严谨一点，不要对别人产生误导，所以当你说JF比RFS好，或者RFS比JF好的时候，我自己就会加上，“我觉得“，或者“按照引用率，按照工具使用的严格程度来说“等等的修饰词以表明你这样判断的根据。

接着上面，反过来讲，后者确实是Intuition比较差一点，由于Econ比较特殊的学科性质，你用的严格却没有Interesting的结论，模型很好，但是结论跟以前一样，这样就没什么太大的意义。拿彭实戈老师做的Backward SDE来说，数学上确实很重要，提供了一种新的处理SDE的方法，而且实践上也可以应用；但是拿到Finance理论上来看，就是提供了一种解B-S模型的方法，而Finance理论则是再探讨B-S模型本身的问题，所以这个研究对于Finance理论则基本上没什么意义或者意义不是很大。从这里可以看出，学术研究某种程度上也是市场化，需要有人跟你一起开拓，有人欣赏你的东西才行，要不然你自己认为的再好的东西也卖不出去。

好了，该结束这一部分了，太长了。这部分介绍的书太多了，说一下我的学习过程。我个人由于是修课所以主要用了Billingsley的教材，基本上通读了算是，钟开莱的书我也基本上看完了，看这个是因为LLN，CLT 的证明讲的好。Shirayev我精度了他讲Stationary Process的两章，及Martingale那一章的部分内容。Durrett我没有精读，因为上面的好多证明都在别的书上认真推导过了，而且我下面会再去上那个一年的Core Course Sequence，这次完全讲这本书，所以打算把它精度一遍。其他几本Williams, Resnick , Dudley都只是在看别的书产生问题时候去找相应的部分做了参考。还有就是修完课后我花了几天时间把它们浏览了一下，以对照一下感觉。

个人建议：可以用Billingsley，Durrett，钟开莱，Shirayev中的任意一本作为主攻教材，尽量完成大部分的课后习题，很多题目网上应该可以搜索到答案。这四本书国内都已经有了英文影印版了，可以省钱了又。其他几本Williams, Resnick , Dudley可以作为参考，Williams网上有电子版，而Dudley国内有英文影印版，Resnick就不知道了。

1.3：Introduction to Stochastic Process-Probability II 

这门课主要内容是Discrete time Stochastic Process,，讲Martingale, Markov Chain, Stationary Process and Ergodicity, Brownian Motion(BM)，有的老师还会加上点Introduction to Ito’s Integral with respect to BM。 我这学期上这个课的老师是在概率领域里面一个超级牛的Russian老头，他教的东西太多了。除了上面的内容，他还讲了Continuous-time 下的Martingale跟Markov Process，甚至包括了Stochastic Integral最General的情形即对于Semi-martingale的积分，所有这些内容加起来一般都是分两门课来讲的，因此作业做的我很痛苦。不过痛苦完后感觉收获还是很大的。由于他这种教法是非常规的，并不是Probability II应该包含的内容，因此学这门课我觉得还是以标准内容为主，打好基础，这样以后要用到比较深的概率理论就可以自己学了，因为后面你要用到的可能都是近年才得出的结果，这种内容开课讲的好像不多，即使有也跟老师的研究方向有关了。

鉴于前面已经将众多概率教材做了详细介绍，这里就简要一谈就可以了。Billingsley的书把Probability II里面的内容都包含了，但不是特别成体系，都是分散开来的，所以不太适合作业主要教材。不过他最后一部分分两章讲的General Theory for SP跟BM是非常好的，前面一章详细的介绍了给出一个Finite Distribution然后Construct一个SP的方法，也即Kolmogrov Consistency Theorem，给SP的存在性奠定了一个基础。Durrett是标准的教材，因为将Measure Theory作为附录，从而腾出了大量空间详细介绍SP，是非常好的现代教材。钟开莱这方面的内容很少，但是他最后一张对Martingale跟Markov Process的介绍切中要害，理解深刻，我觉得非常值得一读。Shirayev内容跟Durrett差不多，只是少了BM的介绍，但是多了Stationary Process的详细讨论。Williams, Resnick , Dudley都有一些相关的介绍，但不如前面基本书是系统的介绍，所以只能用作参考我觉得。

个人建议：Durrett或者Shirayev都可以作为主要教材，主要的参考教材可以用Billingsley，钟开莱，其它基本可以翻一翻，了解一下别的处理方法。

1.4：Continuous time SP, Stochastic Integral and SDE, Weak Convergence and Convergence of SP, Limit Theorems for Dependent Sequence

这些内容每一个都是概率论的一部分比较现代一点的内容，关于这些内容的书一般都叫做Monograph，而不是象前面那些一样可以叫做Textbook，当然每一部分都是挺难的，想学会也挺不容易的。我这里只能稍微说几句，没法细论，一是因为这些内容都比较Specialized，如果你不需要根本不需要学，不象前面的内容是一个Econ PHD最好能具备的素质基础；二是因为我也说不了，因为我自己还没有修这些课，有的是无课可修，根本没人讲，只能自己学，比如Limit Theorems for Dependent Sequence，虽然计量尤其是Time Series Analysis经常用，但是没人教这些东西，不过如果前面Probability I & II你基础打好了，花上一点时间跟精力学好是没问题的。还有的是因为这些课程需要的预备知识太多，比如Stochastic Integral and SDE需要Discrete time SP的一些知识，Weak Convergence and Convergence of SP需要Topology跟SP的知识，所以我也没法修（这个是很难跨越的，Weak Convergence and Convergence of SP去年有个老师开这门课，我当时只是上了Probability I，学了Topology，但是没有SP的知识，前面讲Weak Convergence还勉强可以听，后来讲Convergence of SP时完全听不懂，最后只好Drop掉了那门课），自己水平还不到。

我在这里稍微写一下是因为有些人将来可能会修其中的内容，比如做Finance的人会去修Continuous time SP, Stochastic Integral and SDE,做计量的人有的会去学Weak Convergence and Convergence of SP跟Limit Theorems for Dependent Sequence等。 我虽然没有修过但是已经接触到了其中甚至大部分的内容，比如我这学期上的Probability II已经将重要的Continuous time SP 跟Stochastic Integral，SDE都讲了；Weak Convergence and Convergence of SP虽然后面我没学好，但是Weak Convergence我还算是学明白了，因此我知道有哪些书是用的比较多的，在这里稍微列一下，以便兄弟姐妹需要学的能找到合适的参考书，还有过来读Econ PHD的知道哪些书可以带来，以便省钱，呵呵，省钱万岁！！

Continuous time SP跟Stochastic Integral and SDE都是联系在一起的，好多教材都是两者一起讲，这其中比较好的教材为：

Revuz and Yor, 《Continuous time martingale and BM》(国内世图好像即将出影印版了)

Williams and Rogers, 《Diffusions, Markov Process and Martingales》I & II（有影印版）

Oksendal，《Stochastic Differential Equations》(有影印版，好像都出到第六版了，可能是最简单的Stochastic Calculus教材)

Karatzas and Shreve, 《BM and Stochastic Calculus》（GTM，有影印版）

Protter，《Stochastic integration and differential equations 》（国内即将有影印版，这是最难的一本Stochastic Integral教材了可能）

Shreve，《Stochastic Calculus for Finance》，Vol II（国内有影印版，这本是现在标准的Continuous Time Finance的教材了，这边大部分的Financial Engeering Program都用这个）

Weak Convergence and Convergence of SP的教材有：

Billingsley， 《Convergence of Probability Measure》

Jocod and Shereve，《Limit Theorems for Stochastic Process》

Ethier and Kurtz，《Markov Process: Characterization and Convergence》

Van der Vart and Weller, 《Weak Convergence and Empirical Process》(这其实是一本Empirical Process的教材，但Weak Convergence讲的很不错)

这些书国内好像没有影印版，不过倒是都有电子书，大家在网上应该可以搜索得到。

Limit Theorems for Dependent Sequence

用这些内容的我觉得肯定是想做Time Series Analysis的同志们，可以参考的教材有；

Hall, 《Martingale Limit Theorems》（这本书早已不印刷了，不过网上找得到）

Davidson, 《Stochastic Limit Theorem》（这是计量经济学家写的，不过连Billingsley都在他的<Convergence of Probability Measure>专门提过）

好了概率部分就结束了，最后还有数理统计的一部分就大功告成了。

-----------------------------------------------------------------------------------------------------------------------------------------------

两年来的学习总结一：https://bbs.pinggu.org/dispbbs.asp?BoardID=61&replyID=153193&id=318119&skin=0

两年来的学习总结二：https://bbs.pinggu.org/dispbbs.asp?BoardID=61&replyID=153200&id=318120&skin=0

之三 https://bbs.pinggu.org/thread-318124-1-1.html

之五 https://bbs.pinggu.org/thread-318354-1-1.html