一位TalkingData员工学习人大统计学课程的笔记及感想


引言

新的一年,想必不少人都给自己树立了学习目标,要想学习上得去,先得学会做笔记。记笔记是我们在学习过程中消化总结的好方式,良好的记笔记习惯能起到事半功倍的效果。

本文为 TalkingData 何兴权在学习 TDU 为 TDer 准备的人大统计学课程所做的学习笔记及感想,不妨一起来学习一下吧。

前段时间学习了人大薛薇老师的统计学基础课程,最近刚交了统计学作业,得到了 TDU 同学和薛老师的高度评价,并与薛老师交流了关于“原假设”的问题。在这里和大家分享一下这段学习历程,与大家共勉,也欢迎大家提一些建议哈。

薛老师这次课程主要是基于案例探讨统计分析方法的基本原理,她带来的第一个案例是北京市空气监测。

开头便告诉我们从统计视角看案例数据,确定研究的样本、步骤、问题,只研究供暖季的数据,数据处理的两种方式:

第一,计算该时段各站点各变量均值,样本量 35

第二,忽略时间上的差异,视数据为截面数据。优势:有效扩大了样本量(采纳)

研究步骤和问题:

第一步,样本数据的描述统计。

涉及问题:

了解数据缺失状况

基本描述统计

诊断极端值:从统计视角检测 PM2.5 爆表情况

第二步,依据样本,对样本来自的总体参数进行估计和对比。

涉及问题:

估计北京市供暖季 PM2.5(一个总体)的平均值

交通污染对 PM2.5 的影响:对比西直门北(区域)和定陵(区域)供暖季的 PM2.5(两总体)的平均值

第三步,基于样本数据的深入研究

探讨 PM2.5 成因,对比北京四个不同区域(西北、西南、正南、东/东南)PM2.5 总体均值差异

探讨 PM2.5 的空间特征和空气质量的区域划分

探讨 AQI 的全面性问题

接下来针对研究步骤和问题展开讲解,从最基础的直方图、概率密度函数、四分位数等内容到十分经典的假设检验、Bootstrap、多元线性回归、聚类分析、主成分分析都有讲解。

然后为我们带来了第二个案例,基于 HR 的调查研究 IT 员工离职问题,研究离职主要因素并预测是否离职。

因为这里研究的二分类变量与其他变量之间的关系,对二分类的被解释变量不可以直接采用一般多元线性回归分析方法,因此进行改进如下:

建立二项 Logit 模型,并讲解二分类模型的评价问题,查准率和查全率(覆盖率)和 ROC 曲线。

正所谓“实践是检验真理的唯一标准”,在上完课后就进入作业环节。

说实话,薛老师布置的作业并不难,只要好好复习课件,一般都能答出来,但复习课件不仅仅是为了完成作业,同时也是一个理解吸收提高的过程。(PS:自己的作业也十分荣幸的得到了 TDU 同学和薛老师满分+的评价,哈哈。)

以第一题为例,原题如下:

某大型企业 HR 通过随机调查获得了 2720 名技术员工对企业满意度的打分(取值范围:0~1)数据。对该样本的基本描述统计结果如下。

请问:

1. 请基于上述计算结果,粗略绘制满意度打分的概率密度分布曲线,并在图中画出有相同均值和标准差的正态分布曲线。

考察基础知识,概率密度分布曲线和正态分布曲线,这两个知识点虽然薛老师没有直接讲解,但都比较基础,要求我们有一定的 R 自学能力,查一下就能知道结果。

通过 plot 绘制出 density 概率密度分布曲线,通过 mean 和 sd 求出均值和方差,然后通过 curve 绘制出 dnorm 正态分布曲线。

核心代码如下:

个人解答如下:

(1)满意度打分的概率密度分布曲线如图所示,可以看出,并不符合正态分布。

(2)求得均值为 0.6078971,标准差为 0.2541932,相应的正态分布曲线如图。

2. 基于上述计算结果,你认为满意度打分中是否存在异常数据?为什么?

正所谓外行看热闹,内行看门道,异常数据不是你觉得有异常就异常,需要理论依据,理论依据是啥?答:阈值,大于 1.5 倍的四分位差,详见 PPT 第 17 页。

个人解答如下:

答:满意度打分不存在异常数据。为非对称分布。

(1)先计算 1.5 倍的四分位差:

得到标准 0.585。

(2)在计算上四分位数和下四分位数:

得到 0.43(25%)和 0.82(75%)

(3)计算出最值:

得到 0.09(min)和 1(max)因(0.43-0.585)不存在和(0.82+0.585)不存在,故无异常点。

3. 基于上述计算结果,如果希望刻画满意度打分的样本分布特征,应给出哪些最基本的描述统计结果?它们的含义是什么?

这道题考的十分基础,最基本的描述统计结果,可以参考 Basic descriptive statistics useful for psychometrics 里的描述统计量,但背后是统计方法中的描述统计,是统计学的基石,也是个人统计学的基本功,虽然简单,但必须重视。

个人解答如下:

答:可以有以下描述统计结果:

n:2720,一共有 2720 名技术员工的满意度数据;

mean:0.61,满意度的平均值为 0.61 分;

sd:0.25,满意度的标准差为 0.25,反映满意度的离散程度;

min:0.09,满意度的最值,最低分 0.09;

max:1,满意度的最值,最高分 1;

skew:-0.48,左偏,偏离度-0.48;

se:0,均值的标准误差 Standard Error

备注:标准误=标准差/√n,n 是样本量。公式意思是:标准误等于标准差除以样本量的平方根。

其他题目类似,十分经典,不在一一展开。

之后,我还与薛老师进一步交流了关于“原假设”的问题。

我们先看问题以及我的解答:

员工甲认为:企业技术员工的工作压力大,他们对企业满意度打分的总体平均值不会高于 0.5 分。基于第一题的随机样本数据,员工乙利用假设检验方法对员工甲的观点进行了验证,分析结果如下。

请问:

1. 员工乙采用的是哪种统计检验方法?请给出假设检验的原假设。

答:采用的是单个总体均值的假设检验;由 alternative hypothesis: true mean is not equal to 0.5 知原假设为真实的均值等于 0.5。

但薛老师认为原假设是 H0:μ0≤0.5

我:如果按题意他们对企业满意度打分的总体平均值不会高于 0.5 分和最终结果平均值高于 0.5 分,那么原假设 H0:μ0≤0.5。

但如果看 R 执行的结果 alternative hypothesis: true mean is not equal to 0.5,那么原假设为真实的均值等于 0.5,即μ0 = 0.5。 在这里是不是应该以 R 执行的结果为准。

薛老师:程序给出的都是双侧检验的概率 P 值,单侧检验用它的 1/2 即可

最后我提出加上 alternative = "greater"这个参数,这样 alternative 被则假设、原假设、R 结果、题意都统一,就没有歧义了。

得到了薛老师的肯定,最终达成一致。

一场精彩的统计学课程结束了,但我们的学习之旅还有很长的路要走。

在此,感谢薛老师的精彩讲解,感谢 TDU 引入这样一门好课,希望能和大家共同进步。

优质内容筛选与推荐>>
1、[AI开发]centOS7.5上基于keras/tensorflow深度学习环境搭建
2、发现 Visual Studio中ListBox控件的BUG
3、web.xml 404 500 配置
4、HDU–6208 The Dominator of Strings[KMP]
5、简单正则表达式匹配


长按二维码向我转账

受苹果公司新规定影响,微信 iOS 版的赞赏功能被关闭,可通过二维码转账支持公众号。

    阅读
    好看
    已推荐到看一看
    你的朋友可以在“发现”-“看一看”看到你认为好看的文章。
    已取消,“好看”想法已同步删除
    已推荐到看一看 和朋友分享想法
    最多200字,当前共 发送

    已发送

    朋友将在看一看看到

    确定
    分享你的想法...
    取消

    分享想法到看一看

    确定
    最多200字,当前共

    发送中

    网络异常,请稍后重试

    微信扫一扫
    关注该公众号