调查问卷的有效性(1)绝对误差

每年春晚过后,央视又要吹嘘说今年春晚收视率创新高了,但是我们总感觉央视在骗我们,因为我是越长大越不看春晚了[笑cry],所以收视率到底是怎么统计出来的,央视的说法是否靠谱呢?

最近的美国大选真是热闹,很多机构都会发放一些调查问卷,然后统计出希拉里或者唐纳德的民众支持率是多少,但是我并没有收到调查问卷,凭什么就得出了民众支持率了,意思是把我排除在民众之外咯?所以引出这样一个问题,调查问卷是否可信,即调查问卷的有效性。

其实,央视统计收视率并不要问全中国14亿人口有多少人看了春晚,他只需要从14亿人口里面随机抽n个人,问一下这n个人里有多少人看了春晚,然后把看的人数除以总数就大概估计出全国的收视率了。同理调查民众支持率也是一样,只需要随机调查n个人的意向,把支持希拉里的人数除以总数就大概得到了希拉里的支持率。

但是你要问了,通过抽样调查出来的收视率和支持率靠谱吗,需要随机抽样多少人才能得到一个比较好的全局近似解呢?今天我们就来解决这个问题。

假设我们随机抽样了n个人,分别是x_1,x_2,...,x_n。如果第i个人看了春晚,则x_i=1,否则x_i=0。那么通过这n个人的收视情况,我们可以估计出一个收视率

\begin{equation}\hat{p}=\frac{x_1+x_2+...+x_n}{n}\end{equation}

假设全国的真实收视率是p,那么平均到每一个人,他看了春晚的概率就是p,也即Pr(x_i=1)=p,所以有

\begin{equation}E(x_i)=p\quad E(x_i^2)=p\quad Var(x_i)=p(1-p)\end{equation}

我们的目的就是希望通过n个人估计出来的\hat{p}p越接近越好。换句话说,我们希望\hat{p}p相差大于5%的概率要小于5%。再换句话说就是有至少95%的概率,\hat{p}p相差在5%以内,即\hat{p}p很接近。注意这里的两个5%都是可以换成任意你想要的精度。用数学语言表示就是,n至少为多少时,以下不等式可以被满足。

\begin{equation}Pr(|\hat{p}-p|\geq 5\%)\leq 5\%\end{equation}

把(1)式代入(3)式,用\frac{1}{20}代替5%,得到等价形式:

\begin{equation}Pr(|(\frac{x_1+x_2+...+x_n}{n})-p|\geq\frac{1}{20})\\ \Longleftrightarrow~Pr(|X-np|\geq\frac{n}{20})\end{equation}

其中X=x_1+x_2+...+x_n。根据期望的线性可加性,有

\begin{equation}E(X)=E(x_1+x_2+...+x_n)=E(x_1)+E(x_2)+...+E(x_n)=np\end{equation}

所以(4)又等价于

\begin{equation}Pr(|X-E(X)|\geq\frac{n}{20})\end{equation}

我们需要利用著名的切比雪夫不等式来求解上式,切比雪夫不等式如下:

\begin{equation}Pr(|X-E(X)|\geq~c)\leq\frac{Var(X)}{c^2}\end{equation}

切比雪夫不等式可以直接由马尔可夫不等式得到,马尔可夫不等式的证明也不难,略过。

利用切比雪夫不等式求解(6)式

\begin{equation}Pr(|X-E(X)|\geq\frac{n}{20})\leq\frac{Var(X)}{n^2}*400\\ =\frac{n*Var(x_i)}{n^2}*400\\ =\frac{p(1-p)}{n}*400\\ \leq\frac{1/4}{n}*400=\frac{100}{n} \end{equation}

第一个等号是因为n个变量是独立同分布的,所以方差也有类似于(5)式的线性性质。最后一个不等号是因为p(1-p)是一个开口向下的抛物线,在p=1/2时取到极值1/4

回到最初的不等式(3),则(8)式要满足\frac{100}{n}\leq 5\%,解得n\geq 2000。注意到求出的n和总体人数是无关的,也就是说,虽然全中国有十几亿人口,但是央视只要随机抽样调查2000个人的收视情况,就能以比较高的概率准确估计出全国的收视率。

这个结论还是很漂亮的,但是这种方法有两个限制条件:

  1. 采样满足独立同分布,即这n个人是独立同分布的,不能针对某一特定人群调查
  2. (3)式的5%是一个绝对误差,当p本身很小的时候,容易被5%淹没

对于第1个问题,稍微好处理一点,抽样的时候尽量随机一点。对于第2个问题,比较好的解决办法是引入相对误差,即把(3)式转换为如下的不等式

\begin{equation}Pr(|\hat{p}-p|\geq\delta p)\leq\epsilon\end{equation}

(9)式的求解就比较复杂了,得出的结论也没有上面那么简单,具体的求解方法请听下回分解。

One thought on “调查问卷的有效性(1)绝对误差

  1. Pingback: 调查问卷的有效性(2)相对误差 | bitJoy

Leave a Reply

Your email address will not be published. Required fields are marked *