| 用PHP使Web数据分析进入更高境界 |
| 责任编辑:育鹰 更新日期:2005-8-6 |
布又不会真正偏离可能的概率范围。
下面的 Multinomial 类实现了这一想法。您可以用以下值初始化该类:要做实验的次数、每个实验中所做尝试的次数,以及每次试验的选项数目。每个实验的结果记录在一个名为 Outcomes 的数组中。
清单 1. Multinomial 类的内容
<?php
// Multinomial.php
// Copyright 2003, Paul Meagher // Distributed under LGPL
class Multinomial {
var $NExps; var $NTrials; var $NOptions; var $Outcomes = array();
function Multinomial($NExps, $NTrials, $NOptions) { $this->NExps = $NExps; $this->NTrials = $NTrials; $this->NOptions = $NOptions; for ($i=0; $i < $this->NExps; $i++) { $this->Outcomes[$i] = $this->runExperiment(); } }
function runExperiment() { $Outcome = array(); for ($i = 0; $i < $this->NExps; $i++){ $choice = rand(1,$this->NOptions); $Outcome[$choice]++; } return $Outcome; }
} ?>
请注意,runExperiment 方法是该脚本中非常重要的一部分,它保证在每次实验中所做出的选择是随机的,并且跟踪到目前为止在模拟实验中做出了哪些选择。
为了找到 X 平方分布统计的抽样分布,只需获取每次实验的结果,并且计算该结果的 X 平方分布统计。由于随机抽样的可变性,因此这个 X 平方分布统计会随实验的不同而不同。
下面的脚本将每次实验获得的 X 平方分布统计写到一个输出文件以便稍后用图表表示。
清单 2. 将获得的 X 平方分布统计写到输出文件 <?php
// simulate.php
// Copyright 2003, Paul Meagher // Distributed under LGPL
// Set time limit to 0 so script doesn't time out set_time_limit(0);
require_once "../init.php"; require PHP_MATH . "chi/Multinomial.php"; require PHP_MATH . "chi/ChiSquare1D.php";
// Initialization parameters $NExps = 10000; $NTrials = 300; $NOptions = 3;
$multi = new Multinomial($NExps, $NTrials, $NOptions);
$output = fopen("./data.txt","w") OR die("file won't open"); for ($i=0; $i<$NExps; $i++) { // For each multinomial experiment, do chi square analysis $chi = new ChiSquare1D($multi->Outcomes[$i]);
// Load obtained chi square value into sampling distribution array $distribution[$i] = $chi->ChiSqObt;
// Write obtained chi square value to file fputs($output, $distribution[$i]."n"); } fclose ($output);
?>
为了使运行该实验所期望获得的结果可视化,对我来说,最简单的方法就是将 data.txt 文件装入开放源码统计包 R,运行 histogram 命令,并且在图形编辑器中编辑该图表,如下所示:
x = scan("data.txt") hist(x, 50)
正如您可以看到的,这些 X 平方分布值的直方图与上面表示的 df = 2 的连续 X 平方分布的分布近似。
图 3. 与 df=2 的连续分布近似的值
在下面几节中,我将侧重于说明这个模拟实验中所使用的 X 平方分布软件的工作原理。通常情况下,X 平方分布软件将用于分析实际的定类尺度数据(例如 Web 民意测验结果、每周的流量报告或者客户品牌偏好报告),而不是您使用的模拟数据。您可能还会对该软件生成的其它输出 — 例如汇总表和尾数概率 — 感兴趣。
X 平方分布的实例变量
我开发的基于 php 的 X 平方分布软件包由用于分析频率数据的类构成,频率数据是按照一维或两维(ChiSquare1D.php 和 ChiSquare2D.php)进行分类的。我的讨论将仅局限于说明 ChiSquare1D.php 类的工作原理,以及说明如何将其应用于一维 Web 民意测验数据。
在继续之前,应当说明:按照两维对数据进行分类(例如,按照性别对啤酒偏好进行分类),允许您通过查找列联表单元中的系统关系或条件概率开始说明您的结果。尽管下面的许多讨论将有助于您理解 ChiSquare2D.php 软件的工作原理,但本文未讨论的其它实验、分析和可视化问题也是使用这个类之前必须处理的。
清单 3 研究了 ChiSquare1D.php 类的片段,它由以下部分构成:
1.一个被包含的文件 2.类实例变量
清单 3. 带有被包含的文件和实例变量的 X 平方分布类的片段
<?php
// ChiSquare1D.php
// Copyright 2003, Paul Meagher // Distributed under LGPL
require_once PHP_MATH . "dist/Distribution.php";
class ChiSquare1D {
var $Total; var $ObsFreq = array(); // Observed frequencies var $ExpFreq = array(); // Expected frequencies var $ExpProb = array(); // Expected probabilities var $NumCells; var $ChiSqObt; var $DF; var $Alpha; var $ChiSqProb; var $ChiSqCrit;
}
?>
清单 3 中这个脚本的顶部包含了一个名为 Distribution.php 的文件。所包含的路径合并了在 init.php 文件中设置的 PHP_MATH 常量,假定 init.php 文件已包含在调用脚本中。
所包含的文件 Distribution.php 包含了为几个常用的抽样分布(T 分布、F 分布和 X 平方分布)生成抽样分布统计信息的方法。ChiSquare1D.php 类必须能够访问 Distribution.php 中的 X 平方分布方法,以计算所得到的 X 平方分布值的尾数概率。
这个类中的实例变量列表值得注意,因为它们定义了由分析过程生成的结果对象。这个结果对象包含了有关检验的所有重要详细信息,包括三个重要的 X 平方分布统计 — ChiSqObt、ChiSqProb 和 ChiSqCrit。关于如何计算每个实例变量的详细信息,可以查阅该类的构造函数方法,所有这些值都源自那里。
构造函数:X 平方分布检验的主干
清单 4 给出了 X 平方分布的构造函数代码,它构成了 X 平方分布检验的主干。
清单 4. X 平方分布的构造函数
<?php
class ChiSquare1D {
function ChiSquare1D($ObsFreq, $Alpha=0.05, $ExpProb=FALSE) { $this->ObsFreq = $ObsFreq; $this->ExpProb = $ExpProb; $this->Alpha = $Alpha; $this->NumCells = count($this->ObsFreq); $this->DF = $this->NumCells - 1; $this->Total = $this->getTotal(); $this->ExpFreq = $this->getExpFreq(); $this->ChiSqObt = $this->getChiSqObt(); $this->ChiSqCrit = $this->getChiSqCrit(); $this->ChiSqProb = $this->getChiSqProb(); return true; }
}
?>
构造函数方法中值得注意的四个方面是:
1.构造函数接受一个由观察到的频率组成的数组、alpha 概率断开点(cutoff score)和一个可选的期望概率的数组。 2.前六行涉及了相对简单的赋值和被记录的计算值,以便于完整的结果对象可用于调用脚本。 3.最后四行执行大量的获取 X 平方分布统计的工作,这些统计是您最感兴趣的。 4.该类只实现 X 平方分布检验逻辑。没有与该类相关联的输出方法。 您可以研究本文的代码下载中包含的类方法,以了解关于如何计算每个结果对象值的更多信息(请参阅参考资料)。
处理输出问题 清单 5 中的代码展示了使用 ChiSquare1D.php 类执行 X 平方分布分析是多么容易。它还演示了输出问题的处理。
该脚本调用一个名为 ChiSquare1D_HTML.php 的包装器脚本。这个包装器脚本的目的是使 X 平方分布过程的逻辑与它的表示方面相分离。_HTML 后缀表明输出针对的是标准的 Web 浏览器或其它显示 HTML 的设备。
包装器脚本的另一个目的是用便于理解数据的方式组织输出。为了达到这个目的,该类包含了两个用于显示 X 平方分布分析结果的方法。showTableSummary 方法显示了在代码后面展示的第一个输出表(表 2),而 showChiSquareStats 显示了第二个输出表(表 3)。
清单 5. 利用包装器脚本组织数据 <?php
// beer_poll_analysis.php
require_once "../init.php";
require_once PHP_MATH . "chi/ChiSquare1D_HTML.php";
$Headings = array("Keiths", "Olands", "Schooner", "Other");
$ObsFreq = array(285, 250, 215, 250); $Alpha = 0.05; $Chi = new ChiSquare1D_HTML($ObsFreq, $Alpha);
$Chi->showTableSummary($Headings); echo "<br><br>"; $Chi->showChiSquareStats();
?>
该脚本生成了下列输出:
表 2. 运行包装器脚本而获得的期望频率和方差 Keiths Olands Schooner 其它 合计 观察值 285 250 215 250 1000 期望值 250 250 250 250 1000 方差 4.90 0.00 4.90 0.00 9.80
表 3. 运行包装器脚本获得的各种 X 平方分布统计信息统计 DF 获得值 概率 临界值 X 平方分布 3 9.80 0.02 7.81
表 2 显示了期望频率以及每个单元的方差度量 (O - E)2 / E。方差值的和等于获得的 X 平方分布(9.80)值,这个值显示在汇总表的右下单元中。
表 3 报告了各种 X 平方分布统计信息。它包括了分析中使用的自由度,并再次报告了获得的 X 平方分布值。获得的 X 平方分布值被重新表示成尾数概率值 — 在本例中是 0.02。这意味着,在虚假设条件下,观察到 X 平方分布极限值 9.80 的概率是 2%(这是一个相当低的概率)。
如果您决定排除虚假设 — 结果可以按照零分布的随机抽样可变性获得,那么大多数统计师都不会有争议。您的民意测验结果更有可能反映了新斯科舍省的啤酒消费者总体对于啤酒品牌偏好的真正差别。
为了确认这一结论,可以用获得的 X 平方分布值与临界值进行比较。
为什么临界值很重要呢?临界值建立在为该分析设置的某一重要级别(即 alpha 断开级别)之上。alpha 断开值按照惯例被设置为 0.05(上述分析使用的就是该值)。该设置用于查找 X 平方分布的抽样分布中包含尾数区域等于 alpha 断开值(0.05)的位置(或临界值)。
在本文中,获得的 X 平方分布值大于临界值。这意味着超出了保持虚假设说明的阈值。另一种假设 — 对象总体中存在着比例差异 — 在统计上可能更正确。
在数据流的自动化分析中,alpha 断开设置可以为知识-发现算法(例如 X 平方分布自动交互检测(Chi Square Automatic Interaction Detection,CHIAD))设置输出过滤,这样的算法自身在发现真正有用的模式方面无法为人们详细的指导。
重新进行民意测验 单向 X 平方分布检验的另一个有趣应用是重新进行民意测验,以了解人们的回答是否已发生变化。
假定过一段时间后,您打算对新斯科舍省的啤酒消费者进行另一次 Web 民意测验。您再次询问他们喜爱的啤酒品牌,现在观察到下列结果:
表 4. 新的啤酒民意测验 Keiths Olands Schooner 其它 385 (27.50%) 350 (25.00%) 315 (22.50%) 350 (25.00%)
旧的数据如下所示:
表 1. 旧的啤酒民意测验(再一次显示) Keiths Olands Schooner 其它 285 (28.50%) 250 (25.00%) 215 (21.50%) 250 (25.00%)
民意测验结果之间的明显区别在于,第一次民意测验有 1,000 个调查对象,而第二次有 1,400 个调查对象。这些额外调查对象的主要影响是,使得每个回答情形的频率计数增加了 100 点。
当准备好对新的民意测验进行分析时,可以利用缺省的方法 — 计算期望频率来分析数据,也可以利用每个结果的期望概率(基于前一次民意测验所观察到的比例)来初始化分析。在第二种情形中,您将以前获得的比例装入期望概率数组($ExpProb),并使用它们来计算每个回答选项的期望频率值。
清单 6 显示了用于检测偏好变化的啤酒民意测验分析代码:
清单 6. 检测偏好的变化
<?php
// beer_repoll_analysis.php
require_once "../init.php";
require PHP_MATH . "chi/ChiSquare1D_HTML.php";
$Headings = array("Keiths", "Olands", "Schooner", "Other");
$ObsFreq = array(385, 350, 315, 350); $Alpha = 0.05; $ExpProb = array(.285, .250, .215, .250);
$Chi = new ChiSquare1D_HTML($ObsFreq, $Alpha, $ExpProb);
$Chi->showTableSummary($Headings); echo "<br><br>"; $Chi->showChiSquareStats();
?>
表 5 和 6 显示了 beer_repoll_analysis.php 脚本生成的 HTML 输出:
表 5. 运行 beer_repoll_analysis.php 而获得的期望频率和方差 Keiths Olands Schooner 其它 合计 观察值 385 350 315 350 1400 期望值 399 350 301 350 1400 方差 0.49 0.00 0.65 0.00 1.14
表 6. 运行 beer_repoll_analysis.php 所获得的各种 X 平方分布统计信息统计 DF 获得值 概率 临界值 X 平方分布 3 1.14 0.77 7.81
表 6 表明,在虚假设条件下,获得 X 平方分布值 1.14 的概率是 77%。我们不能排除这样的虚假设,即自从上一次民意测验以来,新斯科舍省啤酒消费者偏好已经发生了变化。观察频率和期望频率之间的任何差异都可以解释为新斯科舍省相同啤酒消费者的期望抽样可变性。考虑到最初民意测验结果的转换只是通过向前面每个民意测验结果添加常数 100 完成的,那么这种零发现也不应当有什么令人吃惊的地方了。
但是,您可以设想结果已经发生了变化,并且设想这些结果可能暗示着另一种品牌的啤酒正在变得更加流行(请注意表 5 中每列底部报告的方差大小)。您可以进一步设想这一发现对所讨论的酿酒厂的财务方面有显著的含义,因为酒吧老板往往会采购酒吧里最畅销的啤酒。
这些结果将受到酿酒厂老板极其详细的检查,他们会对分析过程和实验方法的适合性提出疑问;特别地,他们会对样本的代表性提出疑问。如果您打算进行一次 Web 实验,该实验可能具有重要的实际含义,那么,对于用来收集数据的实验方法和用来从数据得出推论的分析技术,您需要给予同等的关注。
因此,本文不仅为您奠定了一个良好的基础,以便于可以加强您对 Web 数据的有效理解,它还提供了一些建议,这些建议是有关如何保护您的统计检验选择的,并且使得从数上一页 [1] [2] [3] 下一页 |
|
| 上一篇文章: 用PHP实现的简单线性回归 |
| 下一篇文章: 用Pear加速PHP程序开发 |
|
|
|
|