·750 智能系统学报 第11卷 定义5列]随机变量专的概率分布定义为 价关系，P在U上导出的划分A={X,X2,…,X}, Φ(x)=Pr{w∈I(ω)≤x},也就是说，④(x)是 则知识P的嫡H(P)为 随机变量专取值小于或等于x的概率。 定义6)设专为一随机变量，中是专的概率 H(P)=- 立p(x)logp(x) 分布函数。如果对所有的x∈(-0，+0)，函数p: 定义12[s9)设U是论域，P、Q是U上的两 R→[0，+o)满足 个等价关系，P、Q在U上导出的划分分别为A、 (x)=∫φ()d B,其中A={X,X2,…,Xn},B={Y,Y2,…,Ym} 则知识Q相对于知识P的条件熵为 则称P为随机变量专的概率密度函数。 定义7设（传，52，，5）是概率空间(D, H(Q1P)=- p(X)p(logsp(1X) ,Pr)上的随机向量，如果函数④：(-0，+o)”→ 定义13[01知识P与Q的互信息为 [0,1]满足Φ(x1,x2,…,x)= I(P:Q)=H(Q)-H(QI P) Pr{w∈21专（ω）≤x1,52(ω）≤x2,, 定义146)】设A是论域U上的一个模糊集， 专（ω）≤xn},则称中为随机向量(51,52，…，专)的 x∈，u(x:)是x:的隶属度函数，值域为[0,1]。 联合概率分布。 则A的模糊熵为 定义8s]设(1,52，…，5)是概率空间(D ,P)上的随机向量。如果对于所有(x1,x2,, H(A)=- ∑{μ，(x)log,(x)+ i=1 xn)∈（-0，+∞)"，存在p:R"→[0，+0)满足 [1-u(x)]log[1-u(x:)]} D(x1,x2,…,xn）= 定义1561】在信息系统(U,A)中，论域U= p(xd {x1,x2…,xn},属性集A={a1,a2…,am},XCU, B二A,对象子集X关于B的近似精度、粗糙度分别 则称p为随机向量(51,52，…，专n)的联合概率 定义为 密度函数。 B(X) 2)基于嫡的度量 aB(X)=- 随着通信技术的发展，Shannon于1948年提出 B(X) 了信息熵的概念[。将粒化后的结构看成论域的 PB(X)=1-aB(X) 不同划分，并与模糊集、粗糙集等模型相结合，人们 定义1662]在信息系统(，4)中，属性子集 先后提出了模糊熵、粗糙嫡等概念。 B二A对论域的划分U/B={X1,X2,…,Xn},属性 定义9s9]设U是论域，P是U上的一个等价 集B的熵定义如下： 关系，P在U上导出的划分A={X1,X2,…,Xn},则 E(B)=- P在U的子集组成的σ代数上定义的概率分布为 三哥司 「X X2…X X≤U在划分U/B上的粗糙熵定义为 [A;p]= p(X)p(X2)…p(Xn) Eg(X)=PB(X)E(B) 3)基于证据理论的度量 |X: 式中：p(X,)=,i=12,…n。 证据理论是由Dempster首先提出的，后经他的 学生Shafer发扬光大，所以也称D-S理论[6-6)。 定义10s)设U是论域，P、Q是U上的两个 定义17基本概率分配函数（又称为mass函 等价关系，P、Q在U上导出的划分分别为A、B, 数)：对于任意一个属于U的子集A(命题)，对应于 其中A={X,X2,…,X},B={Y,Y2,…,Ym},则P 一个数m∈[0,1]，且满足 与Q的联合概率分布为 [X,ny1…Xny…x.Or. m(☑)=0，∑m(A)=1 [AB:p]= p(X,Y)… p(Xy)…p(XnYm) 则称函数m为幂集2”上的基本概率分配函数， m(A)称为A基本概率数。 I XO Y I 式中：p(XY)= ,i=1,2,…,n,j=1,2, 定义18信任函数：命题A的信任函数Bl: 2"→[0,1]为Bel(A)=∑m(B),HACU,表示 定义11列)设U是论域，P是U上的一个等 对A的总信任。即命题A的信任函数的值是A的所定义 ５ ［５７］ 随机变量 ξ 的概率分布定义为 Φ（ｘ） ＝ Ｐｒ｛ω ∈ ξ ｜ ξ（ω） ≤ ｘ｝， 也就是说， Φ（ｘ） 是 随机变量 ξ 取值小于或等于 ｘ 的概率。 定义 ６ ［５７］ 设 ξ 为一随机变量， Φ 是 ξ 的概率 分布函数。 如果对所有的 ｘ ∈ （ － ¥， ＋ ¥）， 函数 φ： ℝ → ［０， ＋ ¥） 满足 Φ（ｘ） ＝ ∫ ｘ －¥ φ（ｙ）ｄｙ 则称 φ 为随机变量 ξ 的概率密度函数。 定义 ７ ［５７］ 设 （ξ１ ，ξ２ ，…，ξｎ ） 是概率空间 （Ω， Ａ，Ｐｒ） 上的随机向量，如果函数 Φ：（ － ¥， ＋ ¥） ｎ → ［０，１］ 满足 Φ（ｘ１ ，ｘ２ ，…，ｘｎ ） ＝ Ｐｒ｛ω ∈ Ω ｜ ξ１（ω） ≤ ｘ１ ，ξ２（ω） ≤ ｘ２ ，…， ξｎ（ω） ≤ｘｎ ｝， 则称 Φ 为随机向量 （ξ１ ，ξ２ ，…，ξｎ ） 的 联合概率分布。 定义 ８ ［５７］ 设 （ξ１ ，ξ２ ，…，ξｎ ） 是概率空间 （Ω， Ａ，Ｐｒ） 上的随机向量。 如果对于所有 （ｘ１ ，ｘ２ ，…， ｘｎ ） ∈ （ － ¥， ＋ ¥） ｎ ， 存在 φ：ℝ ｎ → ［０， ＋ ¥） 满足 Φ（ｘ１ ，ｘ２ ，…，ｘｎ ） ＝ ∫ ｘ１ －¥ ∫ ｘ２ －¥ … ∫ ｘｎ －¥ φ（ｙ１ ，ｙ２ ，…，ｙｎ ）ｄｙ１ ｄｙ２…ｄｙｎ ， 则称 φ 为随机向量 （ξ１ ，ξ２ ，…，ξｎ ） 的联合概率 密度函数。 ２） 基于熵的度量 随着通信技术的发展，Ｓｈａｎｎｏｎ 于 １９４８ 年提出 了信息熵的概念［５８］ 。 将粒化后的结构看成论域的 不同划分，并与模糊集、粗糙集等模型相结合，人们 先后提出了模糊熵、粗糙熵等概念。 定义 ９ ［５９］ 设 Ｕ 是论域， Ｐ 是 Ｕ 上的一个等价 关系， Ｐ 在 Ｕ 上导出的划分 Ａ ＝ ｛Ｘ１ ，Ｘ２ ，…，Ｘｎ ｝， 则 Ｐ 在 Ｕ 的子集组成的 σ 代数上定义的概率分布为 ［Ａ；ｐ］ ＝ Ｘ１ ｐ（Ｘ１ ） Ｘ２ ｐ（Ｘ２ ） … … Ｘｎ ｐ（Ｘｎ ） é ë ê ê ù û ú ú 式中： ｐ（Ｘｉ） ＝ Ｘｉ Ｕ ， ｉ ＝ １，２，…，ｎ 。 定义 １０ ［５９］ 设 Ｕ 是论域， Ｐ 、 Ｑ 是 Ｕ 上的两个 等价关系， Ｐ 、 Ｑ 在 Ｕ 上导出的划分分别为 Ａ 、 Ｂ， 其中 Ａ ＝ ｛Ｘ１ ，Ｘ２ ，…，Ｘｎ ｝， Ｂ ＝ ｛Ｙ１ ，Ｙ２ ，…，Ｙｍ ｝， 则 Ｐ 与 Ｑ 的联合概率分布为 ［ＡＢ；ｐ］ ＝ Ｘ１ ∩ Ｙ１ ｐ（Ｘ１Ｙ１ ） … Ｘｉ ∩ Ｙｊ … ｐ（ＸｉＹｊ） … … Ｘｎ ∩ Ｙｍ ｐ（ＸｎＹｍ ） é ë ê êê ù û ú úú 式中： ｐ（ＸｉＹｊ） ＝ ｜ Ｘｉ ∩ Ｙｊ ｜ Ｕ ， ｉ ＝ １，２，…，ｎ， ｊ ＝ １，２， …，ｍ 。 定义 １１ ［５９］ 设 Ｕ 是论域， Ｐ 是 Ｕ 上的一个等 价关系， Ｐ 在 Ｕ 上导出的划分 Ａ ＝ ｛Ｘ１ ，Ｘ２ ，…，Ｘｎ ｝， 则知识 Ｐ 的熵 Ｈ（Ｐ） 为 Ｈ（Ｐ） ＝ － ∑ ｎ ｉ ＝ １ ｐ（Ｘｉ） ｌｏｇ２ ｐ（Ｘｉ） 定义 １２ ［５９］ 设 Ｕ 是论域， Ｐ 、 Ｑ 是 Ｕ 上的两 个等价关系， Ｐ 、 Ｑ 在 Ｕ 上导出的划分分别为 Ａ 、 Ｂ， 其中 Ａ ＝ ｛Ｘ１ ，Ｘ２ ，…，Ｘｎ ｝， Ｂ ＝ ｛Ｙ１ ，Ｙ２ ，…，Ｙｍ ｝， 则知识 Ｑ 相对于知识 Ｐ 的条件熵为 Ｈ（Ｑ ｜ Ｐ） ＝ － ∑ ｎ ｉ ＝ １ ｐ（Ｘｉ）∑ ｍ ｊ ＝ １ ｐ（Ｙｊ ｜ Ｘｉ） ｌｏｇ２ ｐ（Ｙｊ ｜ Ｘｉ） 定义 １３ ［６０］ 知识 Ｐ 与 Ｑ 的互信息为 Ｉ（Ｐ；Ｑ） ＝ Ｈ（Ｑ） － Ｈ（Ｑ ｜ Ｐ） 定义 １４ ［６１］ 设 Ａ 是论域 Ｕ 上的一个模糊集， ｘｉ ∈Ｕ， μＡ（ｘｉ） 是 ｘｉ 的隶属度函数，值域为 ［０，１］ 。 则 Ａ 的模糊熵为 Ｈ（Ａ） ＝ － ∑ ｎ ｉ ＝ １ ｛μＡ（ｘｉ）ｌｏｇμＡ（ｘｉ） ＋ ［１ － μＡ（ｘｉ）］ｌｏｇ［１ － μＡ（ｘｉ）］｝ 定义 １５ ［６１］ 在信息系统 （Ｕ，Ａ） 中，论域 Ｕ ＝ ｛ｘ１ ，ｘ２…，ｘｎ ｝， 属性集 Ａ ＝ ｛ａ１ ，ａ２…，ａｍ ｝， Ｘ ⊆ Ｕ， Ｂ ⊆Ａ， 对象子集 Ｘ 关于 Ｂ 的近似精度、粗糙度分别 定义为 αＢ（Ｘ） ＝ Ｂ＿ （Ｘ） Ｂ － （Ｘ） ρＢ（Ｘ） ＝ １ － αＢ（Ｘ） 定义 １６ ［６２］ 在信息系统 （Ｕ，Ａ） 中，属性子集 Ｂ ⊆ Ａ 对论域的划分 Ｕ／ Ｂ ＝ ｛Ｘ１ ，Ｘ２ ，…，Ｘｍ ｝， 属性 集 Ｂ 的熵定义如下： Ｅ（Ｂ） ＝ － ∑ ｍ ｉ ＝ １ Ｘｉ Ｕ ｌｏｇ２（ １ Ｘｉ ） Ｘ ⊆ Ｕ 在划分 Ｕ／ Ｂ 上的粗糙熵定义为 ＥＢ（Ｘ） ＝ ρＢ（Ｘ）Ｅ（Ｂ） ３） 基于证据理论的度量 证据理论是由 Ｄｅｍｐｓｔｅｒ 首先提出的，后经他的 学生 Ｓｈａｆｅｒ 发扬光大，所以也称 Ｄ⁃Ｓ 理论［６３－６４］ 。 定义 １７ 基本概率分配函数（又称为 ｍａｓｓ 函 数）：对于任意一个属于 Ｕ 的子集 Ａ （命题），对应于 一个数 ｍ ∈ ［０，１］， 且满足 ｍ（∅） ＝ ０，∑Ａ⊆Ｕ ｍ（Ａ） ＝ １ 则称函数 ｍ 为幂集 ２ Ｕ 上的基本概率分配函数， ｍ（Ａ） 称为 Ａ 基本概率数。 定义 １８ 信任函数：命题 Ａ 的信任函数 Ｂｅｌ： ２ Ｕ →［０，１］ 为 Ｂｅｌ（Ａ） ＝ ∑Ｂ⊆Ａ ｍ（Ｂ）， ∀Ａ ⊆ Ｕ， 表示 对 Ａ 的总信任。 即命题 Ａ 的信任函数的值是 Ａ 的所 ·７５０· 智 能 系 统 学 报 第 １１ 卷