第6期 苗夺谦，等：从人类智能到机器实现模型一粒计算理论与方法 ·751 有子集的基本概率的和。 UI C-Cis 定义19[】似然函数：命题A的似然函数P1: CE(A)=- 而 CTul 2→[0,1]为：PI(A)=1-Bl(~A)= 王俊红等[]给出了不完备信息系统中知识粒 ∑m(B),HACU,表示对于不否定A的信任 度的定义： 度，是所有与A相交的子集的基本概率之和。 GK(A)= 定义20证据的信任函数：对任何命题ACU mΣ1s,u,)川 的信任函数为 为了对不完备信息系统的知识粒度有更加直观 Bel(A)=∑m(B)=∑m({a}) 的理解，钱宇华和梁吉业[6]在不完备信息系统中提 出了组合粒度的概念： Bel(U)=∑m(B)=∑m({a)+m(U)=l 1 1Cis(O 定义21证据的似然函数：对任何命题ACU CG(A)=Cu 的似然函数为 为了更好地理解不确定性度量的本质，梁吉业 Pl(A)=1 -Bel(~A)=m(U)+Bel(A) 等[6]建立了信息熵、粗糙熵、组合嫡、知识粒度和组 根据以上定义，可以看出命题的信任函数和似然函 合粒度之间的如下关系： 数之间满足下列关系： E(A)+GK(A)=1 PI(A)≥Bel(A) H(A)+E,(A)=log2 I UI Pl(A)-Bel(A)=m(U) CE(A)+CG(A)=1 除了以A[Bl(A),PI(A)]作为A的不确定性度量 4.1.2单粒度下不确定性推理[63-川 外，还可用类概率函数来度量。 1)基于概率论的不确定性推理 定义22类概率函数：设U为有限域，对任何 贝叶斯决策论是不确定性推理的重要工具。在 命题ACU,A的类概率函数为 概率论下，对象信息的分布被认为服从一个概率分 )Bel(A)+(PI(A)-Bel( 布。最小化错误率和最小化决策代价是两种典型的 推理目标。为了便于表达，我们假定x、x代表论域 定义23-6)设K=(U,R)是一个知识库，R 中对象x及其所属的粒结构x,对于类别集合D,我 ∈R为论域U上的等价关系，称为知识。知识R∈ R的粒度，记为GD(R),定义为 们有如下关于x的模式分类结果h(x)的结论。 CO( ①当不确定性推理的目标是最小化错误率时： h(x)=argmaxP(d;x) 定义24[6-6]设K=(U,R)是一个知识库，知 ②当不确定性推理的目标是最小化决策代价时： 识R∈R的分辨度，记为Dis(R),定义为 h()argmin P(d) Dis(R)=1-GD(R) 梁吉业和史忠植[6]给出了不完备信息系统中 式中：P(d:|x)代表条件概率，入，代表将一个真实 的信息嫡的形式，其形式如下： 标记为d的对象识别为d,所产生的代价。条件概 I S(u;)I 率可以根据贝叶斯定理计算得到，即条件概率等于 H(A)=- 1可 先验乘以似然除以证据： 为了区别于Shannon信息熵，梁吉业和史忠 植信息熵的另一种形式，即 P(d)=P(d)P(d) P(x) 1 I S(u:)I 宫1- 决策粗糙集模型是代价敏感下以最小化代价为 E(A)= 目标的三支求解模型。根据属性条件独立性假设的 后来，钱宇华和梁吉业[6]将粗糙熵引入到不完 强弱，可构造朴素贝叶斯分类器、半朴素贝叶斯分类 备信息系统中，给出了不完备信息系统的粗糙嫡： 器。此外，考虑到对象对粒结构隶属的不确定性，概 1 率论可与其他策略（如集成学习）组合构成新的推 E,(A)=- 1 台T可lo8:1s(u)T 理机制。 钱字华和梁吉业[6]在不完备信息系统中给出 2)基于证据理论的不确定性推理 了组合熵的定义： 证据理论是一种广义的概率论，天然地具有不有子集的基本概率的和。 定义 １９ ［ ６６ ］ 似然函数：命题 Ａ 的似然函数 Ｐｌ： ２ Ｕ → ［０，１］ 为： Ｐｌ（Ａ） ＝ １ － Ｂｅｌ（ ～ Ａ） ＝ Ｂ∩∑Ａ≠∅ ｍ（Ｂ）， ∀Ａ ⊆ Ｕ， 表示对于不否定 Ａ 的信任 度，是所有与 Ａ 相交的子集的基本概率之和。 定义 ２０ 证据的信任函数：对任何命题 Ａ ⊆ Ｕ 的信任函数为 Ｂｅｌ（Ａ） ＝ ∑Ｂ⊆Ａ ｍ（Ｂ） ＝ ∑ａ∈Ａ ｍ（｛ａ｝） Ｂｅｌ（Ｕ） ＝ ∑Ｂ⊆Ｕ ｍ（Ｂ） ＝ ∑ａ∈Ｕ ｍ（｛ａ｝） ＋ ｍ（Ｕ） ＝ １ 定义 ２１ 证据的似然函数：对任何命题 Ａ ⊆ Ｕ 的似然函数为 Ｐｌ（Ａ） ＝ １ － Ｂｅｌ（ ～ Ａ） ＝ ｍ（Ｕ） ＋ Ｂｅｌ（Ａ） 根据以上定义，可以看出命题的信任函数和似然函 数之间满足下列关系： Ｐｌ（Ａ） ≥ Ｂｅｌ（Ａ） Ｐｌ（Ａ） － Ｂｅｌ（Ａ） ＝ ｍ（Ｕ） 除了以 Ａ［Ｂｅｌ（Ａ），Ｐｌ（Ａ）］ 作为 Ａ 的不确定性度量 外，还可用类概率函数来度量。 定义 ２２ 类概率函数：设 Ｕ 为有限域，对任何 命题 Ａ ⊆ Ｕ， Ａ 的类概率函数为 ｆ １（Ａ） ＝ Ｂｅｌ（Ａ） ＋ Ａ Ｕ （Ｐｌ（Ａ） － Ｂｅｌ（Ａ）） 定义 ２３ ［６５－６６］ 设 Ｋ ＝ （Ｕ，Ｒ） 是一个知识库， Ｒ ∈ ℝ 为论域 Ｕ 上的等价关系，称为知识。 知识 Ｒ ∈ ℝ 的粒度，记为 ＧＤ（Ｒ）， 定义为 ＧＤ（Ｒ） ＝ Ｒ ｜ Ｕ × Ｕ ｜ ＝ Ｒ ｜ Ｕ ｜ ２ 定义 ２４ ［６５－６６］ 设 Ｋ ＝ （Ｕ，Ｒ） 是一个知识库，知 识 Ｒ ∈ ℝ 的分辨度，记为 Ｄｉｓ（Ｒ）， 定义为 Ｄｉｓ（Ｒ） ＝ １ － ＧＤ（Ｒ） 梁吉业和史忠植［６２］ 给出了不完备信息系统中 的信息熵的形式，其形式如下： Ｈ（Ａ） ＝ － ∑ Ｕ ｉ ＝ １ １ Ｕ ｌｏｇ２ ｜ ＳＡ（ｕｉ） ｜ Ｕ 为了区别于 Ｓｈａｎｎｏｎ 信息熵，梁吉业和史忠 植 ［５８］信息熵的另一种形式，即 Ｅ（Ａ） ＝ ∑ Ｕ ｉ ＝ １ １ Ｕ （１ － ｜ ＳＡ（ｕｉ） ｜ Ｕ ） 后来，钱宇华和梁吉业［６８］将粗糙熵引入到不完 备信息系统中，给出了不完备信息系统的粗糙熵： Ｅｒ（Ａ） ＝ － ∑ Ｕ ｉ ＝ １ １ Ｕ ｌｏｇ２（ １ ｜ ＳＡ（ｕｉ） ｜ ） 钱宇华和梁吉业［６７］ 在不完备信息系统中给出 了组合熵的定义： ＣＥ（Ａ） ＝ １ Ｕ ∑ Ｕ ｉ ＝ １ （ Ｃ ２ Ｕ － Ｃ ２ ｜ ＳＡ （ｕｉ ）｜ Ｃ ２ Ｕ ） 王俊红等［６９］ 给出了不完备信息系统中知识粒 度的定义： ＧＫ（Ａ） ＝ １ ｜ Ｕ ｜ ２∑ Ｕ ｉ ＝ １ ｜ ＳＡ（ｕｉ） ｜ 为了对不完备信息系统的知识粒度有更加直观 的理解，钱宇华和梁吉业［６８］在不完备信息系统中提 出了组合粒度的概念： ＣＧ（Ａ） ＝ １ Ｕ ∑ Ｕ ｉ ＝ １ Ｃ ２ ｜ ＳＡ （ｕｉ ）｜ Ｃ ２ Ｕ 为了更好地理解不确定性度量的本质，梁吉业 等［６８］建立了信息熵、粗糙熵、组合熵、知识粒度和组 合粒度之间的如下关系： Ｅ（Ａ） ＋ ＧＫ（Ａ） ＝ １ Ｈ（Ａ） ＋ Ｅｒ（Ａ） ＝ ｌｏｇ２ ｜ Ｕ ｜ ＣＥ（Ａ） ＋ ＣＧ（Ａ） ＝ １ ４．１．２ 单粒度下不确定性推理［６３－７１］ １） 基于概率论的不确定性推理 贝叶斯决策论是不确定性推理的重要工具。 在 概率论下，对象信息的分布被认为服从一个概率分 布。 最小化错误率和最小化决策代价是两种典型的 推理目标。 为了便于表达，我们假定 ｘ、ｘ ～ 代表论域 中对象 ｘ 及其所属的粒结构 ｘ ～ ， 对于类别集合 Ｄ ，我 们有如下关于 ｘ ～ 的模式分类结果 ｈ ｘ ～ ( ) 的结论。 ①当不确定性推理的目标是最小化错误率时： ｈ ｘ ～ ( ) ＝ ａｒｇｍａｘ ｄｉ∈Ｄ Ｐ ｄｉ ｘ ～ ( ) ②当不确定性推理的目标是最小化决策代价时： ｈ ｘ ～ ( ) ＝ ａｒｇｍｉｎ ｄｉ∈Ｄ ∑ ｊ λｉｊＰ ｄｊ ｘ ～ ( ) 式中： Ｐ ｄｉ ｘ ～ ( ) 代表条件概率， λｉｊ 代表将一个真实 标记为 ｄｊ 的对象识别为 ｄｉ 所产生的代价。 条件概 率可以根据贝叶斯定理计算得到，即条件概率等于 先验乘以似然除以证据： Ｐ ｄｉ ｘ ～ ( ) ＝ Ｐ ｄｉ ( ) Ｐ ｘ ～ ｄｉ ( ) Ｐ ｘ ～ ( ) 决策粗糙集模型是代价敏感下以最小化代价为 目标的三支求解模型。 根据属性条件独立性假设的 强弱，可构造朴素贝叶斯分类器、半朴素贝叶斯分类 器。 此外，考虑到对象对粒结构隶属的不确定性，概 率论可与其他策略（如集成学习）组合构成新的推 理机制。 ２） 基于证据理论的不确定性推理 证据理论是一种广义的概率论，天然地具有不 第 ６ 期 苗夺谦，等： 从人类智能到机器实现模型———粒计算理论与方法 ·７５１·