学习策略 ,学习策略 。监督分类 ·利用“充足”的样本和与之对应的类属信息进行网络训练。 ·充足:各类特征(概率密度函数)由样本点精确表征, ·研究主要关注网络结构和训练过程,使得网络能够反映样 本所蕴含的类属特征
学习策略 ◦ 监督分类 利用“充足”的样本和与之对应的类属信息进行网络训练。 充足:各类特征(概率密度函数)由样本点精确表征, 研究主要关注网络结构和训练过程,使得网络能够反映样 本所蕴含的类属特征
学习策略 类1 ,学习策略 。非监督分类/半监督分类 ·只有少量/没有样本类属信息。 ·少量样本(或初始参数)能反映部分类属特征,但表征不全 面,需要通过在无标签样本集上“合理扩张”(具有“主 观”性),产生与期望一致的类属表征。 ·通过“伪标签”、数据扩增、“一致性准则”等机制合理 扩展训练样本集
学习策略 ◦ 非监督分类/半监督分类 只有少量/没有样本类属信息。 少量样本(或初始参数)能反映部分类属特征,但表征不全 面,需要通过在无标签样本集上“合理扩张”(具有“主 观”性),产生与期望一致的类属表征。 通过“伪标签”、数据扩增、“一致性准则”等机制合理 扩展训练样本集。 类 1
学习策略 ,非监督分类一一不唯一性 。监督分类 ·以已知类属信息作为评价标准评估分类性能优劣 。非监督分类 ·按照“某特性”对样本进行划分,不同的划分反映处样本 不同维度的特性。 。发现特征 ·对事物多角度的划分,往往能更全面的反映事物的特性
非监督分类——不唯一性 ◦ 监督分类 以已知类属信息作为评价标准评估分类性能优劣 ◦ 非监督分类 按照“某特性”对样本进行划分,不同的划分反映处样本 不同维度的特性。 ◦ 发现特征 对事物多角度的划分,往往能更全面的反映事物的特性
学习策略 MixMatch:A Holistic Approach to Semi-Supervised Learning ,思考题: 。1、阅读文献,了解半监督学习中,如何利用标签样本 和无标签样本扩增样本,如何为扩增样本赋予伪标签, 并构造代价函数进行训练。 the combined loss C for semi-supervised learning is defined as ,u'=MixMatch(,u,T,K,a) (2) CxHp.pa() (3) x,p∈XI 入~Beta(a,a) cu=网 ∑lg-Pmodel(g|u)I3 '=max(X,1-) u,9∈L/ x'=X'x1+(1-)x2 C=Cx+XuLu p'='p1+(1-)p2
思考题: ◦ 1、阅读文献,了解半监督学习中,如何利用标签样本 和无标签样本扩增样本,如何为扩增样本赋予伪标签, 并构造代价函数进行训练