最大均值差异(Maximum mean discrepancy,MMD)作为一种能有效度量源域和目标域分布差异的标准已被成功运用.然而,MMD作为一种全局度量方法一定程度上反映的是区域之间全局分布和全局结构上的差异.为此,本文通过引入局部加权均值的方法...最大均值差异(Maximum mean discrepancy,MMD)作为一种能有效度量源域和目标域分布差异的标准已被成功运用.然而,MMD作为一种全局度量方法一定程度上反映的是区域之间全局分布和全局结构上的差异.为此,本文通过引入局部加权均值的方法和理论到MMD中,提出一种具有局部保持能力的投影最大局部加权均值差异(Projected maximum local weighted mean discrepancy,PMLWD)度量,结合传统的学习理论提出基于局部加权均值的领域适应学习框架(Local weighted mean based domain adaptation learning framework,LDAF),在LDAF框架下,衍生出两种领域适应学习方法:LDAF MLC和LDAF SVM.最后,通过测试人工数据集、高维文本数据集和人脸数据集来表明LDAF比其他领域适应学习方法更具优势.展开更多
依据最大间距判别准则(Maximum margin criterion,MMC)的基本原理,并结合模糊技术和张量理论,提出一种矩阵模式的模糊最大间距判别准则(Matrix model fuzzy maximum margin criterion,MFMMC),并在此基础上形成具有模糊聚类功能的双向二...依据最大间距判别准则(Maximum margin criterion,MMC)的基本原理,并结合模糊技术和张量理论,提出一种矩阵模式的模糊最大间距判别准则(Matrix model fuzzy maximum margin criterion,MFMMC),并在此基础上形成具有模糊聚类功能的双向二维无监督特征提取方法(Two-directional two-dimensional unsupervised feature extraction method with fuzzy clustering ability,(2D)2UFFCA).该方法不但能直接实现矩阵模式数据的模糊聚类,而且还可以对矩阵模式数据进行双向二维特征提取,实现特征降维.同时我们还从几何的直观含义出发,合理地设定矩阵模式的模糊最大间距判别准则中的调节参数γ,并从理论上证明其合理性.为了提高特征提取的效率,还提出一种能有效计算矩阵模式数据的投影变换矩阵的方法.实验结果表明该方法具有上述优势.展开更多
势支撑向量机P-SVM(potential support vector machine)作为一种新颖的封装型特征选择方法在许多领域得到了成功的运用,然而依据Fisher准则的基本原理发现势支撑向量机方法对应的目标函数只是类内离散度各类均值为0的一种特殊形式,从而...势支撑向量机P-SVM(potential support vector machine)作为一种新颖的封装型特征选择方法在许多领域得到了成功的运用,然而依据Fisher准则的基本原理发现势支撑向量机方法对应的目标函数只是类内离散度各类均值为0的一种特殊形式,从而使该方法的运用受到一定的限制.同时由于要求各类样本均值为0,一定程度上会导致在0矢量周围出现样本交叉,从而不利于P-SVM方法得到最优决策超平面,降低分类效果.因此利用一般的类内散度重新构造目标函数,提出一种广义的势支撑特征选择方法GPSFM(generalized potential support features selection method).GPSFM方法在一定程度上继承了P-SVM的优点,而且还具有特征选择冗余度低、选择速度快和适应能力强的特点,从而使得该方法表现出较之于P-SVM更好的特征选择和分类效果.实验结果表明该方法具有上述优势.展开更多
基于最大散度差判别准则提出了一种模糊最大散度差准则,并根据模糊最大散度差准则提出一种聚类方法(fuzzy maximum scatter difference discriminant criterion based clustering algorithm,简称FMSDC).该方法通过迭代优化方法实现聚类...基于最大散度差判别准则提出了一种模糊最大散度差准则,并根据模糊最大散度差准则提出一种聚类方法(fuzzy maximum scatter difference discriminant criterion based clustering algorithm,简称FMSDC).该方法通过迭代优化方法实现聚类的同时还可以实现特征降维.该方法首先在最大散度差判别准则中引入模糊概念;然后通过具体原则设定模糊最大散度差判别准则中的参数η,从而在一定程度上降低了由参数η引起的敏感性;最后分别根据模糊隶属度μik、最优鉴别矢量ω进行聚类和特征降维.实验结果表明,FMSDC方法不但具有基本的聚类功能,而且具有较好的鲁棒性和较强的特征降维能力.展开更多
最大均值差异嵌入(Maximum Mean Discrepancy Embedding,MMDE)作为一种基于最大均值差异(MaximumMean Discrepancy,MMD)度量的特征提取方法被成功地运用.然而通过分析得知,该方法在处理原始输入空间上的特征提取问题时一定程度上缺乏适...最大均值差异嵌入(Maximum Mean Discrepancy Embedding,MMDE)作为一种基于最大均值差异(MaximumMean Discrepancy,MMD)度量的特征提取方法被成功地运用.然而通过分析得知,该方法在处理原始输入空间上的特征提取问题时一定程度上缺乏适应性.因此本文在MMD准则的基础上,并结合已经被广泛研究和探讨的局部学习方法,提出一个新的评价度量:最大局部加权均值差异(Maximum LocalWeightedMean Discrepancy,MLMD),该度量反映源域和目标域分布差异时能充分考虑两个区域内在的局部结构,同时还能通过局部分布差异去反映全局分布差异.本文还在此度量的基础上提出一种能实现迁移学习任务并具有一定局部学习能力的特征提取方法:最大局部加权均值差异嵌入(Maximum Local WeightedMean Discrepancy Embedding,MWME).该方法不但能完成传统意义上的特征提取,同时还能完成在两个分布存在差异但相关的两个区域上实现领域适应学习,从而表明该特征提取方法具有较好的鲁棒性和适应性.实验证明MLMD准则和MWME方法具有上述优势.展开更多
文摘最大均值差异(Maximum mean discrepancy,MMD)作为一种能有效度量源域和目标域分布差异的标准已被成功运用.然而,MMD作为一种全局度量方法一定程度上反映的是区域之间全局分布和全局结构上的差异.为此,本文通过引入局部加权均值的方法和理论到MMD中,提出一种具有局部保持能力的投影最大局部加权均值差异(Projected maximum local weighted mean discrepancy,PMLWD)度量,结合传统的学习理论提出基于局部加权均值的领域适应学习框架(Local weighted mean based domain adaptation learning framework,LDAF),在LDAF框架下,衍生出两种领域适应学习方法:LDAF MLC和LDAF SVM.最后,通过测试人工数据集、高维文本数据集和人脸数据集来表明LDAF比其他领域适应学习方法更具优势.
文摘势支撑向量机P-SVM(potential support vector machine)作为一种新颖的封装型特征选择方法在许多领域得到了成功的运用,然而依据Fisher准则的基本原理发现势支撑向量机方法对应的目标函数只是类内离散度各类均值为0的一种特殊形式,从而使该方法的运用受到一定的限制.同时由于要求各类样本均值为0,一定程度上会导致在0矢量周围出现样本交叉,从而不利于P-SVM方法得到最优决策超平面,降低分类效果.因此利用一般的类内散度重新构造目标函数,提出一种广义的势支撑特征选择方法GPSFM(generalized potential support features selection method).GPSFM方法在一定程度上继承了P-SVM的优点,而且还具有特征选择冗余度低、选择速度快和适应能力强的特点,从而使得该方法表现出较之于P-SVM更好的特征选择和分类效果.实验结果表明该方法具有上述优势.
文摘基于最大散度差判别准则提出了一种模糊最大散度差准则,并根据模糊最大散度差准则提出一种聚类方法(fuzzy maximum scatter difference discriminant criterion based clustering algorithm,简称FMSDC).该方法通过迭代优化方法实现聚类的同时还可以实现特征降维.该方法首先在最大散度差判别准则中引入模糊概念;然后通过具体原则设定模糊最大散度差判别准则中的参数η,从而在一定程度上降低了由参数η引起的敏感性;最后分别根据模糊隶属度μik、最优鉴别矢量ω进行聚类和特征降维.实验结果表明,FMSDC方法不但具有基本的聚类功能,而且具有较好的鲁棒性和较强的特征降维能力.
文摘线性拉普拉斯判别准则(Linear Laplacian discrimination,LLD)作为一种非线性特征提取方法得到了较为成功的运用.然而通过分析得知在具体使用LLD方法的过程中还会面临小样本以及如何确定原始样本空间类型的问题.因此,本文引入语境距离度量并结合最大间距判别准则的基本原理提出一种基于语境距离度量的拉普拉斯最大间距判别准则(Contextual-distance metric based Laplacian maximum margin criterion,CLMMC).该准则不但在一定程度上避免小样本问题,而且由于语境距离度量更关注输入样本簇内在的本质结构而不是原始样本空间的类型,从而降低了该准则对特定样本空间的依赖程度.同时通过引入计算语境距离度量的新算法并结合QR分解的基本原理,使得CLMMC在处理高维矢量模式数据时更具适应性和效率.并从理论上讨论CLMMC准则具有的基本性质以及与LLD准则的内在联系.实验证明CLMMC准则具有上述优势.
