基于CNN的中文文本分类算法(可应用于垃圾邮件过滤、情感分析等场景)
2024-04-14 09:54:07 13.33MB
1
本项目基于朴素贝叶斯和SVM 分类模型,通过对垃圾邮件和正常邮件的数据训练,进行相关词汇词频的统计分析,实现垃圾邮件的识别功能。本项目包括3个模块:数据模块、模型构建、附加功能。需要Python 3.6 及以上配置,在Windows 环境下载Anaconda 完成Python 所需的配置,也可以下载虚拟机在Linux 环境下运行代码。从github 网站下载与python PIL 库配搭使用的文字引擎pytesseract,将PIL 文件夹里的.py 文件,改为相应pytesseract.exe 路径。注册百度云账号,分别建立图像文字识别和图像识别的小程序。
1
⼤数据分析之分类算法 数据分析之决策树ID3算法 什么是分类算法分类算法跟之前的聚类都是让不同对象个体划分到不同的组中的。但是分类不同之处在于类别在运算之前就已经是确定的。 分类是根据训练数据集合,结合某种分类算法,⽐如这篇讲的ID3算法来⽣成最终的分类规则,这样当提供⼀个对象的时候我们可以根据它 们的特征将其划分到某个分组中。 决策树ID3算法是分类中的经典算法,决策树的每⼀层节点依照某⼀确定程度⽐较⾼的属性向下分⼦节点,每个⼦节点在根据其他确定程度 相对较⾼的属性进⾏划分,直到 ⽣成⼀个能完美分类训练样例的决策树或者满⾜某个分类终⽌条件为⽌。 术语定义: ⾃信息量:设信源X发出a的概率p(a),在收到符号a之前,收信者对a的不确定性定义为a的⾃信息量I(a)=-logp(a)。 信息熵:⾃信息量只能反映符号的不确定性,⽽信息熵⽤来度量整个信源整体的不确定性,定义为:H(X)= 求和(p(ai) I(ai)) 条件熵:设信源为X,收信者收到信息Y,⽤条件熵H(X"Y)来描述收信者收到Y后X的不确定性的估计。 平均互信息量:⽤平均互信息量来表⽰信息Y所能提供的关于X的信息量的⼤⼩。 互信息量I(X"Y)=H(X)-H(X"Y) 下边的ID3算法就是⽤到了每⼀个属性对分类的信息增益⼤⼩来决定属性所在的层次,信息增益越⼤,则越 应该先作为分类依据。 ID3算法步骤 a.对当前例⼦集合,计算属性的信息增益; b.选择信息增益最⼤的属性Ai(关于信息增益后⾯会有详细叙述) c.把在Ai处取值相同的例⼦归于同于⼦集,Ai取⼏个值就得⼏个⼦集 d.对依次对每种取值情况下的⼦集,递归调⽤建树算法,即返回a, e.若⼦集只含有单个属性,则分⽀为叶⼦节点,判断其属性值并标上相应的符号,然后返回调⽤处,或者树达到规定的深度,或者⼦集所有 元素都属于⼀个分类都结束。 举例分析 世界杯期间我和同学⼀起去吃了⼏回⼤排档,对那种边凑热闹边看球的氛围感觉很不错,但虽然每个夏天我都会凑⼏回这种热闹,但肯定并 不是所有⼈都喜欢凑这种热闹的,⽽应⽤决策树算法则能有效发现哪些⼈愿意去,哪些⼈偶尔会去,哪些⼈从不愿意去; 变量如表1所⽰,⾃变量为年龄、职业、性别;因变量为结果(吃⼤排档的频率)。 年龄A 职业B 性别C 结果 20-30 学⽣ 男 偶尔 30-40 ⼯⼈ 男 经常 40-50 教师 ⼥ 从不 20-30 ⼯⼈ ⼥ 偶尔 60-70 教师 男 从不 40-50 ⼯⼈ ⼥ 从不 30-40 教师 男 偶尔 20-30 学⽣ ⼥ 从不 20以下 学⽣ 男 偶尔 20以下 ⼯⼈ ⼥ 偶尔 20-30 ⼯⼈ 男 经常 20以下 学⽣ 男 偶尔 20-30 教师 男 偶尔 60-70 教师 ⼥ 从不 30-40 ⼯⼈ ⼥ 偶尔 60-70 ⼯⼈ 男 从不 计算过程: 1、⾸先计算结果选项出现的频率: 表2 结果频率表 从不p1 经常p2 偶尔p3 0.375 0.125 0.5 2、计算因变量的期望信息: E(结果)=-(p1*log2(p1)+p2*log2(p2)+p3*log2(p3) ) =-(0.375*log2(0.375)+0.125*log2(0.125)+0.5*log2(0.5) ) =1.406 注:这⾥Pi对应上⾯的频率 3、计算⾃变量的期望信息(以年龄A为例): E(A)= count(Aj)/count(A)* (-(p1j*log2(p1j)+p2j*log2(p2j)+p3j*log2(p3j) )) 3.1公式说明: Count(Aj):年龄A第j个选项个数; j是下⾯表3五个选项任⼀ 表3 年龄记录数量表 选项 20-30 20以下 30-40 40-50 60-70 数量 5 3 3 2 3 Count(A):年龄总记录数 p1j =count(A1j)/count(Aj) :年龄A第j个选项在结果中选择了"从不"的个数占年龄A第j个选项个数的⽐例; p2j =count(A2j)/count(Aj) :年龄A第j个选项在结果中选择了"偶尔"的个数占年龄A第j个选项个数的⽐例; p3j =count(A3j)/count(Aj) :年龄A第j个选项在结果中选择了"经常"的个数占年龄A第j个选项个数的⽐例; 3.2公式分析 在决策树中⾃变量是否显著影响因变量的判定标准由⾃变量选项的不同能否导致因变量结果的不同决定,举例来说如果⽼年⼈都从不去⼤排 档,中年⼈都经常去,⽽少年都偶尔去,那么年龄因素肯定是决定是否吃⼤排档的主要因素; 按照假设,即不同年龄段会对结果产⽣确定的影响,以表3年龄在20以下的3个⼈为例,假设他们都在结果中选择了"偶尔"选项,此时: p2j =count(A2j)/count(Aj)=1, p1j =co
2024-02-20 10:50:40 149KB 文档资料
1
1. Matlab实现随机森林算法的数据分类预测(完整源码和数据) 2. 多变量输入,单变量输出(类别),数据分类预测 3. 评价指标包括:准确率 和 混淆矩阵 4. 包括拟合效果图 和 混淆矩阵 和 重要性结果图 5. Excel数据,要求 Matlab 2018B及以上版本
2024-01-03 17:28:12 73KB 机器学习 随机森林 Matlab 分类算法
1
该数据集由17509张图像组成,包含7种不同类别的杂草图像和1个负类图像,使用csv对每一图像的类别进行标注。数据集中的每幅图像统一被缩放为256*256像素大小,该数据集主要应用于基于深度学习或机器学术的杂草分类、检测等方面的研究。
2023-12-12 00:18:04 470.38MB 深度学习 分类算法
1
劳埃德算法 使用 Python 的劳埃德分类算法
2023-11-18 17:22:43 2KB Python
1
基于matlab程序的各种回归、分类算法实现 之前做过的一些项目和学习积累,基于matlab程序的各种回归、分类算法实现 MLR - 多元线性回归 PCA - 主成分分析 PLS - 偏最小二乘 LogisticR - 逻辑斯蒂回归 Ganzhiji - 感知机(perception) PSO - 粒子群优化 KNN - K_近邻 Bayes - 贝叶斯 OSC - 正交信号校正 GDescent - 梯度下降 ANN - 人工神经网络 BOOSTING - 提升算法
2023-11-10 10:16:20 108KB matlab
1
不平衡数据在分类时往往会偏向"多数",传统过采样生成的样本不能较好的表达原始数据集分布特征.改进的变分自编码器结合数据预处理方法,通过少数类样本训练,使用变分自编码器的生成器生成样本,用于以均衡训练数据集,从而解决传统采样导致的不平衡数据引起分类过拟合问题.我们在UCI四个常用的数据集上进行了实验,结果表明该算法在保证准确率的同时提高了F_measure和G_mean.
2023-10-30 10:20:07 3.33MB 不平衡数据 分类 变分自编码器 过采样
1
机器学习分类算法演示 机器学习分类算法demo 金融客户分类,类举多个通用分类算法的基本使用,各种分类方法模型最终需要参考的不只是准确率,还包括召回率,F1分数等 环境 python 3.7.2 斯克莱恩0.23.2 熊猫1.1.5 numpy的1.19.4 代码 聚类 k_means.py -K均值聚类-0.85 svm.py支持向量机聚类gmm.py高斯混合模型聚类gmm.py DBSCAN.py -DBSCAN密度聚类DBSCAN.py 其他分类 KNN.py -K近邻-0.89 logistic.py逻辑回归-0.90±1 Decision_tree.py- decision_tree.py -0.90±1 naive_bayes.py朴素贝叶斯-0.86 文件 bank-full.csv数据文件bank-names.txt数据分段含义tree.dot决策树结构tree.pn
2023-07-09 21:31:56 1.09MB
1
内容:本资源是基于肌电信号去进行分类的,通过对采集的肌电信号进行特征抽取,然后进行分类。 特征抽取方法:主成分分析法,支持向量机递归消除法,相关性热力图法 分类算法:KNN,SVM,随机森林
2023-04-28 14:35:33 14.8MB sEMG 机器学习分类算法
1