手写体数字识别实验报告

软件学院12-13-2学期《人工智能》课程项目报告

题目：使用SMO方法进行手写体数字识别

目录

软件学院12-13-2学期《人工智能》课程项目报告 (1)

1 问题描述 (2)

2 二值化处理 (2)

2.1 思想: (2)

2.2 OSTU算法： (2)

2.3 OTSU算法伪代码： (2)

3 降维处理 (2)

4．半监督算法 (4)

4.1半监督算法流程： (4)

4.2半监督算法的主要算法： (4)

1）self-Training models： (4)

2）Propagating-1-nearest-neighbor： (4)

3）CLUSTER-THEN-LABELMETHODS (4)

4）Co_Training： (4)

5）基于图的算法（Graph based Learning）： (5)

4.4半监督学习分类算法的现实价值： (5)

5 我使用SVM的SMO算法 (5)

5.1 SMO算法基本思想： (5)

5.2 应用SMO算法的流程： (5)

6 性能分析 (6)

6.1.监督学习 (6)

6.2.半监督学习（Tri-training） (6)

6.3 我们用J48,SMO, NaiveBayes以及BayesNet四种算法对降维后的算法进行训练并求

出其准确性，得到如下数据 (7)

7 思考总结 (7)

1 问题描述

手写体数字识别问题，简而言之就是识别出10个阿拉伯数字，由于数字的清晰程度或者是个人的写字习惯抑或是其他,往往手写体数字的形状，大小，深浅，位置会不大一样。

现在我们拥有3006个带标记的数据以及56994的未带标记的数据，而我们的目标就是正确识别出这些手写体数字。因此我们可以把这些带标记的数据看作经验值，运用一定算法来学习，预测出这些未带标记的数据。

对问题的分析如下：

1 考虑到每个值都是0-255之间的一个整型值，对于算法的分析操作会影响性能，我将每个值进行了二值化，变成0，1。

2 考虑到这些数据都是28×28=784维的，维数太大，在后续的学习过程中效率会很低，我对它进行了降维处理。

3 考虑到未带标记的数据量远远超过了未带标记的数据，我运用了半监督学习方法，利用那些未带标记的数据来帮助我们学习。

2 二值化处理

2.1 思想:

图像的二值化处理就是讲图像上的点的灰度置为0或255，也就是讲整个图像呈现出明显的黑白效果。即将256个亮度等级的灰度图像通过适当的阀值选取而获得仍然可以反映图像整体和局部特征的二值化图像.为了得到理想的二值图像，一般采用封闭、连通的边界定义不交叠的区域。所有灰度大于或等于阀值的像素被判定为属于特定物体，其灰度值为255表示，否则这些像素点被排除在物体区域以外，灰度值为0，表示背景或者例外的物体区域。如果某特定物体在内部有均匀一致的灰度值，并且其处在一个具有其他等级灰度值的均匀背景下，使用阀值法就可以得到比较的分割效果。如果物体同背景的差别表现不在灰度值上（比如纹理不同），可以将这个差别特征转换为灰度的差别，然后利用阀值选取技术来分割该图像。动态调节阀值实现图像的二值化可动态观察其分割图像的具体结果。

2.2 OSTU算法：

OTSU算法也称最大类间差法，有时也称之为大津算法，被认为是图像分割中阈值选取的最佳算法，计算简单，不受图像亮度和对比度的影响，因此在数字图像处理上得到了广泛的应用。它是按图像的灰度特性,将图像分成背景和前景两部分。背景和前景之间的类间方差越大,说明构成图像的两部分的差别越大,当部分前景错分为背景或部分背景错分为前景都会导致两部分差别变小。因此,使类间方差最大的分割意味着错分概率最小。

OSTU算法目的就是计算出一连通区域的阈值，然后对该区域二值化。数学描述为：令连通区域S，其中象素灰度范围为[0,255]，点(x,y)的灰度表示为I(x,y)，灰度级x的点的概率为P(x)；则OSTU就是求下式达到最大值的灰度级m

2.3 OTSU算法伪代码：

统计灰度图像中每个像素级在整幅图像中的个数

计算每个像素级在整幅图像中的比例

对于每个像素级，从0到255变化，分别计算出根据t所得到的方差值

不断比较找出最大的方差

返回T

结束

3 降维处理

我们将label_data的arff文件导入Weka，选择其中BestFirstm –D 1-N 5算法进行降维，

得到136个结果，从labeled的数据csv文件中获取这136个结果列存入新的表格。

4．半监督算法

4.1半监督算法流程：

第一层分类器的训练方法跟我们平时的做法是一样的，用已经有标签的训练集去训练分类器，然后用第一层分类器去预测没标签的数据，给他们一个“预标签”及一个权重。最后将这些数据跟已经有标签的数据一起结合当做最近邻居分录器的训练集。这种算法特别适合于未标签的类远远多于已标签类的情况

4.2半监督算法的主要算法：

1）self-Training models：

在有标签的数据集上学习得到一个分类器F，用它来分类无标签的实例，将U中的一个子集去掉，并且添加到L中，重复A，B，C，直到结束条件满足为止。

2）Propagating-1-nearest-neighbor：

选择与无标签实例x最为接近的有标签实例b，将b的标签赋予x，从无标签集中删除x，并将它添加到有标签的数据集中

3）CLUSTER-THEN-LABELMETHODS

聚类方法A，1，用A进行聚类2，对于每一个分类，S表示它的的有标签实例子3，如果S非空，学习一个有监督的分类器Fs 4，用Fs对该簇中的无标签数据进行分类5，如果S为空，则用所有有标签实例训练的子集进行分类

4）Co_Training：

两个假设：

A, 对于每一个view来说，在足够多的标签数据下，都足以来分类所有的数据

B，所有的views在给定的类标签上，都是条件独立的

其实两个view的情况也可以推广到多个view的情况。前提假设过于严格，在大多数情况下，要求每个view对实例的分类完全达成一致比较困难，这就需要采用一定的方法衡量他们的不一致性，并将这个加入到误差中，通过误差的最小化，选择最好的模型的组合。views可以采用不同的算法。

5）基于图的算法（Graph based Learning）：

建图的方法一般有三种，第一种是全连接图，点与点之间的权重由点与点之间的距离来决定，或者说点与点之间的相似性来决定。

第二种是KNN建图，每个点与之近邻的K个点连接，之间的权重设置与一相似

第三种是，设置一个阈值，点与点之间距离小于这个阈值的连接

4.4半监督学习分类算法的现实价值：

半监督学习从诞生以来，主要用于处理人工合成数据、只在实验室试用，还没办法在某个现实领域得到应用，也就是说，其现实意义没体现出来；因此，半监督学习的实际应用价值问题值得更多的研究。

5 我使用SVM的SMO算法

5.1 SMO算法基本思想：

SMO算法由Microsoft Research的John C. Platt在1998年提出，并成为最快的二次规划优化算法，特别针对线性SVM和数据稀疏时性能更优。

对于SVM 来说，一次至少要同时对两个数据样本进行优化，即优化对应的Lagrange 乘子，这是因为等式约束的存在使得不可能单独优化一个变量. SMO 算法的最大特色就是可用解析方法求解每一个最小规模的优化问题，从而完全避免了迭代算法[2].当一次最小优化不可能保证其结果就是所优化的Lagrange 乘子的最终结果，但会使目标函数向极小值迈进一步. 对其它Lagrange 乘子做最小优化，直到所有满足KKT 条件时，目标函数达到最小，算法结束. 这样SMO 算法主要解决两个问题：怎样解决两个变量的优化问题；怎样决定先对哪些Lagrange 乘子进行优化.

5.2 应用SMO算法的流程：

由于数据是以arff格式的形式进行处理，因此对于txt或csv格式的数据，需要首先用weka转化成arff格式.

需要注意的是，在每个数据文件中，需要确保类（class）的属性不是numberic类型的

将weka选出的136个数据筛选出来label_data_reducediv.txt文件带入java，

6 性能分析

6.1.监督学习

将降维和不降维的数据进行了比较，采用监督学习算法，随机划分数据（2/3，1/3），比较结果如下：正确率C4.5 NaiveBayes SMO BayesNet

不降维72.21% 77.17% 91.73% 80.68%

降维68.20% 65.46% 79.45% 70.74%

表1

时间C4.5 NaiveBayes SMO BayesNet

不降维10.987s 0.667s 17.278s 1.987s

降维0.430s 0.150s 0.963s 0.211s

表2

6.2.半监督学习（Tri-training）

将降维和不降维的数据进行了比较，采用半监督学习算法（Tri-traing），随机划分数据（2/3，1/3），比较结果如下：正确率Tri-training(1) Tri-training(2) Tri-training(3) Tri-training(4) 不降维81.24% 81.13% 86.63% 83.63% 降维73.65% 73.65% 74.01% 70.66%

表3

时间Tri-training(1) Tri-training(2) Tri-training(3) Tri-training(4) 不降维163.297s 107.409s 136.599s 118.86s 降维7.026s 3.981s 4.595s 3.663s

表4

6.3 我们用J48,SMO, NaiveBayes以及BayesNet四种算法对降维后的算法进行训练并求出其准确性，得到如下数据

Algorithm J48 SMO NaiveBayes BayesNet

pctCorrect 75.18% 87.49% 79.40% 82.10%

timeCost 3200ms 7720ms 203ms 578ms

1）准确率最高的算法为SMO算法，但耗时最长，若时间允许，此方法为最好。

、2）耗时相对较短的算法为NaiveBayes以及BayesNet算法。

3）四种算法准确率均不低，综合性能最好的算法是BayesNet算法。

由上述两表所示，我们可以得到如下结论

①数据不降维正确率比降维后的正确率要高，有时能高出10个百分点。

②半监督学习算法的正确率大多数情况下比监督学习算法要高，但是某些监督学习算法能够得到很不错的效果，如支持向量机算法。

③数据不降维学习所用时间远远多于数据降维学习时间。

④半监督学习所用时间远远多于监督学习时间。

7 思考总结

本次实验中我收获了很多，知道了如何在Java中调用Weka，了解了半监督学习算法和监督学习算法的区别，使用了SMO 算法。感谢老师一年来的谆谆教诲，学生受益良多，祝老师今后工作顺利，桃李天下。

基于知识库的手写体数字识别

HUNAN UNIVERSITY 课程模式识别 题目基于知识库的手写体数字识别学生姓名 学生学号

专业班级 学院名称 2016 年6 月25 日

基于知识库的手写体数字识别 1案例背景： 手写体数字识别是图像识别学科下的一个分支，是图像处理和模式识别研究领域的重要应用之一，并且具有很强的通用性。由于手写数字的随意性很大，如笔画粗细、字体大小、倾斜角度等因素都有可能直接影响到字符的识别准确率，所以手写体数字识别是一个很有挑战性的课题。在过去的数十年中，研究者们提出了许多识别方法，并取得了一定的成果。在大规模数据统计如例行年检、人口普查、财务、税务、邮件分拣等应用领域都有广阔的应用前景。 本案例实现了手写阿拉伯数字的识别过程，并对手写数字识别的基于统计的方法进行了简要介绍和分析。本文实现的手写字体识别程序具有手写数字图像读取、特征提取、数字模板特征库以及识别功能。 2 理论基础： 2-1手写字体识别方法： 手写体数字识别是一个跨学科的复杂问题，综合了图像处理、模式识别、机器学习等多个领域的知识，其识别过程一般包含图像预处理、特征提取、分类器的设定及其后处理等组成。处理流程如图2-1所示。

图2-1 手写体数子识别流程图 2-2 图像预处理 手写体数字识别的首要工作是图像预处理。在图像预处理过程中需要解决的主要问题有：定位、图像二值化、平滑化(去噪)H J、字符切分、规范化等。图像二值化是指将整个图像呈现出明显的黑白效果。待识别的手写体数字图像在扫描过程中，常会带来一些噪声，用不同的扫描分辨率得到的数字图像，其质量也各不相同，故而要先将这些干扰因素排除掉。另外，还需要正确分割整幅文档图像中的手写体数字，而分割后的数字大小、字体常各不相同，故还需进行归一化处理。 2-3 特征提取 特征提取的目的是从经过预处理后的数字图像中，提取出用以区分与其它数字类别的本质属性并数值化，形成特征矢量的过程。常见的手写体数字特征有：模板特征、统计特征、结构特征和变换特征。 2-4 分类器 不同的分类方式对应不同的分类器，可选的分类器有神经网络、支持向量机

毕业论文计算机手写数字识别技术完整版

毕业论文计算机手写数 字识别技术 HEN system office room 【HEN16H-HENS2AHENS8Q8-HENH1688】

合肥学院 2007届毕业设计（论文） 基于模板匹配算法的字符识别系 设计（论文）题 目 统研究与实现 院系名称计算机科学与技术系 专业（班级）计算机科学与技术 2003级1班 姓名（学号）宋飞（0） 指导教师赵大政 系负责人袁暋 二O O七年五月二十三日 摘要 自从计算机问世以来，让机器具有模式识别能力一直是计算机科学家们的努力方向。研究表明，对视觉和听觉信息的处理过程，不仅仅是一个感知过程，也是一个认知过程。因此，研究模式识别，是理解人类智能的本质的重要途径。字符识别是一个传统和典型的模式识别问题，脱机手写数字识别是一个典型的大类别的模式识别问题。手写体数字具有不同字符字型相差不大、相同字符有多种不同写法、数字没有上下文关系等等特点，使得脱机手写体数字识别成为识别领域最大的难题和最终的目标。在这种大类别识别的研究中，传统上大多采用模板匹配的方法来解决问题。而在模板匹配算法中，得计算其特征值。图像需要经过二值化，细化等预处理。 关键字模板匹配；特征值；细化；二值化 ABSTRACT Since computer appeared, it has been an effort direction for scientist to let the computer has the ability of pattern recognition. Researching indicates that the procedure to deal with seeing and hearing not only a procedure of perception but also cognition. Therefore, studying pattern recognition is an important way in understanding the mankind’s intelligence

(完整版)手写体数字识别系统设计毕业设计

石河子大学 信息科学与技术学院毕业论文 课题名称：手写体数字识别系统设计 学生姓名： 学号： 学院：信息科学与技术学院

专业年级：电子信息工程2007级指导教师： 职称： 完成日期：二○一一年六月十一日

手写体数字识别系统设计 学生： 指导教师： [摘要] 随着科学技术的迅速发展，在邮政编码、统计报表、财务报表、银行票据等处理大量字符信息录入的场合，手写数字识别系统的应用需求越来越强烈，如何将数字方便、快速地输入到计算机中已成为关系到计算机技术普及的关键问题。本文设计实现了一个基于Matlab软件的手写体数字识别系统，采用模块化设计方法，编写了摄像头输入、直接读取图片、写字板输入三个模块，利用摄像头等工具，将以文本形式存在的手写体数字输入进计算机，完成对手写体数字图片的采集，并设计了一种手写数字识别方法，对手写体数字图像进行预处理、结构特征提取、分类识别，最终以文本形式输出数字，从而实现手写体数字的识别。 [关键词] 预处理，结构特征提取，分类识别，手写体数字识别

Handwritten Digit Recognition System Students： Teacher：

Abstract:With the rapid development of science and technology, in zip code, statistics, reports, financial statements, Bank bills dealing with a large number of characters, such as information recorded occasions, handwritten digit recognition system of requirement has become stronger and stronger, how easily and quickly the number entered in the computer has become a key issue relates to the popularization of computer technology. This article design implementation has a based on Matlab software of handwriting body digital recognition system, used module of design method, write has camera entered, and directly read pictures, and write Board entered three a module, using camera, tools, will to text form exists of handwriting body digital entered into computer, completed on handwriting body digital pictures of collection, and design has a handwriting digital recognition method, on handwriting body digital image for pretreatment, and structure features extraction, and classification recognition, eventually to text form output digital, to implementation handwriting body digital of recognition. Key words: Pretreatment, structure feature extraction, classification and recognition, handwritten digit recognition.

手写数字识别系统的设计与实现

] 手写数字识别系统的设计与实现 摘要本手写数字识别系统是一个以VISUAL STUDIO C++ 为编译环境，使用MFC进行图形图像界面开发的系统。主要功能是通过在点击手写数字识别菜单下的绘制数字标签弹出的绘制数字窗口中完成数字的手写，在此窗口中可以进行数字的保存及清屏，然后通过文件菜单中的打开标签打开所绘制的数字，从而进行数字的预处理，其中包括灰度化及二值化处理，然后进行特征提取，最后实现数字的识别。本系统的界面设计友好，流程正确，功能也较为完善。实验结果表明，本系统具有较高的识别率。 关键词：绘制数字;预处理;特征提取;特征库;数字识别 / ；

目录 前言 (1) 概述 (2) 1 需求分析 (4) 功能需求分析 (4) , 性能需求分析 (4) 数据需求分析 (5) 相关软件介绍 (5) 2 手写数字识别系统的设计与基本原理 (6) 系统整体功能模块设计 (6) 手写数字识别系统的基本原理 (6) 数字图像的绘制 (6) 图像的预处理 (6) ） 图像的特征提取 (7) 特征库的建立 (8) 图像数字的识别 (8) 3 手写数字识别系统程序设计 (8) 数字图像的绘制 (8) 数字的特征提取 (15) 模板特征库的建立 (18) 数字的识别 (20) （

总结 (23) 致谢 (24) 参考文献 (25)

前言 自上世纪六十年代以来，计算机视觉与图像处理越来越受到人们的关注，并逐渐成为一门重要的学科领域。而作为它们的研究对象的数字图像，也因为它含有研究目标的丰富信息而成为越来越重要的研究对象。图像识别的目标是用计算机自动完成某些信息的处理，用来替代人工去处理图像分类及识别的任务。 手写数字识别是图像识别学科下的一个分支，是图像处理和模式识别领域研究的课题之一，由于其具有很强的实用性一直是多年来的研究热点。由于手写体数字的随意性很大，例如，笔画的粗细，字体的大小，倾斜等等都直接影响到字符的正确识别，所以手写体数字识别是一个很有挑战性的课题。在过去的数十年中，研究者们提出了许多的识别方法，取得了较大的成果。手写体数字识别实用性很强，在大规模数据统计(如例行年检，人口普查)，财务，税务，邮件分拣等等应用领域中都有广阔的应用前景。本课题拟研究手写体数字识别的理论和方法，开发一个小型的手写体数字识别系统。 在研究手写体数字识别理论和方法的基础上，开发这样一个小型的手写体数字识别系统需要完成以下主要方面的研究与设计工作：手写数字绘制的问题、数字的预处理问题、特征提取问题、特征库的建立问题、数字识别问题。

手写体数字的识别

手写体数字识别 第一章绪论 (4) 1.1课题研究的意义 (4) 1.2国内外究动态目前水平 (4) 1.3手写体数字识别简介 (5) 1.4识别的技术难点 (5) 1.5主要研究工作 (6) 第二章手写体数字识别基本过程： (6) 2.1手写体数字识别系统结构 (6) 2.2分类器设计 (7) 2.2.1 特征空间优化设计问题 (7) 2.2.2分类器设计准则 (8) 2.2.3分类器设计基本方法 (9) 3.4 判别函数 (9) 3.5训练与学习 (10) 第三章贝叶斯方法应用于手写体数字识别 (11) 3.1贝叶斯由来 (11) 3.2贝叶斯公式 (11) 3.3贝叶斯公式Bayes决策理论： (12) 3.4贝叶斯应用于的手写体数字理论部分： (16) 3.4.1.特征描述： (16) 3.4.2最小错误分类器进行判别分类 (17) 第四章手写体数字识别的设计流程及功能的具体实现 (18) 4.1 手写体数字识别的流程图 (18) 4.2具体功能实现方法如下： (19) 结束语 (25) 致谢词 (25) 参考文献 (26) 附录 (27)

摘要 数字识别就是通过计算机用数学技术方法来研究模式的自动处理和识别。随着计算机技术的发展，人类对模式识别技术提出了更高的要求。特别是对于大量己有的印刷资料和手稿，计算机自动识别输入己成为必须研究的课题，所以数字识别在文献检索、办公自动化、邮政系统、银行票据处理等方面有着广阔的应用前景。 对手写数字进行识别，首先将汉字图像进行处理，抽取主要表达特征并将特征与数字的代码存储在计算机中，这一过程叫做“训练”。识别过程就是将输入的数字图像经处理后与计算机中的所有字进行比较，找出最相近的字就是识别结果。 本文主要介绍了数字识别的基本原理和手写的10个数字字符的识别系统的设计实现过程。第一章介绍了数字识别学科的发展状况。第二章手写体数字识别基本过程。第三章贝叶斯方法应用于手写体数字识别。第四章手写体数字识别的设计流程及功能的具体实现，并对实验结果做出简单的分析。 关键词：手写体数字识别分类器贝叶斯vc++6.0 错误！未找到引用源。

手写体数字识别系统的设计与实现

大学生研究计划项目 论文报告 项目名称：_手写体数字识别系统的设计与实现 负责人：_________ _______________ 学院/专业：_____ ______ 学号：____ ________ 申请经费：_____ _________________ 指导教师：______ _______ 项目起止时间：2011年6月-2012年3月

摘要 手写体数字识别系统依托计算机应用软件为载体，利用C++程序设计的相关知识，运用模块设计等相关技术，最终完成手写体设计系统的程序综合设计。 关键字：手写体数字处理模式识别程序设计 一、论题概述 模式识别是六十年代初迅速发展起来的一门学科。由于它研究的是如何用机器来实现人(及某些动物)对事物的学习、识别和判断能力，因而受到了很多科技领域研究人员的注意，成为人工智能研究的一个重要方面。 字符识别是模式识别的一个传统研究领域。从50年代开始，许多的研究者就在这一研究领域开展了广泛的探索，并为模式识别的发展产生了积极的影响。 字符识别一般可以分为两类:1.联机字符识别;2.光学字符识别(Optical Chara- cter Recognition，OCR)或称离线字符识别。在联机字符识别中，计算机能够通过与计算机相连的输入设备获得输入字符笔划的顺序、笔划的方向以及字符的形状，所以相对OCR来说它更容易识别一些。但联机字符识别有一个重要的不足就是要求输入者必须在指定的设备上书写，然而人们在生活中大部分的书写情况是不满足这一要求的，比如人们填写各种表格资料，开具支票等。如果需要计算机去认识这些己经成为文字的东西，就需要OCR技术。比起联机字符识别来，OCR不要求书写者在特定输入设备上书写，它可以与平常一样书写，所以OCR 的应用更为广泛。OCR所使用的输入设备可以是任何一种图像采集设备，如CCD、扫描仪、数字相机等。通过使用这类采集设备，OCR系统将书写者已写好的文字作为图像输入到计算机中，然后由计算机去识别。由于OCR的输入只是简单的一副图像，它就不能像联机输入那样比较容易的从物理特性上获得字符笔划的顺序信息，因此OCR是一个更具挑战性的问题。 数字识别是多年来的研究热点，也是字符识别中的一个特别问题，它是本文研究的重点。数字识别在特定的环境下应用特别广泛，如邮政编码自动识别系统，税表和银行支票自动处理系统等。一般情况下，当涉及到数字识别时，人们往往要求识别器有很高的识别可靠性，特别是有关金额的数字识别时，如支票中填写

手写数字识别实践指导手册

手写数字系统实践指导手册 1 问题描述 设计一个简单的手写数字识别系统，能够识别手写输入的数字1-9并且能够识别选中的文本文件中的数字，应具有简单方便的操作界面，输入输出等。 1.1功能需求分析 通过分析，以及从用户的角度考虑，系统应该具有以下功能: （1）数字的手写输入。作为一个手写数字识别系统，首先应该能够让用户过绘制窗口进行数字绘制，系统得到用户的手写输入进行处理。 （2）直接选择文件。用户还可以选择系统中的文本文件进行处理。 （3）数据预处理。包括计算数据大小、二值化、格式化处理等。 （4）数字提取。将经过二值化后的图像中的个数字区域进行提取，只有能够将数字进行准确的提取，才能将其一一识别。 （5）基准库的选择与建立。选择一个可供系统训练和测试的样本库非常重要，本系统的训练集和测试集选择的是《机器学习实战》中所给的数据。 （6）识别数字。经过训练集进行训练后，使用knn算法对需要识别的数字识别。 2 数据集获取 ●任务要求： 从网上爬取或者下载适合进行手写数字识别系统的训练集和测试集 ●实践指导： 方式一：自己从网上找适合的数据下载 方式二：推荐数据集：“手写数字数据集的光学识别”一文中的数据集合，该文登载与2010年10月3日的UCI机器学习资料库中https://www.wendangku.net/doc/ea16264332.html,/ml

3 功能设计与实现 3.1手写数字识别系统结构图： 图一：系统结构图 3.2识别用户选择手选文件功能设计与实现 ●任务要求： 用户可以自己从电脑中选择文本文件进行识别。 ●实践指导： KNN分类器的构造思路及原理如下： 1）选择训练集和测试集。系统所采用的数据集选用的是“手写数字数据集的光学识别”一文中的数据集合。0-9每个数字大约有200个训练数据20个测试数据。数字的文本格式如图所示。

基于知识库的手写体数字识别

HUNAN UNIVERSITY 2016 年6 月 25 日 课程 模式识别 题 目 基于知识库的手写体数字识别 学生姓名 学生学号 专业班级 学 院 名 称

基于知识库的手写体数字识别 1案例背景： 手写体数字识别是图像识别学科下的一个分支，是图像处理和模式识别研究领域的重要应用之一，并且具有很强的通用性。由于手写数字的随意性很大，如笔画粗细、字体大小、倾斜角度等因素都有可能直接影响到字符的识别准确率，所以手写体数字识别是一个很有挑战性的课题。在过去的数十年中，研究者们提出了许多识别方法，并取得了一定的成果。在大规模数据统计如例行年检、人口普查、财务、税务、邮件分拣等应用领域都有广阔的应用前景。 本案例实现了手写阿拉伯数字的识别过程，并对手写数字识别的基于统计的方法进行了简要介绍和分析。本文实现的手写字体识别程序具有手写数字图像读取、特征提取、数字模板特征库以及识别功能。 2 理论基础： 2-1手写字体识别方法： 手写体数字识别是一个跨学科的复杂问题，综合了图像处理、模式识别、机器学习等多个领域的知识，其识别过程一般包含图像预处理、特征提取、分类器的设定及其后处理等组成。处理流程如图2-1所示。 图2-1 手写体数子识别流程图 2-2 图像预处理 手写体数字识别的首要工作是图像预处理。在图像预处理过程中需要解决的主要问题有：定位、图像二值化、平滑化(去噪)H J、字符切分、规范化等。图像二值化是指将整个图像呈现出明显的黑白效果。待识别的手写体数字图像在扫描过程中，常会带来一些噪声，用不同的扫描分辨率得到的数字图像，其质量也各不相同，故而要先将这些干扰因素排除掉。另外，还需要正确分割整幅文档图像中的手写体数字，而分割后的数字大小、字体常各不相同，故还需进行归一化处理。 2-3 特征提取 特征提取的目的是从经过预处理后的数字图像中，提取出用以区分与其它数字类别的本质属性并数值化，形成特征矢量的过程。常见的手写体数字特征有：模板特征、统计特征、结构特征和变换特征。

手写数字识别的原理及应用

手写数字识别的原理及应用 林晓帆丁晓青吴佑寿 一、引言 手写数字识别(Handwritten Numeral Recognition)是光学字符识别技术(Optical Character Recognition,简称OCR)的一个分支，它研究的对象是：如何利用电子计算机自动辨认人手写在纸张上的阿拉伯数字。 在整个OCR领域中，最为困难的就是脱机手写字符的识别。到目前为止，尽管人们在脱机手写英文、汉字识别的研究中已取得很多可喜成就，但距实用还有一定距离。而在手写数字识别这个方向上，经过多年研究，研究工作者已经开始把它向各种实际应用推广，为手写数据的高速自动输入提供了一种解决方案。 二、研究的实际背景 字符识别处理的信息可分为两大类：一类是文字信息，处理的主要是用各国家、各民族的文字（如：汉字，英文等）书写或印刷的文本信息，目前在印刷体和联机手写方面技术已趋向成熟，并推出了很多应用系统；另一类是数据信息，主要是由阿拉伯数字及少量特殊符号组成的各种编号和统计数据，如：邮政编码、统计报表、财务报表、银行票据等等，处理这类信息的核心技术是手写数字识别。这几年来我国开始大力推广的“三金”工程在很大程度上要依赖数据信息的输入，如果能通过手写数字识别技术实现信息的自动录入，无疑会促进这一事业的进展。因此，手写数字的识别研究有着重大的现实意义，一旦研究成功并投入应用，将产生巨大的社会和经济效益。 三、研究的理论意义 手写数字识别作为模式识别领域的一个重要问题，也有着重要的理论价值： 1.阿拉伯数字是唯一的被世界各国通用的符号，对手写数字识别的研究基本上与文化背景无关，这样就为各国，各地区的研究工作者提供了一个施展才智的大舞台。在这一领域大家可以探讨，比较各种研究方法。 2.由于数字识别的类别数较小，有助于做深入分析及验证一些新的理论。这方面最明显的例子就是人工神经网络（ANN）------相当一部分的ANN模型和算法都以手写数字识别作为具体的实验平台，验证理论的有效性，评价各种方法的优缺点。 3.尽管人们对手写数字的识别已从事了很长时间的研究，并已取得了很多成果，但到目前为止机器的识别本领还无法与人的认知能力相比，这仍是一个有难度的开放问题（Open problem)。

手写数字识别的实现

燕山大学 课程设计说明书 题目：手写数字识别的实现 学院（系）： 年级专业： 学号： 学生姓名： 指导教师： 教师职称： 2012年 6 月 29 日

燕山大学课程设计（论文）任务书 院（系）：电气工程学院基层教学单位：自动化仪表系 2012年 6 月 29 日

燕山大学课程设计评审意见表

数字图像中手写数字识别的实现 摘要： 数字图像处理（Digital Image Processing）又称为计算机图像处理，它是指将图像信号转换成数字信号并利用计算机对其进行处理的过程。图像中手写阿拉伯数字的识别和其他模式的识别所采用的方法是多种多样的。本文论述了图像中手写阿拉伯数字的识别过程，并对手写数字识别的三种方法（基于规则的方法、基于统计的方法和基于神经网络的方法）进行了简要介绍和分析，并通过实例重点对基于规则的方法进行了描述。最后是对这些方法的简要评价。 关键字： 二值化欧拉数矩阵matlab 目录

一、手写数字图像识别简介 (3) 二、正文：手写数字图像识别的主要流程 (3) 第一步................ .. (3) 第二步 (4) 第三步 (4) 第四步 (4) 三、程序 (4) 四、总结体会 (7) 五、参考文献.........................................................................................................,8 (如有不懂加QQ453543115) 一、手写数字图像识别简介 手写阿拉伯数字识别是图像内容识别中较为简单的一个应用领域，原因有被识别的模式数较少（只有0到9，10个阿拉伯数字）、阿拉伯数字笔画少并且简单等。手写阿拉伯数字的识别采用的方法相对于人脸识别、汉字识别等应用领域来说可以采用更为灵活的方法，例如基于规则的方法、基于有限状态自动机的方法、基于统计的方法和基

cnn实现手写数字识别

import tensorflow as tf from tensorflow.examples.tutorials.mnist import input_data In [ ]: mnist = input_data.read_data_sets('MNIST_data',one_hot =Tr ue) batch_size =100 n_batch = mnist.train.num_examples // batch_size def weight_variable(shape): initial = tf.truncated_normal(shape,stddev =0.1) return tf.Variable(initial) def bias_variable(shape): initial = tf.constant(0.1,shape=shape) return tf.Variable(initial) def conv2d(x,W): return tf.nn.conv2d(x,W,strides=[1,1,1,1],padding='SAME') #strides[0] = strides[3] = 1： def max_pool_2x2(x): return tf.nn.max_pool(x,ksize=[1,2,2,1],strides=[1,2,2,1], padding='SAME') #ksize #ksize: A list of ints that has length >= 4. The size of th e window for each dimension o f the input tensor. #In general for images, your input is of shape [batch_size, 64, 64, 3] for an RGB image of 64x64 pixels. #The kernel size ksize will typically be [1, 2, 2, 1] if yo u have a 2x2 window over which you take the maximum. # On the batch size dimension and the channels dimension, k size is 1 because we don't want to take the maximum over mu ltiple examples, # or over multiples channels. #strides # The first 1 is the batch: You don't usually want to skip over examples in your batch, or you shouldn't have included them in the first place. :) # The last 1 is the depth of the convolution: You don't usu ally want to skip inputs, for the same reason. x = tf.placeholder(tf.float32,[None,784])#none为任意维度 y = tf.placeholder(tf.float32,[None,10])

手写数字识别(mxnet官网例子)

手写数字识别 简介：通过MNIST数据集建立一个手写数字分类器。（MNIST对于手写数据分类任务是一个广泛使用的数据集）。 1.前提：mxnet 0.10及以上、python、jupyter notebook（有时间可以jupyter notebook的用法，如：PPT的制作） pip install requests jupyter ——python下jupyter notebook 的安装 2.加载数据集： import mxnet as mx mnist = mx.test_utils.get_mnist() 此时MXNET数据集已完全加载到内存中（注：此法对于大型数据集不适用） 考虑要素：快速高效地从源直接流数据+输入样本的顺序 图像通常用4维数组来表示：（batch_size，num_channels，width，height） 对于MNIST数据集，因为是28*28灰度图像，所以只有1个颜色通道，width=28，height=28，本例中batch=100（批处理100），即输入形状是（batch_size，1，28，28） 数据迭代器通过随机的调整输入来解决连续feed相同样本的问题。测试数据的顺序无关紧要。 batch_size = 100 train_iter=,mnist['train_label'], batch_size, shuffle=True) val_iter = , mnist['test_label'], batch_size) ——初始化MNIST数据集的数据迭代器（2个：训练数据+测试数据）

3.训练+预测：（2种方法）（CNN优于MLP） 1）传统深度神经网络结构——MLP（多层神经网络） MLP——MXNET的符号接口 为输入的数据创建一个占位符变量 data = data = ——将数据从4维变成2维(batch_size,num_channel*width*height) fc1 = , num_hidden=128) act1 = , act_type="relu") ——第一个全连接层及相应的激活函数 fc2 = , num_hidden = 64) act2 = , act_type="relu") ——第二个全连接层及相应的激活函数 （声明2个全连接层，每层有128个和64个神经元） fc3 = , num_hidden=10) ——声明大小10的最终完全连接层 mlp = , name='softmax') ——softmax的交叉熵损失 MNIST的MLP网络结构 以上，已完成了数据迭代器和神经网络的申明，下面可以进行训练。超参数：处理大小、学习速率 import logging

自由手写体数字识别系统的设计与实现

自由手写体数字识别系统的设计与实现 戴建辉 信息科学与工程学院，电子信息工程系 指导老师：吴谨 摘要：本文论述并设计实现了一个脱机自由手写体数字识别系统。文中首先对待识别数字的预处理进行了介绍，包括二值化、平滑滤波、规范化、细化等图像处理方法；其次，探讨了如何提取数字字符的结构特征和笔划特征，并详细地描述了知识库的构造方法；最后采用了以知识库为基础的模板匹配识别方法,并以MATLAB作为编程工具实现了具有友好的图形用户界面的自由手写体数字识别系统。实验结果表明，本方法具有较高的识别率，并具有较好的抗噪性能。 关键词：手写体数字；预处理；模式识别；特征提取 Abstrct： This paper describes and designs a free handwritten number recognition system. Firstly, the pretreatment of the character to be recognized is introduced, including binarization, smoothing, normalization and thinning. Next, how to extract the structural features of the numbers is discussed, and we describe the constructing method of repository. Finally, we use the method of template matching, based on repository, to recognize the digital number. Matlab is used as a program tool to realize this free handwritten digital recognition system with friendly graphical user interface. The experimental results show that the rate of the recognition system is high, and the proposed method is robust to noise. Keywords: handwritten number; pretreatment；pattern recognition; feature extraction 1 引言 OCR（Optical Character Recognition）即光学字符识别技术，是通过扫描仪把印刷体或手写体文稿扫描成图像，然后识别成相应的计算机可直接处理的字符。OCR是模式识别的一个分支，按字体分类主要分为印刷体识别和手写体识别两大类。对于印刷体识别又可以分成单一字体单一字号和多种字体多种字号几类。而手写体识别又可分为受限手写体和不受限手写体两类；按识别方式可分为在线识别和脱机识别两类。 字符识别处理的信息可分为两大类：一类是文字信息，处理的主要是用各国家、各民族的文字（如：汉字，英文等）书写或印刷的文本信息，目前在印刷体和联机手写方面技术已趋向成熟，并推出了很多应用系统；另一类是数据信息，主要是由阿拉伯数字及少量特殊符号组成的各种编号和统计数据，如：邮政编码、统计报表、财务报表、银行票据等等，处理这类

手写体数字识别方法的研究与实现

手写体数字识别方法的研究与实现 摘要 1引言 手写体数字识别是文字识别中的一个研究课题，是多年来的研究热点，也是模式识别领域中最成功的应用之一。由于识别类型较少，在实际生活中有深远的应用需求，一直得到广泛的重视。近年来随着计算机技术和数字图像处理技术的飞速发展，数字识别在电子商务、机器自动输入等场合已经获得成功的实际应用。尽管人们对手写数字的研究己从事了很长时间的研究，并己取得了很多成果，但到目前为止，机器的识别本领还无法与人的认知能力相比，这仍是一个有难度的开放问题，所以对手写数字识别的进一步研究，寻求如何更高效更准确更节能地实现手写数字的自动录入和识别的解决方案对提高经济效益、推动社会发展都有深远的意义。 近年来, 人工神经网技术发展十分迅速, 它具有模拟人类部分形象思维的能力, 为模式识别开辟了新的途径, 成了模拟人工智能的一种重要方法，特别是它的信息并行分布式处理能力和自学习功能等显著优点, 更是激起了人们对它的极大的兴趣。BP（Back Propagation）网络是神经网络中一种，是1986年由Rumelhart和McCelland为首的科学家小组提出，是一种按误差逆传播算法训练的多层前馈网络，可以很好地解决非线性问题，在函数逼近、模式识别和数据压缩等方面都有很广泛的应用。我们在认真地研究了神经网络的基本原理和机制的基础上, 结合手写体数字识别这一具体课题, 提出了用BP神经网络方法来实现手写体数字 识别的方案。 2手写体数字识别概述 2.1手写数字识别简述 模式识别是六十年代初迅速发展起来的一门学科。由于它研究的是如何用机器来实现人及某些动物对事物的学习、识别和判断能力，因而受到了很多科技领域研究人员的注意，成为人工智能研究的一个重要方面。 字符识别是模式识别的一个传统研究领域。从50年代开始，许多的研究者就在这一研究领域开展了广泛的探索，并为模式识别的发展产生了积极的影响。 手写体数字识别是多年来的研究热点也是字符识别中的一个特别问题。手写体数字识别在特定的环境下，如邮政编码自动识别系统，税表和银行支票自动处理系统等一般情况。当涉及到数字识别时，人们往往要求识别器有很高的识别可靠性，特别是有关金额的数字识别时，如支票中填写的金额部分，更是如此。因此针对这类问题的处理系统设计的关键环节之一就是设计出高可靠性和高识别率的手写体数字识别方法。这个领域取得了飞速的发展，部分是由于更好的学习算法，部分是由于更优良的训练集。美国国家科学学会（NIST）建立了

手写数字识别系统的设计与实现

手写数字识别系统的设计与实现 摘要本手写数字识别系统是一个以VISUAL STUDIO C++ 6.0为编译环境，使用MFC进行图形图像界面开发的系统。主要功能是通过在点击手写数字识别菜单下的绘制数字标签弹出的绘制数字窗口中完成数字的手写，在此窗口中可以进行数字的保存及清屏，然后通过文件菜单中的打开标签打开所绘制的数字，从而进行数字的预处理，其中包括灰度化及二值化处理，然后进行特征提取，最后实现数字的识别。本系统的界面设计友好，流程正确，功能也较为完善。实验结果表明，本系统具有较高的识别率。 关键词：绘制数字;预处理;特征提取;特征库;数字识别

目录 前言 (1) 概述 (2) 1 需求分析 (4) 1.1 功能需求分析 (4) 1.2 性能需求分析 (4) 1.3 数据需求分析 (5) 1.4 相关软件介绍 (5) 2 手写数字识别系统的设计与基本原理 (6) 2.1 系统整体功能模块设计 (6) 2.2 手写数字识别系统的基本原理 (6) 2.2.1 数字图像的绘制 (6) 2.2.2 图像的预处理 (6) 2.2.3 图像的特征提取 (7) 2.2.4 特征库的建立 (8) 2.2.5 图像数字的识别 (8) 3 手写数字识别系统程序设计 (8) 3.1 数字图像的绘制 (8) 3.2数字的特征提取 (15) 3.3 模板特征库的建立 (18) 3.4 数字的识别 (20) 总结 (23)

致谢.................................... 错误！未定义书签。参考文献 (23)

前言 自上世纪六十年代以来，计算机视觉与图像处理越来越受到人们的关注，并逐渐成为一门重要的学科领域。而作为它们的研究对象的数字图像，也因为它含有研究目标的丰富信息而成为越来越重要的研究对象。图像识别的目标是用计算机自动完成某些信息的处理，用来替代人工去处理图像分类及识别的任务。 手写数字识别是图像识别学科下的一个分支，是图像处理和模式识别领域研究的课题之一，由于其具有很强的实用性一直是多年来的研究热点。由于手写体数字的随意性很大，例如，笔画的粗细，字体的大小，倾斜等等都直接影响到字符的正确识别，所以手写体数字识别是一个很有挑战性的课题。在过去的数十年中，研究者们提出了许多的识别方法，取得了较大的成果。手写体数字识别实用性很强，在大规模数据统计(如例行年检，人口普查)，财务，税务，邮件分拣等等应用领域中都有广阔的应用前景。本课题拟研究手写体数字识别的理论和方法，开发一个小型的手写体数字识别系统。 在研究手写体数字识别理论和方法的基础上，开发这样一个小型的手写体数字识别系统需要完成以下主要方面的研究与设计工作：手写数字绘制的问题、数字的预处理问题、特征提取问题、特征库的建立问题、数字识别问题。

手写数字识别代码解释

一. 进行数据预处理 1导入相关库 from keras.datasets import mnist 从keras的datasets中导入mnist数据集 from keras.utils import np_utils 从keras导入将整型标签转换方法utils import numpy as np 导入Python扩充程序库numPy，作为np调用。numPy支持大量的维度数组与矩阵运算，也针对数组运算提供大量的数学函数库。 np.random.seed(10) 设置随机数种子为10 。将随机数发生器初始化为恒定值，以获得可重复结果。 2.读取MNIST数据 (X_train, y_train), (X_test, y_test) = mnist.load_data() 返回手写图片的两个tuple，第一个tuple存储已经人工分类好的图片及标签，标签指出该图片表示的数字（0—9），供训练使用；第二个tuple存储未分类的图片，在用第一个tuple 训练完后，可以对第二个tuple利用神经网络进行分类，根据实验结果的真实值与预测值对比得到相应的损失值，再利用反向传播进行参数更新，再进行分类，然后重复前述步骤直至损失值最小。 元组不能修改 reshape to be [samples][pixels][width][height] X_train = X_train.reshape(X_train.shape[0], 28, 28, 1).astype('float32') X_test = X_test.reshape(X_test.shape[0], 1, 28, 28).astype('float32') 将fetures（数字图像特征值）转换（reshape）为6000 x 28 x 28 x 1的四维矩阵 CNN的输入是4维的张量（可看做多维向量），第一维是样本规模（图像数量），第四维是像素通道（这里为1通道，单色），第二维和第三维是长度和宽度。并将数值归一化和类别标签向量化。 二. 建立模型 1.导入所需模块

手写数字识别的实现

手写数字识别的实现 摘要： 手写数字识别是模式识别的应用之一。文中介绍了手写数字的一些主要特征，具体识别方法是通过主成分分析（PCA）和最近邻方法应用matlab等计算机软件来实现。 关键词：手写数字、主成分分析（PCA）、最近邻方法 1. 手写数字的特征分析 数字类别不但少，而且笔划简单，尤其是手写数字个个差异大。数字识别的关键在于能否找到有效的特征，[2] 就给出了数字的多个特征，选取的特征应具有可分辨能力并尽可能的少，分辨能力在应用中而言就是特征能够使得不同类别的个体在特征值上相差大，同类别特征值相差小。特征值小一方面是为了减少计算量，另一方面也减少了信息冗余。目前研究的手写数字特征主要有笔画密度特征、粗网格特征、重心以及重心距特征、首个黑点位置特征、投影特征以及空间域变换特征等，除了以上特征，也不断的有新的特征[1]被提出。 1.1 数字的特征 1.1.1 单个数字的特征 单个数字特征是指特定数字普遍具有的特征。例如如果数字竖直长度比上横向宽度大于某个值比如 4 ，那么很有可能是数字 1 ，如果数字内有两个封闭的区域则很可能是字8 ，如果只有一个封闭的区域，且封闭区域的重心偏上则很可能是数字9 （同理可判断数字 6 ），以上都是这些数字普遍具有的特征，但因为数字手写的原因，也包含了大量不规则的例子，如图 1 ，则需要进一步 借助其他特征进行识别。 单个数字特征可以辨别出那些具有典型数字特征的手写数字，但计算复杂并且在手写数字识别中误差大，但是作为正式识别过程前的预识别可减少运算量和时间。 1.1.2 笔画密度特征 笔画密度特征是指不同数字在水平方向、竖直方向以及其他角度方向上笔画密度特征。如图 2 数字 1 在竖直方向上笔画密度大，而在水平方向上笔画密度小，而数字8 在倾斜方向上笔画密度大。找到这样的特征我们可以间隔一定行