# easyAi 本包说明: * 本包原名imageMarket,因为开始加入自然语言模块,所以之后更名为easyAi * 本包对物体在图像中进行训练及识别,切割,定位的轻量级,面向小白的框架,功能在逐渐扩展中 * 本包对中文输入语句,对输入语句的类别进行分类,功能在逐渐扩展中 * 若有想扩充的功能请进群提意见,若是通用场景我会陆续补充,技术交流群:561433236 ## 详细视频教程地址: * 视频教程地址:https://www.bilibili.com/video/av89134035 ## 测试素材下载 链接:https://pan.baidu.com/s/1Vzwn3iMPBI-FAXBDrCSglg 密码:7juj ## 框架效果演示结果: * 因为是框架没有图像化界面,演示结果就是控制台输出的数据,只能用视频展示,想看演示结果请看教学视频 ## 控制台输出演示 * 演示都是输出结果,详情请看具体视频教程,上有链接,这里就是展示一下控制台输出截图。 * 单物体识别效果:[点击查看](./src/test/image/end1.png) * 多物体识别效果:[点击查看](./src/test/image/end2.png) * 中文语言分类效果:[点击查看](./src/test/image/end3.png) ### 目前拥有的功能是 * 对单张图片单物体进行识别 * 对单张图片多物体进行识别与定位 * 对中文语言进行分类语义识别,判断用户说话的语义是什么,要做什么 * 若有想扩充的功能请进群提意见,若是通用场景我会陆续补充,技术交流群:561433236 ### 目的是 * 低硬件成本,CPU可快速学习运行,面向jAVA开发的程序员,经过简单API调用就可实现物体在图像中的识别,定位及中文语言分类等功能 * 努力为中小企业提供AI场景解决技术方案 * 技术交流群:561433236 ### 特点是 入手门槛低,简单配置,快速上手 #### 为什么做这个包 * 低门槛化: 现在随着人工智能技术的兴起,很多场景需要开发人员添加相应的功能,但是在二三线城市算法人才匮乏。 并且大多是JAVA开发程序员,业务做的更多,因为作者本人就是三线城市程序员,所以深知这一点。 所以我本人认为需要一款部署简单,不需要学习任何算法知识, 只通过最简单的API调用,就可以实现部分人工智能应用,并面向覆盖面最广的JAVA程序员使用的,且 能满足大部分AI业务场景实现的技术包。 * 面向用户:广大没接触过算法知识,人才相对匮乏的二三线JAVA业务开发程序员,实现人工智能应用 * 部署简单: 本包所有底层函数及数学库都是作者JAVA手写,不依赖任何第三方库,所以开发者只需要将本包下载到本地后,打成JAR包 引入到自己的POM文件中,就可以独立使用所有功能。 * 功能还在扩展: 本包现在的功能还在逐步扩展中 * 抛错捕获暂时还没有做全,若有抛错请进群交流:561433236,我来做一下错误定位 ## HELLO WORLD说明: * 以下为最简API文档,所有非必设参数都使用本引擎默认值 * 要注意的是使用最简API,及参数默认值准确度远不能达到最佳状态 ### 图像学习部分最简API 说明: ``` java //创建图片解析类 Picture picture = new Picture(); //创建一个静态单例配置模板 static TempleConfig templeConfig = new TempleConfig(); //第三个参数和第四个参数分别是训练图片的宽和高,为保证训练的稳定性请保证训练图片大小的一致性 templeConfig.init(StudyPattern.Accuracy_Pattern, true, 640, 640, 2); //将配置模板类作为构造塞入计算类 Operation operation = new Operation(templeConfig); //一阶段 循环读取不同的图片 for (int i = 1; i < 1900; i++) { //读取本地URL地址图片,并转化成矩阵 Matrix a = picture.getImageMatrixByLocal("/Users/lidapeng/Desktop/myDocment/picture/a" + i + ".jpg"); Matrix c = picture.getImageMatrixByLocal("/Users/lidapeng/Desktop/myDocment/picture/c" + i + ".jpg"); //矩阵塞入运算类进行学习,第一个参数是图片矩阵,第二个参数是图片分类标注ID,第三个参数是第一次学习固定false operation.learning(a, 1, false); operation.learning(c, 2, false); } for (int i = 1; i < 1900; i++) { //读取本地URL地址图片,并转化成矩阵 Matrix a = picture.getImageMatrixByLocal("D:\\share\\picture/a" + i + ".jpg"); Matrix c = picture.getImageMatrixByLocal("D:\\share\\picture/c" + i + ".jpg"); //将图像矩阵和标注加入进行学习,Accuracy_Pattern 模式 进行第二次学习 //第二次学习的时候,第三个参数必须是 true operation.learning(a, 1, true); operation.learning(c, 2, true); } templeConfig.finishStudy();//结束学习 //获取学习结束的模型参数,并将model保存数据库 ModelParameter modelParameter = templeConfig.getModel(); String model = JSON.toJSONString(modelParameter); ``` ### 单物体图像识别部分最简API 说明: ``` java //读取一张图片,并将其转化为矩阵 Matrix a = picture.getImageMatrixByLocal(fileURL); //返回此图片的分类ID int an = operation.toSee(a); ``` ### 物体图像识别服务启动初始化API 说明: ``` java //创建一个静态单例配置模板类 static TempleConfig templeConfig = new TempleConfig(); //初始化配置模板 templeConfig.init(StudyPattern.Accuracy_Pattern, true, 640, 640, 2); //将配置模板类作为构造塞入计算类 Operation operation = new Operation(templeConfig); //从数据库中读取学习的模型结果,反序列为ModelParameter ModelParameter modelParameter = JSON.parseObject(ModelData.DATA2, ModelParameter.class); //将模型数据注入配置模板类 templeConfig.insertModel(modelParameter); ``` ### 自然语言分类最简API 说明: ``` java //创建模板读取类 TemplateReader templateReader = new TemplateReader(); //读取语言模版,第一个参数是模版地址,第二个参数是文本编码方式 //同时也是学习过程 templateReader.read("/Users/lidapeng/Desktop/myDocment/a1.txt", "UTF-8"); //学习结束获取模型参数 //WordModel wordModel = WordTemple.get().getModel(); //不用学习注入模型参数 //WordTemple.get().insertModel(wordModel); Talk talk = new Talk(); //输入语句进行识别,若有标点符号会形成LIST中的每个元素 //返回的集合中每个值代表了输入语句,每个标点符号前语句的分类 List list = talk.talk("帮我配把锁"); System.out.println(list); //这里做一个特别说明,语义分类的分类id不要使用"0",本框架约定如果类别返回数字0,则意味不能理解该语义,即分类失败 //通常原因是模板量不足,或者用户说的话的语义,不在你的语义分类训练范围内 ``` ### 神经网络最简API说明 ``` java //创建一个DNN神经网络管理器 NerveManager nerveManager = new NerveManager(...); //构造参数 //sensoryNerveNub 感知神经元数量 即输入特征数量 //hiddenNerverNub 每一层隐层神经元的数量 //outNerveNub 输出神经元数量 即分类的类别 //hiddenDepth 隐层神经元深度,即学习深度 //activeFunction 激活函数 //isDynamic 是否启用动态神经元数量(没有特殊需求建议为静态,动态需要专业知识) public NerveManager(int sensoryNerveNub, int hiddenNerverNub, int outNerveNub, int hiddenDepth, ActiveFunction activeFunction, boolean isDynamic) nerveManager.getSensoryNerves()获取感知神经元集合 //eventId:事件ID //parameter:输入特征值 //isStudy:是否是学习 //E:特征标注 //OutBack 回调类 SensoryNerv.postMessage(long eventId, double parameter, boolean isStudy, Map E, OutBack outBack) //每一次输出结果都会返回给回调类,通过回调类拿取输出结果,并通过eventId来对应事件 ``` ### 随机森林最简API说明 ``` java //创建一个内存中的数据表 DataTable dataTable = new DataTable(column); //构造参数是列名集合 public DataTable(Set key) //指定主列名集合中该表的主键 dataTable.setKey("point"); //创建一片随机森林 RandomForest randomForest = new RandomForest(7); //构造参数为森林里的树木数量 public RandomForest(int treeNub) //唤醒随机森林里的树木 randomForest.init(dataTable); //将加入数据的实体类一条条插入森林中 randomForest.insert(Object object); //森林进行学习 randomForest.study(); //插入特征数据,森林对该数据的最终分类结果进行判断 randomForest.forest(Object objcet); ``` ### 如何提升精准度 * 将模板类设置为不忽略精度 ``` java TempleConfig templeConfig = new TempleConfig(false, true); ``` >使用TempleConfig()有参构造,第一个参数目前依然固定传false(因为有功能还没完成),第二个参数是一个布尔值是否忽略精度。 众所周知JAVA计算浮点是有精度损失的,如果选择true则使用大数计算类即无精度损失(默认为FALSE),但是这是以速度变慢十倍以上为代价的。 忽略精度和使用精度准确度上差距,平均在5-6个百分点之间,所以用户按照自己的需求来判断是否使用精度计算。 >>优点:准确度提升5-6个百分点,配合DNN分类器可达99%以上的准确率 >>>缺点:运算速度变慢十倍以上,从百毫秒变为一至两秒 * 根据业务情景选择使用分类器 ``` java TempleConfig templeConfig = new TempleConfig(false, true); templeConfig.setClassifier(Classifier.DNN); ``` >在TempleConfig类调用init()方法前选择使用的分类器setClassifier() ``` java public class Classifier {//分类器 public static final int LVQ = 1;//LVQ分类 public static final int DNN = 2; //使用DNN分类 public static final int VAvg = 3;//使用特征向量均值分类 } ``` >目前easyAi提供三种分类器,即用户选择一种参数设置进配置模板类 >> 这三种分类器的特点 >> 1. LVQ:若用户训练图片量较少,比如一个种类只有一两百张图片,则使用此分类器达到当前条件下最大识别成功率 >> 2. VAvg:若用户训练图片较少,同时分类数量也很少,比如只训练两三种物体识别,则VAvg达到当前最大识别成功率 >> 3. DNN:若用户训练图片较多,每种分类1500张训练图片,则使用此分类器,准确率98%+。 >> 4. 若不设置分类器,则框架默认使用VAvg分类器 >>>使用DNN的话,API略有区别 ``` java //创建图片解析类 Picture picture = new Picture(); //创建一个静态单例配置模板 static TempleConfig templeConfig = new TempleConfig(); //使用DNN分类器 templeConfig.setClassifier(Classifier.DNN); //第三个参数和第四个参数分别是训练图片的宽和高,为保证训练的稳定性请保证训练图片大小的一致性 templeConfig.init(StudyPattern.Accuracy_Pattern, true, 640, 640, 2); //将配置模板类作为构造塞入计算类 Operation operation = new Operation(templeConfig); //一阶段 循环读取不同的图片 for (int i = 1; i < 1900; i++) { //读取本地URL地址图片,并转化成矩阵 Matrix a = picture.getImageMatrixByLocal("/Users/lidapeng/Desktop/myDocment/picture/a" + i + ".jpg"); Matrix c = picture.getImageMatrixByLocal("/Users/lidapeng/Desktop/myDocment/picture/c" + i + ".jpg"); //矩阵塞入运算类进行学习,第一个参数是图片矩阵,第二个参数是图片分类标注ID,第三个参数是第一次学习固定false operation.learning(a, 1, false); operation.learning(c, 2, false); } for (int i = 1; i < 1900; i++) { Matrix a = picture.getImageMatrixByLocal("D:\\share\\picture/a" + i + ".jpg"); Matrix c = picture.getImageMatrixByLocal("D:\\share\\picture/c" + i + ".jpg"); operation.normalization(a, templeConfig.getConvolutionNerveManager()); operation.normalization(c, templeConfig.getConvolutionNerveManager()); } templeConfig.getNormalization().avg(); for (int i = 1; i < 1900; i++) { //读取本地URL地址图片,并转化成矩阵 Matrix a = picture.getImageMatrixByLocal("D:\\share\\picture/a" + i + ".jpg"); Matrix c = picture.getImageMatrixByLocal("D:\\share\\picture/c" + i + ".jpg"); //将图像矩阵和标注加入进行学习,Accuracy_Pattern 模式 进行第二次学习 //第二次学习的时候,第三个参数必须是 true operation.learning(a, 1, true); operation.learning(c, 2, true); } ``` >大家可以看到如果使用DNN,在一阶段学习和二阶段学习之间多了一段代码即: ``` java for (int i = 1; i < 1900; i++) { Matrix a = picture.getImageMatrixByLocal("D:\\share\\picture/a" + i + ".jpg"); Matrix c = picture.getImageMatrixByLocal("D:\\share\\picture/c" + i + ".jpg"); operation.normalization(a, templeConfig.getConvolutionNerveManager()); operation.normalization(c, templeConfig.getConvolutionNerveManager()); } templeConfig.getNormalization().avg(); ``` * 增加DNN神经网络深度 ``` java templeConfig.setDeep(int deep); ``` >若不设置默认深度为2,设置的深度越深则意味着准确率也越高,但同时也意味着你需要更多的训练图片去训练 >增加一层深度,训练图片的数量至少乘以3,否则准确度不仅不会增加,反而会下降 >>优点:更深的深度准确率可以无限接近100%,我们只要训练量足够大,我们就可以更深,越深越无敌 >>>缺点:增加深度意味着成几何倍数提升的训练量,同时也意味着过拟合的风险 * 修改可调参数 ``` java //选择分类器 templeConfig.setClassifier(Classifier.DNN); //选择期望矩阵宽度 templeConfig.setMatrixWidth(5); //选择正则化模式 templeConfig.setRzType(RZ.L2); //选择DNN 深度 templeConfig.setDeep(1); //设置学习率 templeConfig.setStudyPoint(0.05); //设置DNN隐层宽度 templeConfig.setHiddenNerveNub(6); //设置正则系数 templeConfig.setlParam(0.015);//0.015 ``` ### 什么样的图片会严重影响准确率 * 训练图片或者识别图片有,比较大片的遮盖,暗光,阴影,或者使图片模糊的情况,识别和训练都会有严重的干扰 * 训练图片要求会比较高,要求若物体无背景则扣干净,有背景的话使用统一背景不要变动,不要一个训练一个物体有很多种背景 * 训练物体图片若有背景最好垫张白纸,纯白和纯色的背景干扰度最小,纯白最优 * 识别图片的拍摄设备最好有补光灯,不要让拍摄物体有大片阴暗。除非你同时也训练阴暗图片,当然那样的话训练量太大不推荐,也没必要 * 若使用定位与多物体识别功能,请将训练物体的图片背景扣干净,或保证RGB纯白色号背景即0XFFFFFF * 某两种物体的图片太过相似即长的几乎一模一样,区别点特别小或者微弱,识别不出来,就好比同卵双胞胎你也很难做出区分 ### 常见抛错 * error:Wrong size setting of image in templateConfig * 原因是模版配置类图片宽高设置相差太大 ` templeConfig.init(StudyPattern.Accuracy_Pattern, true, width, height, 1);` ##### 最终说明 * TempleConfig():配置模版类,一定要静态在内存中长期持有,检测的时候不要每次都NEW, 一直就使用一个配置类就可以了。 * Operation():运算类,除了学习可以使用一个以外,用户每检测一次都要NEW一次。 因为学习是单线程无所谓,而检测是多线程,如果使用一个运算类,可能会造成线程安全问题 ##### 精准模式和速度模式的优劣 * 速度模式学习很快,但是检测速度慢,双核i3检测单张图片(1200万像素)单物体检测速度约800ms. 学习1200万像素的照片物体,1000张需耗时1-2小时。 * 精准模式学习很慢,但是检测速度快,双核i3检测单张图片(1200万像素)单物体检测速度约100ms. 学习1200万像素的照片物体,1000张需耗时5-7个小时。 ##### 本包为性能优化而对AI算法的修改 * 本包的自然语言是通过内置分词器进行语句分词,然后再通过不同分词的时序进行编号成离散特征,最后进入随机森林分类 * 本包对图像AI算法进行了修改,为应对CPU部署。 * 卷积层不再使用权重做最终输出,而是将特征矩阵作出明显分层的结果。 * 卷积神经网络后的全连接层直接替换成了LVQ算法进行特征向量量化学习聚类,通过卷积结果与LVQ原型向量欧式距离来进行判定。 * 物体的边框检测通过卷积后的特征向量进行多元线性回归获得,检测边框的候选区并没有使用图像分割(cpu对图像分割算法真是超慢), 而是通过Frame类让用户自定义先验图框大小和先验图框每次移动的检测步长,然后再通过多次检测的IOU来确定是否为同一物体。 * 所以添加定位模式,用户要确定Frame的大小和步长,来替代基于图像分割的候选区推荐算法。 * 速度模式是使用固定的边缘算子进行多次卷积核,然后使用BP的多层神经网络进行强行拟合给出的结果(它之所以学习快,就是因为速度模式学习的是 全连接层的权重及阈值,而没有对卷积核进行学习) * 本包检测使用的是灰度单通道,即对RGB进行降纬变成灰度图像来进行检测(RGB三通道都算的话,CPU有些吃不住)。 * 若使用本包还有疑问可自行看测试包内的HelloWorld测试案例类,或者进群交流:561433236,提出问题