正文:
内窥镜被用于工业方面质量检测的历史由来已久,它可以直接反映出被检测物体内外表面的情况,并且在检测的同时,可以对整个检测过程进行动态的录影记录或照相记录,并能对发现的缺陷进行定量分析,测量缺陷的长度,面积等数据。一方面可在不需拆卸或破坏组装及设备停止运行的情况下实现无损检测,另外一方面工业内窥镜还可与照相机、摄像机或电子计算机连接,组成照相、摄像和图象处理系统,从而进行视场目标的监视、记录、贮存和图象分析.为诊断和处理提供很好的保证。
比如:
1、焊缝表面缺陷检查。检查焊缝表面裂纹、未焊透及焊漏等焊接质量。
2、内腔检查。检查表面裂纹、起皮、拉线、划痕、凹坑、凸起、斑点、腐蚀等缺陷。
3、状态检查。当某些产品(如蜗轮泵、发动机等)工作后,按技术要求规定的项目进行内窥检测。
4、装配检查。当有要求和需要时,使用工业视频内窥镜对装配质量进行检查;装配或某一工序完成后,检查各零部组件装配位置是否符合图样或技术条件的要求;是否存在装配缺陷。
5、多余物检查。检查产品内腔残余内屑,外来物等多余物。
工业内窥镜由于它的特殊尺寸设计,可以让我们不破坏被检测物体的表面简便、准确地观察物体内部表面结构或工作状态。
无损检测需要使用工业内窥镜作为检测工具,是为了满足工业复杂使用环境而专业设计生产的。内窥镜检测是随着内窥镜生产制造技术的发展而逐渐得到广泛应用的一种检测技术。
当前,在工业零部件质量检测日益严格的今天,更对工业产品的质量检测,特征分析,反馈追溯提出更高要求。随着机器学习及AI人工智能概念的扩展,依靠内窥镜视觉的智能算法深度学习机制,出现了新一代的智能化内窥镜,集成了机器视觉图像采集;目标图像素材分析;机器算法深度学习;检测手段实时优化等多种技术手段,将图像检测与人工智能紧密的结合起来,极大的扩展了检测部门的效率及作用,
AI人工智能技术的智能内窥镜作为一种集合了人工智能检测理念的新一代创新检测设备,在航空、汽车、船舶、电气、化学、电力、煤气、原子能、土木建筑等现代核心工业的各个部门显示了越来越多的应用前景。
人工智能在近些年得到了长足的发展,基于视觉的深度学习在很多领域有着创新和新型的应用。典型的例如医疗影像辅助诊断方面,影像组学是通过医学影像对特征进行提取和分析,为患者预前和预后的诊断和治疗提供评估方法和精准诊疗决策。这在很大程度上简化了人工智能技术的应用流程,节约了人力成本。
本论文通过讨论人工智能和工业内窥镜的有效结合,通过类似AI在医疗影像辅助方面的应用打造工业生产中内窥镜检验的实时辅助系统。从而提高一线检测人员的生产效率。
产品开发思路策略:总体分为两大部分:1)模型培训,以工业内窥镜产品在应用广泛的汽车行业为例,积累了一定数量的基于排气管道焊缝的原始数据。对于通常的缺陷判定,缺项类型有丰富的经验。 通过标注原始图片获得训练数据,从而培训神经网络。
2)模型的部署,将培训得到的模型部署在现有的手持式内窥镜上,具体包含现有板卡运算力的评估升级,模型调用与现有进程的互通,以及在显示屏上的实时潜在缺陷的识别和标识。
3)主要的技术指标和关键技术说明:
内窥镜光学成像主要技术指标
1. 有效分辨率:UXGA (1600X1200)
2. 有效供电: 3.3V 土5%
3. 电流供给:<=200mA
4. 输出制式:CVBS复合视频信号;S_VIDEOS端子;VGA标准显示器接口;DVI差分接口;HDMI高清数字接口。
5. 光学尺寸: 1/4英寸
6. 感光面组成:RGB Bayer Pattern
7. 动态范围:69DB
8. 扫描模式:逐行扫描/帧曝光
9. 感光面积:3888umX2430um
10.控制总线:传感器命令字:I2C总线控制;UI控制
在内窥镜板上所运行的机器学习模型性能评估有以下几点
查准率(Precision)(精度)是衡量某一检测系统的信号噪声比的一种指标,即检出的缺陷与检出的全部缺陷的百分比。在内窥镜车辆排气管检测中应到达90%。
查全率(recall),是衡量某一检测系统从待检产品中将缺陷检出的成功率。在本项目中应维持在90%或以上。
系统实时处理速度:30fps,即神经网络的结果需要在1/30秒内处理完毕。
系统运行流程框图:
图像采集单元:为内窥镜镜头,图像传感器和可弯管头
图像处理:中央处理器辅助采集实时传输回来的图片,储存,显示。
AI辅助运算单元:调用神经网络来处理视频帧,发现缺陷,输出结果给图像显示单元。
(车辆排气管内窥镜采集的原始素材):
(经过智能内窥镜人工智能算法的初步筛选和标注:)
采用原始数据400张进行模型训练,得到结果如下,
缺陷类型 | TruthCount | PredictionCount | CorrectCount | Precision | Recall |
缝隙<2cm | 55 | 54 | 54 | 98% | 98% |
2cm缝隙<5cm | 32 | 30 | 29 | 94% | 91% |
5cm<缝隙<7cm | 8 | 7 | 7 | 88% | 88% |
缝隙>7cm | 5 | 5 | 5 | 100% | 100% |
可以看到在初步的模型结果中,对于裂缝的识别的初步结果都还是基本能满足90%以上的要求。接下来的步骤需要采用更多的样本来持续优化模型,以期能够得到更好的结果。第二步也会加入不同的缺陷类型,类似焊接厚度,颜色等的甄别。
手持设备部署
该部分包含三部份内容,
1)AI协处理平台的选定,在对模型算力进行评估以后选用基于nVidia的Jetson平台。该平台具有以下特点
GPU: nVidia 帕斯卡, 256 CUDAcore
CPU: HMP DualDever 2/2MB L2+ Quad ARM A 57/2 MB L2
视频:4K x 2K 60 Hz Encode (HEVC),4K x 2K 60 Hz Decode (12-Bit Support)
内存: 8 GB 128 bit LPDDR4
数据存储: 32 GB eMMC, SDIO, SATA
2)模型的嵌入和执行软件,
当系统将标识有缺陷的结果实时显示在屏幕上,用户会得到如下图的动态显示
AI人工智能内窥镜的技术壁垒主要存在于两方面, 一方面本身内窥镜就是一项集精密光学,超微电子摄像系统,精密机构等核心部件组成的高技术检测仪器产品。第二方面是针对内窥镜采集图像的人工智能分析算法。 这个方面牵涉到机器学习,神经网络,以及大量素材采集及分析。
当前在已有的工业内窥镜产品基础上,融合人工智能算法与机器视觉深度学习。分别在汽车;机械;航空、航天;制药管道;铁路、船舶;石油化工等各个工业领域还需要积累了大量的素材,迅速的提高人工智能的核心算法技术,并在各个工业应用特定场景推出了有针对性的带辅助缺陷鉴别的工业内窥镜。
参考文献:
[1].《工业内窥镜目视检测图谱》作者:徐国珍,金宇飞,陈亦维 等 著出版日期:2017-03-01
[2].《Electrical stimulation for propelling endoscopes. Gastrointeshnal Endoscopy》,MosseCA,MillsTN,AppleyardMN, et al. 2001,54:79-83.
[3].《International CommissiononNon-Ionizing Radiation Protection.》Guidelines for limiting exposure to timevarying electric, magnetic, and electromagnetic fields (up to 300 GHz). Health Phys.,1998,74(4):494-522.
[4].《植人式电子系统的现状与发展谢翔》,张春,王志华.电子学报,2004,32(3):462-467
[5] 《Three dimensional power receiver for in vivo robotic capsules MunhoRyu,JongDaeKimHyun Uk Chin, et al. 》. Med Bio Eng Comput, 2007,45(10):997-1002.