智能制造
中文名:智能制造
英文名:Intelligent Manufacturing
核心:数字化、自动化、智能化
起源:可以追溯至工业革命时代
目录
智能制造的定义
智能制造是一种基于现代信息技术和先进制造技术的制造方式,旨在提高生产效率、降低成本、提高产品质量和快速响应市场需求。它涵盖了一系列技术和概念,通过将数字化、自动化和智能化引入制造过程中,从而实现更高效、灵活和可持续的生产。
它包含如下一些关键特点和概念:
- 数字化:智能制造依赖于数字化技术,将传感器、物联网、大数据分析等技术应用于制造过程中。这有助于收集和分析生产数据,以实现更好的生产监控和决策制定。
- 自动化:自动化是智能制造的核心,它包括自动化生产线、机器人、自动化仓储和物流系统等。这些技术能够降低劳动成本,提高生产效率,并减少错误。
- 云计算:云计算用于存储和处理大规模数据,提供远程访问和协作工具,有助于制造企业实现全球化、分布式生产。
- 物联网(IoT):IoT技术使设备和机器能够相互连接,共享信息和协同工作,以优化生产流程和资源利用。
- 大数据分析:通过大数据分析,制造企业可以从大量数据中提取洞见,优化生产过程、预测维护需求和改进产品设计。
- 人工智能(AI):AI技术可用于自动化和优化制造决策,例如生产计划、质量控制和设备维护。
- 智能工厂:智能工厂是一个集成了各种智能制造技术的制造设施,旨在实现高度自动化和数字化的生产环境。
- 可持续性:智能制造还关注可持续性,包括资源利用效率、废物减少和绿色能源的应用。
总体而言,智能制造的目的在于推动制造业的现代化和创新,提高企业的竞争力,同时也有助于满足不断变化的市场需求和提高产品质量。这些技术和概念正在成为制造业的重要趋势,引领着未来的制造发展方向。
智能制造发展历程
智能制造的发展历程可以追溯到多个阶段,以下是一些关键的发展里程碑:
- 工业革命:智能制造的根本起源可以追溯到18世纪末的工业革命,这一时期引入了机械化生产,将人类劳动力与机械系统结合起来,大大提高了生产效率。
- 自动化生产:20 世纪初,随着电气工程和自动控制技术的发展,制造业开始实现自动化生产,使用传送带、机械臂和自动控制系统等技术。
- 计算机技术:20世纪中叶,计算机技术的兴起加速了制造业的数字化转型。计算机数值控制(CNC)系统使得机床和工具的运动能够通过计算机编程进行控制,提高了加工精度。
- 自动化与机器人:20世纪末,自动化生产线和工业机器人开始广泛应用。这些技术提高了生产效率,减少了人力成本,并增加了制造工业的竞争力。
- 信息技术的融合:21世纪初,信息技术的飞速发展,特别是互联网和物联网的兴起,为智能制造的发展创造了更多机会。制造业开始更广泛地采用传感器、大数据分析和云计算等技术,以实现实时监控和智能决策。
- 人工智能与大数据:随着人工智能和大数据分析技术的成熟,制造业得以更好地分析和预测生产过程中的变量,优化生产计划,并实现智能质量控制。
- 智能工厂:智能制造的概念不仅关注生产线的自动化,还强调整合各种智能技术,建立智能工厂,使生产过程更加智能化、高度自动化和数字化。
- 工业4.0:工业4.0是智能制造的一个重要概念,强调数字化、自动化和物联网技术的应用,以实现更加智能的制造和供应链管理。这个概念源于德国,并在全球范围内推动了智能制造的发展。
总的来说,智能制造经历了多个发展阶段,从机械化到自动化,再到数字化和智能化的制造过程。现如今这一发展历程仍在继续,不断推动着制造业的现代化和创新发展。
智能制造行业数据的特征
智能制造是一种以数字技术和数据为基础的现代制造方法,数据在其中发挥着重要的作用。企业在进行智能制造转型时,生产、测试、运行阶段都可能会产生大量带有时间戳的传感器数据,这都属于典型的时间序列数据(简称时序数据)。时序数据主要由各类型实时监测、检查与分析设备所采集或产生,涉及制造、电力、化工、工程作业等多个行业,它是智能制造中常见的数据类型之一,包含了随时间变化的信息,可以用于监测、控制和优化制造过程。也因此,海量时序数据的有效处理也成为企业智能制造转型成功的关键因素之一。
时序数据主要包含如下特征:
- 数据是时序的,带有时间戳;
- 数据是结构化的;
- 数据极少有更新或删除操作;
- 数据源是唯一的;
- 相对互联网应用数据,写多读少;
- 用户关注的是一段时间的趋势,而不是某一特定时间点的值;
- 数据是有保留期限的;
- 数据的查询分析一定是基于时间段和地理区域的;
- 除存储查询外,还往往需要各种统计和实时计算操作;
- 流量平稳,可以预测;
- 往往需要有插值等一些特殊的计算;
- 数据量巨大,一天采集的数据就可以超过100亿条。
伴随着智能制造的发展,时序数据的有效处理困扰着众多制造企业,业务发展进程受到阻碍,在此基础上,如 TDengine 一般的时序数据库(Time Series Database,TSDB)逐渐浮出水面,开始被众多面临数字化转型需求的企业所关注。
智能制造行业的数据处理流程
智能制造行业的数据处理流程通常包括以下关键步骤,以有效地收集、清洗、分析和利用制造过程中产生的数据:
数据采集:
- 传感器和设备数据:从制造设备、传感器和仪器中采集数据,这些数据包括温度、湿度、压力、速度、电流、电压等参数,是典型的时序数据。
- 生产参数数据:记录生产过程中的参数,如生产速度、产量、质量指标等。
- 图像和视频数据:使用摄像头和图像传感器捕捉图像和视频,用于视觉检测和质量控制。
- 文本数据:采集设备日志、维护记录和操作手册等文本数据,用于故障诊断和维护。
数据传输和存储:
- 数据传输:将采集的数据传输到中央数据库或云存储,通常通过网络连接完成。
- 数据存储:在中央数据库或云平台中存储数据,确保数据的安全性和可访问性。
数据清洗和预处理:
- 数据清洗:识别和处理缺失数据、异常值和噪声,确保数据质量。
- 数据转换:对数据进行转换和规范化,以便不同数据源的数据可以进行比较和集成。
- 数据插补:填补缺失值,以维护数据的完整性。
数据分析:
- 探索性数据分析(EDA):使用统计和可视化工具对数据进行初步分析,发现潜在的模式、趋势和关联。
- 模型开发:根据数据的特性选择适当的分析和建模方法,例如时间序列分析、机器学习、深度学习等。
- 预测和优化:使用模型进行生产过程的预测、优化和决策支持。这可以包括设备维护、生产排程、库存管理等。
数据可视化:
- 制作仪表盘:创建实时仪表盘和报告,以可视化展示生产过程的关键指标和趋势。
- 可视化分析:使用图表、图形和热力图来帮助决策者理解数据和结果。
决策支持:
- 制定决策:基于分析和可视化结果,制定生产决策,包括设备维护、质量控制、生产排程和资源分配。
- 实施反馈:将决策反馈到生产环境,执行所需的操作。
数据安全和隐私:
- 数据加密:确保数据在传输和存储过程中的安全性,采用加密技术。
- 访问控制:限制对敏感数据的访问,只允许授权人员访问。
- 隐私保护:采取措施确保员工和客户的隐私权不受侵犯。
持续改进:
- 监控和反馈:监测生产过程和数据处理的效果,根据结果进行改进和优化。
- 自动化:自动化数据处理和分析,以减少人工干预和提高效率。
这个流程可以根据不同制造环境和需求进行定制,但基本的数据采集、清洗、分析、决策和反馈环节是智能制造数据处理的关键组成部分。通过有效的数据处理,制造企业可以实现生产效率的提高、设备维护的优化、质量控制的改进以及资源利用的最大化。
智能制造在数据处理上面临的挑战
企业在选择数据库、文件系统等产品时,最终目的都是为了以最佳性价比来满足数据处理的三个核心需求:数据写入、数据读取、数据存储。但由于业务所涉及的数据类型的差异也使得企业在搭建数据架构时,所使用的数据库解决方案也会有很大区别。
在智能制造海量时序数据场景下,关系型数据库、传统工业实时库、Hadoop 大数据平台、NoSQL 数据库都暴露出了不一而足的痛点问题,严重限制企业业务规模化发展:
- 关系型数据库:存在海量时序数据读写性能低、分布式支持差、数据量越大查询越慢、报表分析慢等问题
- 传统工业实时库:主备架构,不易水平扩展,且依赖 Windows 等环境,生态相对封闭
- Hadoop 大数据平台:组件多而杂、架构臃肿,支持分布式但单节点效率低,硬件及人力成本非常高
- NoSQL 数据库:实时性差,大数据量查询慢,计算时内存、CPU开销巨大,无时序针对性优化
数据类型的差异化是导致上述问题出现的主要原因之一。对于时序数据来说,其在数据写入、读取、存储上的特点如下:
- 在数据写入上,如果将时间看作一个主坐标轴,时序数据通常是按照时间顺序抵达,抵达的数据几乎总是作为新条目被记录,在数据处理操作上 95%-99% 都是写入操作;
- 在数据读取上,随机位置的单个测量读取、删除操作几乎没有,读取和删除都是批量的,从某时间点开始的一段时间内读取的数据可能非常巨大;
- 在数据存储上,时序数据结构简单,价值随时间推移迅速降低,通常都是通过压缩、移动、删除等手段来降低存储成本。
而传统的数据解决方案主要应对的数据特点却与之大相径庭:
- 数据写入:大多数操作都是 DML 操作,插入、更新、删除等;
- 数据读取:读取逻辑一般都比较复杂;
- 数据存储:很少压缩,一般也不设置数据生命周期管理。
因此,从数据本质的角度而言,时序数据库(不变性、唯一性以及可排序性)和传统数据解决方案的服务需求完全不同。但由于传统的数据解决方案发展历史较久,此前业界对时序数据的认知也并不深入,因此在物联网、车联网、工业互联网兴起后,很多企业依旧选择使用传统大数据处理平台来进行时序数据处理,在业务发展起来后,数据量也随之剧增,甚至达到了每日亿级的数据量,传统的数据解决方案面临性能瓶颈,成本也逐渐攀升。也因此,现在很多制造企业在进行数据架构改造时,就直接锁定时序数据库来实现智能制造的快速转型。
但在智能制造场景下,面对海量的时序数据,即使是一些较为流行的时序数据库,也并没有完全解决掉企业业务发展面临的数据处理难题,仍存在“系统复杂运维难度大”、“非标准 SQL 学习成本高”“没有真正云原生化水平扩展能力有限”等难以忽视的问题。
作为一款开源、高性能、云原生的时序数据库,TDengine 针对时序数据的十大特征进行功能设计和优化,具备如下优势:大幅提高了数据插入、查询的性能,降低硬件或云服务成本;提供水平扩展能力,随着数据量的增加,只需要增加服务器扩容即可;具备开放开源的生态环境,提供业界流行的标准 SQL 接口以及 Python、R 或其他开发接口,方便使用者集成各种机器学习、人工智能算法或其他应用。
智能制造行业数据处理解决方案
当前,在智能制造场景下,企业面临的数据处理痛点问题主要包括:
- 写入吞吐低:单机写入吞吐量低,很难满足时序数据千万级的写入压力;
- 存储成本大:在对时序数据进行压缩时性能不佳,需占用大量机器资源;
- 维护成本高:单机系统,需要在上层人工进行分库分表,维护成本高;
- 查询性能差:查询速度慢,尤其是海量实时数据的聚合分析性能差。
在调研了数百个业务场景的基础上,从解决上述企业痛点问题角度出发,TDengine 完成了 3.0 版本的迭代,不仅从“云就绪”升级成为一款真正的云原生时序数据库,打造了全新的流式计算引擎,无需再集成 Kafka、Redis、Spark、Flink 等软件,大幅降低系统架构的复杂度。同时,3.0 还将存储引擎、查询引擎都进行了优化升级,进一步提升了存储和查询性能。
在 2023 年 9 月发布的 3.1.1.0 版本中,TDengine 还打造了核心模块 taosX,它具备强大的数据抓取、清洗、转换、加载(ETL)功能,除能无缝对接物联网的 MQTT 协议外,还能对接 OPC-UA、OPC-DA、PI System 等工业数据源。通过 taosX,不用一行代码,工业场景里流行的 PLC、SCADA、DCS 等系统都可以通过简单配置,将数据源源不断地实时写入 TDengine,同时在 BI 以及可视化工具中呈现出来,实现远程监控、实时报警、可预测性维护等功能,甚至可以从微信小程序里直接看设备运行状态、查看报表。借助 taosX,TDengine 正式升级成为了一个零代码的时序数据处理系统。
目前 TDengine 已被众多制造企业应用于数据架构改造中,成功帮助数据系统成功减少了组件数量,架构复杂度显著降低,存储成本得到了有效控制,在提升业务响应实时性的同时业务创新能力也得到了释放。
收益与价值
收益与价值
- 高性能,可以支持百万级别的并发写入、万级的并发读取,大量聚合查询时依然有高性能表现;
- 高可用,可支持集群部署,可横向扩展,不存在单点故障,为生产环境稳定运行提供基础;
- 低成本,数据库对硬件资源要求低,数据压缩率高,平均至少节省 70% 的硬件资源;
- 充分利用时序数据的特点,高度一体化,具备消息队列、流式计算和缓存的功能,大幅简化架构;
- 易上手,使用 SQL 进行数据库操作,简单易学,支持复杂查询,减少开发难度和运维压力。
智能制造企业案例
西门子 x TDengine
“从高性能、高可用、低成本、高度一体化几个目标出发,我们发现 TDengine 正好符合产品重构所有的要求,尤其是低成本和高度一体化这两个点,这是目前绝大部分数据平台或时序数据库都不具备的。在确定选择 TDengine 作为系统的数据库后,我们在 SIMICAS® OEM 2.0 版本中移除了Flink、Kafka 以及 Redis,系统架构大大简化。”
业务背景
SIMICAS® OEM 设备远程运维套件是由 SIEMENS DE&DS DSM 团队开发的一套面向设备制造商的数字化解决方案。在其 1.0 版中,团队使用了 Flink + Kafka + PostgreSQL + Redis 的架构,因为引入了 Flink 和 Kafka,导致系统部署时非常繁琐,服务器开销巨大;同时为了满足大量数据的存储问题,PostgreSQL 中不得不做分库分表操作,应用程序较为复杂。这种情况下,如何降低系统复杂度、减少硬件资源开销,帮助客户减少成本,成为研发团队的核心任务。在调研过程中,TDengine 脱颖而出。
架构图
美的 x TDengine
“当前,TDengine 主要被应用于中央空调制冷设备的监控业务中,作为先行试点,这一场景已经取得了不错的效果。在楼宇智能化方面,我们也有很多工作要做,从边缘侧的监控、到指令控制、再到边云协同的一体化服务,我们会在这些场景中继续探索和挖掘 TDengine 的潜力。”
业务背景
在 2021 楼宇科技 TRUE 大会上,美的暖通与楼宇事业部首次发布了数字化平台 iBuilding,以“软驱硬核”方式赋能建筑行业。作为一个全新的项目,iBuilding 在数据库选型上比较谨慎,分别对比了关系型数据库以及主流的时序数据库,包括 InfluxDB、TDengine、MySQL 等,因为在需求上更偏向于高效的存储和大范围时间的数据拉取,iBuilding 在综合评估了适配、查询、写入和存储等综合能力后,最终选择了 TDengine。
架构图
拓斯达 x TDengine
“运行一段时间后,TDengine 的查询、写入速度完全可以满足我们目前的客户需求,最慢的分钟级,最快的能达到 1 秒一条;一个设备一天最多能写入近十万条数据,近千个设备同时写入也完全没有问题,相较于之前,写入速度提升了数十倍。查询数据在以月为单位的时间范围内也没有过于明显的延迟,整体的数据压缩比大概是 1/10,目前每天产生的数据量在数 G 左右。”
业务背景
在拓斯达的业务中,传统的关系型数据库已经无法高效处理时序数据,在加载、存储和查询等多个方面都遇到了挑战,主要问题包括写入吞吐低、存储成本大、维护成本高、查询性能差。为了更好地满足时序数据的处理需求,拓斯达开始进行数据库选型调研,他们发现,TDengine 专为时序数据所打造和优化的写入、存储、查询等功能,非常匹配工业传感器数据的应用分析场景,最终其使用 TDengine 搭建了新的数据处理架构。
架构实现思路
通过网关采集设备数据推送到 MQTT,Java 后端监听到后会写入 TDengine,在后端按需求查询处理后再把数据返回给前端。具体来说,网关会先读取后台发布的上行规则,在采集到设备数据后,使用上行规则对数据进行处理计算后再将结果返回给下行规则模块,后台监听到后,会连接 TDengine 进行数据库表的创建修改和数据写入。之前在云平台拓斯达使用过 Kafka 进行数据的发布订阅,现在所有环境都改为 MQTT 了。
和利时 x TDengine
“在测试阶段,我们发现,同等条件下,TDengine 的压缩率最高,数据占用的存储空间最小;在原始数据查询上,OpenTSDB 最慢,TDengine 与 HolliTSDB 在伯仲之间;在聚合查询操作上,TDengine 最快,HolliTSDB 的速度和 InfluxDB 相当,OpenTSDB 最慢。同时,InfluxDB 只能单机部署,集群版本并未开源,且查询性能存在瓶颈,其 QPS 约为 30-50。”
业务背景
在智能制造场景下,面对庞大的时序数据处理需求,Oracle、PostgreSQL 等传统关系型数据库越来越吃力,因此和利时开始进行时序数据库的选型,对包括 InfluxDB、OpenTSDB、HolliTSDB(和利时自研时序数据库)和 TDengine 在内的四款时序数据库进行了选型调研及相关测试。测试结果显示,在同等条件下,TDengine 在查询、存储等方面均优于其他几款数据库,最终和利时决定接入 TDengine,以享受更多元的本地化支持和响应。
架构图
从以上案例中不难看出,在智能制造场景下,面对庞大的时序数据处理需求,专业的时序数据库显然比传统的数据解决方案效果更加明显,上述企业案例在架构改造之后,确实达到了更高程度的降本增效。如果你有同样的困扰,欢迎添加小T微信(tdengine),加入 TDengine 技术交流群,和专业的解决方案架构师点对点沟通。
参考文献
[1] 《智能制造–“中国制造2025”的主攻方向》.周济
[2] 《基于大数据技术在智能制造中应用的思考》.张连超 苏丽亭-《科技与创新》
[3]《智能制造体系中关键技术的分析与探讨》.张靖宇
[4]《物联网、车联网、工业互联网大数据平台,为什么推荐使用TDengine?》.陶建辉
[5] 智能制造领域案例 —《动辄百万的工业数据处理软件,现在60秒就能用上》.陶建辉
[6] 智能制造领域案例 —TDengine 助力西门子轻量级数字化解决方案 SIMICAS 简化数据处理流程》.邓历波
[7] 智能制造领域案例 — 边缘盒子+时序数据库,美的数字化平台 iBUILDING 背后的技术选型》.陈晓
[8] 智能制造领域案例 —《写入速度提升数十倍,TDengine 在拓斯达智能工厂解决方案上的应用》.文静
[9] 智能制造领域案例 —《从四种时序数据库选型中脱颖而出,TDengine 在工控领域边缘侧的应用》.冰茹