日志数据分散,存储环境复杂,集中管理难;
在业务系统不受干扰的前提下,实时监控难;
熔断信息发现滞后,及时通知难。此外,核心业务监控不足,不能精细化分析;
不能满足合规审计需求;
故障排除慢,系统运维效率低;用户数据难以掌控……
对于此类问题,大多数企业的IT管理人都可以下意识地给出解法,那就是企业需要部署或者优化自身的日志管理能力。然而,在企业数字化转型逐渐进入加速期,IT应用日益深入、扩大的当下,云大物移智边端等数字技术落地企业渐成常态。在这样的背景下,一方面,日志管理已然成为刚需,大有标配之势;另一方面,云、容器技术、IoT等应用,带来了数据量的急剧增加,数据形态的多元化,这对日志数据的采集、存储、分析等带来了更多新的挑战。
“与此同时,企业在这个过程中逐渐发现日志数据的价值,并将其视为‘数据驱动业务’的引擎之一,这对日志管理产品的分析功能和价值落地提出了更高的要求。”北京优特捷信息技术有限公司(以下简称日志易)技术副总裁黄俊毅在接受ENI经济和信息化网采访时概括道:“也就是说,日志管理不仅要助力企业应对挑战,还要让企业数智化创新‘如虎添翼’。
技术+信创:助力企业应对IT挑战
日志管理的功能在当下已是耳熟能详:满足等保审计、留存要求,运维监控,安全运营,运营分析这四项是大多数日志管理工具所具备的基本功能。技术能力及对企业需求的把控,决定了日志管理相关产品实现其功能所覆盖的广度、深度及落地价值。
依托日志易多年深耕日志管理领域的经验,黄俊毅以不同阶段企业对于日志管理的需求,应对需求的技术及产品的发展历程,介绍了日志管理在技术加持之下,由难到易、由慢到快、由简单收集、监控到关联分析的演进过程。
十年前,日志管理刚刚起步的阶段,功能更加倾向于满足留存审计的需求,IT系统相对较少,数据有限,企业主要采用数据库的方式收集及存储日志。随着IT系统的逐渐增多,数据量快速增长,数据库已是难承其重。在这个阶段,日志易等日志管理厂商开始使用开源搜索引擎技术进行日志收集和分析。直到今天搜索引擎软件ES(Elasticsearch)依然为诸多企业及日志管理产品商所采用。
然而ES技术作为舶来品,以及分析功能较弱的特点,导致一方面,对部分日志数据进行分析的安全法要求难以落地,基于安全考虑采用自主创新产品的需求不能满足。另外一方面,由于产品分析功能的缺失,导致企业的日志管理面临一系列的挑战。
比如,在统一日志管理方面,传统日志管理平台日志查询方式原始、效率低下,无法基于日志进行深层次的业务逻辑分析和告警,同时缺乏安全可控的日志管理手段等。在运维监控分析方面,传统管理平台性能弱,难以灵活实现跨部门协作、响应。监控迟缓、运维被动响应,监控维度粗犷,故障排查方式落后等;在安全运营方面,综合分析能力薄弱,告警降噪能力不足,联动处理自动化不足,告警结果未与安全设备形成联动,新技术、新架构覆盖范围和检测技术不足,如容器、微服务等,日志处理能力不足,海量日志溯源效率低,未能做到全攻击链日志采集。
正是基于对企业需求及挑战前瞻性的思考,较早采用开源搜索引擎技术之一的日志易又先行一步“改弦易张”,2018年,日志易自主研发的日志搜索分析引擎上线,强化了分析功能、每天可处理PB级日志、实现了国产自研,性能数倍于国外开源软件的同时,还可以为企业节省50%以上的成本。经过数年技术的打磨与实践,如今拥有成熟产品矩阵、自主创新的日志易“机器大数据智能平台”在金融及制造等行业助力企业应对IT挑战,打造了诸多创新应用场景。
日志易“机器大数据智能平台”
智能分析加持:企业数字化运营“如虎添翼”
“数据驱动”是企业数字化转型的目标,也是实现企业降本增效的重要路径。随着企业进入由数致智的转型新阶段,“数据驱动”的范畴不断扩大及深化。在这个过程中,加持了智能分析功能的日志管理平台,为运维、安全、运营分析领域落地“日志数据驱动”场景及“如虎添翼”价值发挥了决定性的作用。
对于用户比较关注的功能边界问题,黄俊毅逐一进行了分析介绍。比如在运维及安全领域,一些网络管理的产品或者系统,发挥的是对硬件设施或者CPU内存的监控,而日志数据的分析更擅长于业务类的指标监控,比如交易量、请求量、耗时等等。在故障台账方面,网管及日志发现的问题,最终的目标是定位问题,在这个方面日志数据对于网管系统是一个补充,双方是互补的关系。在实时运营分析层面,传统的BI分析主要基于结构化数据,对于非结构化数据(包括IT 系统和设备的运行数据,甚至一些物联网数据等)则很少使用,实时性较差。而日志涉及到非结构化数据来源更广泛、数据量更丰富,可以与传统的业务分析数据形成互补,为企业展现更全面、精准的业务状况,促进业务优化。
而在金融、汽车、能源等产业,围绕日志数据进行的智能运营分析在提升核心业务运营决策、用户体验,提高良品率、车联网前端运营等方面,创新场景及成果也在持续地落地过程中。
在金融行业,包括农信银通过日志易实时监控业务状态、更快定位故障,交易耗时分析用时减少了97%,监控大屏展示延迟缩短了98%,异常感知及定位耗时减少了90%,熔断信息查询定位,用时缩短了90%;江苏银行借助日志易实时监控业务状态,提升了服务保障与用户体验;大家保险通过构建智能日志中心平台,挖掘数据资产价值,提升了核心业务运营决策效率。
在汽车行业,随着智能网联新能源汽车的快速发展,企业部署了一系列大数据系统,车辆越多,系统负载的数据量就越大,每天可以产生几十到上百TB。早期,日志易与车企的合作重点在于保障系统的稳定运行,监控请求的耗时、成功率等等运维相关的工作。随着日志易平台分析功能的日益增强,其与客户合作的范畴延伸至车联网、车载等前端内部状态数据。
除此之外,工业产线分析也是日志易平台分析功能发挥的重要舞台之一,在实施运维的同时,通过对产线重要节点精准数据的分析,帮助企业及时发现问题,实现质量追溯,提高良品率及生产效率。
作为日志管理核心功能之一,应对制造业越来越高的数据安全需求,日志易强化了用户行为分析和数据泄露分析功能,提升了企业的监控能力,满足了其安全的需求。
专精特新小巨人:下一步发力的新起点
2021年,日志易入选工信部专精特新“小巨人”企业,除此之外,日志易已经当选信创工委会大数据组组长,获得35项发明专利、18项外观专利,还有国家高新技术企业、中关村前沿企业、德勤北京“朝阳明日之星”等多个荣誉傍身。而“小巨人”的入选条件,不仅是对日志易产品技术、公司价值及发展潜力的认可,更是对企业能力的总结:10年专注于日志管理领域,市场占有率高;研发能力强,不断创新,拥有自研高性能搜索引擎、SPL低代码语言支持300多种函数、指令,可对不同时段、不同类型数据进行关联分析,对于产业链强链补链成果明显;自主品牌且具有竞争优势。
日志易智能日志中心
近年来,在这个新的起点之上,日志易在产品研发、平台智能化等方面持续发力,中国本土丰富的用户资源,政府对于数字经济的持续推进等态势为日志易平台的推广及不断优化提供良好的土壤。
谈及产业发展趋势及日志易下一步提升的方向,黄俊毅提到,云原生等创新趋势对于日志平台搜索引擎的分级部署、关联搜索、关联分析等功能提出了更高的要求,日志易机器数据智能分析平台已经能够完全满足这种新形式下的日志管理需求。对于时下热门的大模型技术,日志易已经开始了关注和探索,以期进一步提升平台的智能化能力,持续满足不同阶段企业对于日志管理的需求和期待。