没有找到合适的产品?
联系客服协助选型:023-68661681
提供3000多款全球软件/控件产品
针对软件研发的各个阶段提供专业培训与技术咨询
根据客户需求提供定制化的软件开发服务
全球知名设计软件,显著提升设计质量
打造以经营为中心,实现生产过程透明化管理
帮助企业合理产能分配,提高资源利用率
快速打造数字化生产线,实现全流程追溯
生产过程精准追溯,满足企业合规要求
以六西格玛为理论基础,实现产品质量全数字化管理
通过大屏电子看板,实现车间透明化管理
对设备进行全生命周期管理,提高设备综合利用率
实现设备数据的实时采集与监控
利用数字化技术提升油气勘探的效率和成功率
钻井计划优化、实时监控和风险评估
提供业务洞察与决策支持实现数据驱动决策
转帖|行业资讯|编辑:龚雪|2016-01-14 10:56:10.000|阅读 412 次
概述:实时大数据处理已经逐步迈入主流,而Storm与Spark项目的支持无疑在其中起到了显著的推动作用。那么问题来了:实时大数据处理到底该选谁?
# 界面/图表报表/文档/IDE等千款热门软控件火热销售中 >>
目前在开源市场上已经有了多款实时大数据的处理工具,最值得关注的还属Storm与Spark。这两套方案都归属于Apache基金会,都能为用户提供良好的实时处理能力。两款工具在功能方面有一部分交集,但也各自拥有着不同的特性与市场定位。
Storm : 实时流处理
Storm是一款极具可扩展能力和容错能力的开源分布计算系统,高度专注于流处理领域。在设计思路中充分考虑到大规模可扩展能力,利用“故障快速、自动重启”方案为处理提供容错性支持。
Storm在事件处理与增量计算方面表现尤为突出,能够以实时方式根据不断变化的参数对数据流进行处理。它可以同时提供原语以实现通用性分布RPC,在理论上也能够被用于任何分布式计算任务,但其最为根本的优势仍然表现在事件流处理方面。
Spark:通用分步式计算平台
Spark是一套快速出色、可扩展能力惊人且极具灵活性的开源分布式计算平台,与Hadoop以及Mesos相兼容并且支持多川计算模式,其中包括流、以图为核心的操作、SQL访问外加分布式机器学习等。
该项目最大的亮点在于其支持多处理模式以及支持库。Spark的实际扩展记录令人满意,而且与Storm一样堪称构建实时分析与大数据处理系统的卓越平台。另外,它拥有能够与存储在多种不同数据源内的数据实现协作的适配器–包括HDFS文件、Cassandra、HBase以及S3。
终极PK,如何做选择?
看需求!
选择之前,弄清楚你的主要需求。可以对两套平台进行一番详尽分析,利用这两套平台各自建立一个小规模概念验证项目,而后运行自己的基准工作负载,借此在最终选择前亲身体验二者的工作负载处理能力是否与预期相一致。
如果你的需求主要集中在流处理与复杂事件的处理层面,而且需要从零开始为项目构建一套目标明确的集群设施,那么建议选择Storm,特别是在现有Storm流机制能够确切满足集成需求的情况下。这一结论并不属于硬性要求或者强制规则,但上述因素的存在确实更适合由Storm出面打理。
如果你打算使用现有Hadoop或者Mesos集群,而且/或者既定流程需要涉及与图形处理、SQL访问或者批量处理相关的其它实质性要求,那么Spark则值得加以优先考虑。
当然,这二者也是能共存的。根据各位工作负载、基础设施以及具体要求的不同,大家可能还会找出一种将Storm与Spark加以结合的理想方案。其它同样可能发挥作用的工具还包括Kafka、Hadoop以及Flume等等,而这正是开源机制的最大亮点所在。
无论选择哪一套方案,这些工具的存在都切实表明,实时大数据处理市场的游戏规则已经发生了变化。曾经只能为少数精英所掌握的强大选项如今已经进入寻常百姓家,或者说,至少适用于多数中等规模或者大型企业。不要浪费资源,充分享受由此带来的便利吧。
转载自36大数据
2016革新之年,双节同庆惊喜不断!优惠详情点击查看>>
本站文章除注明转载外,均为本站原创或翻译。欢迎任何形式的转载,但请务必注明出处、不得修改原文相关链接,如果存在内容上的异议请邮件反馈至chenjj@evget.com
随着企业级软件测试方案Parasoft C/C++test的深度引入,Stellantis的测试流程迎来了颠覆性变革——通过IDE深度集成与实时反馈机制,不仅打破了开发与测试的协作壁垒,更将测试左移接受度从30%提升至90%。这一转型如何实现?让我们一探究竟。
企业级软件测试方案Parasoft CTP通过将AI驱动的测试影响分析(TIA)和代码覆盖率收集功能融入手动测试流程,不仅能够减少无效测试,还能打破开发与QA团队之间的壁垒。
HOOPS Visualize提供了一套灵活、专业、可扩展的3D可视化开发框架,特别适用于工业级工程软件。
为了解决大家获取Aspose试用版延时、示例教程翻译费劲、授权问题不清楚等问题,小编整理了本篇Aspose资源合集,欢迎收藏!
服务电话
重庆/ 023-68661681
华东/ 13452821722
华南/ 18100878085
华北/ 17347785263
客户支持
技术支持咨询服务
服务热线:400-700-1020
邮箱:sales@evget.com
关注我们
地址 : 重庆市九龙坡区火炬大道69号6幢
慧都科技 版权所有 Copyright 2003-
2025 渝ICP备12000582号-13 渝公网安备
50010702500608号