课程咨询: 400-996-5531 / 投诉建议: 400-111-8989
认识达内从这里开始
认真做教育 专心促就业
数据压缩是程序员在学习计算机编程开发过程中会接触到的一个概念，而今天我们就通过案例分析来了解一下，数据压缩基本原则与注意事项。
Cloudera提出过数据压缩的基本准则：
是否压缩数据以及使用何种压缩格式对性能具有重要的影响。
需要平衡压缩和解压缩数据所需的能力、读写数据所需的磁盘IO，以及在网络中发送数据所需的网络带宽。
此外，用到哪些压缩格式，为什么使用这些压缩格式而不是其他的压缩格式?主要考虑到：
文件和压缩算法的组合是否支持可分片,MapReduce在读取数据的时候需要并行,这就要求压缩后的文件可以分片读取。
io读取性能,读取相同信息量的信息,压缩后的文件不仅占用的存储空间低,而且还会提高磁盘io的读取效率。提高程序的运行速度
CPU资源也是启用何种压缩算法不得不考虑的因素,一般来说压缩效率越高的算法对io效率和存储利用率的提升越有促进作用,但另一方面也会更高的消耗CPU资源。所以我们需要在这中间寻求一个平衡点。
共通性,文件格式是否支持多种语言,服务的读取。比如Hadoop主要的序列化格式为Writables,但是Writables只支持Java,所以后面衍生出了Avro,Thrift等格式。还如OrcFile是对Hive设计的一种列式存储格式,但是他不支持Impala,数据的共用性受到了制约。
错误处理能力,有的文件的某一部分坏掉之后会影响整个表,有的只会影响其后的数据,有的只会影响坏掉数据块本身(Avro)。
读取和载入效率,RCFile的载入速度慢,但是查询相应速度快,相对更适合数据仓库一次插入多次读取的特性。
【免责声明】本文系本网编辑部分转载，转载目的在于传递更多信息，并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题，请在30日内与管理员联系，我们会予以更改或删除相关文章，以保证您的权益!更多内容请在707945861群中学习了解。
< 上一篇：常见的数据分析指标类型都有哪些
下一篇：seo优化核心与作用分析 >
2025-02-12
免费试听课程
- 全部课程
- IT课程
- 设计课程
- 运营课程
4578
最新开班时间
- 北京
- 上海
- 广州
- 深圳
- 南京
- 成都
- 武汉
- 西安
- 青岛
- 天津
- 杭州
- 重庆
- 哈尔滨
- 济南
- 沈阳
- 合肥
- 郑州
- 长春
- 苏州
- 长沙
- 昆明
- 太原
- 无锡
- 石家庄
- 南宁
- 佛山
- 珠海
- 宁波
- 保定
- 呼和浩特
- 洛阳
- 烟台
- 运城
- 潍坊
- 开课名称
- 开班时间
- 抢座
- 咨询
- 开课名称
- 开班时间
- 抢座
- 咨询
-
- Java全链路开发
- 12月30日
- 火热抢座中
- 立即咨询
- 云计算全栈开发
- 12月30日
- 火热抢座中
- 立即咨询
-
- 网络安全工程师
- 12月30日
- 火热抢座中
- 立即咨询
- 人工智能工程师
- 12月30日
- 火热抢座中
- 立即咨询
-
- 数据分析与商业智能
- 12月30日
- 火热抢座中
- 立即咨询
- C++物联网工程师
- 12月30日
- 火热抢座中
- 立即咨询
-
- Web全栈开发
- 12月30日
- 火热抢座中
- 立即咨询
- 软件测试工程师
- 12月30日
- 火热抢座中
- 立即咨询
-
- AI大模型全栈工程师
- 12月30日
- 火热抢座中
- 立即咨询
- 鸿蒙原生应用开发
- 12月30日
- 火热抢座中
- 立即咨询
-
- 智能职场办公
- 12月30日
- 火热抢座中
- 立即咨询
- VFX商业视效设计
- 12月30日
- 火热抢座中
- 立即咨询
-
- AGI商业设计变现
- 12月30日
- 火热抢座中
- 立即咨询
- UID全链路设计
- 12月30日
- 火热抢座中
- 立即咨询
-
- 新媒体电商运营
- 12月30日
- 火热抢座中
- 立即咨询
-
- Java全链路开发
- 12月30日
- 火热抢座中
- 立即咨询
- 云计算全栈开发
- 12月30日
- 火热抢座中
- 立即咨询
-
- 网络安全工程师
- 12月30日
- 火热抢座中
- 立即咨询
- C++物联网工程师
- 12月30日
- 火热抢座中
- 立即咨询
-
- Web全栈开发
- 12月30日
- 火热抢座中
- 立即咨询
- 软件测试工程师
- 12月30日
- 火热抢座中
- 立即咨询
-
- AI大模型全栈工程师
- 12月30日
- 火热抢座中
- 立即咨询
- 鸿蒙原生应用开发
- 12月30日
- 火热抢座中
- 立即咨询
-
- 智能职场办公
- 12月30日
- 火热抢座中
- 立即咨询
- VFX商业视效设计
- 12月30日
- 火热抢座中
- 立即咨询
-
- AGI商业设计变现
- 12月30日
- 火热抢座中
- 立即咨询
- UID全链路设计
- 12月30日
- 火热抢座中
- 立即咨询
-
- 新媒体电商运营
- 12月30日
- 火热抢座中
- 立即咨询
-
- 云计算全栈开发
- 12月30日
- 火热抢座中
- 立即咨询
- 网络安全工程师
- 12月30日
- 火热抢座中
- 立即咨询
-
- C++物联网工程师
- 12月30日
- 火热抢座中
- 立即咨询
- Web全栈开发
- 12月30日
- 火热抢座中
- 立即咨询
-
- 软件测试工程师
- 12月30日
- 火热抢座中
- 立即咨询
- AI大模型全栈工程师
- 12月30日
- 火热抢座中
- 立即咨询
-
- 鸿蒙原生应用开发
- 12月30日
- 火热抢座中
- 立即咨询
- 智能职场办公
- 12月30日
- 火热抢座中
- 立即咨询
-
- VFX商业视效设计
- 12月30日
- 火热抢座中
- 立即咨询
- AGI商业设计变现
- 12月30日
- 火热抢座中
- 立即咨询
-
- UID全链路设计
- 12月30日
- 火热抢座中
- 立即咨询
- 新媒体电商运营
- 12月30日
- 火热抢座中
- 立即咨询
-
- Java全链路开发
- 12月30日
- 火热抢座中
- 立即咨询
- 网络安全工程师
- 12月30日
- 火热抢座中
- 立即咨询
-
- 数据分析与商业智能
- 12月30日
- 火热抢座中
- 立即咨询
- C++物联网工程师
- 12月30日
- 火热抢座中
- 立即咨询
-
- Web全栈开发
- 12月30日
- 火热抢座中
- 立即咨询
- 软件测试工程师
- 12月30日
- 火热抢座中
- 立即咨询
-
- AI大模型全栈工程师
- 12月30日
- 火热抢座中
- 立即咨询
- 鸿蒙原生应用开发
- 12月30日
- 火热抢座中
- 立即咨询
-
- 智能职场办公
- 12月30日
- 火热抢座中
- 立即咨询
- VFX商业视效设计
- 12月30日
- 火热抢座中
- 立即咨询
-
- AGI商业设计变现
- 12月30日
- 火热抢座中
- 立即咨询
- UID全链路设计
- 12月30日
- 火热抢座中
- 立即咨询
-
- 新媒体电商运营
- 12月30日
- 火热抢座中
- 立即咨询
-
- 云计算全栈开发
- 12月30日
- 火热抢座中
- 立即咨询
- 网络安全工程师
- 12月30日
- 火热抢座中
- 立即咨询
-
- C++物联网工程师
- 12月30日
- 火热抢座中
- 立即咨询
- Web全栈开发
- 12月30日
- 火热抢座中
- 立即咨询
-
- 软件测试工程师
- 12月30日
- 火热抢座中
- 立即咨询
- AI大模型全栈工程师
- 12月30日
- 火热抢座中
- 立即咨询
-
- 鸿蒙原生应用开发
- 12月30日
- 火热抢座中
- 立即咨询
- 智能职场办公
- 12月30日
- 火热抢座中
- 立即咨询
-
- VFX商业视效设计
- 12月30日
- 火热抢座中
- 立即咨询
- AGI商业设计变现
- 12月30日
- 火热抢座中
- 立即咨询
-
- UID全链路设计
- 12月30日
- 火热抢座中
- 立即咨询
- 新媒体电商运营
- 12月30日
- 火热抢座中
- 立即咨询
预约申请试听课
400-111-8989
lihm@tedu.cn
