Welcome 微信登录
编程资源 图片资源库 蚂蚁家优选 PDF转换器 软件资源

软件开发小程序制作系统集成与运维空间租用硬件开发视频监控技术咨询与支持——联系电话:0311-88999002/88999003

首页 / 操作系统 / Linux

自定义Hadoop Writable

自定义Hadoop Writable

Hadoop中已经定义了很多Writable的实现,基本上可以符合我们日常使用,但是在一些特殊的场景我们可能还是需要自己去实现Writable,下面主要说明如何去实现自己的Writeable,及使用自定义的Writable作为map/reduce中的key值时遇到的一些问题。首先需要实现org.apache.hadoop.io.Writable这个接口,该接口有write和readFields这两个方法,write用于写数据,readFields用于读取数...
java.util.ServiceLoader使用

java.util.ServiceLoader使用

今天在看Hadoop源代的时候发现,在FileSystem中用到了java.util.ServiceLoader这个类来从配置文件中加载子类或者接口的实现类。以前从来没有使用过这个类,进去大概看了一下具体的实现。主要是从META-INF/services这个目录下的配置文件加载给定接口或者基类的实现,ServiceLoader会根据给定的类的full name来在META-INF/services下面找对应的文件,在这个文件中定义了所有这个类的子类或者接口...
Linux I/O Scheduler--Noop

Linux I/O Scheduler--Noop

每个块设备或者块设备的分区,都对应有自身的请求队列(request_queue),而每个请求队列都可以选择一个I/O调度器来协调所递交的request。I/O调度器的基本目的是将请求按照它们对应在块设备上的扇区号进行排列,以减少磁头的移动,提高效率。在前面讨论递交I/O请求的时候可以发现,每个request_queue都有一个request的队列,队列里的请求将按顺序被响应。实际上,除了这个队列,每个调度器自身都维护有不同数量的队列,用来对递交上来的req...
CMake的使用练习

CMake的使用练习

cmake是一个跨平台的开源的编译工具,它能够生成make文件,然后通过make命令编译C++,当然,其他make支持的语言也可以编译。此处不详述了。这里有一个cmake实践的博客,根据该文档可以一步步的熟悉cmake的用法,链接 http://www.linuxidc.com/Linux/2012-12/75894.htm。通过自己建一个工程来学习cmake是最好的方式。在linux命令行下,管理一个C++工程是一个很繁琐的事情。cmake的出现,很好的...
C++中sizeof如何计算类和struct的大小

C++中sizeof如何计算类和struct的大小

突然想到sizeof的计算,于是写程序计算了一下,环境是32位的Ubuntu12.04,编译器为g++。计算sizeof的规则大致如下:空的class和struct大小为1. 如果在类和struct中有成员变量的话,就不考虑这个为空时的1.如果class和struct中有成员变量,则计算方式是将成员变量对齐之后累加。各成员变量存放的 起始地址相对于起始地址的偏移量必须为该变量的类型所占用的字节数的倍数。继承的话则将父类的大小加入到本类中来。如果类中有虚函数...
Ubuntu下Hello World驱动实现全过程

Ubuntu下Hello World驱动实现全过程

今天是一个值得纪念的日子,我也不知道我花了多长时间才编译成功!在编写这个驱动的过程中,真的体会到驱动编程不是那么简单的~,现在有点小小的激动,真的,很不容易啊~我把整个过程在重复一遍吧!在编写这个驱动的过程中参考了网上的很多文档,最终的结果是弄的我头都晕了,每个人写的都不一样,其实我现在还有一些概念不是很清楚。1:到底丫的什么是内核源码树?2:为什么要编译内核源码树?1:内核源码树我现在的理解就是整个linux内核源代码,它是编译驱动的前提。Ubuntu系...
Linux I/O Scheduler--Deadline

Linux I/O Scheduler--Deadline

一、原理Deadline调度器对一个请求的多方面特性进行权衡来进行调度,以期即能满足块设备扇区的顺寻访问又兼顾到一个请求不会在队列中等待太久导致饿死。试想当应用程序频繁访问文件的一部分而此时如果有另一个远端的请求,那么这个请求将会在很长一段时间内得不到响应,这显然是不合理的。Deadline调度器为了兼顾这两个方面,引入了四个队列,这四个队列可分为两类,每一类都由读和写两种队列组成。一类队列用来对请求按起始扇区序号进行排序,通过红黑树来组织,称为sort_...
<< 3471 3472 3473 3474 3475 3476 3477 3478 3479 3480 >>