javascript对字符串处理十分友好,无论是宽字节还是单字节字符串,都被认为是一个字符串。node中需要处理网络协议、操作数据库、处理图片、文件上传等,还需要处理大量二进制数据,自带的字符串远不能满足这些要求,因此buffer应运而生。
buffer结构
buffer是一个典型的javascript和c++结合的模块,性能相关部分用c++实现,非性能相关部分用javascript实现。
node在进程启动时buffer就已经加装进入内存,并将其放入全局对象,因此无需require
buffer对象:类似于数组,其元素是16进制的两位数。
buffer内存分配
buffer对象的内存分配不是在v8的堆内存中,在node的c++层面实现内存的申请。
为了高效的使用申请来得内存,node中采用slab分配机制,slab是一种动态内存管理机制,应用各种*nix操作系统。slab有三种状态:
(1) full:完全分配状态
(2) partial:部分分配状态
(3) empty:没有被分配状态
buffer的转换
buffer对象可以和字符串相互转换,支持的编码类型如下:
ascii、utf-8、utf-16le/ucs-2、base64、binary、hex
字符串转buffer
new buffer(str, [encoding]),默认utf-8
buf.write(string, [offset], [length], [encoding])
buffer转字符串
buf.tostring([encoding], [start], [end])
buffer不支持的编码类型
通过buffer.isencoding(encoding)判断是否支持
iconv-lite:纯javascript实现,更轻量,性能更好无需c++到javascript的转换
iconv:调用c++的libiconv库完成
buffer的拼接
注意 res.on('data', function(chunk) {}),其中的参数chunk是buffer对象,直接用+拼接会自动转换为字符串,对于宽字节字符可能会导致乱码产生,
解决方法:
(1) 通过可读流中的setencoding()方法,该方法可以让data事件传递不再是buffer对象,而是编码后的字符串,其内部使用了stringencoder模块。
(2) 将buffer对象暂存到数组中,最后在组装成一个大buffer让后编码转换为字符串输出。
buffer在文件i/o和网络i/o中广泛应用,其性能举足轻重,比普通字符串性能要高出很多。
buffer的使用除了与字符串的转换有性能损耗外,在文件读取时候,有一个highwatermark设置对性能影响至关重要。
a,highwatermark设置对buffer内存的分配和使用有一定影响。
b, highwatermark设置过小,可能导致系统调用次数过多。
什么时候该用buffer,什么时候不该用 ------ 纯粹的javascript支持unicode码而对二进制不是很支持,当解决tcp流或者文件流的时候,处理流是有必要的,我们保存非utf-8字符串,2进制等等其他格式的时候,我们就必须得使用 ”buffer“ 。
实例引入
var buf = new buffer("this is text concat test !") ,str = "this is text concat test !" ;
console.time("buffer concat test !");
var list = [] ;
var len = 100000 * buf.length ;
for(var i=0;i<100000;i++){
list.push(buf) ;
len += buf.length ;
}
var s1 = buffer.concat(list, len).tostring() ;
console.timeend("buffer concat test !") ;
console.time("string concat test !") ;
var list = [] ;
for (var i = 100000; i >= 0; i--) {
list.push(str) ;
}
var s2 = list.join("") ;
console.timeend("string concat test !") ;
以下是运行结果:
读取速度肯定string更快,buffer还需要tostring()的操作。 所以我们在保存字符串的时候,该用string还是要用string,就算大字符串拼接string的速度也不会比buffer慢。
那什么时候我们又需要用buffer呢?没办法的时候,当我们保存非utf-8字符串,2进制等等其他格式的时候,我们就必须得使用了。
以上就是buffer是什么?buffer如何使用和具体使用场景实例详解的详细内容。