您好,欢迎访问一九零五行业门户网

聊聊Node.js中的多进程和多线程

大家都知道 node 是单线程的,却不知它也提供了多进(线)程模块来加速处理一些特殊任务,本文便带领大家了解下 node.js 的多进(线)程,希望对大家有所帮助!
我们都知道 node.js 采用的是单线程、基于事件驱动的异步 i/o 模型,其特性决定了它无法利用 cpu 多核的优势,也不善于完成一些非 i/o 类型的操作(比如执行脚本、ai 计算、图像处理等),为了解决此类问题,node.js 提供了常规的多进(线程)方案(关于进程、线程的讨论,可参见笔者的另一篇文章 node.js 与并发模型),本文便为大家介绍 node.js 的多进(线)程机制。
child_process我们可使用 child_process 模块创建 node.js 的子进程,来完成一些特殊的任务(比如执行脚本),该模块主要提供了 exec、execfile、fork、spwan 等方法,下面我们就简单介绍下这些方法的使用。
execconst { exec } = require('child_process');exec('ls -al', (error, stdout, stderr) => { console.log(stdout);});
该方法根据 options.shell 指定的可执行文件处理命令字符串,在命令的执行过程中缓存其输出,直到命令执行完成后,再将执行结果以回调函数参数的形式返回。
该方法的参数解释如下:
command:将要执行的命令(比如 ls -al);
options:参数设置(可不指定),相关属性如下:
cwd:子进程的当前工作目录,默认取 process.cwd() 的值;
env:环境变量设置(为键值对对象),默认取 process.env 的值;
encoding:字符编码,默认值为:utf8;
shell:处理命令字符串的可执行文件,unix 上默认值为 /bin/sh,windows 上默认值取 process.env.comspec 的值(如为空则为 cmd.exe);比如:
const { exec } = require('child_process');exec("print('hello world!')", { shell: 'python' }, (error, stdout, stderr) => { console.log(stdout);});
运行上面的例子将输出 hello world!,这等同于子进程执行了 python -c "print('hello world!')" 命令,因此在使用该属性时需要注意,所指定的可执行文件必须支持通过 -c 选项来执行相关语句。
注:碰巧 node.js 也支持 -c 选项,但它等同于 --check 选项,只用来检测指定的脚本是否存在语法错误,并不会执行相关脚本。
signal:使用指定的 abortsignal 终止子进程,该属性在 v14.17.0 以上可用,比如:
const { exec } = require('child_process');const ac = new abortcontroller();exec('ls -al', { signal: ac.signal }, (error, stdout, stderr) => {});
上例中,我们可通过调用 ac.abort() 来提前终止子进程。
timeout:子进程的超时时间(如果该属性的值大于 0,那么当子进程运行时间超过指定值时,将会给子进程发送属性 killsignal 指定的终止信号),单位毫米,默认值为 0;
maxbuffer:stdout 或 stderr 所允许的最大缓存(二进制),如果超出,子进程将会被杀死,并且将会截断任何输出,默认值为 1024 * 1024;
killsignal:子进程终止信号,默认值为 sigterm;
uid:执行子进程的 uid;
gid:执行子进程的 gid;
windowshide:是否隐藏子进程的控制台窗口,常用于 windows 系统,默认值为 false;
callback:回调函数,包含 error、stdout、stderr 三个参数:
error:如果命令行执行成功,值为 null,否则值为 error 的一个实例,其中 error.code 为子进程的退出的错误码,error.signal 为子进程终止的信号;stdout 和 stderr:子进程的 stdout 和 stderr,按照 encoding 属性的值进行编码,如果 encoding 的值为 buffer,或者 stdout、stderr 的值是一个无法识别的字符串,将按照 buffer 进行编码。execfileconst { execfile } = require('child_process');execfile('ls', ['-al'], (error, stdout, stderr) => { console.log(stdout);});
该方法的功能类似于 exec,唯一的区别是 execfile 在默认情况下直接用指定的可执行文件(即参数 file 的值)处理命令,这使得其效率略高于 exec(如果查看 shell 的处理逻辑,笔者感觉这效率可忽略不计)。
该方法的参数解释如下:
file:可执行文件的名字或路径;
args:可执行文件的参数列表;
options:参数设置(可不指定),相关属性如下:
shell:值为 false 时表示直接用指定的可执行文件(即参数 file 的值)处理命令,值为 true 或其它字符串时,作用等同于 exec 中的 shell,默认值为 false;windowsverbatimarguments:在 windows 中是否对参数进行引号或转义处理,在 unix 中将忽略该属性,默认值为 false;属性 cwd、env、encoding、timeout、maxbuffer、killsignal、uid、gid、windowshide、signal 在上文中已介绍,此处不再重述。callback:回调函数,等同于 exec 中的 callback,此处不再阐述。
forkconst { fork } = require('child_process');const echo = fork('./echo.js', { silent: true});echo.stdout.on('data', (data) => { console.log(`stdout: ${data}`);});echo.stderr.on('data', (data) => { console.error(`stderr: ${data}`);});echo.on('close', (code) => { console.log(`child process exited with code ${code}`);});
该方法用于创建新的 node.js 实例以执行指定的 node.js 脚本,与父进程之间以 ipc 方式进行通信。
该方法的参数解释如下:
modulepath:要运行的 node.js 脚本路径;
args:传递给 node.js 脚本的参数列表;
options:参数设置(可不指定),相关属性如:
detached:参见下文对 spwan 中 options.detached 的说明;
execpath:创建子进程的可执行文件;
execargv:传递给可执行文件的字符串参数列表,默认取 process.execargv 的值;
serialization:进程间消息的序列号类型,可用值为 json 和 advanced,默认值为 json;
slient: 如果为 true,子进程的 stdin、stdout 和 stderr 将通过管道传递给父进程,否则将继承父进程的 stdin、stdout 和 stderr;默认值为 false;
stdio:参见下文对 spwan 中 options.stdio 的说明。这里需要注意的是:
如果指定了该属性,将忽略 slient 的值;必须包含一个值为 ipc 的选项(比如 [0, 1, 2, 'ipc']),否则将抛出异常。属性 cwd、env、uid、gid、windowsverbatimarguments、signal、timeout、killsignal 在上文中已介绍,此处不再重述。
spwanconst { spawn } = require('child_process');const ls = spawn('ls', ['-al']);ls.stdout.on('data', (data) => { console.log(`stdout: ${data}`);});ls.stderr.on('data', (data) => { console.error(`stderr: ${data}`);});ls.on('close', (code) => { console.log(`child process exited with code ${code}`);});
该方法为 child_process 模块的基础方法,exec、execfile、fork 最终都会调用 spawn 来创建子进程。
该方法的参数解释如下:
command:可执行文件的名字或路径;
args:传递给可执行文件的参数列表;
options:参数设置(可不指定),相关属性如下:
argv0:发送给子进程 argv[0] 的值,默认取参数 command 的值;
detached:是否允许子进程可以独立于父进程运行(即父进程退出后,子进程可以继续运行),默认值为 false,其值为 true 时,各平台的效果如下所述:
在 windows 系统中,父进程退出后,子进程可以继续运行,并且子进程拥有自己的控制台窗口(该特性一旦启动后,在运行过程中将无法更改);在非 windows 系统中,子进程将作为新进程会话组的组长,此刻不管子进程是否与父进程分离,子进程都可以在父进程退出后继续运行。需要注意的是,如果子进程需要执行长时间的任务,并且想要父进程提前退出,需要同时满足以下几点:
调用子进程的 unref 方法从而将子进程从父进程的事件循环中剔除;detached 设置为 true;stdio 为 ignore。比如下面的例子:
// hello.jsconst fs = require('fs');let index = 0;function run() { settimeout(() => { fs.writefilesync('./hello', `index: ${index}`); if (index < 10) { index += 1; run(); } }, 1000);}run();// main.jsconst { spawn } = require('child_process');const child = spawn('node', ['./hello.js'], { detached: true, stdio: 'ignore'});child.unref();
stdio:子进程标准输入输出配置,默认值为 pipe,值为字符串或数组:
值为字符串时,会将其转换为含有三个项的数组(比如 pipe 被转换为 ['pipe', 'pipe', 'pipe']),可用值为 pipe、overlapped、ignore、inherit;值为数组时,其中数组的前三项分别代表对 stdin、stdout 和 stderr 的配置,每一项的可用值为 pipe、overlapped、ignore、inherit、ipc、stream 对象、正整数(在父进程打开的文件描述符)、null(如位于数组的前三项,等同于 pipe,否则等同于 ignore)、undefined(如位于数组的前三项,等同于 pipe,否则等同于 ignore)。属性 cwd、env、uid、gid、serialization、shell(值为 boolean 或 string)、windowsverbatimarguments、windowshide、signal、timeout、killsignal 在上文中已介绍,此处不再重述。
小结上文对 child_process 模块中主要方法的使用进行了简短介绍,由于 execsync、execfilesync、forksync、spwansync 方法是 exec、execfile、spwan 的同步版本,其参数并无任何差异,故不再重述。
cluster通过 cluster 模块我们可以创建 node.js 进程集群,通过 node.js 进程进群,我们可以更加充分地利用多核的优势,将程序任务分发到不同的进程中以提高程序的执行效率;下面将通过例子为大家介绍 cluster 模块的使用:
const http = require('http');const cluster = require('cluster');const numcpus = require('os').cpus().length;if (cluster.isprimary) { for (let i = 0; i < numcpus; i++) { cluster.fork(); }} else { http.createserver((req, res) => { res.writehead(200); res.end(`${process.pid}\n`); }).listen(8000);}
上例通过 cluster.isprimary 属性判断(即判断当前进程是否为主进程)将其分为两个部分:
为真时,根据 cpu 内核的数量并通过 cluster.fork 调用来创建相应数量的子进程;为假时,创建一个 http server,并且每个 http server 都监听同一个端口(此处为 8000)。运行上面的例子,并在浏览器中访问 http://localhost:8000/,我们会发现每次访问返回的 pid 都不一样,这说明了请求确实被分发到了各个子进程。node.js 默认采用的负载均衡策略是轮询调度,可通过环境变量 node_cluster_sched_policy 或 cluster.schedulingpolicy 属性来修改其负载均衡策略:
node_cluster_sched_policy = rr // 或 nonecluster.schedulingpolicy = cluster.sched_rr; // 或 cluster.sched_none
另外需要注意的是,虽然每个子进程都创建了 http server,并都监听了同一个端口,但并不代表由这些子进程自由竞争用户请求,因为这样无法保证所有子进程的负载达到均衡。所以正确的流程应该是由主进程监听端口,然后将用户请求根据分发策略转发到具体的子进程进行处理。
由于进程之间是相互隔离的,因此进程之间一般通过共享内存、消息传递、管道等机制进行通讯。node.js 则是通过消息传递来完成父子进程之间的通信,比如下面的例子:
const http = require('http');const cluster = require('cluster');const numcpus = require('os').cpus().length;if (cluster.isprimary) { for (let i = 0; i < numcpus; i++) { const worker = cluster.fork(); worker.on('message', (message) => { console.log(`i am primary(${process.pid}), i got message from worker: "${message}"`); worker.send(`send message to worker`) }); }} else { process.on('message', (message) => { console.log(`i am worker(${process.pid}), i got message from primary: "${message}"`) }); http.createserver((req, res) => { res.writehead(200); res.end(`${process.pid}\n`); process.send('send message to primary'); }).listen(8000);}
运行上面的例子,并访问 http://localhost:8000/,再查看终端,我们会看到类似下面的输出:
i am primary(44460), i got message from worker: "send message to primary"i am worker(44461), i got message from primary: "send message to worker"i am primary(44460), i got message from worker: "send message to primary"i am worker(44462), i got message from primary: "send message to worker"
利用该机制,我们可以监听各子进程的状态,以便在某个子进程出现意外后,能够及时对其进行干预,以保证服务的可用性。
cluster 模块的接口非常简单,为了节省篇幅,这里只对 cluster.setupprimary 方法做一些特别声明,其它方法请查看官方文档:
cluster.setupprimary 调用后,相关设置将同步到在 cluster.settings 属性中,并且每次调用都基于当前 cluster.settings 属性的值;cluster.setupprimary 调用后,对已运行的子进程没有影响,只影响后续的 cluster.fork 调用;cluster.setupprimary 调用后,不影响后续传递给 cluster.fork 调用的 env 参数;cluster.setupprimary 只能在主进程中使用。worker_threads前文我们对 cluster 模块进行了介绍,通过它我们可以创建 node.js 进程集群以提高程序的运行效率,但 cluster 基于多进程模型,进程间高成本的切换以及进程间资源的隔离,会随着子进程数量的增加,很容易导致因系统资源紧张而无法响应的问题。为解决此类问题,node.js 提供了 worker_threads,下面我们通过具体的例子对该模块的使用进行简单介绍:
// server.jsconst http = require('http');const { worker } = require('worker_threads');http.createserver((req, res) => { const httpworker = new worker('./http_worker.js'); httpworker.on('message', (result) => { res.writehead(200); res.end(`${result}\n`); }); httpworker.postmessage('tom');}).listen(8000);// http_worker.jsconst { parentport } = require('worker_threads');parentport.on('message', (name) => { parentport.postmessage(`welcone ${name}!`);});
上例展示了 worker_threads 的简单使用,在使用 worker_threads 的过程中,需要注意以下几点:
通过 worker_threads.worker 创建 worker 实例,其中 worker 脚本既可以为一个独立的 javascript 文件,也可以为字符串,比如上例可修改为:
const code = "const { parentport } = require('worker_threads'); parentport.on('message', (name) => {parentport.postmessage(`welcone ${name}!`);})";const httpworker = new worker(code, { eval: true });
通过 worker_threads.worker 创建 worker 实例时,可以通过指定 workerdata 的值来设置 worker 子线程的初始元数据,比如:
// server.jsconst { worker } = require('worker_threads');const httpworker = new worker('./http_worker.js', { workerdata: { name: 'tom'} });// http_worker.jsconst { workerdata } = require('worker_threads');console.log(workerdata);
通过 worker_threads.worker 创建 worker 实例时,可通过设置 share_env 以实现在 worker 子线程与主线程之间共享环境变量的需求,比如:
const { worker, share_env } = require('worker_threads');const worker = new worker('process.env.set_in_worker = "foo"', { eval: true, env: share_env });worker.on('exit', () => { console.log(process.env.set_in_worker);});
不同于 cluster 中进程间的通信机制,worker_threads 采用的 messagechannel 来进行线程间的通信:
worker 子线程通过 parentport.postmessage 方法发送消息给主线程,并通过监听 parentport 的 message 事件来处理来自主线程的消息;主线程通过 worker 子线程实例(此处为 httpworker,以下均以此代替 worker 子线程)的 postmessage 方法发送消息给 httpworker,并通过监听 httpworker 的 message 事件来处理来自 worker 子线程的消息。在 node.js 中,无论是 cluster 创建的子进程,还是 worker_threads 创建的 worker 子线程,它们都拥有属于自己的 v8 实例以及事件循环,所不同的是:
子进程之间的内存空间是互相隔离的,而 worker 子线程共享所属进程的内存空间;子进程之间的切换成本要远远高于 worker 子线程之间的切换成本。尽管看起来 worker 子线程比子进程更高效,但 worker 子线程也有不足的地方,即cluster 提供了负载均衡,而 worker_threads 则需要我们自行完成负载均衡的设计与实现。
总结本文介绍了 node.js 中 child_process、cluster 和 worker_threads 三个模块的使用,通过这三个模块,我们可以充分利用 cpu 多核的优势,并以多进(线)程的模式来高效地解决一些特殊任务(比如 ai、图片处理等)的运行效率。每个模块都有其适用的场景,文中仅对其基本使用进行了说明,如何结合自己的问题进行高效地运用,还需要大家自行摸索。最后,本文若有纰漏之处,还望大家能够指正,祝大家快乐编码每一天。
更多node相关知识,请访问:nodejs 教程!
以上就是聊聊node.js中的多进程和多线程的详细内容。
其它类似信息

推荐信息