加入收藏 | 设为首页 | 会员中心 | 我要投稿 李大同 (https://www.lidatong.com.cn/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 大数据 > 正文

用golang编写一个并发工作队列

发布时间:2020-12-16 18:14:04 所属栏目:大数据 来源:网络整理
导读:其实golang用一个函数可以构建一个并发队列,看我之前的blog但那个功能还不够强大,现在编写一个灵活可控的队列程序 先定义一个工作 type Worker struct { ID int RepJobs chan int64 SM * SM quit chan bool } 包含了workid和执行任务的id,上面的SM只是任

其实golang用一个函数可以构建一个并发队列,看我之前的blog但那个功能还不够强大,现在编写一个灵活可控的队列程序
先定义一个工作

type Worker struct { ID int RepJobs chan int64 SM *SM quit chan bool }

包含了workid和执行任务的id,上面的SM只是任务具体内容,这个和具体业务相关,大家自己编写自己的SM业务逻辑

然后定义工作池

type workerPool struct { workerChan chan *Worker workerList []*Worker }

这个里面定义了一个工作队列的切片,可以自定义工作队列的个数,甚至后期还可以添加work,还定义了一个队列类型的管道。定义完成过后就可以初始化工作池了

func InitWorkerPool() error {
    n := 3
    WorkerPool = &workerPool{
        workerChan: make(chan *Worker,n),workerList: make([]*Worker, 0,}
    for i := 0; i < n; i++ {
        worker := NewWorker(i)
        WorkerPool.workerList = append(WorkerPool.workerList,worker)
        worker.Start()
        log.Debugf("worker %d started",worker.ID)
    }
    return nil
}

这个里面我写死了worker的个数是3,当然这个可以通过读取配置文件或者参数传递的方式;这个里面逐一启动work,worker.Start(),这个是关键

func (w *Worker) Start() {
    go func() {
        for {
            WorkerPool.workerChan <- w
            select {
            case jobID := <-w.RepJobs:
                log.Debugf("worker: %d,will handle job: %d",w.ID,jobID)
                w.handleRepJob(jobID)
            case q := <-w.quit:
                if q { log.Debugf("worker: %d,will stop.",w.ID) return }
            }
        }
    }()
}

这个就是go 启动一个协程,先把自己放到workerChan中,然后不断从w.RepJobs管道中获取任务并执行,如果执行完成后又把自己放回到队列中。所以如果你要有任务需要执行,放到这个管道中即可,

func Dispatch() {
    for {
        select {
        case job := <-jobQueue:
            go func(jobID int64) {
                println("Trying to dispatch job: %d",jobID)
                worker := <-WorkerPool.workerChan
                worker.RepJobs <- jobID
            }(job)
        }
    }
}

从管道中拿出一个worker并把任务id放到worker中去执行。当然你可以停止worker,甚至可以停止job

func (w *Worker) Stop() {
    go func() {
        w.quit <- true
    }()
}


func (wp *workerPool) StopJobs(jobs []int64) {
    log.Debugf("Works working on jobs: %v will be stopped",jobs)
    for _,id := range jobs {
        for _,w := range wp.workerList {
            if w.SM.JobID == id {
                log.Debugf("found a worker whose job ID is %d,will try to stop it",id)
                w.SM.Stop(id)
            }
        }
    }
}

补充一下,int64和字符串转换。
string到int
int,err:=strconv.Atoi(string)
string到int64
int64,err := strconv.ParseInt(string,10,64)
int到string
string:=strconv.Itoa(int)
int64到string string:=strconv.FormatInt(int64,10)

(编辑:李大同)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

    推荐文章
      热点阅读