workqueue: Remove schedule() in unbind_workers()
authorLai Jiangshan <laijs@linux.alibaba.com>
Tue, 7 Dec 2021 07:35:40 +0000 (15:35 +0800)
committerTejun Heo <tj@kernel.org>
Thu, 9 Dec 2021 22:20:24 +0000 (12:20 -1000)
The commit 6d25be5782e4 ("sched/core, workqueues: Distangle worker
accounting from rq lock") changed the schedule callbacks for workqueue
and moved the schedule callback from the wakeup code to at end of
schedule() in the worker's process context.

It means that the callback wq_worker_running() is guaranteed that
it sees the %WORKER_UNBOUND flag after scheduled since unbind_workers()
is running on the same CPU that all the pool's workers bound to.

Signed-off-by: Lai Jiangshan <laijs@linux.alibaba.com>
Signed-off-by: Tejun Heo <tj@kernel.org>
kernel/workqueue.c

index ae58c6ace23f9b37bdca63c680b9c924cea3449e..499a264183efdbaa36ae67de620614ab9cf66111 100644 (file)
@@ -4979,6 +4979,9 @@ static void unbind_workers(int cpu)
                 * We've blocked all attach/detach operations. Make all workers
                 * unbound and set DISASSOCIATED.  Before this, all workers
                 * must be on the cpu.  After this, they may become diasporas.
+                * And the preemption disabled section in their sched callbacks
+                * are guaranteed to see WORKER_UNBOUND since the code here
+                * is on the same cpu.
                 */
                for_each_pool_worker(worker, pool)
                        worker->flags |= WORKER_UNBOUND;
@@ -4994,14 +4997,6 @@ static void unbind_workers(int cpu)
 
                mutex_unlock(&wq_pool_attach_mutex);
 
-               /*
-                * Call schedule() so that we cross rq->lock and thus can
-                * guarantee sched callbacks see the %WORKER_UNBOUND flag.
-                * This is necessary as scheduler callbacks may be invoked
-                * from other cpus.
-                */
-               schedule();
-
                /*
                 * Sched callbacks are disabled now.  Zap nr_running.
                 * After this, nr_running stays zero and need_more_worker()