在我的项目中,我正在构建一个 Java 执行框架,用于接收来自客户端的工作请求。工作(不同大小)被分解为一组任务,然后排队等待处理。有单独的队列来处理每种类型的任务,并且每个队列都与一个 ThreadPool 相关联。ThreadPools 的配置方式使得引擎的整体性能是最佳的。
这种设计有助于我们有效地对请求进行负载平衡,并且大型请求最终不会占用系统资源。但是,有时当某些队列为空并且它们各自的线程池处于空闲状态时,该解决方案变得无效。
为了更好地做到这一点,我正在考虑实施一种工作/任务窃取技术,以便负载重的队列可以从其他线程池中获得帮助。但是,这可能需要实现我自己的 Executor,因为 Java 不允许多个队列与 ThreadPool 相关联,并且不支持工作窃取概念。
阅读有关 Fork/Join 的信息,但这似乎不适合我的需求。构建此解决方案的任何建议或替代方法都可能非常有帮助。
谢谢安迪