python多线程与多进程开发实践及填坑记(2)

1. 前言

1.1. 概述

基于Flask、Pika、Multiprocessing、Thread搭建一个架构,完成多线程、多进程工作。具体需求如下:

  1. 并行计算任务:使用multiprocessing模块实现并行计算任务,提高计算效率、计算能力。
  2. 消息侦听任务:使用threading模块完成RabbitMQ消息队列的侦听任务,将接收到的数据放入multiprocessing.Queue中,以便并行计算任务处理。
  3. Web服务:使用Flask框架实现Web API服务,提供启停消息侦听任务、启停并行计算任务以及动态调整参数的功能。
  4. 任务交互:通过multiprocessing.Queue实现消息侦听任务与并行计算任务之间的资源交互。
  5. 非阻塞运行:使用threading模块非阻塞地运行Flask Web服务。

1.2. 续上一篇《python多线程与多进程开发实践及填坑记(1)》

python多线程与多进程开发实践及填坑记(1)

1.3. 重新启动侦听线程失败

程序没有报错,但是,没有启动侦听服务线程。

@app.route('/startlistening', methods=['GET'])
def start_listening():
    if stop_event.is_set():
        stop_event.clear()
    if not hasattr(app, 'pika_thread') or not app.pika_thread.is_alive():
        app.pika_thread = Thread(target=consume_from_rabbitmq_and_enqueue, args=(rabbitmq_params, rabbitmq_queue, data_queue))
        app.pika_thread.start()
        return jsonify({'status': 'listening'}), 200
    else:
        return jsonify({'status': 'already listening'}), 200

2. 原理解析

多线程下的Event(事件)原理与使用是并发编程中的重要概念,它主要用于线程间的同步与通信。下面我将从原理、类型、状态以及使用方法等方面详细介绍Event。

2.1. Event原理

Event(事件)是一个内核对象,用于线程间的同步与通信。它管理着一个全局的内部标志(Flag),这个标志通常有两种状态:已设置(True)和未设置(False)。线程可以通过Event对象来等待某个事件的发生,或者通知其他线程某个事件已经发生。

2.2. Event类型

Event主要分为两种类型:

  • 自动重置事件:当事件被触发(即Flag被设置为True)时,会唤醒一个正在等待的线程。随后,事件的Flag会自动重置为False,直到再次被触发。
  • 手动重置事件:当事件被触发时,会唤醒所有正在等待的线程。事件的Flag保持为True,直到程序显式地将其重置为False。

2.3. Event状态

Event对象的状态主要由其内部标志(Flag)决定,标志有两种可能的状态:

  • True(已设置):表示事件已发生,线程可以继续执行或不再被阻塞。
  • False(未设置):表示事件未发生,线程将处于阻塞状态,直到事件被触发。

2.4. Event使用方法

在多线程编程中,Event对象通常通过以下几个方法进行操作:

  1. 创建Event对象:
import threading  
event = threading.Event()
  1. 设置Event(触发事件):
    使用set()方法将Event对象的内部标志设置为True,唤醒所有等待的线程。
event.set()
  1. 清除Event(重置事件):
    使用clear()方法将Event对象的内部标志重置为False,使等待的线程再次进入阻塞状态(对于自动重置事件,这一步是自动的)。
event.clear()
  1. 等待Event(阻塞线程):
    使用wait(timeout=None)方法使当前线程阻塞,直到Event对象的内部标志为True或调用超时。
event.wait()  # 可以指定超时时间,如 event.wait(1) 表示等待1秒
  1. 检查Event状态:
    使用is_set()或isSet()(旧式Python中)方法检查Event对象的内部标志是否为True。
if event.is_set():  
    print("事件已发生")

2.5. 使用场景

Event在多线程编程中有广泛的应用场景,如:

  • 生产者-消费者模式:生产者线程在生成数据后触发Event,消费者线程等待Event来接收数据。
  • 线程间同步:当多个线程需要按照特定顺序执行时,可以使用Event来控制执行流程。
  • 条件等待:在某些条件下,线程需要等待某个事件的发生才能继续执行,这时可以使用Event来实现。

3. 重启线程解决方案

在多线程和多进程编程中,Event 对象是一个重要的同步原语。它允许一个线程向其他线程发送信号,以通知某些事件已经发生。具体到 stop_event 的使用,其主要作用是控制线程的启动和停止。

3.1. 修改代码

最初,是在start_listening中增加延时sleep代码,但是,没有起作用。

def start_listening():
    if stop_event.is_set():
        stop_event.clear()
        time.sleep(3)

有效的是在stop_listening中增加event.clear()代码。

@app.route('/startlistening', methods=['GET'])
def start_listening():
    if not stop_event.is_set():
        stop_event.clear()
        #time.sleep(2)
        # 此处,可以增加sleep延时启动监听
    if not stop_event.is_set():
        #stop_event.clear()        
        if not hasattr(app,'pika_thread') or not app.pika_thread.is_alive():
            app.pika_thread = Thread(target = consume_from_rabbitmq_and_enqueue, args = (rabbitmq_params, rabbitmq_queue,  data_queue))
            app.pika_thread.start()
            return jsonify({'status':'listening'}), 200
        else:
            return jsonify({'status':'already listening'}), 200
    else:
        stop_event.clear()
        return jsonify({'status':'error','message':'Stop event is set.'}), 400

@app.route('/stoplistening', methods=['GET'])
def stop_listening():
    if hasattr(app,'pika_thread') and app.pika_thread.is_alive():
        stop_event.set()
        app.pika_thread.join()  # 等待线程结束
        del app.pika_thread     # 删除资源,确保重启成功
        
        time.sleep(2)  
        stop_event.clear()      # 新增起作用的代码!
      
        return jsonify({'status':'stopping'}), 200  
    else:
        return jsonify({'status':'not running'}), 400

3.2. 解释说明

  1. stop_event.clear() 在 start_listening 中的作用
    在 start_listening 中调用 stop_event.clear() 确保了事件的内部标志被设置为 False。这意味着:
  • 重新启动侦听线程时,如果事件的内部标志是 True,则不会启动新的线程。
  • 通过 clear() 将标志设置为 False,确保新的线程可以启动,并开始侦听 RabbitMQ 消息。
  1. stop_event.clear() 在 stop_listening 中的作用
  • 在 stop_listening 中调用 stop_event.clear() 确保了事件的内部标志被重置为 False,这样下一次调用 start_listening 时,不会被之前的停止状态影响。
  • clear() 的调用位置在 time.sleep(2) 之后,确保了有足够的时间让线程完全停止并释放资源。
  1. 为什么只增加 sleep 不足以解决问题
    仅仅增加 sleep 只是延迟了操作,并没有改变 stop_event 的状态。stop_event 仍然是设置状态(True),这会导致 start_listening 无法通过 if not stop_event.is_set() 的检查,从而不会启动新的线程。

3.3. 小结

在多线程控制中,使用 Event 对象来管理线程的启动和停止非常有效。set() 和 clear() 方法可以控制线程的执行和等待状态。正确地使用 stop_event.clear() 确保了你的应用程序在停止线程后可以重新启动新的线程,而不受之前的停止状态影响。这是你代码中的关键步骤,确保了线程控制逻辑的正确性。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mfbz.cn/a/776378.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

excel批量修改一列单价的金额并保留1位小数

1.打开表格,要把单价金额变成现在的两倍,数据如下: 2.把单价这一列粘贴到一个新的sheet页面,在B2单元格输入公式:A2*2 然后按enter回车键,这时候吧鼠标放到B2单元格右下角,会出现一个黑色的小加号&#xf…

安装Linux虚拟机

点击创建新的虚拟机 选择高级 系统自定义推荐 选择稍后安装 选择Linux 虚拟机命名并且选择创建位置 系统自定义 系统自定义推荐 系统自定义推荐 选择安装好的iOS文件 点击完成 选择编辑虚拟机设置 进入后选择第一个Install red hat enterprise 选择常用语言 设置…

用户体验驱动开发:打造卓越数字产品的关键

目录 前言1. 用户体验驱动开发的定义1.1 用户体验的核心要素1.2 用户体验与用户界面 2. 用户体验驱动开发的重要性2.1 提升用户满意度2.2 增加用户忠诚度2.3 提升市场竞争力2.4 提高商业成功率 3. 用户体验驱动开发的方法论3.1 用户研究3.2 信息架构3.3 交互设计3.4 可用性测试…

一道有意思的简单题 [NOIP2010 普及组] 接水问题

题目&#xff1a; 题解&#xff1a; 每一次新来的同学的接水时间都加在现在已有的水龙头中接水时间最短的&#xff0c;总时间就为n次操作后水龙头中接水时间的最长值。 #include<bits/stdc.h> using namespace std; multiset<int>s;int main(){int n,m;scanf(&qu…

PMP–知识卡片--PDCA循环

记忆 PDCA&#xff1a;计划执行检查调整&#xff0c;计划观察动作&#xff1b;plan do check action 定义 PDCA循环的含义是将质量管理分为四个过程&#xff0c;即计划&#xff08;Plan&#xff09;、执行&#xff08;Do&#xff09;、检查&#xff08;Check&#xff09;、处…

美光科技在2024年1γ工艺技术在10纳米级别启动EUV试产

美光科技&#xff08;Micron&#xff09;在2024年针对其1γ&#xff08;1-gamma&#xff09;工艺技术在10纳米级别启动EUV&#xff08;极紫外光刻&#xff09;试产&#xff0c;这标志着存储行业巨头在EUV采用上的重要一步&#xff0c;尽管相比英特尔和台积电等其他半导体制造商…

查看java版本和安装位置-cnblog

查看java位置 进入设置&#xff0c;高级系统设置 打开环境变量 找到path双击 查看java版本 java -version

实验3-Spark基础-Spark的安装

文章目录 1. 下载安装 Scala1.1 下载 Scala 安装包1.2 基础环境准备1.3 安装 Scala 2. 下载安装 Spark2.1 下载 Spark 安装包2.2 安装 Spark2.3 配置 Spark2.4 创建配置文件 spark-env.sh 3. pyspark 启动4. 建立/user/spark文件夹 1. 下载安装 Scala 1.1 下载 Scala 安装包 下…

Spring学习04-[Spring容器核心技术AOP学习]

AOP学习 AOP介绍使用对业务方法添加计算时间的增强 EnableAspectJAutoProxyAOP的术语通知前置通知Before后置通知After返回通知AfterReturning AOP介绍 如何在Spring中创建一个所谓切面? AspectComponent通知切点切面里面的代码怎么运行在业务方法(之前、之后)&#xff1f; 通…

Redis 八股文

标题 1. Redis主从同步原理&#xff1a;判断下线的条件:故障转移如何保证Sentinel高可用 1. Redis主从同步原理&#xff1a; 1、slave执行命令向master建立连接 2、master执行bgsave&#xff08;后台存储&#xff09;&#xff0c;生成rdb快照&#xff08;redis备份方式&#x…

Git基础知识与常用命令指南

这是一个Git基础知识和常用命令的简要指南,涵盖了日常开发中最常用的操作。你可以将这个指南保存下来,作为日常工作的参考。 目录 基础篇1. Git基本概念2. 配置Git3. 创建仓库4. 基本的工作流程5. 分支操作6. 查看历史7. 撤销更改8. 远程仓库操作 Git进阶知识与技巧指南1. 分…

重温react-13(嵌套路由和重定向等)

重定向和404 import React from react; import { Routes, Route, Link,NavLink ,Navigate} from react-router-dom; import Home from ./Home/Home import About from ./About/About import News from ./News/News import NotFound from ./NotFound/NotFound; export default …

数据结构——单向循环链表

文章目录 1. 概念 2. 区别 2.1 结构区别 2.2 访问方式区别 2.3 优缺点对比 3. 流程 4. 基本操作 5. 代码示例 1. 概念 单向循环链表是一种特殊的单链表&#xff0c;其中最后一个节点的后继指针指向头节点&#xff0c;形成一个环。单向循环链表适合用于需要循环访问数据…

Qt 基础组件速学 鼠标和键盘事件

学习目标&#xff1a; 鼠标事件和键盘事件应用 前置环境 运行环境:qt creator 4.12 学习内容和效果演示&#xff1a; 1.鼠标事件 根据鼠标的坐标位置&#xff0c;做出对应的事件。 2.键盘事件 根据键盘的输入做出对应操作 详细主要代码 1.鼠标事件 #include "main…

C++新特性

C新特性主要体现在语法改进和标准库扩充两个方面。以下是一些主要的C新特性&#xff1a; 语法改进 统一的初始化方法&#xff1a;C11扩大了用大括号括起的列表&#xff08;初始化列表&#xff09;的使用范围&#xff0c;使其可用于所有的内置类型和用户自定义的类型。这种定义…

vue.js微商城后台管理系统

一.需要运行的效果 20240701-231456 二.代码&#xff08;解析&#xff09; 首先&#xff0c;为项目添加依赖&#xff1a; yarn add element-plus --save yarn vue-router4 --save 新建一个项目包&#xff0c;然后命名为商品管理&#xff0c;在components中新建几个vue文件。 …

全新UI自助图文打印系统小程序源码 PHP后端 附教程

最新自助图文打印系统和证件照云打印小程序源码PHP后端&#xff0c;为用户用户自助打印的服务&#xff0c;包括但不限于文档、图片、表格等多种格式的文件。此外&#xff0c;它们还提供了诸如美颜、换装、文档打印等功能&#xff0c;以及后台管理系统&#xff0c;方便管理员对打…

TreeMap、HashMap 和 LinkedHashMap 的区别

TreeMap、HashMap 和 LinkedHashMap 的区别 1、HashMap2、LinkedHashMap3、TreeMap4、总结 &#x1f496;The Begin&#x1f496;点点关注&#xff0c;收藏不迷路&#x1f496; 在 Java 中&#xff0c;TreeMap、HashMap 和 LinkedHashMap 是三种常用的集合类&#xff0c;它们在…

Ubuntu配置GitHub(第一次clone/push)

文章目录 1. 安装Git&检查连接2. 注册GitHub3. 生成&GitHub添加SSH3.1. 检查&删除已有id_rsa3.2. 生成SSH3.3. GitHub添加id_rsa.pub SSH3.4. 检查SSH 4. 继续开发可以参考参考 1. 安装Git&检查连接 安装 sudo apt-get install git检查SSH连接 ssh -T gitgi…

Qt 基础组件速学 事件过滤器

学习目标&#xff1a;理解事件过滤器 前置环境 运行环境:qt creator 4.12 学习内容和效果演示&#xff1a; Qt 提供了事件过滤器的机制,允许我们在事件到达目标对象之前对事件进行拦截和处理。这在以下情况下非常有用: 全局事件处理: 我们可以在应用程序级别安装一个事件过…