Dev (#36)
* 滚木 * feat: 重构核心架构，增强类型安全与插件管理 本次提交对核心模块进行了深度重构，引入 Pydantic 增强配置管理的类型安全性，并全面优化了插件管理系统。 主要变更详情： 1. 核心架构与配置 - 重构配置加载模块：引入 Pydantic 模型 (`core/config_models.py`)，提供严格的配置项类型检查、验证及默认值管理。 - 统一模块结构：规范化模块导入路径，移除冗余的 `__init__.py` 文件，提升项目结构的清晰度。 - 性能优化：集成 Redis 缓存支持 (`RedisManager`)，有效降低高频 API 调用开销，提升响应速度。 2. 插件系统升级 - 实现热重载机制：新增插件文件变更监听功能，支持开发过程中自动重载插件，提升开发效率。 - 优化生命周期管理：改进插件加载与卸载逻辑，支持精确卸载指定插件及其关联的命令、事件处理器和定时任务。 3. 功能特性增强 - 新增媒体 API：引入 `MediaAPI` 模块，封装图片、语音等富媒体资源的获取与处理接口。 - 完善权限体系：重构权限管理系统，实现管理员与操作员的分级控制，支持更细粒度的命令权限校验。 4. 代码质量与稳定性 - 全面类型修复：解决 `mypy` 静态类型检查发现的大量类型错误（包括 `CommandManager`、`EventFactory` 及 `Bot` API 签名不匹配问题）。 - 增强错误处理：优化消息处理管道的异常捕获机制，完善关键路径的日志记录，提升系统运行稳定性。 * feat: 添加测试用例并优化代码结构 refactor(permission_manager): 调整初始化顺序和逻辑 fix(admin_manager): 修复初始化逻辑和目录创建问题 feat(ws): 优化Bot实例初始化条件 feat(message): 增强MessageSegment功能并添加测试 feat(events): 支持字符串格式的消息解析 test: 添加核心功能测试用例 refactor(plugin_manager): 改进插件路径处理 style: 清理无用导入和代码 chore: 更新依赖项 * refactor(handler): 移除TYPE_CHECKING并直接导入Bot类 简化类型注解，直接导入Bot类而非使用TYPE_CHECKING条件导入，提高代码可读性和维护性 * fix(command_manager): 修复插件卸载时元信息移除不精确的问题 修复 CommandManager 中 unload_plugin 方法移除插件元信息时使用 startswith 导致可能误删其他插件的问题，改为精确匹配 同时调整相关测试用例验证精确匹配行为 * refactor: 清理未使用的导入和更新文档结构 docs: 添加config_models.py到项目结构文档 docs: 调整数据目录位置到core/data下 docs: 更新权限管理器文档描述 * 文档更新 * 更新thpic插件 支持一次返回多张图 * feat: 添加测试覆盖率并修复相关问题 refactor(redis_manager): 移除冗余的ConnectionError处理 refactor(event_handler): 优化Bot类型注解 refactor(factory): 移除未使用的GroupCardNoticeEvent test: 添加全面的单元测试覆盖 - 添加test_import.py测试模块导入 - 添加test_debug.py测试插件加载调试 - 添加test_plugin_error.py测试错误处理 - 添加test_config_loader.py测试配置加载 - 添加test_redis_manager.py测试Redis管理 - 添加test_bot.py测试Bot功能 - 扩展test_models.py测试消息模型 - 添加test_plugin_manager_coverage.py测试插件管理 - 添加test_executor.py测试代码执行器 - 添加test_ws.py测试WebSocket - 添加test_api.py测试API接口 - 添加test_core_managers.py测试核心管理模块 fix(plugin_manager): 修复插件加载日志变量问题 覆盖率已到达86%（忽略插件） * 更新/help指令，现在会发送图片 * feat(help): 重构帮助系统为图片渲染模式 添加浏览器管理器和图片管理器，用于通过 Playwright 渲染帮助菜单为图片 重构命令管理器以支持图片缓存和同步功能 添加 HTML 模板用于帮助菜单渲染 * build: 更新依赖文件 requirements.txt * build: 更新依赖文件 * feat: 添加性能优化和架构文档，更新依赖和核心模块 refactor(browser_manager): 实现页面池机制以提升性能 refactor(image_manager): 添加模板缓存并集成页面池 refactor(bili_parser): 迁移到异步HTTP请求并实现会话复用 docs: 新增性能优化、架构设计和最佳实践文档 chore: 更新requirements.txt添加新依赖 * docs: 更新文档内容并优化语言风格 重构所有文档内容，使用更简洁直接的语言风格 更新架构、插件开发、部署等核心文档 优化代码示例和图表说明 统一术语和格式规范 * docs: 更新文档内容，简化语言并修正格式 - 简化插件开发指南中的描述，移除冗余内容 - 调整部署文档中的Python版本说明 - 优化最佳实践文档的措辞和格式 - 更新性能优化文档，删除不准确的数据 - 重构核心概念文档，使用更简洁的语言 - 修正README中的项目描述和技术栈说明 - 更新快速上手文档，简化安装步骤 - 调整事件流转文档的描述方式 - 简化架构文档内容 - 更新指令处理文档，添加参数注入示例 - 优化单例管理器文档的表述 --------- Co-authored-by: baby20162016 <2185823427@qq.com>
This commit is contained in:
镀铬酸钾
@@ -15,6 +15,8 @@ class BrowserManager:
|
||||
_instance = None
|
||||
_playwright: Optional[Playwright] = None
|
||||
_browser: Optional[Browser] = None
|
||||
_page_pool: Optional[asyncio.Queue] = None
|
||||
_pool_size: int = 3
|
||||
|
||||
def __new__(cls):
|
||||
if cls._instance is None:
|
||||
@@ -36,6 +38,73 @@ class BrowserManager:
|
||||
logger.exception(f"无头浏览器启动失败: {e}")
|
||||
self._browser = None
|
||||
|
||||
async def init_pool(self, size: int = 3):
|
||||
"""
|
||||
初始化页面池
|
||||
"""
|
||||
if not self._browser:
|
||||
await self.initialize()
|
||||
|
||||
if not self._browser:
|
||||
logger.error("浏览器初始化失败，无法创建页面池")
|
||||
return
|
||||
|
||||
self._pool_size = size
|
||||
self._page_pool = asyncio.Queue(maxsize=size)
|
||||
|
||||
logger.info(f"正在初始化页面池 (大小: {size})...")
|
||||
for i in range(size):
|
||||
try:
|
||||
page = await self._browser.new_page()
|
||||
await self._page_pool.put(page)
|
||||
except Exception as e:
|
||||
logger.error(f"创建页面池页面 {i+1} 失败: {e}")
|
||||
|
||||
logger.success(f"页面池初始化完成，当前可用页面: {self._page_pool.qsize()}")
|
||||
|
||||
async def get_page(self) -> Optional[Page]:
|
||||
"""
|
||||
从池中获取一个页面。如果池未初始化或为空，则尝试创建一个新页面（不入池）。
|
||||
"""
|
||||
if self._page_pool and not self._page_pool.empty():
|
||||
try:
|
||||
page = self._page_pool.get_nowait()
|
||||
# 简单的健康检查
|
||||
if page.is_closed():
|
||||
logger.warning("检测到池中页面已关闭，重新创建一个...")
|
||||
if self._browser:
|
||||
page = await self._browser.new_page()
|
||||
else:
|
||||
return None
|
||||
return page
|
||||
except asyncio.QueueEmpty:
|
||||
pass
|
||||
|
||||
# 如果池空了或者没初始化，回退到临时创建
|
||||
logger.debug("页面池为空或未初始化，创建临时页面")
|
||||
return await self.get_new_page()
|
||||
|
||||
async def release_page(self, page: Page):
|
||||
"""
|
||||
归还页面到池中。如果池已满或未初始化，则关闭页面。
|
||||
"""
|
||||
if not page or page.is_closed():
|
||||
return
|
||||
|
||||
if self._page_pool:
|
||||
try:
|
||||
# 重置页面状态 (例如清空内容)，防止数据污染
|
||||
# 注意: goto('about:blank') 比 close() 快得多
|
||||
await page.goto("about:blank")
|
||||
|
||||
self._page_pool.put_nowait(page)
|
||||
return
|
||||
except asyncio.QueueFull:
|
||||
pass
|
||||
|
||||
# 池满或未启用池，直接关闭
|
||||
await page.close()
|
||||
|
||||
async def get_new_page(self) -> Optional[Page]:
|
||||
"""
|
||||
获取一个新的页面 (Page)
|
||||
@@ -58,6 +127,16 @@ class BrowserManager:
|
||||
"""
|
||||
关闭浏览器和 Playwright
|
||||
"""
|
||||
# 清空页面池
|
||||
if self._page_pool:
|
||||
while not self._page_pool.empty():
|
||||
try:
|
||||
page = self._page_pool.get_nowait()
|
||||
await page.close()
|
||||
except Exception:
|
||||
pass
|
||||
self._page_pool = None
|
||||
|
||||
if self._browser:
|
||||
await self._browser.close()
|
||||
self._browser = None
|
||||
|
||||
@@ -29,6 +29,8 @@ class ImageManager:
|
||||
# core/managers/image_manager.py -> core/managers -> core -> core/data/temp
|
||||
self.temp_dir = os.path.join(os.path.dirname(os.path.dirname(__file__)), "data", "temp")
|
||||
os.makedirs(self.temp_dir, exist_ok=True)
|
||||
# 模板缓存
|
||||
self._template_cache: Dict[str, Template] = {}
|
||||
|
||||
async def render_template(self, template_name: str, data: Dict[str, Any], output_name: str = "output.png", quality: int = 80, image_type: str = "png") -> Optional[str]:
|
||||
"""
|
||||
@@ -50,15 +52,20 @@ class ImageManager:
|
||||
return None
|
||||
|
||||
try:
|
||||
# 1. 渲染 HTML
|
||||
with open(template_path, "r", encoding="utf-8") as f:
|
||||
template_str = f.read()
|
||||
# 1. 渲染 HTML (使用缓存)
|
||||
if template_name in self._template_cache:
|
||||
template = self._template_cache[template_name]
|
||||
else:
|
||||
with open(template_path, "r", encoding="utf-8") as f:
|
||||
template_str = f.read()
|
||||
template = Template(template_str)
|
||||
self._template_cache[template_name] = template
|
||||
|
||||
template = Template(template_str)
|
||||
html_content = template.render(**data)
|
||||
|
||||
# 2. 使用浏览器截图
|
||||
page = await browser_manager.get_new_page()
|
||||
# 改为从池中获取页面
|
||||
page = await browser_manager.get_page()
|
||||
if not page:
|
||||
logger.error("无法获取浏览器页面")
|
||||
return None
|
||||
@@ -76,10 +83,11 @@ class ImageManager:
|
||||
if image_type == 'jpeg':
|
||||
screenshot_args['quality'] = quality
|
||||
|
||||
screenshot_bytes = await page.screenshot(**screenshot_args)
|
||||
screenshot_bytes = await page.screenshot(**screenshot_args) # type: ignore
|
||||
|
||||
finally:
|
||||
await page.close()
|
||||
# 归还页面到池中，而不是直接关闭
|
||||
await browser_manager.release_page(page)
|
||||
|
||||
# 3. 保存文件
|
||||
output_path = os.path.join(self.temp_dir, output_name)
|
||||
|
||||
34
core/utils/json_utils.py
Normal file
34
core/utils/json_utils.py
Normal file
@@ -0,0 +1,34 @@
|
||||
"""
|
||||
JSON 工具模块
|
||||
|
||||
统一使用高性能的 orjson 库进行 JSON 序列化和反序列化。
|
||||
如果 orjson 不可用，则回退到标准库 json。
|
||||
"""
|
||||
from typing import Any, Union
|
||||
import json
|
||||
|
||||
# 在模块加载时检查 orjson 是否可用
|
||||
try:
|
||||
import orjson
|
||||
_orjson_available = True
|
||||
except ImportError:
|
||||
_orjson_available = False
|
||||
|
||||
def dumps(obj: Any) -> str:
|
||||
"""
|
||||
将对象序列化为 JSON 字符串。
|
||||
"""
|
||||
if _orjson_available:
|
||||
# orjson.dumps 返回 bytes，需要 decode
|
||||
return orjson.dumps(obj).decode("utf-8")
|
||||
else:
|
||||
return json.dumps(obj, ensure_ascii=False)
|
||||
|
||||
def loads(json_str: Union[str, bytes]) -> Any:
|
||||
"""
|
||||
将 JSON 字符串反序列化为对象。
|
||||
"""
|
||||
if _orjson_available:
|
||||
return orjson.loads(json_str)
|
||||
else:
|
||||
return json.loads(json_str)
|
||||
Reference in New Issue
Block a user