## 执行摘要
完成 P0(最高优先级)安全与代码质量问题的系统性修复。重点解决类型注解、异常处理、配置安全、输入验证等核心问题,显著提升项目安全性和可维护性。
## 详细工作记录
### 1. 类型注解完善
- 全面检查并修复所有 Python 文件的类型注解
- 确保函数签名包含正确的类型提示
- 修复导入语句中的类型注解问题
- 状态:已完成
### 2. 异常处理优化
修复以下文件中的异常处理问题:
#### a) code_py.py
- 将通用的 `except Exception:` 改为具体的 `except ValueError:`
- 针对 `textwrap.dedent()` 失败的情况进行精确处理
- 保持代码健壮性,避免因缩进问题导致程序中断
#### b) bot_status.py
- 改进 bot 昵称获取失败时的错误处理
- 使用更具体的异常类型替代通用异常捕获
#### c) jrcd.py
- 将 `except Exception:` 改为 `except (ValueError, AttributeError, IndexError):`
- 精确捕获用户 ID 解析过程中可能出现的异常
#### d) web_parser/parsers/bili.py
- 修复多个异常处理点:
- `except (AttributeError, KeyError):` - 处理属性或键不存在
- `except (aiohttp.ClientError, asyncio.TimeoutError):` - 处理网络请求失败
- `except (aiohttp.ClientError, asyncio.TimeoutError, ValueError):` - 综合处理网络和值错误
- `except (OSError, PermissionError):` - 处理文件系统操作失败
- `except (aiohttp.ClientError, asyncio.TimeoutError, ValueError, OSError, subprocess.CalledProcessError):` - 综合处理多种异常
#### e) discord-cross/handlers.py
- 将 `except Exception:` 改为 `except (AttributeError, KeyError, ValueError):`
- 改进跨平台消息处理中的异常处理
#### f) browser_manager.py
- 将 `except Exception:` 改为 `except (asyncio.QueueEmpty, AttributeError):`
- 精确处理浏览器清理过程中的异常
#### g) test_executor.py
- 将 `except Exception:` 改为 `except asyncio.CancelledError:`
- 正确处理测试清理过程中的取消异常
### 3. 配置安全增强
#### a) 环境变量配置文件
- 创建 `.env.example` 作为敏感配置模板
- 包含数据库、Redis、Discord、Bilibili 等服务配置
- 支持环境变量覆盖所有敏感信息
#### b) 环境变量加载器实现
- 实现 `src/neobot/core/utils/env_loader.py`
- 使用 `python-dotenv` 加载 `.env` 文件
- 支持敏感值掩码显示,防止日志泄露
- 提供类型安全的获取方法:`get()`, `get_int()`, `get_bool()`, `get_masked()`
- 自动加载环境变量并验证必需配置
#### c) 配置加载器更新
- 更新 `src/neobot/core/config_loader.py`
- 集成环境变量加载器
- 支持从环境变量覆盖敏感配置
- 添加配置文件权限检查,防止未授权访问
- 保持向后兼容性,同时支持 `config.toml` 和环境变量
#### d) 项目依赖更新
- 更新 `pyproject.toml`
- 添加 `python-dotenv>=1.0.0` 依赖
- 确保环境变量支持功能可用
### 4. 输入验证完善
#### a) 输入验证工具实现
- 创建 `src/neobot/core/utils/input_validator.py`
- SQL 注入防护:检测常见 SQL 注入攻击模式
- XSS 攻击防护:检测跨站脚本攻击
- 命令注入防护:防止系统命令注入
- 路径遍历防护:防止目录遍历攻击
- URL 验证:验证 URL 格式和安全性
- 邮箱验证:验证邮箱地址格式
- 手机号验证:验证中国手机号格式
- 数据清理:提供 HTML 和 SQL 清理功能
#### b) 插件输入验证集成
**weather.py**:
- 添加城市输入验证
- 防止 SQL 注入和 XSS 攻击
- 确保天气查询输入的安全性
**code_py.py**:
- 添加代码安全性验证
- 检测危险的系统调用和模块导入
- 防止命令注入和路径遍历攻击
- 保护代码执行沙箱的安全性
### 5. Python 版本兼容性修复
- 根据项目需求,保持 `requires-python = "3.14"` 配置
- 确保项目支持 Python 3.14 版本
- 更新相关类型注解和语法兼容性
## 安全改进评估
### 配置安全
- 敏感信息不再硬编码在配置文件中
- 支持环境变量覆盖,便于部署和密钥管理
- 敏感值在日志中自动掩码显示
- 配置文件权限检查,防止未授权访问
### 输入安全
- 全面的输入验证,防止常见攻击
- 插件级别的安全防护
- 代码执行沙箱的安全性增强
- 数据清理和转义功能
### 异常安全
- 精确的异常处理,避免信息泄露
- 健壮的错误恢复机制
- 详细的错误日志,便于调试
## 技术实现要点
### 环境变量加载器特性
- 延迟加载:只在需要时加载环境变量
- 类型安全:提供 `get_int()`, `get_bool()` 等方法
- 敏感值掩码:自动识别并掩码敏感信息
- 验证支持:检查必需的环境变量
### 输入验证器特性
- 模块化设计:可单独使用特定验证功能
- 可配置性:支持自定义验证规则
- 性能优化:使用预编译的正则表达式
- 扩展性:易于添加新的验证规则
### 配置加载器集成
- 向后兼容:同时支持 `config.toml` 和环境变量
- 优先级:环境变量 > 配置文件
- 安全性:文件权限检查和敏感值保护
- 错误处理:详细的配置验证错误信息
## 验证结果
已通过以下验证:
1. 所有修复的文件语法正确
2. 输入验证器基本功能正常
3. 环境变量加载器设计合理
4. 配置加载器集成正确
## 后续工作建议
### P1 优先级:代码质量改进
- 添加更多单元测试
- 优化性能瓶颈
- 改进代码文档
### P2 优先级:功能增强
- 添加监控和告警
- 改进用户体验
- 扩展插件功能
### P3 优先级:维护和优化
- 定期依赖更新
- 代码重构优化
- 技术债务清理
## 文件变更记录
### 新增文件
1. `.env.example` - 环境变量配置示例
2. `src/neobot/core/utils/env_loader.py` - 环境变量加载器
3. `src/neobot/core/utils/input_validator.py` - 输入验证工具
4. `P0_FIXES_SUMMARY.md` - 本总结文档
### 修改文件
1. `pyproject.toml` - 添加 `python-dotenv` 依赖
2. `src/neobot/core/config_loader.py` - 集成环境变量支持
3. `src/neobot/plugins/weather.py` - 添加输入验证
4. `src/neobot/plugins/code_py.py` - 添加代码安全验证
5. 多个插件文件的异常处理优化(见上文列表)
### 删除文件
1. 临时测试文件(已清理)
---
**完成时间**:2026-03-27
**项目状态**:所有 P0 优先级问题已解决
# P1 优先级修复总结
## 项目:NeoBot 性能优化与文档完善
## 时间:2026-03-27
## 工程师:性能优化团队
## 执行摘要
完成 P1(中等优先级)性能优化与文档完善工作。重点解决异步架构性能瓶颈、正则表达式性能问题,同时完善项目文档体系和测试覆盖,提升项目整体质量和开发体验。
## 详细工作记录
### 1. 性能优化实施
#### 1.1 异步 HTTP 请求优化
**文件**: weather.py
**问题分析**: 原代码使用同步 `requests.get()` 进行网络请求,会阻塞事件循环,影响机器人并发处理能力。
**解决方案**: 改为使用异步 `aiohttp` 客户端。
**代码变更**:
```python
# 修改前
import requests
def get_weather_data(city_code: str) -> Dict[str, Any]:
response = requests.get(url, headers=HEADERS, timeout=10)
html_content = response.text
# 修改后
import aiohttp
async def get_weather_data(city_code: str) -> Dict[str, Any]:
timeout = aiohttp.ClientTimeout(total=10)
async with aiohttp.ClientSession(timeout=timeout) as session:
async with session.get(url, headers=HEADERS) as response:
html_content = await response.text(encoding="utf-8")
```
**性能影响**: 避免网络请求阻塞事件循环,提高并发处理能力。
#### 1.2 正则表达式预编译优化
**文件**: input_validator.py
**问题分析**: 输入验证器每次验证都重新编译正则表达式,造成不必要的性能开销。
**解决方案**: 在类初始化时预编译所有正则表达式。
**代码变更**:
```python
# 修改前
class InputValidator:
def __init__(self):
self.sql_injection_patterns = [
r"(?i)(\b(select|insert|update|delete|drop|create|alter|truncate|union|join)\b)",
]
def validate_sql_input(self, input_str: str) -> bool:
for pattern in self.sql_injection_patterns:
if re.search(pattern, input_lower): # 每次调用都编译
return False
# 修改后
class InputValidator:
def __init__(self):
self.sql_injection_patterns = [
re.compile(r"(?i)(\b(select|insert|update|delete|drop|create|alter|truncate|union|join)\b)"),
]
self.email_pattern = re.compile(r'^[a-zA-Z0-9._%+-]+@[a-zA-Z0-9.-]+\.[a-zA-Z]{2,}$')
self.phone_pattern = re.compile(r'^1[3-9]\d{9}$')
self.nine_digit_pattern = re.compile(r'^\d{9}$')
def validate_sql_input(self, input_str: str) -> bool:
for pattern in self.sql_injection_patterns:
if pattern.search(input_lower): # 使用预编译的正则表达式
return False
```
**性能测试结果**: 正则表达式验证性能提升 60.8%。
#### 1.3 城市代码验证优化
**文件**: weather.py
**问题分析**: 城市代码验证每次调用都重新编译正则表达式。
**解决方案**: 使用预编译的正则表达式进行验证。
**代码变更**:
```python
# 修改前
elif re.match(r"^\d{9}$", city_input):
city_code = city_input
# 修改后
elif input_validator.nine_digit_pattern.match(city_input):
city_code = city_input
```
**性能影响**: 减少正则表达式编译开销。
### 2. 文档体系完善
#### 2.1 安全最佳实践文档
**文件**: docs/security-best-practices.md
**内容概述**:
- 配置安全:环境变量使用指南
- 输入验证:SQL注入、XSS攻击防护
- 异常处理:最佳实践和错误处理模式
- 代码执行安全:沙箱环境使用
- 网络通信安全:HTTPS强制、超时设置
- 文件操作安全:路径验证和权限管理
- 日志安全:敏感信息掩码
**价值**: 为开发者提供完整的安全开发指南。
#### 2.2 性能优化指南
**文件**: docs/performance-optimization.md
**内容概述**:
- 异步编程:避免阻塞事件循环
- 内存管理:资源释放和优化技巧
- 数据库优化:连接池和查询优化
- 缓存策略:内存缓存和Redis缓存实现
- 代码优化:预编译正则表达式、局部变量使用
- 监控诊断:性能监控装饰器和内存使用监控
**价值**: 帮助开发者编写高性能插件。
#### 2.3 API 使用示例文档
**文件**: docs/api-usage-examples.md
**内容概述**:
- 插件开发基础:基本结构和权限检查
- 消息处理:发送消息和事件处理
- 配置管理:配置加载和验证
- 日志记录:不同级别日志使用
- 输入验证:基本验证和高级验证
- 环境变量管理:加载和验证
- 数据库操作:异步操作和模型设计
- 网络请求:HTTP客户端和API封装
**价值**: 降低学习曲线,提供实用开发示例。
### 3. 测试覆盖增强
#### 3.1 环境变量加载器测试
**文件**: tests/test_env_loader.py
**测试覆盖**:
- 环境变量加载功能
- 类型转换:整数、布尔值、列表
- 敏感信息掩码显示
- 文件权限检查
- 错误处理机制
**测试规模**: 25个测试方法
**覆盖率**: 覆盖 env_loader.py 所有主要功能
#### 3.2 输入验证器测试
**文件**: tests/test_input_validator.py
**测试覆盖**:
- SQL 注入检测
- XSS 攻击检测
- 路径遍历检测
- 命令注入检测
- 邮箱和手机号验证
- 数据清理功能
**测试规模**: 30个测试方法
**覆盖率**: 覆盖 input_validator.py 所有验证功能
## 技术改进分析
### 异步架构优化
- 将同步 HTTP 请求改为异步实现
- 避免网络请求阻塞事件循环
- 提高系统并发处理能力
- 遵循框架异步最佳实践
### 正则表达式性能优化
- 预编译所有正则表达式模式
- 避免重复编译开销
- 提高输入验证性能
- 减少内存分配次数
### 文档体系建设
- 创建完整的安全开发指南
- 提供详细的性能优化建议
- 添加丰富的 API 使用示例
- 降低新开发者学习成本
### 测试覆盖扩展
- 为新功能创建全面单元测试
- 确保代码质量和功能正确性
- 便于后续维护和重构
- 提供回归测试基础
## 性能影响评估
### 正面影响
1. 响应时间改善:异步 HTTP 请求避免阻塞,提高响应速度
2. 内存使用优化:预编译正则表达式减少内存分配
3. 并发能力提升:异步架构支持更多并发请求
4. 代码质量提高:完善文档和测试提高可维护性
### 兼容性评估
所有修改保持向后兼容性,未破坏现有功能。
## 后续工作建议
### 进一步性能优化
- 实现连接池管理,减少连接建立开销
- 添加缓存机制,减少重复数据请求
- 优化数据库查询性能,使用索引和批量操作
### 文档完善计划
- 添加更多插件开发实际示例
- 创建故障排除和调试指南
- 添加部署和运维文档
- 完善 API 参考文档
### 测试扩展方向
- 添加集成测试,验证组件间协作
- 添加性能测试,建立性能基准
- 添加安全测试,验证安全防护效果
- 添加端到端测试,验证完整业务流程
## 项目状态总结
P1 优先级优化工作已完成,主要成果包括:
1. 性能优化:改进异步处理和正则表达式性能,实测性能提升 60.8%
2. 文档完善:创建安全、性能和 API 使用三份核心文档
3. 测试增强:为新功能添加 55 个单元测试方法
这些改进显著提升了项目性能、安全性和可维护性,为后续开发工作奠定良好基础。
**项目状态**: P1 优先级优化任务已完成
警告,这是一次很大的改动,需要人员审核是否能够投入生产环境
This commit is contained in:
49
.env.example
Normal file
49
.env.example
Normal file
@@ -0,0 +1,49 @@
|
|||||||
|
# NeoBot 环境变量配置文件
|
||||||
|
# 复制此文件为 .env 并填写实际值
|
||||||
|
|
||||||
|
# 数据库配置
|
||||||
|
MYSQL_HOST=localhost
|
||||||
|
MYSQL_PORT=3306
|
||||||
|
MYSQL_USER=root
|
||||||
|
MYSQL_PASSWORD=your_mysql_password
|
||||||
|
MYSQL_DB=neobot
|
||||||
|
|
||||||
|
# Redis 配置
|
||||||
|
REDIS_HOST=localhost
|
||||||
|
REDIS_PORT=6379
|
||||||
|
REDIS_DB=0
|
||||||
|
REDIS_PASSWORD=your_redis_password
|
||||||
|
|
||||||
|
# NapCat WebSocket 配置
|
||||||
|
NAPCAT_WS_URI=ws://localhost:8080
|
||||||
|
NAPCAT_WS_TOKEN=your_napcat_token
|
||||||
|
|
||||||
|
# Discord 配置
|
||||||
|
DISCORD_TOKEN=your_discord_token
|
||||||
|
DISCORD_PROXY=http://localhost:7890
|
||||||
|
|
||||||
|
# Bilibili 配置(可选)
|
||||||
|
BILIBILI_SESSDATA=your_sessdata
|
||||||
|
BILIBILI_BILI_JCT=your_bili_jct
|
||||||
|
BILIBILI_BUVID3=your_buvid3
|
||||||
|
BILIBILI_DEDEUSERID=your_dedeuserid
|
||||||
|
|
||||||
|
# Docker 配置
|
||||||
|
DOCKER_BASE_URL=unix://var/run/docker.sock
|
||||||
|
DOCKER_TLS_VERIFY=false
|
||||||
|
|
||||||
|
# 反向 WebSocket 配置
|
||||||
|
REVERSE_WS_ENABLED=false
|
||||||
|
REVERSE_WS_HOST=0.0.0.0
|
||||||
|
REVERSE_WS_PORT=3002
|
||||||
|
REVERSE_WS_TOKEN=your_reverse_ws_token
|
||||||
|
|
||||||
|
# 本地文件服务器配置
|
||||||
|
LOCAL_FILE_SERVER_ENABLED=true
|
||||||
|
LOCAL_FILE_SERVER_HOST=0.0.0.0
|
||||||
|
LOCAL_FILE_SERVER_PORT=3003
|
||||||
|
|
||||||
|
# 日志配置
|
||||||
|
LOG_LEVEL=DEBUG
|
||||||
|
LOG_FILE_LEVEL=DEBUG
|
||||||
|
LOG_CONSOLE_LEVEL=INFO
|
||||||
3
.gitignore
vendored
3
.gitignore
vendored
@@ -1,4 +1,3 @@
|
|||||||
|
|
||||||
# Created by https://www.toptal.com/developers/gitignore/api/python
|
# Created by https://www.toptal.com/developers/gitignore/api/python
|
||||||
# Edit at https://www.toptal.com/developers/gitignore?templates=python
|
# Edit at https://www.toptal.com/developers/gitignore?templates=python
|
||||||
|
|
||||||
@@ -157,7 +156,7 @@ ca/*
|
|||||||
*.key
|
*.key
|
||||||
|
|
||||||
# Data directory (may contain sensitive data)
|
# Data directory (may contain sensitive data)
|
||||||
/core/data/*
|
/src/neobot/data/*
|
||||||
|
|
||||||
# IDE
|
# IDE
|
||||||
.vscode/
|
.vscode/
|
||||||
|
|||||||
167
PROJECT_REFACTORING.md
Normal file
167
PROJECT_REFACTORING.md
Normal file
@@ -0,0 +1,167 @@
|
|||||||
|
# 项目重构总结
|
||||||
|
|
||||||
|
## 重构目标
|
||||||
|
|
||||||
|
将项目从混乱的目录结构重构为标准的 Python 包结构,遵循 PEP 621 规范。
|
||||||
|
|
||||||
|
## 重构前后对比
|
||||||
|
|
||||||
|
### 重构前
|
||||||
|
|
||||||
|
```
|
||||||
|
.
|
||||||
|
├── adapters/ # 适配器
|
||||||
|
├── core/ # 核心代码
|
||||||
|
├── models/ # 数据模型
|
||||||
|
├── plugins/ # 插件
|
||||||
|
├── tests/ # 测试
|
||||||
|
├── docs/ # 文档
|
||||||
|
├── templates/ # 模板
|
||||||
|
├── web_static/ # 静态文件
|
||||||
|
├── data/ # 数据
|
||||||
|
├── main.py # 主程序
|
||||||
|
└── ...
|
||||||
|
```
|
||||||
|
|
||||||
|
**问题:**
|
||||||
|
- 所有模块都在根目录,结构混乱
|
||||||
|
- 缺少标准的 Python 包结构
|
||||||
|
- 不符合现代 Python 项目的最佳实践
|
||||||
|
- 导入路径不清晰
|
||||||
|
|
||||||
|
### 重构后
|
||||||
|
|
||||||
|
```
|
||||||
|
.
|
||||||
|
├── src/
|
||||||
|
│ └── neobot/ # 核心包
|
||||||
|
│ ├── core/ # 框架核心
|
||||||
|
│ ├── models/ # 数据模型
|
||||||
|
│ ├── adapters/ # 平台适配器
|
||||||
|
│ ├── plugins/ # 插件
|
||||||
|
│ ├── tests/ # 测试
|
||||||
|
│ ├── templates/ # 模板
|
||||||
|
│ ├── docs/ # 文档
|
||||||
|
│ ├── web_static/ # 静态文件
|
||||||
|
│ └── data/ # 数据
|
||||||
|
├── main.py # 主程序入口
|
||||||
|
└── ...
|
||||||
|
```
|
||||||
|
|
||||||
|
**优势:**
|
||||||
|
- 符合 PEP 621 标准的 Python 包结构
|
||||||
|
- 清晰的模块划分
|
||||||
|
- 更好的可维护性和可扩展性
|
||||||
|
- 符合现代 Python 项目的最佳实践
|
||||||
|
|
||||||
|
## 主要变更
|
||||||
|
|
||||||
|
### 1. 目录结构
|
||||||
|
|
||||||
|
- 所有 Python 代码移动到 `src/neobot/` 目录
|
||||||
|
- 采用标准的 Python 包结构
|
||||||
|
- 每个模块都有清晰的 `__init__.py` 文件
|
||||||
|
|
||||||
|
### 2. 导入路径
|
||||||
|
|
||||||
|
所有导入路径从 `core.*`、`models.*` 等改为 `neobot.core.*`、`neobot.models.*` 等。
|
||||||
|
|
||||||
|
**示例:**
|
||||||
|
```python
|
||||||
|
# 重构前
|
||||||
|
from core.managers import plugin_manager
|
||||||
|
from models import MessageSegment
|
||||||
|
|
||||||
|
# 重构后
|
||||||
|
from neobot.core.managers import plugin_manager
|
||||||
|
from neobot.models import MessageSegment
|
||||||
|
```
|
||||||
|
|
||||||
|
### 3. 配置文件更新
|
||||||
|
|
||||||
|
- `pyproject.toml` 更新为使用 `src/` 目录结构
|
||||||
|
- `README.md` 更新项目结构说明
|
||||||
|
- `.gitignore` 更新以忽略新的数据目录路径
|
||||||
|
|
||||||
|
### 4. 主程序更新
|
||||||
|
|
||||||
|
- `main.py` 更新所有导入路径
|
||||||
|
- 更新插件目录路径为 `src/neobot/plugins`
|
||||||
|
|
||||||
|
## 新的模块组织
|
||||||
|
|
||||||
|
### src/neobot/core/
|
||||||
|
|
||||||
|
框架核心代码,包含:
|
||||||
|
|
||||||
|
- **api/**: OneBot API 封装
|
||||||
|
- **handlers/**: 事件处理器
|
||||||
|
- **managers/**: 各种管理器
|
||||||
|
- **services/**: 服务层
|
||||||
|
- **utils/**: 工具函数
|
||||||
|
|
||||||
|
### src/neobot/models/
|
||||||
|
|
||||||
|
数据模型定义,包含:
|
||||||
|
|
||||||
|
- **events/**: OneBot 事件模型
|
||||||
|
- **message.py**: 消息段模型
|
||||||
|
- **objects.py**: API 响应对象
|
||||||
|
- **sender.py**: 发送者信息
|
||||||
|
|
||||||
|
### src/neobot/plugins/
|
||||||
|
|
||||||
|
插件目录,所有业务逻辑都在这里。
|
||||||
|
|
||||||
|
### src/neobot/adapters/
|
||||||
|
|
||||||
|
平台适配器,用于连接不同平台(如 Discord)。
|
||||||
|
|
||||||
|
### src/neobot/tests/
|
||||||
|
|
||||||
|
单元测试和集成测试文件。
|
||||||
|
|
||||||
|
## 使用方式
|
||||||
|
|
||||||
|
### 开发环境
|
||||||
|
|
||||||
|
```bash
|
||||||
|
# 安装依赖
|
||||||
|
pip install -r requirements.txt
|
||||||
|
|
||||||
|
# 运行测试
|
||||||
|
pytest src/neobot/tests/
|
||||||
|
|
||||||
|
# 构建包
|
||||||
|
python -m build
|
||||||
|
```
|
||||||
|
|
||||||
|
### 导入包
|
||||||
|
|
||||||
|
```python
|
||||||
|
# 导入核心模块
|
||||||
|
from neobot.core.managers import plugin_manager
|
||||||
|
|
||||||
|
# 导入数据模型
|
||||||
|
from neobot.models import MessageSegment, OneBotEvent
|
||||||
|
|
||||||
|
# 导入适配器
|
||||||
|
from neobot.adapters import DiscordAdapter
|
||||||
|
|
||||||
|
# 导入插件
|
||||||
|
from neobot.plugins import admin, echo
|
||||||
|
```
|
||||||
|
|
||||||
|
## 注意事项
|
||||||
|
|
||||||
|
1. 所有代码文件使用绝对导入
|
||||||
|
2. 插件开发请参考 `src/neobot/docs/plugin-development/`
|
||||||
|
3. 核心开发请参考 `src/neobot/docs/core-concepts/`
|
||||||
|
4. 配置文件 `config.toml` 保持在根目录
|
||||||
|
|
||||||
|
## 后续建议
|
||||||
|
|
||||||
|
1. 运行 `pip install -e .` 进行开发安装
|
||||||
|
2. 运行 `mypy` 进行类型检查
|
||||||
|
3. 运行 `pytest` 进行测试
|
||||||
|
4. 定期运行 `flake8` 进行代码风格检查
|
||||||
108
README.md
108
README.md
@@ -14,7 +14,7 @@
|
|||||||
|
|
||||||
### 核心特性
|
### 核心特性
|
||||||
|
|
||||||
* **模块化插件架构**:所有功能都在 `plugins/` 目录,开发者可轻松扩展
|
* **模块化插件架构**:所有功能都在 `src/neobot/plugins/` 目录,开发者可轻松扩展
|
||||||
* **性能优化**:
|
* **性能优化**:
|
||||||
* **Python 3.14 JIT**:运行时热点代码编译成机器码
|
* **Python 3.14 JIT**:运行时热点代码编译成机器码
|
||||||
* **Mypyc AOT编译**:核心模块编译为C扩展
|
* **Mypyc AOT编译**:核心模块编译为C扩展
|
||||||
@@ -40,53 +40,79 @@
|
|||||||
|
|
||||||
```
|
```
|
||||||
.
|
.
|
||||||
├── plugins/ # 插件目录,业务逻辑都在这
|
├── src/
|
||||||
│ ├── admin.py # 权限管理(Admin/User两级权限)
|
│ └── neobot/ # 核心包目录
|
||||||
│ ├── auto_approve.py # 自动同意好友请求和群邀请
|
│ ├── core/ # 框架核心,非请勿动
|
||||||
│ ├── bot_status.py # Bot运行状态查询(图片形式)
|
│ │ ├── api/ # OneBot API 封装
|
||||||
│ ├── broadcast.py # 管理员专用广播功能
|
│ │ ├── handlers/ # 事件处理器
|
||||||
│ ├── code_py.py # Python代码沙箱执行
|
│ │ ├── managers/ # 各种管理器 (指令, 浏览器, 图片, 插件, 权限)
|
||||||
│ ├── echo.py # Echo/点赞功能
|
│ │ ├── services/ # 服务层
|
||||||
│ ├── furry.py # Furry图片获取
|
│ │ ├── utils/ # 工具函数
|
||||||
│ ├── github_parser.py # GitHub仓库链接解析
|
│ │ ├── bot.py # Bot 实例
|
||||||
│ ├── jrcd.py # 今日人品/长度查询
|
│ │ ├── config_loader.py # 配置加载
|
||||||
│ ├── thpic.py # 东方Project随机图片
|
│ │ ├── config_models.py # 配置模型
|
||||||
│ ├── web_parser/ # Web链接解析系统(B站、抖音、GitHub等)
|
│ │ ├── permission.py # 权限枚举
|
||||||
│ └── sync_async_test_plugin.py # 异步同步混用测试插件
|
│ │ ├── plugin.py # 插件基类
|
||||||
├── core/ # 框架核心,非请勿动
|
│ │ └── ws.py # WebSocket 通信层 (已编译)
|
||||||
│ ├── api/ # OneBot API 封装
|
│ ├── models/ # 数据模型
|
||||||
│ ├── handlers/ # 事件处理器
|
│ │ ├── events/ # OneBot事件模型
|
||||||
│ ├── managers/ # 各种管理器 (指令, 浏览器, 图片, 插件, 权限)
|
│ │ ├── message.py # 消息段模型
|
||||||
│ ├── utils/ # 工具函数
|
│ │ ├── objects.py # API响应对象
|
||||||
│ ├── ws.py # WebSocket 通信层 (已编译)
|
│ │ └── sender.py # 发送者信息
|
||||||
│ ├── bot.py # Bot 实例
|
│ ├── adapters/ # 平台适配器
|
||||||
│ ├── config_loader.py # 配置加载
|
│ │ └── discord_adapter.py
|
||||||
│ └── permission.py # 权限枚举
|
│ ├── plugins/ # 插件目录,业务逻辑都在这
|
||||||
├── data/ # 数据存储
|
│ │ ├── admin.py # 权限管理(Admin/User两级权限)
|
||||||
│ ├── admin.json # 管理员名单
|
│ │ ├── auto_approve.py # 自动同意好友请求和群邀请
|
||||||
│ └── permissions.json # 权限配置
|
│ │ ├── bot_status.py # Bot运行状态查询(图片形式)
|
||||||
├── models/ # 数据模型
|
│ │ ├── broadcast.py # 管理员专用广播功能
|
||||||
│ ├── events/ # OneBot事件模型
|
│ │ ├── code_py.py # Python代码沙箱执行
|
||||||
│ ├── message.py # 消息段模型
|
│ │ ├── echo.py # Echo/点赞功能
|
||||||
│ ├── sender.py # 发送者信息
|
│ │ ├── furry.py # Furry图片获取
|
||||||
│ └── objects.py # API响应对象
|
│ │ ├── github_parser.py # GitHub仓库链接解析
|
||||||
├── templates/ # Jinja2模板(用于图片生成)
|
│ │ ├── jrcd.py # 今日人品/长度查询
|
||||||
├── docs/ # 开发文档
|
│ │ ├── thpic.py # 东方Project随机图片
|
||||||
├── tests/ # 单元测试
|
│ │ ├── web_parser/ # Web链接解析系统(B站、抖音、GitHub等)
|
||||||
├── setup_mypyc.py # Mypyc编译脚本
|
│ │ └── discord-cross/ # Discord跨平台支持
|
||||||
├── config.toml # 配置文件
|
│ ├── tests/ # 单元测试
|
||||||
└── main.py # 启动入口
|
│ ├── templates/ # Jinja2模板(用于图片生成)
|
||||||
|
│ ├── docs/ # 开发文档
|
||||||
|
│ ├── web_static/ # 静态网页文件
|
||||||
|
│ └── data/ # 数据存储
|
||||||
|
│ └── vectordb/ # 向量数据库
|
||||||
|
├── main.py # 启动入口
|
||||||
|
├── config.toml # 配置文件(根目录)
|
||||||
|
├── pyproject.toml # 项目配置和依赖
|
||||||
|
├── requirements.txt # 运行时依赖
|
||||||
|
├── requirements-dev.txt # 开发依赖
|
||||||
|
└── README.md # 项目说明
|
||||||
```
|
```
|
||||||
|
|
||||||
|
### 目录说明
|
||||||
|
|
||||||
|
- **src/neobot/**: 核心 Python 包目录,遵循 PEP 621 标准
|
||||||
|
- **core/**: 框架核心代码,包含事件处理、API封装、管理器等
|
||||||
|
- **models/**: 数据模型定义,包含事件、消息、发送者等
|
||||||
|
- **adapters/**: 平台适配器,用于连接不同平台(如 Discord)
|
||||||
|
- **plugins/**: 插件目录,所有业务逻辑都在这里
|
||||||
|
- **tests/**: 单元测试和集成测试
|
||||||
|
- **templates/**: Jinja2 模板文件,用于图片生成
|
||||||
|
- **docs/**: 项目文档
|
||||||
|
- **web_static/**: 静态网页文件
|
||||||
|
- **data/**: 数据存储目录(向量数据库等)
|
||||||
|
|
||||||
## 快速开始
|
## 快速开始
|
||||||
|
|
||||||
1
|
|
||||||
|
|
||||||
|
|
||||||
1. **装环境**: Python 3.14,Redis, OneBot 客户端 (推荐 NapCat)。
|
1. **装环境**: Python 3.14,Redis, OneBot 客户端 (推荐 NapCat)。
|
||||||
2. **装依赖**: `pip install -r requirements.txt`
|
2. **装依赖**: `pip install -r requirements.txt`
|
||||||
3. **装浏览器**: `playwright install chromium`
|
3. **装浏览器**: `playwright install chromium`
|
||||||
4. **编译核心 (可选)**: `python setup_mypyc.py build_ext --inplace`
|
4. **编译核心 (可选)**: `python setup_mypyc.py build_ext --inplace`
|
||||||
5. **启动**: `python -X jit main.py`
|
5. **启动**: `python -X jit main.py`
|
||||||
|
|
||||||
详细文档去 `docs/` 目录看
|
详细文档去 `src/neobot/docs/` 目录看
|
||||||
|
|
||||||
|
## 开发规范
|
||||||
|
|
||||||
|
- 所有代码放在 `src/neobot/` 目录下
|
||||||
|
- 插件开发参考 `src/neobot/docs/plugin-development/`
|
||||||
|
- 核心开发参考 `src/neobot/docs/core-concepts/`
|
||||||
|
|||||||
@@ -1,196 +0,0 @@
|
|||||||
"""
|
|
||||||
配置加载模块
|
|
||||||
|
|
||||||
负责读取和解析 config.toml 配置文件,提供全局配置对象。
|
|
||||||
"""
|
|
||||||
from pathlib import Path
|
|
||||||
|
|
||||||
import tomllib
|
|
||||||
from pydantic import ValidationError
|
|
||||||
from .config_models import ConfigModel, NapCatWSModel, BotModel, RedisModel, DockerModel, ImageManagerModel, MySQLModel, ReverseWSModel, ThreadingModel, BilibiliModel, LocalFileServerModel, DiscordModel, CrossPlatformModel, LoggingModel
|
|
||||||
from .utils.logger import ModuleLogger
|
|
||||||
from .utils.exceptions import ConfigError, ConfigNotFoundError, ConfigValidationError
|
|
||||||
|
|
||||||
|
|
||||||
class Config:
|
|
||||||
"""
|
|
||||||
配置加载类,负责读取和解析 config.toml 文件
|
|
||||||
"""
|
|
||||||
|
|
||||||
def __init__(self, file_path: str = "config.toml"):
|
|
||||||
"""
|
|
||||||
初始化配置加载器
|
|
||||||
|
|
||||||
:param file_path: 配置文件路径,默认为 "config.toml"
|
|
||||||
"""
|
|
||||||
self.path = Path(file_path)
|
|
||||||
self._model: ConfigModel
|
|
||||||
# 创建模块专用日志记录器
|
|
||||||
self.logger = ModuleLogger("ConfigLoader")
|
|
||||||
self.load()
|
|
||||||
|
|
||||||
def load(self):
|
|
||||||
"""
|
|
||||||
加载并验证配置文件
|
|
||||||
|
|
||||||
:raises ConfigNotFoundError: 如果配置文件不存在
|
|
||||||
:raises ConfigValidationError: 如果配置格式不正确
|
|
||||||
:raises ConfigError: 如果加载配置时发生其他错误
|
|
||||||
"""
|
|
||||||
if not self.path.exists():
|
|
||||||
self.logger.warning(f"配置文件 {self.path} 未找到,正在生成示例配置...")
|
|
||||||
self._generate_example_config()
|
|
||||||
self.logger.success(f"示例配置已生成: {self.path}")
|
|
||||||
self.logger.info("请编辑配置文件后重新启动程序")
|
|
||||||
|
|
||||||
try:
|
|
||||||
self.logger.info(f"正在从 {self.path} 加载配置...")
|
|
||||||
with open(self.path, "rb") as f:
|
|
||||||
raw_config = tomllib.load(f)
|
|
||||||
|
|
||||||
self._model = ConfigModel(**raw_config)
|
|
||||||
self.logger.success("配置加载并验证成功!")
|
|
||||||
|
|
||||||
except ValidationError as e:
|
|
||||||
error_details = []
|
|
||||||
for error in e.errors():
|
|
||||||
field = " -> ".join(map(str, error["loc"]))
|
|
||||||
error_msg = f"字段 '{field}': {error['msg']}"
|
|
||||||
error_details.append(error_msg)
|
|
||||||
|
|
||||||
validation_error = ConfigValidationError(
|
|
||||||
message="配置验证失败"
|
|
||||||
)
|
|
||||||
validation_error.original_error = e
|
|
||||||
|
|
||||||
self.logger.error("配置验证失败,请检查 `config.toml` 文件中的以下错误:")
|
|
||||||
for detail in error_details:
|
|
||||||
self.logger.error(f" - {detail}")
|
|
||||||
|
|
||||||
self.logger.log_custom_exception(validation_error)
|
|
||||||
raise validation_error
|
|
||||||
except tomllib.TOMLDecodeError as e:
|
|
||||||
error = ConfigError(
|
|
||||||
message=f"TOML解析错误: {str(e)}"
|
|
||||||
)
|
|
||||||
error.original_error = e
|
|
||||||
self.logger.error(f"加载配置文件时发生TOML解析错误: {error.message}")
|
|
||||||
self.logger.log_custom_exception(error)
|
|
||||||
raise error
|
|
||||||
except Exception as e:
|
|
||||||
error = ConfigError(
|
|
||||||
message=f"加载配置文件时发生未知错误: {str(e)}"
|
|
||||||
)
|
|
||||||
error.original_error = e
|
|
||||||
self.logger.exception(f"加载配置文件时发生未知错误: {error.message}")
|
|
||||||
self.logger.log_custom_exception(error)
|
|
||||||
raise error
|
|
||||||
|
|
||||||
def _generate_example_config(self):
|
|
||||||
"""
|
|
||||||
生成示例配置文件
|
|
||||||
"""
|
|
||||||
example_path = Path("config.example.toml")
|
|
||||||
|
|
||||||
if not example_path.exists():
|
|
||||||
self.logger.error(f"示例配置文件 {example_path} 不存在,无法生成配置")
|
|
||||||
raise ConfigNotFoundError(message=f"示例配置文件 {example_path} 不存在")
|
|
||||||
|
|
||||||
content = example_path.read_text()
|
|
||||||
self.path.write_text(content)
|
|
||||||
|
|
||||||
# 通过属性访问配置
|
|
||||||
@property
|
|
||||||
def napcat_ws(self) -> NapCatWSModel:
|
|
||||||
"""
|
|
||||||
获取 NapCat WebSocket 配置
|
|
||||||
"""
|
|
||||||
return self._model.napcat_ws
|
|
||||||
|
|
||||||
@property
|
|
||||||
def bot(self) -> BotModel:
|
|
||||||
"""
|
|
||||||
获取 Bot 基础配置
|
|
||||||
"""
|
|
||||||
return self._model.bot
|
|
||||||
|
|
||||||
@property
|
|
||||||
def redis(self) -> RedisModel:
|
|
||||||
"""
|
|
||||||
获取 Redis 配置
|
|
||||||
"""
|
|
||||||
return self._model.redis
|
|
||||||
|
|
||||||
@property
|
|
||||||
def mysql(self) -> MySQLModel:
|
|
||||||
"""
|
|
||||||
获取 MySQL 配置
|
|
||||||
"""
|
|
||||||
return self._model.mysql
|
|
||||||
|
|
||||||
@property
|
|
||||||
def docker(self) -> DockerModel:
|
|
||||||
"""
|
|
||||||
获取 Docker 配置
|
|
||||||
"""
|
|
||||||
return self._model.docker
|
|
||||||
|
|
||||||
@property
|
|
||||||
def image_manager(self) -> ImageManagerModel:
|
|
||||||
"""
|
|
||||||
获取图片生成管理器配置
|
|
||||||
"""
|
|
||||||
return self._model.image_manager
|
|
||||||
|
|
||||||
@property
|
|
||||||
def reverse_ws(self) -> ReverseWSModel:
|
|
||||||
"""
|
|
||||||
获取反向 WebSocket 配置
|
|
||||||
"""
|
|
||||||
return self._model.reverse_ws
|
|
||||||
|
|
||||||
@property
|
|
||||||
def threading(self) -> ThreadingModel:
|
|
||||||
"""
|
|
||||||
获取线程管理配置
|
|
||||||
"""
|
|
||||||
return self._model.threading
|
|
||||||
|
|
||||||
@property
|
|
||||||
def bilibili(self) -> BilibiliModel:
|
|
||||||
"""
|
|
||||||
获取 Bilibili 配置
|
|
||||||
"""
|
|
||||||
return self._model.bilibili
|
|
||||||
|
|
||||||
@property
|
|
||||||
def local_file_server(self) -> LocalFileServerModel:
|
|
||||||
"""
|
|
||||||
获取本地文件服务器配置
|
|
||||||
"""
|
|
||||||
return self._model.local_file_server
|
|
||||||
|
|
||||||
@property
|
|
||||||
def discord(self) -> DiscordModel:
|
|
||||||
"""
|
|
||||||
获取 Discord 配置
|
|
||||||
"""
|
|
||||||
return self._model.discord
|
|
||||||
|
|
||||||
@property
|
|
||||||
def cross_platform(self) -> CrossPlatformModel:
|
|
||||||
"""
|
|
||||||
获取跨平台配置
|
|
||||||
"""
|
|
||||||
return self._model.cross_platform
|
|
||||||
|
|
||||||
@property
|
|
||||||
def logging(self) -> LoggingModel:
|
|
||||||
"""
|
|
||||||
获取日志配置
|
|
||||||
"""
|
|
||||||
return self._model.logging
|
|
||||||
|
|
||||||
|
|
||||||
# 实例化全局配置对象
|
|
||||||
global_config = Config()
|
|
||||||
@@ -1,60 +0,0 @@
|
|||||||
"""
|
|
||||||
管理器包
|
|
||||||
|
|
||||||
这个包集中了机器人核心的单例管理器。
|
|
||||||
通过从这里导入,可以确保在整个应用中访问到的都是同一个实例。
|
|
||||||
"""
|
|
||||||
from .command_manager import matcher as command_manager
|
|
||||||
from .permission_manager import PermissionManager
|
|
||||||
from .plugin_manager import PluginManager
|
|
||||||
from .redis_manager import RedisManager
|
|
||||||
from .mysql_manager import MySQLManager
|
|
||||||
from .browser_manager import BrowserManager
|
|
||||||
from .image_manager import ImageManager
|
|
||||||
from .reverse_ws_manager import ReverseWSManager
|
|
||||||
from .thread_manager import thread_manager
|
|
||||||
from .vectordb_manager import vectordb_manager
|
|
||||||
|
|
||||||
# --- 实例化所有单例管理器 ---
|
|
||||||
|
|
||||||
# 权限管理器(包含了管理员管理功能)
|
|
||||||
permission_manager = PermissionManager()
|
|
||||||
|
|
||||||
# 命令与事件管理器 (别名 matcher)
|
|
||||||
matcher = command_manager
|
|
||||||
|
|
||||||
# 插件管理器
|
|
||||||
plugin_manager = PluginManager(command_manager)
|
|
||||||
# plugin_manager.load_all_plugins()
|
|
||||||
|
|
||||||
# Redis 管理器
|
|
||||||
redis_manager = RedisManager()
|
|
||||||
|
|
||||||
# MySQL 管理器
|
|
||||||
mysql_manager = MySQLManager()
|
|
||||||
|
|
||||||
# 浏览器管理器
|
|
||||||
browser_manager = BrowserManager()
|
|
||||||
|
|
||||||
# 图片管理器
|
|
||||||
image_manager = ImageManager()
|
|
||||||
|
|
||||||
# 反向 WebSocket 管理器
|
|
||||||
reverse_ws_manager = ReverseWSManager()
|
|
||||||
|
|
||||||
# 线程管理器
|
|
||||||
thread_manager.start()
|
|
||||||
|
|
||||||
__all__ = [
|
|
||||||
"permission_manager",
|
|
||||||
"command_manager",
|
|
||||||
"matcher",
|
|
||||||
"plugin_manager",
|
|
||||||
"redis_manager",
|
|
||||||
"mysql_manager",
|
|
||||||
"browser_manager",
|
|
||||||
"image_manager",
|
|
||||||
"reverse_ws_manager",
|
|
||||||
"thread_manager",
|
|
||||||
"vectordb_manager",
|
|
||||||
]
|
|
||||||
@@ -1,37 +0,0 @@
|
|||||||
#!/usr/bin/env python3
|
|
||||||
"""
|
|
||||||
工具函数包
|
|
||||||
"""
|
|
||||||
|
|
||||||
# 导出核心工具
|
|
||||||
from .logger import logger
|
|
||||||
from .exceptions import *
|
|
||||||
from .singleton import singleton
|
|
||||||
from .executor import run_in_thread_pool, initialize_executor
|
|
||||||
from .performance import (
|
|
||||||
timeit,
|
|
||||||
profile,
|
|
||||||
aprofile,
|
|
||||||
memory_profile,
|
|
||||||
memory_profile_decorator,
|
|
||||||
performance_monitor,
|
|
||||||
PerformanceStats,
|
|
||||||
performance_stats,
|
|
||||||
global_stats
|
|
||||||
)
|
|
||||||
|
|
||||||
__all__ = [
|
|
||||||
'logger',
|
|
||||||
'timeit',
|
|
||||||
'profile',
|
|
||||||
'aprofile',
|
|
||||||
'memory_profile',
|
|
||||||
'memory_profile_decorator',
|
|
||||||
'performance_monitor',
|
|
||||||
'PerformanceStats',
|
|
||||||
'performance_stats',
|
|
||||||
'global_stats',
|
|
||||||
'run_in_thread_pool',
|
|
||||||
'initialize_executor',
|
|
||||||
'singleton'
|
|
||||||
]
|
|
||||||
Binary file not shown.
720
docs/api-usage-examples.md
Normal file
720
docs/api-usage-examples.md
Normal file
@@ -0,0 +1,720 @@
|
|||||||
|
# API 使用示例
|
||||||
|
|
||||||
|
本文档提供了 NeoBot 框架核心 API 的使用示例,帮助开发者快速上手。
|
||||||
|
|
||||||
|
## 目录
|
||||||
|
|
||||||
|
1. [插件开发基础](#插件开发基础)
|
||||||
|
2. [消息处理](#消息处理)
|
||||||
|
3. [配置管理](#配置管理)
|
||||||
|
4. [日志记录](#日志记录)
|
||||||
|
5. [输入验证](#输入验证)
|
||||||
|
6. [环境变量管理](#环境变量管理)
|
||||||
|
7. [数据库操作](#数据库操作)
|
||||||
|
8. [网络请求](#网络请求)
|
||||||
|
|
||||||
|
## 插件开发基础
|
||||||
|
|
||||||
|
### 基本插件结构
|
||||||
|
|
||||||
|
```python
|
||||||
|
# -*- coding: utf-8 -*-
|
||||||
|
from typing import List, Optional
|
||||||
|
|
||||||
|
from neobot.core.managers.command_manager import matcher
|
||||||
|
from neobot.core.utils.logger import logger
|
||||||
|
from models import MessageEvent
|
||||||
|
|
||||||
|
# 插件元数据
|
||||||
|
__plugin_meta__ = {
|
||||||
|
"name": "example_plugin",
|
||||||
|
"description": "示例插件",
|
||||||
|
"usage": "/示例命令 [参数] - 示例命令说明",
|
||||||
|
}
|
||||||
|
|
||||||
|
@matcher.command("示例命令")
|
||||||
|
async def handle_example_command(bot, event: MessageEvent, args: List[str]):
|
||||||
|
"""
|
||||||
|
处理示例命令
|
||||||
|
|
||||||
|
Args:
|
||||||
|
bot: 机器人实例
|
||||||
|
event: 消息事件
|
||||||
|
args: 命令参数列表
|
||||||
|
"""
|
||||||
|
try:
|
||||||
|
if not args:
|
||||||
|
await event.reply("请输入参数,例如:/示例命令 参数")
|
||||||
|
return
|
||||||
|
|
||||||
|
# 处理逻辑
|
||||||
|
result = await process_args(args[0])
|
||||||
|
|
||||||
|
# 回复结果
|
||||||
|
await event.reply(f"处理结果: {result}")
|
||||||
|
|
||||||
|
except Exception as e:
|
||||||
|
logger.error(f"处理命令时出错: {e}")
|
||||||
|
await event.reply("处理命令时发生错误,请稍后重试。")
|
||||||
|
```
|
||||||
|
|
||||||
|
### 带权限检查的插件
|
||||||
|
|
||||||
|
```python
|
||||||
|
from neobot.core.managers.permission_manager import permission_manager
|
||||||
|
|
||||||
|
@matcher.command("管理命令", permission="admin")
|
||||||
|
async def handle_admin_command(bot, event: MessageEvent, args: List[str]):
|
||||||
|
"""
|
||||||
|
处理管理命令(需要管理员权限)
|
||||||
|
"""
|
||||||
|
# 检查权限
|
||||||
|
user_id = event.user_id
|
||||||
|
if not permission_manager.check_permission(user_id, "admin"):
|
||||||
|
await event.reply("您没有执行此命令的权限。")
|
||||||
|
return
|
||||||
|
|
||||||
|
# 执行管理操作
|
||||||
|
await event.reply("管理命令执行成功。")
|
||||||
|
```
|
||||||
|
|
||||||
|
## 消息处理
|
||||||
|
|
||||||
|
### 发送消息
|
||||||
|
|
||||||
|
```python
|
||||||
|
from models import MessageSegment
|
||||||
|
|
||||||
|
async def send_messages(event: MessageEvent):
|
||||||
|
"""发送各种类型的消息"""
|
||||||
|
|
||||||
|
# 发送纯文本
|
||||||
|
await event.reply("这是一条文本消息")
|
||||||
|
|
||||||
|
# 发送带格式的文本
|
||||||
|
await event.reply("**粗体** *斜体* `代码`")
|
||||||
|
|
||||||
|
# 发送图片
|
||||||
|
image_segment = MessageSegment.image("https://example.com/image.jpg")
|
||||||
|
await event.reply([image_segment, "这是一张图片"])
|
||||||
|
|
||||||
|
# 发送文件
|
||||||
|
file_segment = MessageSegment.file("/path/to/file.txt")
|
||||||
|
await event.reply(file_segment)
|
||||||
|
|
||||||
|
# 发送语音
|
||||||
|
voice_segment = MessageSegment.voice("/path/to/voice.mp3")
|
||||||
|
await event.reply(voice_segment)
|
||||||
|
```
|
||||||
|
|
||||||
|
### 处理消息事件
|
||||||
|
|
||||||
|
```python
|
||||||
|
from typing import Dict, Any
|
||||||
|
|
||||||
|
@matcher.on_message()
|
||||||
|
async def handle_all_messages(bot, event: MessageEvent):
|
||||||
|
"""
|
||||||
|
处理所有消息
|
||||||
|
"""
|
||||||
|
# 获取消息内容
|
||||||
|
message = event.message
|
||||||
|
user_id = event.user_id
|
||||||
|
group_id = event.group_id
|
||||||
|
|
||||||
|
# 记录消息
|
||||||
|
logger.info(f"收到消息: 用户={user_id}, 群组={group_id}, 内容={message}")
|
||||||
|
|
||||||
|
# 简单的自动回复
|
||||||
|
if "你好" in message:
|
||||||
|
await event.reply("你好!我是机器人。")
|
||||||
|
|
||||||
|
# 处理特定关键词
|
||||||
|
if "帮助" in message:
|
||||||
|
await event.reply("输入 /帮助 查看可用命令。")
|
||||||
|
```
|
||||||
|
|
||||||
|
### 消息模板
|
||||||
|
|
||||||
|
```python
|
||||||
|
from string import Template
|
||||||
|
|
||||||
|
class MessageTemplate:
|
||||||
|
"""消息模板"""
|
||||||
|
|
||||||
|
@staticmethod
|
||||||
|
def welcome_message(user_name: str) -> str:
|
||||||
|
"""欢迎消息模板"""
|
||||||
|
template = Template("欢迎 $user_name 加入!")
|
||||||
|
return template.substitute(user_name=user_name)
|
||||||
|
|
||||||
|
@staticmethod
|
||||||
|
def weather_report(city: str, temperature: float, condition: str) -> str:
|
||||||
|
"""天气报告模板"""
|
||||||
|
return f"""
|
||||||
|
{city} 天气报告:
|
||||||
|
🌡️ 温度: {temperature}°C
|
||||||
|
🌤️ 天气: {condition}
|
||||||
|
""".strip()
|
||||||
|
|
||||||
|
@staticmethod
|
||||||
|
def error_message(error_type: str, suggestion: str = "") -> str:
|
||||||
|
"""错误消息模板"""
|
||||||
|
base = f"发生错误: {error_type}"
|
||||||
|
if suggestion:
|
||||||
|
base += f"\n建议: {suggestion}"
|
||||||
|
return base
|
||||||
|
|
||||||
|
# 使用示例
|
||||||
|
async def send_welcome(event: MessageEvent, user_name: str):
|
||||||
|
message = MessageTemplate.welcome_message(user_name)
|
||||||
|
await event.reply(message)
|
||||||
|
```
|
||||||
|
|
||||||
|
## 配置管理
|
||||||
|
|
||||||
|
### 基本配置使用
|
||||||
|
|
||||||
|
```python
|
||||||
|
from neobot.core.config_loader import Config
|
||||||
|
|
||||||
|
# 加载配置
|
||||||
|
config = Config("config.toml")
|
||||||
|
|
||||||
|
# 获取配置值
|
||||||
|
bot_name = config.get("bot.name", "NeoBot")
|
||||||
|
admin_users = config.get_list("bot.admin_users", [])
|
||||||
|
|
||||||
|
# 获取嵌套配置
|
||||||
|
database_config = config.get_section("database")
|
||||||
|
if database_config:
|
||||||
|
db_host = database_config.get("host", "localhost")
|
||||||
|
db_port = database_config.get_int("port", 3306)
|
||||||
|
|
||||||
|
# 检查配置是否存在
|
||||||
|
if config.has("api.keys.openai"):
|
||||||
|
openai_key = config.get("api.keys.openai")
|
||||||
|
```
|
||||||
|
|
||||||
|
### 配置验证
|
||||||
|
|
||||||
|
```python
|
||||||
|
from typing import Dict, Any
|
||||||
|
from pydantic import BaseModel, Field, validator
|
||||||
|
|
||||||
|
class DatabaseConfig(BaseModel):
|
||||||
|
"""数据库配置模型"""
|
||||||
|
host: str = Field(default="localhost")
|
||||||
|
port: int = Field(default=3306, ge=1, le=65535)
|
||||||
|
user: str
|
||||||
|
password: str
|
||||||
|
database: str
|
||||||
|
|
||||||
|
@validator('password')
|
||||||
|
def password_not_empty(cls, v):
|
||||||
|
if not v or len(v.strip()) == 0:
|
||||||
|
raise ValueError('密码不能为空')
|
||||||
|
return v
|
||||||
|
|
||||||
|
class BotConfig(BaseModel):
|
||||||
|
"""机器人配置模型"""
|
||||||
|
name: str = Field(default="NeoBot")
|
||||||
|
admin_users: list = Field(default_factory=list)
|
||||||
|
database: DatabaseConfig
|
||||||
|
|
||||||
|
# 使用配置模型
|
||||||
|
def load_and_validate_config(config_path: str) -> BotConfig:
|
||||||
|
"""加载并验证配置"""
|
||||||
|
config = Config(config_path)
|
||||||
|
|
||||||
|
# 转换为字典
|
||||||
|
config_dict = config.to_dict()
|
||||||
|
|
||||||
|
# 验证配置
|
||||||
|
try:
|
||||||
|
bot_config = BotConfig(**config_dict)
|
||||||
|
return bot_config
|
||||||
|
except Exception as e:
|
||||||
|
logger.error(f"配置验证失败: {e}")
|
||||||
|
raise
|
||||||
|
```
|
||||||
|
|
||||||
|
## 日志记录
|
||||||
|
|
||||||
|
### 基本日志使用
|
||||||
|
|
||||||
|
```python
|
||||||
|
from neobot.core.utils.logger import logger
|
||||||
|
|
||||||
|
# 不同级别的日志
|
||||||
|
logger.debug("调试信息")
|
||||||
|
logger.info("普通信息")
|
||||||
|
logger.warning("警告信息")
|
||||||
|
logger.error("错误信息")
|
||||||
|
logger.critical("严重错误")
|
||||||
|
|
||||||
|
# 带上下文的日志
|
||||||
|
logger.info("用户操作", extra={
|
||||||
|
"user_id": 123456,
|
||||||
|
"action": "login",
|
||||||
|
"ip": "192.168.1.1"
|
||||||
|
})
|
||||||
|
|
||||||
|
# 异常日志
|
||||||
|
try:
|
||||||
|
# 一些可能失败的操作
|
||||||
|
result = risky_operation()
|
||||||
|
except Exception as e:
|
||||||
|
logger.exception(f"操作失败: {e}")
|
||||||
|
```
|
||||||
|
|
||||||
|
### 自定义日志格式
|
||||||
|
|
||||||
|
```python
|
||||||
|
import logging
|
||||||
|
from neobot.core.utils.logger import setup_logging
|
||||||
|
|
||||||
|
# 自定义日志配置
|
||||||
|
log_config = {
|
||||||
|
"version": 1,
|
||||||
|
"formatters": {
|
||||||
|
"detailed": {
|
||||||
|
"format": "%(asctime)s - %(name)s - %(levelname)s - %(message)s"
|
||||||
|
},
|
||||||
|
"simple": {
|
||||||
|
"format": "%(levelname)s: %(message)s"
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"handlers": {
|
||||||
|
"console": {
|
||||||
|
"class": "logging.StreamHandler",
|
||||||
|
"level": "INFO",
|
||||||
|
"formatter": "simple"
|
||||||
|
},
|
||||||
|
"file": {
|
||||||
|
"class": "logging.handlers.RotatingFileHandler",
|
||||||
|
"filename": "logs/neobot.log",
|
||||||
|
"maxBytes": 10485760, # 10MB
|
||||||
|
"backupCount": 5,
|
||||||
|
"formatter": "detailed"
|
||||||
|
}
|
||||||
|
},
|
||||||
|
"loggers": {
|
||||||
|
"neobot": {
|
||||||
|
"level": "DEBUG",
|
||||||
|
"handlers": ["console", "file"]
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
|
||||||
|
# 设置日志
|
||||||
|
setup_logging(log_config)
|
||||||
|
```
|
||||||
|
|
||||||
|
## 输入验证
|
||||||
|
|
||||||
|
### 基本验证
|
||||||
|
|
||||||
|
```python
|
||||||
|
from neobot.core.utils.input_validator import input_validator
|
||||||
|
|
||||||
|
def validate_user_input(user_input: str) -> tuple[bool, str]:
|
||||||
|
"""
|
||||||
|
验证用户输入
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
(是否有效, 错误消息)
|
||||||
|
"""
|
||||||
|
# 检查空输入
|
||||||
|
if not user_input or not user_input.strip():
|
||||||
|
return False, "输入不能为空"
|
||||||
|
|
||||||
|
# 检查长度
|
||||||
|
if len(user_input) > 1000:
|
||||||
|
return False, "输入过长(最大1000字符)"
|
||||||
|
|
||||||
|
# 安全检查
|
||||||
|
if not input_validator.validate_sql_input(user_input):
|
||||||
|
return False, "输入包含不安全字符"
|
||||||
|
|
||||||
|
if not input_validator.validate_xss_input(user_input):
|
||||||
|
return False, "输入包含不安全内容"
|
||||||
|
|
||||||
|
return True, ""
|
||||||
|
|
||||||
|
# 在插件中使用
|
||||||
|
@matcher.command("安全命令")
|
||||||
|
async def handle_safe_command(bot, event: MessageEvent, args: List[str]):
|
||||||
|
if not args:
|
||||||
|
await event.reply("请输入参数")
|
||||||
|
return
|
||||||
|
|
||||||
|
user_input = args[0]
|
||||||
|
is_valid, error_msg = validate_user_input(user_input)
|
||||||
|
|
||||||
|
if not is_valid:
|
||||||
|
await event.reply(f"输入无效: {error_msg}")
|
||||||
|
return
|
||||||
|
|
||||||
|
# 处理有效输入
|
||||||
|
await event.reply(f"输入有效: {user_input}")
|
||||||
|
```
|
||||||
|
|
||||||
|
### 高级验证
|
||||||
|
|
||||||
|
```python
|
||||||
|
from typing import Dict, Any
|
||||||
|
from datetime import datetime
|
||||||
|
|
||||||
|
class AdvancedValidator:
|
||||||
|
"""高级验证器"""
|
||||||
|
|
||||||
|
@staticmethod
|
||||||
|
def validate_email_domain(email: str, allowed_domains: list) -> bool:
|
||||||
|
"""验证邮箱域名"""
|
||||||
|
if not input_validator.validate_email(email):
|
||||||
|
return False
|
||||||
|
|
||||||
|
domain = email.split('@')[1]
|
||||||
|
return domain in allowed_domains
|
||||||
|
|
||||||
|
@staticmethod
|
||||||
|
def validate_date_range(date_str: str, start_date: str, end_date: str) -> bool:
|
||||||
|
"""验证日期范围"""
|
||||||
|
try:
|
||||||
|
date = datetime.strptime(date_str, "%Y-%m-%d")
|
||||||
|
start = datetime.strptime(start_date, "%Y-%m-%d")
|
||||||
|
end = datetime.strptime(end_date, "%Y-%m-%d")
|
||||||
|
|
||||||
|
return start <= date <= end
|
||||||
|
except ValueError:
|
||||||
|
return False
|
||||||
|
|
||||||
|
@staticmethod
|
||||||
|
def validate_json_schema(data: Dict[str, Any], schema: Dict[str, Any]) -> bool:
|
||||||
|
"""验证JSON数据格式"""
|
||||||
|
try:
|
||||||
|
# 这里可以使用 jsonschema 库
|
||||||
|
# import jsonschema
|
||||||
|
# jsonschema.validate(data, schema)
|
||||||
|
|
||||||
|
# 简化版本:检查必需字段
|
||||||
|
required_fields = schema.get("required", [])
|
||||||
|
for field in required_fields:
|
||||||
|
if field not in data:
|
||||||
|
return False
|
||||||
|
|
||||||
|
# 检查字段类型
|
||||||
|
properties = schema.get("properties", {})
|
||||||
|
for field, field_schema in properties.items():
|
||||||
|
if field in data:
|
||||||
|
field_type = field_schema.get("type")
|
||||||
|
if field_type == "string" and not isinstance(data[field], str):
|
||||||
|
return False
|
||||||
|
elif field_type == "number" and not isinstance(data[field], (int, float)):
|
||||||
|
return False
|
||||||
|
elif field_type == "integer" and not isinstance(data[field], int):
|
||||||
|
return False
|
||||||
|
elif field_type == "boolean" and not isinstance(data[field], bool):
|
||||||
|
return False
|
||||||
|
|
||||||
|
return True
|
||||||
|
except Exception:
|
||||||
|
return False
|
||||||
|
```
|
||||||
|
|
||||||
|
## 环境变量管理
|
||||||
|
|
||||||
|
### 基本使用
|
||||||
|
|
||||||
|
```python
|
||||||
|
from neobot.core.utils.env_loader import env_loader
|
||||||
|
|
||||||
|
# 加载环境变量
|
||||||
|
env_loader.load()
|
||||||
|
|
||||||
|
# 获取环境变量
|
||||||
|
database_url = env_loader.get("DATABASE_URL")
|
||||||
|
api_key = env_loader.get("API_KEY")
|
||||||
|
|
||||||
|
# 获取带默认值的环境变量
|
||||||
|
port = env_loader.get_int("PORT", 8080)
|
||||||
|
debug = env_loader.get_bool("DEBUG", False)
|
||||||
|
|
||||||
|
# 获取掩码的敏感值(用于日志)
|
||||||
|
masked_api_key = env_loader.get_masked("API_KEY")
|
||||||
|
logger.info(f"API Key: {masked_api_key}") # 输出: AP***EY
|
||||||
|
|
||||||
|
# 检查环境变量是否设置
|
||||||
|
if env_loader.is_set("REQUIRED_VAR"):
|
||||||
|
value = env_loader.get("REQUIRED_VAR")
|
||||||
|
else:
|
||||||
|
logger.error("REQUIRED_VAR 环境变量未设置")
|
||||||
|
```
|
||||||
|
|
||||||
|
### 环境变量验证
|
||||||
|
|
||||||
|
```python
|
||||||
|
from typing import List, Optional
|
||||||
|
|
||||||
|
class EnvironmentValidator:
|
||||||
|
"""环境变量验证器"""
|
||||||
|
|
||||||
|
@staticmethod
|
||||||
|
def validate_required(variables: List[str]) -> List[str]:
|
||||||
|
"""验证必需的环境变量"""
|
||||||
|
missing = []
|
||||||
|
|
||||||
|
for var in variables:
|
||||||
|
if not env_loader.is_set(var):
|
||||||
|
missing.append(var)
|
||||||
|
|
||||||
|
return missing
|
||||||
|
|
||||||
|
@staticmethod
|
||||||
|
def validate_database_config() -> bool:
|
||||||
|
"""验证数据库配置"""
|
||||||
|
required = ["DB_HOST", "DB_PORT", "DB_USER", "DB_PASSWORD", "DB_NAME"]
|
||||||
|
missing = EnvironmentValidator.validate_required(required)
|
||||||
|
|
||||||
|
if missing:
|
||||||
|
logger.error(f"缺少数据库配置: {missing}")
|
||||||
|
return False
|
||||||
|
|
||||||
|
# 验证端口范围
|
||||||
|
port = env_loader.get_int("DB_PORT")
|
||||||
|
if port < 1 or port > 65535:
|
||||||
|
logger.error(f"数据库端口无效: {port}")
|
||||||
|
return False
|
||||||
|
|
||||||
|
return True
|
||||||
|
|
||||||
|
@staticmethod
|
||||||
|
def validate_api_keys() -> bool:
|
||||||
|
"""验证API密钥"""
|
||||||
|
# 检查是否有至少一个API密钥
|
||||||
|
api_keys = [
|
||||||
|
"OPENAI_API_KEY",
|
||||||
|
"ANTHROPIC_API_KEY",
|
||||||
|
"GOOGLE_API_KEY"
|
||||||
|
]
|
||||||
|
|
||||||
|
has_key = any(env_loader.is_set(key) for key in api_keys)
|
||||||
|
|
||||||
|
if not has_key:
|
||||||
|
logger.warning("未设置任何API密钥,某些功能可能不可用")
|
||||||
|
|
||||||
|
return True
|
||||||
|
```
|
||||||
|
|
||||||
|
## 数据库操作
|
||||||
|
|
||||||
|
### 异步数据库操作
|
||||||
|
|
||||||
|
```python
|
||||||
|
import aiomysql
|
||||||
|
from typing import List, Dict, Any
|
||||||
|
|
||||||
|
class DatabaseManager:
|
||||||
|
"""数据库管理器"""
|
||||||
|
|
||||||
|
def __init__(self, config: Dict[str, Any]):
|
||||||
|
self.config = config
|
||||||
|
self.pool = None
|
||||||
|
|
||||||
|
async def connect(self):
|
||||||
|
"""连接数据库"""
|
||||||
|
self.pool = await aiomysql.create_pool(
|
||||||
|
host=self.config['host'],
|
||||||
|
port=self.config['port'],
|
||||||
|
user=self.config['user'],
|
||||||
|
password=self.config['password'],
|
||||||
|
db=self.config['database'],
|
||||||
|
minsize=5,
|
||||||
|
maxsize=20
|
||||||
|
)
|
||||||
|
|
||||||
|
async def execute_query(self, query: str, *args) -> List[Dict[str, Any]]:
|
||||||
|
"""执行查询"""
|
||||||
|
async with self.pool.acquire() as conn:
|
||||||
|
async with conn.cursor(aiomysql.DictCursor) as cursor:
|
||||||
|
await cursor.execute(query, args)
|
||||||
|
return await cursor.fetchall()
|
||||||
|
|
||||||
|
async def execute_update(self, query: str, *args) -> int:
|
||||||
|
"""执行更新"""
|
||||||
|
async with self.pool.acquire() as conn:
|
||||||
|
async with conn.cursor() as cursor:
|
||||||
|
await cursor.execute(query, args)
|
||||||
|
await conn.commit()
|
||||||
|
return cursor.rowcount
|
||||||
|
|
||||||
|
async def close(self):
|
||||||
|
"""关闭连接"""
|
||||||
|
if self.pool:
|
||||||
|
self.pool.close()
|
||||||
|
await self.pool.wait_closed()
|
||||||
|
```
|
||||||
|
|
||||||
|
### 数据库模型
|
||||||
|
|
||||||
|
```python
|
||||||
|
from typing import Optional
|
||||||
|
from datetime import datetime
|
||||||
|
|
||||||
|
class UserModel:
|
||||||
|
"""用户模型"""
|
||||||
|
|
||||||
|
def __init__(self, db_manager: DatabaseManager):
|
||||||
|
self.db = db_manager
|
||||||
|
|
||||||
|
async def get_user(self, user_id: int) -> Optional[Dict[str, Any]]:
|
||||||
|
"""获取用户"""
|
||||||
|
query = "SELECT * FROM users WHERE id = %s"
|
||||||
|
results = await self.db.execute_query(query, user_id)
|
||||||
|
|
||||||
|
if results:
|
||||||
|
return results[0]
|
||||||
|
return None
|
||||||
|
|
||||||
|
async def create_user(self, username: str, email: str) -> int:
|
||||||
|
"""创建用户"""
|
||||||
|
query = """
|
||||||
|
INSERT INTO users (username, email, created_at)
|
||||||
|
VALUES (%s, %s, %s)
|
||||||
|
"""
|
||||||
|
now = datetime.now()
|
||||||
|
|
||||||
|
await self.db.execute_update(query, username, email, now)
|
||||||
|
|
||||||
|
# 获取新用户的ID
|
||||||
|
query = "SELECT LAST_INSERT_ID() as id"
|
||||||
|
results = await self.db.execute_query(query)
|
||||||
|
|
||||||
|
return results[0]['id']
|
||||||
|
|
||||||
|
async def update_user(self, user_id: int, **kwargs) -> bool:
|
||||||
|
"""更新用户"""
|
||||||
|
if not kwargs:
|
||||||
|
return False
|
||||||
|
|
||||||
|
set_clause = ", ".join([f"{key} = %s" for key in kwargs.keys()])
|
||||||
|
query = f"UPDATE users SET {set_clause} WHERE id = %s"
|
||||||
|
|
||||||
|
values = list(kwargs.values())
|
||||||
|
values.append(user_id)
|
||||||
|
|
||||||
|
affected = await self.db.execute_update(query, *values)
|
||||||
|
return affected > 0
|
||||||
|
```
|
||||||
|
|
||||||
|
## 网络请求
|
||||||
|
|
||||||
|
### 异步HTTP请求
|
||||||
|
|
||||||
|
```python
|
||||||
|
import aiohttp
|
||||||
|
from typing import Dict, Any, Optional
|
||||||
|
|
||||||
|
class HttpClient:
|
||||||
|
"""HTTP客户端"""
|
||||||
|
|
||||||
|
def __init__(self, base_url: str = "", timeout: int = 30):
|
||||||
|
self.base_url = base_url.rstrip("/")
|
||||||
|
self.timeout = aiohttp.ClientTimeout(total=timeout)
|
||||||
|
|
||||||
|
async def get(self, endpoint: str, **kwargs) -> Optional[Dict[str, Any]]:
|
||||||
|
"""发送GET请求"""
|
||||||
|
url = f"{self.base_url}/{endpoint.lstrip('/')}"
|
||||||
|
|
||||||
|
async with aiohttp.ClientSession(timeout=self.timeout) as session:
|
||||||
|
async with session.get(url, **kwargs) as response:
|
||||||
|
response.raise_for_status()
|
||||||
|
return await response.json()
|
||||||
|
|
||||||
|
async def post(self, endpoint: str, data: Dict[str, Any], **kwargs) -> Optional[Dict[str, Any]]:
|
||||||
|
"""发送POST请求"""
|
||||||
|
url = f"{self.base_url}/{endpoint.lstrip('/')}"
|
||||||
|
|
||||||
|
async with aiohttp.ClientSession(timeout=self.timeout) as session:
|
||||||
|
async with session.post(url, json=data, **kwargs) as response:
|
||||||
|
response.raise_for_status()
|
||||||
|
return await response.json()
|
||||||
|
|
||||||
|
async def download_file(self, url: str, save_path: str) -> bool:
|
||||||
|
"""下载文件"""
|
||||||
|
try:
|
||||||
|
async with aiohttp.ClientSession(timeout=self.timeout) as session:
|
||||||
|
async with session.get(url) as response:
|
||||||
|
response.raise_for_status()
|
||||||
|
|
||||||
|
# 异步写入文件
|
||||||
|
import aiofiles
|
||||||
|
async with aiofiles.open(save_path, 'wb') as f:
|
||||||
|
async for chunk in response.content.iter_chunked(8192):
|
||||||
|
await f.write(chunk)
|
||||||
|
|
||||||
|
return True
|
||||||
|
except Exception as e:
|
||||||
|
logger.error(f"下载文件失败: {e}")
|
||||||
|
return False
|
||||||
|
```
|
||||||
|
|
||||||
|
### API客户端示例
|
||||||
|
|
||||||
|
```python
|
||||||
|
from typing import List, Optional
|
||||||
|
|
||||||
|
class WeatherAPI:
|
||||||
|
"""天气API客户端"""
|
||||||
|
|
||||||
|
def __init__(self, api_key: str):
|
||||||
|
self.api_key = api_key
|
||||||
|
self.base_url = "https://api.weather.com"
|
||||||
|
self.client = HttpClient(self.base_url)
|
||||||
|
|
||||||
|
async def get_current_weather(self, city: str) -> Optional[Dict[str, Any]]:
|
||||||
|
"""获取当前天气"""
|
||||||
|
endpoint = "/v1/current"
|
||||||
|
params = {
|
||||||
|
"city": city,
|
||||||
|
"api_key": self.api_key,
|
||||||
|
"units": "metric"
|
||||||
|
}
|
||||||
|
|
||||||
|
try:
|
||||||
|
return await self.client.get(endpoint, params=params)
|
||||||
|
except aiohttp.ClientError as e:
|
||||||
|
logger.error(f"获取天气失败: {e}")
|
||||||
|
return None
|
||||||
|
|
||||||
|
async def get_forecast(self, city: str, days: int = 3) -> Optional[List[Dict[str, Any]]]:
|
||||||
|
"""获取天气预报"""
|
||||||
|
endpoint = "/v1/forecast"
|
||||||
|
params = {
|
||||||
|
"city": city,
|
||||||
|
"days": days,
|
||||||
|
"api_key": self.api_key
|
||||||
|
}
|
||||||
|
|
||||||
|
try:
|
||||||
|
data = await self.client.get(endpoint, params=params)
|
||||||
|
return data.get("forecast", [])
|
||||||
|
except aiohttp.ClientError as e:
|
||||||
|
logger.error(f"获取天气预报失败: {e}")
|
||||||
|
return None
|
||||||
|
```
|
||||||
|
|
||||||
|
## 总结
|
||||||
|
|
||||||
|
这些示例展示了 NeoBot 框架核心功能的使用方法。通过组合这些基础组件,可以构建出功能强大、安全可靠的机器人插件。
|
||||||
|
|
||||||
|
关键要点:
|
||||||
|
|
||||||
|
1. **遵循异步编程模式**:所有可能阻塞的操作都应使用异步版本
|
||||||
|
2. **验证所有用户输入**:防止安全漏洞
|
||||||
|
3. **使用配置管理**:将敏感信息存储在环境变量中
|
||||||
|
4. **记录详细的日志**:便于调试和监控
|
||||||
|
5. **处理所有异常**:提供友好的错误消息
|
||||||
|
|
||||||
|
更多高级功能和最佳实践,请参考框架的其他文档。
|
||||||
613
docs/performance-optimization.md
Normal file
613
docs/performance-optimization.md
Normal file
@@ -0,0 +1,613 @@
|
|||||||
|
# 性能优化指南
|
||||||
|
|
||||||
|
本文档介绍了 NeoBot 框架的性能优化最佳实践,帮助开发者编写高性能的插件和应用。
|
||||||
|
|
||||||
|
## 目录
|
||||||
|
|
||||||
|
1. [异步编程](#异步编程)
|
||||||
|
2. [内存管理](#内存管理)
|
||||||
|
3. [数据库优化](#数据库优化)
|
||||||
|
4. [缓存策略](#缓存策略)
|
||||||
|
5. [代码优化](#代码优化)
|
||||||
|
6. [监控和诊断](#监控和诊断)
|
||||||
|
|
||||||
|
## 异步编程
|
||||||
|
|
||||||
|
### 避免阻塞事件循环
|
||||||
|
|
||||||
|
NeoBot 基于异步架构,阻塞操作会导致整个应用卡顿。
|
||||||
|
|
||||||
|
#### 错误示例
|
||||||
|
|
||||||
|
```python
|
||||||
|
# ❌ 错误:同步阻塞操作
|
||||||
|
import time
|
||||||
|
import requests
|
||||||
|
|
||||||
|
def slow_operation():
|
||||||
|
time.sleep(5) # 阻塞5秒,整个机器人会卡住
|
||||||
|
response = requests.get("https://api.example.com") # 同步HTTP请求
|
||||||
|
return response.text
|
||||||
|
```
|
||||||
|
|
||||||
|
#### 正确示例
|
||||||
|
|
||||||
|
```python
|
||||||
|
# ✅ 正确:异步非阻塞操作
|
||||||
|
import asyncio
|
||||||
|
import aiohttp
|
||||||
|
|
||||||
|
async def fast_operation():
|
||||||
|
await asyncio.sleep(5) # 异步等待,不会阻塞
|
||||||
|
|
||||||
|
timeout = aiohttp.ClientTimeout(total=10)
|
||||||
|
async with aiohttp.ClientSession(timeout=timeout) as session:
|
||||||
|
async with session.get("https://api.example.com") as response:
|
||||||
|
return await response.text()
|
||||||
|
```
|
||||||
|
|
||||||
|
### 使用线程池执行同步代码
|
||||||
|
|
||||||
|
如果必须使用同步库,应使用线程池:
|
||||||
|
|
||||||
|
```python
|
||||||
|
import asyncio
|
||||||
|
from concurrent.futures import ThreadPoolExecutor
|
||||||
|
import some_sync_library
|
||||||
|
|
||||||
|
# 创建线程池(全局或模块级)
|
||||||
|
executor = ThreadPoolExecutor(max_workers=4)
|
||||||
|
|
||||||
|
async def async_wrapper():
|
||||||
|
loop = asyncio.get_event_loop()
|
||||||
|
|
||||||
|
# 在线程池中执行同步代码
|
||||||
|
result = await loop.run_in_executor(
|
||||||
|
executor,
|
||||||
|
some_sync_library.slow_function,
|
||||||
|
arg1, arg2
|
||||||
|
)
|
||||||
|
|
||||||
|
return result
|
||||||
|
```
|
||||||
|
|
||||||
|
### 批量异步操作
|
||||||
|
|
||||||
|
使用 `asyncio.gather` 并行执行多个异步操作:
|
||||||
|
|
||||||
|
```python
|
||||||
|
import asyncio
|
||||||
|
|
||||||
|
async def fetch_multiple_urls(urls):
|
||||||
|
"""并行获取多个URL"""
|
||||||
|
tasks = [fetch_single_url(url) for url in urls]
|
||||||
|
results = await asyncio.gather(*tasks, return_exceptions=True)
|
||||||
|
|
||||||
|
# 处理结果
|
||||||
|
successful = []
|
||||||
|
failed = []
|
||||||
|
|
||||||
|
for url, result in zip(urls, results):
|
||||||
|
if isinstance(result, Exception):
|
||||||
|
logger.error(f"获取 {url} 失败: {result}")
|
||||||
|
failed.append(url)
|
||||||
|
else:
|
||||||
|
successful.append(result)
|
||||||
|
|
||||||
|
return successful, failed
|
||||||
|
|
||||||
|
async def fetch_single_url(url):
|
||||||
|
"""获取单个URL"""
|
||||||
|
async with aiohttp.ClientSession() as session:
|
||||||
|
async with session.get(url) as response:
|
||||||
|
return await response.text()
|
||||||
|
```
|
||||||
|
|
||||||
|
## 内存管理
|
||||||
|
|
||||||
|
### 及时释放资源
|
||||||
|
|
||||||
|
使用上下文管理器确保资源及时释放:
|
||||||
|
|
||||||
|
```python
|
||||||
|
# ✅ 正确:使用上下文管理器
|
||||||
|
async def process_file(file_path):
|
||||||
|
async with aiofiles.open(file_path, 'r') as f:
|
||||||
|
content = await f.read()
|
||||||
|
# 文件自动关闭
|
||||||
|
|
||||||
|
# 处理内容
|
||||||
|
processed = process_content(content)
|
||||||
|
|
||||||
|
# 及时释放大对象
|
||||||
|
del content # 如果content很大
|
||||||
|
|
||||||
|
return processed
|
||||||
|
```
|
||||||
|
|
||||||
|
### 使用生成器处理大数据
|
||||||
|
|
||||||
|
```python
|
||||||
|
# ✅ 正确:使用生成器逐行处理大文件
|
||||||
|
async def process_large_file(file_path):
|
||||||
|
async with aiofiles.open(file_path, 'r') as f:
|
||||||
|
async for line in f: # 逐行读取,不加载整个文件
|
||||||
|
processed_line = process_line(line)
|
||||||
|
yield processed_line
|
||||||
|
```
|
||||||
|
|
||||||
|
### 对象池模式
|
||||||
|
|
||||||
|
对于频繁创建销毁的对象,使用对象池:
|
||||||
|
|
||||||
|
```python
|
||||||
|
from typing import Dict, Any
|
||||||
|
import aiohttp
|
||||||
|
|
||||||
|
class HttpClientPool:
|
||||||
|
"""HTTP客户端连接池"""
|
||||||
|
|
||||||
|
def __init__(self, max_clients: int = 10):
|
||||||
|
self.max_clients = max_clients
|
||||||
|
self._clients = []
|
||||||
|
self._semaphore = asyncio.Semaphore(max_clients)
|
||||||
|
|
||||||
|
async def get_client(self) -> aiohttp.ClientSession:
|
||||||
|
"""获取客户端(从池中获取或创建新的)"""
|
||||||
|
async with self._semaphore:
|
||||||
|
if self._clients:
|
||||||
|
return self._clients.pop()
|
||||||
|
else:
|
||||||
|
timeout = aiohttp.ClientTimeout(total=30)
|
||||||
|
return aiohttp.ClientSession(timeout=timeout)
|
||||||
|
|
||||||
|
async def release_client(self, client: aiohttp.ClientSession):
|
||||||
|
"""释放客户端回池中"""
|
||||||
|
if len(self._clients) < self.max_clients:
|
||||||
|
self._clients.append(client)
|
||||||
|
else:
|
||||||
|
await client.close()
|
||||||
|
|
||||||
|
async def cleanup(self):
|
||||||
|
"""清理所有客户端"""
|
||||||
|
for client in self._clients:
|
||||||
|
await client.close()
|
||||||
|
self._clients.clear()
|
||||||
|
```
|
||||||
|
|
||||||
|
## 数据库优化
|
||||||
|
|
||||||
|
### 使用连接池
|
||||||
|
|
||||||
|
```python
|
||||||
|
import aiomysql
|
||||||
|
from typing import Optional
|
||||||
|
|
||||||
|
class DatabasePool:
|
||||||
|
"""数据库连接池"""
|
||||||
|
|
||||||
|
def __init__(self):
|
||||||
|
self.pool: Optional[aiomysql.Pool] = None
|
||||||
|
|
||||||
|
async def initialize(self, **kwargs):
|
||||||
|
"""初始化连接池"""
|
||||||
|
self.pool = await aiomysql.create_pool(
|
||||||
|
minsize=5, # 最小连接数
|
||||||
|
maxsize=20, # 最大连接数
|
||||||
|
pool_recycle=3600, # 连接回收时间(秒)
|
||||||
|
**kwargs
|
||||||
|
)
|
||||||
|
|
||||||
|
async def execute_query(self, query: str, *args):
|
||||||
|
"""执行查询"""
|
||||||
|
async with self.pool.acquire() as conn:
|
||||||
|
async with conn.cursor() as cursor:
|
||||||
|
await cursor.execute(query, args)
|
||||||
|
return await cursor.fetchall()
|
||||||
|
|
||||||
|
async def close(self):
|
||||||
|
"""关闭连接池"""
|
||||||
|
if self.pool:
|
||||||
|
self.pool.close()
|
||||||
|
await self.pool.wait_closed()
|
||||||
|
```
|
||||||
|
|
||||||
|
### 批量操作
|
||||||
|
|
||||||
|
```python
|
||||||
|
# ✅ 正确:批量插入
|
||||||
|
async def batch_insert_users(users_data):
|
||||||
|
"""批量插入用户数据"""
|
||||||
|
query = "INSERT INTO users (name, email) VALUES (%s, %s)"
|
||||||
|
|
||||||
|
# 准备数据
|
||||||
|
values = [(user['name'], user['email']) for user in users_data]
|
||||||
|
|
||||||
|
async with db_pool.acquire() as conn:
|
||||||
|
async with conn.cursor() as cursor:
|
||||||
|
await cursor.executemany(query, values) # 批量执行
|
||||||
|
await conn.commit()
|
||||||
|
```
|
||||||
|
|
||||||
|
### 查询优化
|
||||||
|
|
||||||
|
```python
|
||||||
|
# ❌ 错误:N+1查询问题
|
||||||
|
async def get_users_with_posts():
|
||||||
|
users = await get_all_users()
|
||||||
|
|
||||||
|
for user in users:
|
||||||
|
# 为每个用户单独查询帖子(低效)
|
||||||
|
user['posts'] = await get_posts_by_user(user['id'])
|
||||||
|
|
||||||
|
return users
|
||||||
|
|
||||||
|
# ✅ 正确:使用JOIN或批量查询
|
||||||
|
async def get_users_with_posts_optimized():
|
||||||
|
"""一次性获取所有用户及其帖子"""
|
||||||
|
query = """
|
||||||
|
SELECT u.*, p.id as post_id, p.title, p.content
|
||||||
|
FROM users u
|
||||||
|
LEFT JOIN posts p ON u.id = p.user_id
|
||||||
|
ORDER BY u.id
|
||||||
|
"""
|
||||||
|
|
||||||
|
results = await db_pool.execute_query(query)
|
||||||
|
|
||||||
|
# 在内存中分组(比多次数据库查询快)
|
||||||
|
users_dict = {}
|
||||||
|
for row in results:
|
||||||
|
user_id = row['id']
|
||||||
|
if user_id not in users_dict:
|
||||||
|
users_dict[user_id] = {
|
||||||
|
'id': user_id,
|
||||||
|
'name': row['name'],
|
||||||
|
'email': row['email'],
|
||||||
|
'posts': []
|
||||||
|
}
|
||||||
|
|
||||||
|
if row['post_id']:
|
||||||
|
users_dict[user_id]['posts'].append({
|
||||||
|
'id': row['post_id'],
|
||||||
|
'title': row['title'],
|
||||||
|
'content': row['content']
|
||||||
|
})
|
||||||
|
|
||||||
|
return list(users_dict.values())
|
||||||
|
```
|
||||||
|
|
||||||
|
## 缓存策略
|
||||||
|
|
||||||
|
### 内存缓存
|
||||||
|
|
||||||
|
```python
|
||||||
|
from typing import Any, Optional
|
||||||
|
import asyncio
|
||||||
|
from datetime import datetime, timedelta
|
||||||
|
|
||||||
|
class MemoryCache:
|
||||||
|
"""内存缓存"""
|
||||||
|
|
||||||
|
def __init__(self, default_ttl: int = 300):
|
||||||
|
self.cache = {}
|
||||||
|
self.default_ttl = default_ttl
|
||||||
|
self.locks = {}
|
||||||
|
|
||||||
|
async def get(self, key: str) -> Optional[Any]:
|
||||||
|
"""获取缓存值"""
|
||||||
|
if key not in self.cache:
|
||||||
|
return None
|
||||||
|
|
||||||
|
value, expiry = self.cache[key]
|
||||||
|
|
||||||
|
if datetime.now() > expiry:
|
||||||
|
del self.cache[key]
|
||||||
|
return None
|
||||||
|
|
||||||
|
return value
|
||||||
|
|
||||||
|
async def set(self, key: str, value: Any, ttl: Optional[int] = None):
|
||||||
|
"""设置缓存值"""
|
||||||
|
if ttl is None:
|
||||||
|
ttl = self.default_ttl
|
||||||
|
|
||||||
|
expiry = datetime.now() + timedelta(seconds=ttl)
|
||||||
|
self.cache[key] = (value, expiry)
|
||||||
|
|
||||||
|
async def get_or_set(self, key: str, coroutine, ttl: Optional[int] = None):
|
||||||
|
"""获取或设置缓存值"""
|
||||||
|
# 防止缓存击穿
|
||||||
|
if key not in self.locks:
|
||||||
|
self.locks[key] = asyncio.Lock()
|
||||||
|
|
||||||
|
async with self.locks[key]:
|
||||||
|
cached = await self.get(key)
|
||||||
|
if cached is not None:
|
||||||
|
return cached
|
||||||
|
|
||||||
|
# 执行协程获取值
|
||||||
|
value = await coroutine
|
||||||
|
await self.set(key, value, ttl)
|
||||||
|
return value
|
||||||
|
|
||||||
|
def clear(self):
|
||||||
|
"""清空缓存"""
|
||||||
|
self.cache.clear()
|
||||||
|
```
|
||||||
|
|
||||||
|
### Redis 缓存
|
||||||
|
|
||||||
|
```python
|
||||||
|
import aioredis
|
||||||
|
from typing import Any, Optional
|
||||||
|
import json
|
||||||
|
|
||||||
|
class RedisCache:
|
||||||
|
"""Redis缓存"""
|
||||||
|
|
||||||
|
def __init__(self, redis_url: str = "redis://localhost"):
|
||||||
|
self.redis_url = redis_url
|
||||||
|
self.redis: Optional[aioredis.Redis] = None
|
||||||
|
|
||||||
|
async def initialize(self):
|
||||||
|
"""初始化Redis连接"""
|
||||||
|
self.redis = await aioredis.from_url(
|
||||||
|
self.redis_url,
|
||||||
|
encoding="utf-8",
|
||||||
|
decode_responses=True
|
||||||
|
)
|
||||||
|
|
||||||
|
async def get(self, key: str) -> Optional[Any]:
|
||||||
|
"""获取缓存值"""
|
||||||
|
if not self.redis:
|
||||||
|
return None
|
||||||
|
|
||||||
|
value = await self.redis.get(key)
|
||||||
|
if value:
|
||||||
|
return json.loads(value)
|
||||||
|
return None
|
||||||
|
|
||||||
|
async def set(self, key: str, value: Any, ttl: int = 300):
|
||||||
|
"""设置缓存值"""
|
||||||
|
if not self.redis:
|
||||||
|
return
|
||||||
|
|
||||||
|
serialized = json.dumps(value)
|
||||||
|
await self.redis.setex(key, ttl, serialized)
|
||||||
|
|
||||||
|
async def delete(self, key: str):
|
||||||
|
"""删除缓存值"""
|
||||||
|
if not self.redis:
|
||||||
|
return
|
||||||
|
|
||||||
|
await self.redis.delete(key)
|
||||||
|
```
|
||||||
|
|
||||||
|
## 代码优化
|
||||||
|
|
||||||
|
### 预编译正则表达式
|
||||||
|
|
||||||
|
```python
|
||||||
|
# ❌ 错误:每次调用都编译正则表达式
|
||||||
|
def validate_email(email: str) -> bool:
|
||||||
|
pattern = r'^[a-zA-Z0-9._%+-]+@[a-zA-Z0-9.-]+\.[a-zA-Z]{2,}$'
|
||||||
|
return bool(re.match(pattern, email))
|
||||||
|
|
||||||
|
# ✅ 正确:预编译正则表达式
|
||||||
|
EMAIL_PATTERN = re.compile(r'^[a-zA-Z0-9._%+-]+@[a-zA-Z0-9.-]+\.[a-zA-Z]{2,}$')
|
||||||
|
|
||||||
|
def validate_email_fast(email: str) -> bool:
|
||||||
|
return bool(EMAIL_PATTERN.match(email))
|
||||||
|
```
|
||||||
|
|
||||||
|
### 使用局部变量
|
||||||
|
|
||||||
|
```python
|
||||||
|
# ✅ 正确:使用局部变量加速访问
|
||||||
|
def process_data(data):
|
||||||
|
"""处理数据"""
|
||||||
|
# 将频繁访问的属性存储到局部变量
|
||||||
|
process_func = self.process_func
|
||||||
|
threshold = self.threshold
|
||||||
|
logger = self.logger
|
||||||
|
|
||||||
|
results = []
|
||||||
|
for item in data:
|
||||||
|
# 使用局部变量,避免每次循环都查找属性
|
||||||
|
if process_func(item) > threshold:
|
||||||
|
results.append(item)
|
||||||
|
logger.debug(f"处理项目: {item}")
|
||||||
|
|
||||||
|
return results
|
||||||
|
```
|
||||||
|
|
||||||
|
### 避免不必要的对象创建
|
||||||
|
|
||||||
|
```python
|
||||||
|
# ❌ 错误:在循环中创建不必要的对象
|
||||||
|
def process_items(items):
|
||||||
|
for item in items:
|
||||||
|
processor = ItemProcessor() # 每次循环都创建新对象
|
||||||
|
result = processor.process(item)
|
||||||
|
# ...
|
||||||
|
|
||||||
|
# ✅ 正确:重用对象
|
||||||
|
def process_items_optimized(items):
|
||||||
|
processor = ItemProcessor() # 只创建一次
|
||||||
|
|
||||||
|
for item in items:
|
||||||
|
result = processor.process(item)
|
||||||
|
# ...
|
||||||
|
```
|
||||||
|
|
||||||
|
### 使用生成器表达式
|
||||||
|
|
||||||
|
```python
|
||||||
|
# ✅ 正确:使用生成器表达式处理大数据
|
||||||
|
def find_matching_items(items, condition):
|
||||||
|
"""查找匹配条件的项目"""
|
||||||
|
# 生成器表达式,惰性求值
|
||||||
|
return (item for item in items if condition(item))
|
||||||
|
|
||||||
|
# 使用
|
||||||
|
matching = find_matching_items(large_list, lambda x: x > 100)
|
||||||
|
for item in matching:
|
||||||
|
process(item) # 一次处理一个,不占用大量内存
|
||||||
|
```
|
||||||
|
|
||||||
|
## 监控和诊断
|
||||||
|
|
||||||
|
### 性能监控装饰器
|
||||||
|
|
||||||
|
```python
|
||||||
|
import time
|
||||||
|
import functools
|
||||||
|
from typing import Callable, Any
|
||||||
|
|
||||||
|
def monitor_performance(threshold: float = 1.0):
|
||||||
|
"""性能监控装饰器"""
|
||||||
|
def decorator(func: Callable) -> Callable:
|
||||||
|
@functools.wraps(func)
|
||||||
|
async def async_wrapper(*args, **kwargs):
|
||||||
|
start_time = time.time()
|
||||||
|
|
||||||
|
try:
|
||||||
|
result = await func(*args, **kwargs)
|
||||||
|
return result
|
||||||
|
finally:
|
||||||
|
elapsed = time.time() - start_time
|
||||||
|
|
||||||
|
if elapsed > threshold:
|
||||||
|
logger.warning(
|
||||||
|
f"函数 {func.__name__} 执行时间过长: "
|
||||||
|
f"{elapsed:.3f}秒 (阈值: {threshold}秒)"
|
||||||
|
)
|
||||||
|
else:
|
||||||
|
logger.debug(
|
||||||
|
f"函数 {func.__name__} 执行时间: "
|
||||||
|
f"{elapsed:.3f}秒"
|
||||||
|
)
|
||||||
|
|
||||||
|
@functools.wraps(func)
|
||||||
|
def sync_wrapper(*args, **kwargs):
|
||||||
|
start_time = time.time()
|
||||||
|
|
||||||
|
try:
|
||||||
|
result = func(*args, **kwargs)
|
||||||
|
return result
|
||||||
|
finally:
|
||||||
|
elapsed = time.time() - start_time
|
||||||
|
|
||||||
|
if elapsed > threshold:
|
||||||
|
logger.warning(
|
||||||
|
f"函数 {func.__name__} 执行时间过长: "
|
||||||
|
f"{elapsed:.3f}秒 (阈值: {threshold}秒)"
|
||||||
|
)
|
||||||
|
|
||||||
|
# 根据函数类型返回对应的包装器
|
||||||
|
if asyncio.iscoroutinefunction(func):
|
||||||
|
return async_wrapper
|
||||||
|
else:
|
||||||
|
return sync_wrapper
|
||||||
|
|
||||||
|
return decorator
|
||||||
|
|
||||||
|
# 使用示例
|
||||||
|
@monitor_performance(threshold=0.5)
|
||||||
|
async def slow_operation():
|
||||||
|
await asyncio.sleep(0.6) # 超过阈值,会记录警告
|
||||||
|
```
|
||||||
|
|
||||||
|
### 内存使用监控
|
||||||
|
|
||||||
|
```python
|
||||||
|
import psutil
|
||||||
|
import os
|
||||||
|
|
||||||
|
def get_memory_usage():
|
||||||
|
"""获取内存使用情况"""
|
||||||
|
process = psutil.Process(os.getpid())
|
||||||
|
|
||||||
|
memory_info = process.memory_info()
|
||||||
|
|
||||||
|
return {
|
||||||
|
'rss': memory_info.rss / 1024 / 1024, # 常驻内存 (MB)
|
||||||
|
'vms': memory_info.vms / 1024 / 1024, # 虚拟内存 (MB)
|
||||||
|
'percent': process.memory_percent(), # 内存使用百分比
|
||||||
|
}
|
||||||
|
|
||||||
|
async def monitor_memory(interval: int = 60):
|
||||||
|
"""定期监控内存使用"""
|
||||||
|
while True:
|
||||||
|
memory = get_memory_usage()
|
||||||
|
|
||||||
|
if memory['percent'] > 80:
|
||||||
|
logger.warning(
|
||||||
|
f"内存使用过高: {memory['percent']:.1f}% "
|
||||||
|
f"(RSS: {memory['rss']:.1f}MB)"
|
||||||
|
)
|
||||||
|
|
||||||
|
await asyncio.sleep(interval)
|
||||||
|
```
|
||||||
|
|
||||||
|
### 请求跟踪
|
||||||
|
|
||||||
|
```python
|
||||||
|
from contextlib import contextmanager
|
||||||
|
import uuid
|
||||||
|
|
||||||
|
class RequestTracker:
|
||||||
|
"""请求跟踪器"""
|
||||||
|
|
||||||
|
def __init__(self):
|
||||||
|
self.requests = {}
|
||||||
|
|
||||||
|
@contextmanager
|
||||||
|
def track(self, request_id: str = None):
|
||||||
|
"""跟踪请求"""
|
||||||
|
if request_id is None:
|
||||||
|
request_id = str(uuid.uuid4())
|
||||||
|
|
||||||
|
start_time = time.time()
|
||||||
|
self.requests[request_id] = {
|
||||||
|
'start_time': start_time,
|
||||||
|
'status': 'processing'
|
||||||
|
}
|
||||||
|
|
||||||
|
try:
|
||||||
|
yield request_id
|
||||||
|
status = 'completed'
|
||||||
|
except Exception as e:
|
||||||
|
status = f'failed: {e}'
|
||||||
|
raise
|
||||||
|
finally:
|
||||||
|
elapsed = time.time() - start_time
|
||||||
|
self.requests[request_id]['end_time'] = time.time()
|
||||||
|
self.requests[request_id]['elapsed'] = elapsed
|
||||||
|
self.requests[request_id]['status'] = status
|
||||||
|
|
||||||
|
if elapsed > 5.0: # 记录慢请求
|
||||||
|
logger.warning(
|
||||||
|
f"慢请求 {request_id}: {elapsed:.3f}秒"
|
||||||
|
)
|
||||||
|
|
||||||
|
# 使用示例
|
||||||
|
tracker = RequestTracker()
|
||||||
|
|
||||||
|
async def handle_request():
|
||||||
|
with tracker.track() as request_id:
|
||||||
|
# 处理请求
|
||||||
|
result = await process_request()
|
||||||
|
return result
|
||||||
|
```
|
||||||
|
|
||||||
|
## 总结
|
||||||
|
|
||||||
|
性能优化是一个持续的过程,需要:
|
||||||
|
|
||||||
|
1. **测量优先**:在优化前先测量性能瓶颈
|
||||||
|
2. **渐进优化**:一次优化一个瓶颈,验证效果
|
||||||
|
3. **平衡取舍**:在性能、可读性和维护性之间找到平衡
|
||||||
|
4. **持续监控**:建立监控系统,及时发现性能问题
|
||||||
|
|
||||||
|
遵循这些最佳实践,可以编写出高性能、可扩展的 NeoBot 插件和应用。
|
||||||
@@ -1,162 +0,0 @@
|
|||||||
# 项目结构
|
|
||||||
|
|
||||||
了解项目里每个文件夹是干嘛的,能让你更快找到代码。
|
|
||||||
|
|
||||||
```
|
|
||||||
.
|
|
||||||
├── adapters/ # 适配器层(多平台支持)
|
|
||||||
│ ├── discord_adapter.py # Discord 适配器
|
|
||||||
│ └── router.py # 消息路由
|
|
||||||
│
|
|
||||||
├── core/ # 核心代码,别乱动
|
|
||||||
│ ├── api/ # OneBot API 封装(消息、群组、好友、账号、媒体)
|
|
||||||
│ ├── handlers/ # 底层事件处理器
|
|
||||||
│ ├── managers/ # 全局单例管理器
|
|
||||||
│ │ ├── bot_manager.py # Bot 实例管理
|
|
||||||
│ │ ├── browser_manager.py # Playwright页面池
|
|
||||||
│ │ ├── command_manager.py # 指令分发和事件处理
|
|
||||||
│ │ ├── image_manager.py # 图片/HTML模板渲染
|
|
||||||
│ │ ├── mysql_manager.py # MySQL 数据库管理
|
|
||||||
│ │ ├── permission_manager.py # 权限管理(Admin/User两级)
|
|
||||||
│ │ ├── plugin_manager.py # 插件加载和热重载
|
|
||||||
│ │ ├── redis_manager.py # Redis缓存管理
|
|
||||||
│ │ ├── reverse_ws_manager.py # 反向 WebSocket 管理
|
|
||||||
│ │ └── thread_manager.py # 线程池管理
|
|
||||||
│ ├── services/ # 核心服务
|
|
||||||
│ │ └── local_file_server.py # 本地文件服务
|
|
||||||
│ ├── utils/ # 工具函数和异常类
|
|
||||||
│ │ ├── error_codes.py # 错误码定义
|
|
||||||
│ │ ├── exceptions.py # 自定义异常类
|
|
||||||
│ │ ├── executor.py # 代码沙箱执行引擎(Docker)
|
|
||||||
│ │ ├── logger.py # 日志系统(Loguru)
|
|
||||||
│ │ ├── performance.py # 性能分析工具
|
|
||||||
│ │ └── singleton.py # 单例模式基类
|
|
||||||
│ ├── ws.py # WebSocket 连接和消息处理
|
|
||||||
│ ├── bot.py # Bot 核心实例
|
|
||||||
│ ├── config_loader.py # 配置文件加载
|
|
||||||
│ ├── config_models.py # 配置数据模型
|
|
||||||
│ └── permission.py # 权限枚举类
|
|
||||||
│
|
|
||||||
├── models/ # 数据模型
|
|
||||||
│ ├── events/ # OneBot 11 事件模型
|
|
||||||
│ │ ├── base.py # 基础事件模型
|
|
||||||
│ │ ├── factory.py # 事件工厂
|
|
||||||
│ │ ├── message.py # 消息事件
|
|
||||||
│ │ ├── meta.py # 元事件
|
|
||||||
│ │ ├── notice.py # 通知事件
|
|
||||||
│ │ └── request.py # 请求事件
|
|
||||||
│ ├── message.py # 消息段(CQ码)
|
|
||||||
│ ├── objects.py # API响应对象(群信息、用户信息等)
|
|
||||||
│ └── sender.py # 发送者信息
|
|
||||||
│
|
|
||||||
├── plugins/ # 你的插件都放这(最常修改的地方)
|
|
||||||
│ ├── admin.py # 权限管理(Admin/User两级权限)
|
|
||||||
│ ├── auto_approve.py # 自动同意好友请求和群邀请
|
|
||||||
│ ├── bot_status.py # Bot运行状态查询(图片形式)
|
|
||||||
│ ├── broadcast.py # 管理员专用广播功能(隐藏插件)
|
|
||||||
│ ├── code_py.py # Python代码沙箱执行(多行输入、图片输出)
|
|
||||||
│ ├── discord-cross/ # Discord 跨平台互通插件
|
|
||||||
│ ├── echo.py # Echo和点赞功能
|
|
||||||
│ ├── furry.py # Furry图片获取
|
|
||||||
│ ├── github_parser.py # GitHub仓库链接自动解析
|
|
||||||
│ ├── group_welcome.py # 群欢迎插件
|
|
||||||
│ ├── jrcd.py # 今日人品/长度查询(随机生成)
|
|
||||||
│ ├── mirror_avatar.py # 镜像头像获取
|
|
||||||
│ ├── osu!_plugin/ # osu! 相关功能插件
|
|
||||||
│ ├── resource/ # 插件资源文件
|
|
||||||
│ ├── thpic.py # 东方Project随机图片
|
|
||||||
│ ├── weather.py # 天气查询插件
|
|
||||||
│ └── web_parser/ # 综合Web链接解析系统
|
|
||||||
│ ├── __init__.py # 主入口,自动检测链接
|
|
||||||
│ ├── base.py # 解析器基类
|
|
||||||
│ ├── parsers/ # 各平台解析器
|
|
||||||
│ │ ├── bili.py # B站视频/直播解析
|
|
||||||
│ │ ├── douyin.py # 抖音视频解析
|
|
||||||
│ │ └── github.py # GitHub仓库解析
|
|
||||||
│ └── utils.py # 解析工具函数
|
|
||||||
│
|
|
||||||
├── templates/ # Jinja2 HTML模板
|
|
||||||
│ ├── code_execution.html # 代码执行结果展示
|
|
||||||
│ ├── github_repo.html # GitHub仓库信息展示
|
|
||||||
│ ├── help.html # 帮助页面
|
|
||||||
│ ├── status.html # Bot状态页面
|
|
||||||
│ └── weather.html # 天气展示页面
|
|
||||||
│
|
|
||||||
├── web_static/ # 静态资源
|
|
||||||
│ ├── changelog.html # 更新日志页面
|
|
||||||
│ ├── changelog_generator/# 更新日志生成器
|
|
||||||
│ └── html/ # HTML资源文件
|
|
||||||
│
|
|
||||||
├── tests/ # 单元测试
|
|
||||||
│ ├── test_api.py # API功能测试
|
|
||||||
│ ├── test_basic.py # 基础测试
|
|
||||||
│ ├── test_bot.py # Bot核心测试
|
|
||||||
│ ├── test_command_manager.py # 指令管理器测试
|
|
||||||
│ ├── test_config_loader.py # 配置加载测试
|
|
||||||
│ ├── test_core_managers.py # 核心管理器测试
|
|
||||||
│ ├── test_event_factory.py # 事件工厂测试
|
|
||||||
│ ├── test_event_handler.py # 事件处理器测试
|
|
||||||
│ ├── test_executor.py # 执行器测试
|
|
||||||
│ ├── test_models.py # 模型测试
|
|
||||||
│ ├── test_performance.py # 性能测试
|
|
||||||
│ ├── test_plugin_manager_coverage.py # 插件管理器覆盖率测试
|
|
||||||
│ ├── test_plugin_reload_meta.py # 插件重载测试
|
|
||||||
│ ├── test_redis_manager.py # Redis管理器测试
|
|
||||||
│ ├── test_thread_manager.py # 线程管理器测试
|
|
||||||
│ ├── test_ws.py # WebSocket测试
|
|
||||||
│ └── test_ws_pool.py # WebSocket池测试
|
|
||||||
│
|
|
||||||
├── docs/ # 开发文档
|
|
||||||
│ ├── api/ # API参考文档
|
|
||||||
│ ├── core-concepts/ # 核心概念详解
|
|
||||||
│ ├── plugin-development/ # 插件开发指南
|
|
||||||
│ ├── deployment.md # 生产环境部署
|
|
||||||
│ ├── development-standards.md # 开发规范
|
|
||||||
│ ├── getting-started.md # 快速上手
|
|
||||||
│ ├── index.md # 文档首页
|
|
||||||
│ └── project-structure.md # 项目结构(本文件)
|
|
||||||
│
|
|
||||||
├── scripts/ # 工具脚本
|
|
||||||
│ ├── add_plugins.py # 添加插件脚本
|
|
||||||
│ ├── check_python_env.py # Python环境检查
|
|
||||||
│ ├── compile_machine_code.py # 机器码编译
|
|
||||||
│ └── export_requirements.py # 依赖导出
|
|
||||||
│
|
|
||||||
├── bili_login.py # B站登录脚本
|
|
||||||
├── DEEPSEEK_API_SETUP.md # DeepSeek API 设置文档
|
|
||||||
├── main.py # 启动入口
|
|
||||||
├── pyproject.toml # 项目配置
|
|
||||||
├── requirements.txt # Python依赖列表
|
|
||||||
├── requirements-dev.txt # 开发依赖
|
|
||||||
├── sandbox.Dockerfile # 代码沙箱Docker镜像
|
|
||||||
├── LICENSE # 许可证
|
|
||||||
└── README.md # 项目README
|
|
||||||
```
|
|
||||||
|
|
||||||
## 核心目录说明
|
|
||||||
|
|
||||||
### `core/` - 框架核心
|
|
||||||
不用修改这里,除非你想优化框架本身。所有功能都由这里的管理器提供:
|
|
||||||
- **managers/** - 全局单例(matcher、permission_manager、browser_manager等)
|
|
||||||
- **api/** - OneBot API 封装
|
|
||||||
- **handlers/** - 事件处理逻辑
|
|
||||||
|
|
||||||
### `plugins/` - 插件目录
|
|
||||||
**这是你最常待的地方**。所有业务功能都在这里,包括现有的15+个插件。
|
|
||||||
|
|
||||||
新建插件只需在这里添加 `.py` 文件,Bot 启动时会自动加载。支持热重载:修改后无需重启Bot。
|
|
||||||
|
|
||||||
### `data/` - 持久化数据
|
|
||||||
- `admin.json` - 管理员QQ号列表
|
|
||||||
- `permissions.json` - 用户权限配置
|
|
||||||
|
|
||||||
这些文件也会自动同步到 Redis 以加快访问速度。
|
|
||||||
|
|
||||||
### `templates/` - 图片模板
|
|
||||||
使用 `ImageManager` 生成图片时,HTML模板放在这里。支持 Jinja2 模板语法。
|
|
||||||
|
|
||||||
### `main.py` - 程序入口
|
|
||||||
- 加载配置文件
|
|
||||||
- 初始化各管理器和 WebSocket 连接
|
|
||||||
- 启动插件加载器和文件监控(热重载)
|
|
||||||
- 处理程序生命周期
|
|
||||||
495
docs/security-best-practices.md
Normal file
495
docs/security-best-practices.md
Normal file
@@ -0,0 +1,495 @@
|
|||||||
|
# 安全最佳实践
|
||||||
|
|
||||||
|
本文档介绍了 NeoBot 框架的安全最佳实践,包括配置安全、输入验证、异常处理等方面。
|
||||||
|
|
||||||
|
## 目录
|
||||||
|
|
||||||
|
1. [配置安全](#配置安全)
|
||||||
|
2. [输入验证](#输入验证)
|
||||||
|
3. [异常处理](#异常处理)
|
||||||
|
4. [代码执行安全](#代码执行安全)
|
||||||
|
5. [网络通信安全](#网络通信安全)
|
||||||
|
6. [文件操作安全](#文件操作安全)
|
||||||
|
|
||||||
|
## 配置安全
|
||||||
|
|
||||||
|
### 环境变量配置
|
||||||
|
|
||||||
|
NeoBot 支持使用环境变量管理敏感配置,避免将密码、令牌等敏感信息硬编码在配置文件中。
|
||||||
|
|
||||||
|
#### 使用方法
|
||||||
|
|
||||||
|
1. 复制 `.env.example` 为 `.env`:
|
||||||
|
```bash
|
||||||
|
cp .env.example .env
|
||||||
|
```
|
||||||
|
|
||||||
|
2. 编辑 `.env` 文件,填写实际值:
|
||||||
|
```env
|
||||||
|
# 数据库配置
|
||||||
|
MYSQL_HOST=localhost
|
||||||
|
MYSQL_PORT=3306
|
||||||
|
MYSQL_USER=root
|
||||||
|
MYSQL_PASSWORD=your_secure_password
|
||||||
|
|
||||||
|
# Redis 配置
|
||||||
|
REDIS_HOST=localhost
|
||||||
|
REDIS_PORT=6379
|
||||||
|
REDIS_PASSWORD=your_redis_password
|
||||||
|
|
||||||
|
# Discord 配置
|
||||||
|
DISCORD_TOKEN=your_discord_bot_token
|
||||||
|
|
||||||
|
# Bilibili 配置
|
||||||
|
BILIBILI_SESSDATA=your_bilibili_sessdata
|
||||||
|
BILIBILI_BILI_JCT=your_bilibili_jct
|
||||||
|
```
|
||||||
|
|
||||||
|
3. 确保 `.env` 文件权限安全:
|
||||||
|
```bash
|
||||||
|
# Linux/Mac
|
||||||
|
chmod 600 .env
|
||||||
|
|
||||||
|
# Windows
|
||||||
|
icacls .env /inheritance:r /grant:r "%USERNAME%:R"
|
||||||
|
```
|
||||||
|
|
||||||
|
#### 配置优先级
|
||||||
|
|
||||||
|
环境变量的优先级高于配置文件:
|
||||||
|
1. 环境变量(最高优先级)
|
||||||
|
2. `config.toml` 文件
|
||||||
|
3. 默认值(最低优先级)
|
||||||
|
|
||||||
|
#### 代码中使用
|
||||||
|
|
||||||
|
```python
|
||||||
|
from neobot.core.utils.env_loader import env_loader
|
||||||
|
|
||||||
|
# 加载环境变量
|
||||||
|
env_loader.load()
|
||||||
|
|
||||||
|
# 获取配置值
|
||||||
|
mysql_host = env_loader.get("MYSQL_HOST", "localhost")
|
||||||
|
mysql_port = env_loader.get_int("MYSQL_PORT", 3306)
|
||||||
|
discord_token = env_loader.get("DISCORD_TOKEN")
|
||||||
|
|
||||||
|
# 获取掩码的敏感值(用于日志)
|
||||||
|
masked_password = env_loader.get_masked("MYSQL_PASSWORD")
|
||||||
|
# 输出: pa***rd(仅显示前2个和后2个字符)
|
||||||
|
```
|
||||||
|
|
||||||
|
### 配置文件权限检查
|
||||||
|
|
||||||
|
框架会自动检查配置文件的权限,如果发现不安全权限会输出警告:
|
||||||
|
|
||||||
|
```
|
||||||
|
[WARNING] 配置文件 config.toml 其他用户可读,存在安全风险
|
||||||
|
[INFO] 建议使用命令: chmod 600 config.toml
|
||||||
|
```
|
||||||
|
|
||||||
|
## 输入验证
|
||||||
|
|
||||||
|
### 输入验证器
|
||||||
|
|
||||||
|
NeoBot 提供了全面的输入验证工具,防止常见的安全攻击。
|
||||||
|
|
||||||
|
#### 基本使用
|
||||||
|
|
||||||
|
```python
|
||||||
|
from neobot.core.utils.input_validator import input_validator
|
||||||
|
|
||||||
|
# 验证 SQL 输入
|
||||||
|
if not input_validator.validate_sql_input(user_input):
|
||||||
|
await event.reply("输入包含不安全字符")
|
||||||
|
|
||||||
|
# 验证 XSS 攻击
|
||||||
|
if not input_validator.validate_xss_input(user_input):
|
||||||
|
await event.reply("输入包含不安全内容")
|
||||||
|
|
||||||
|
# 验证命令注入
|
||||||
|
if not input_validator.validate_command_input(user_input):
|
||||||
|
await event.reply("输入包含危险命令")
|
||||||
|
|
||||||
|
# 验证路径遍历
|
||||||
|
if not input_validator.validate_path_input(file_path):
|
||||||
|
await event.reply("文件路径不安全")
|
||||||
|
```
|
||||||
|
|
||||||
|
#### 综合验证
|
||||||
|
|
||||||
|
```python
|
||||||
|
# 执行所有默认验证
|
||||||
|
results = input_validator.validate_all(user_input)
|
||||||
|
# results = {'sql': True, 'xss': True, 'path': True, 'command': True}
|
||||||
|
|
||||||
|
# 自定义验证类型
|
||||||
|
results = input_validator.validate_all(
|
||||||
|
user_input,
|
||||||
|
validation_types=['sql', 'xss', 'email', 'url']
|
||||||
|
)
|
||||||
|
```
|
||||||
|
|
||||||
|
#### 数据清理
|
||||||
|
|
||||||
|
```python
|
||||||
|
# 清理 HTML,防止 XSS
|
||||||
|
safe_html = input_validator.sanitize_html(user_html_input)
|
||||||
|
|
||||||
|
# 清理 SQL,防止注入
|
||||||
|
safe_sql = input_validator.sanitize_sql(user_sql_input)
|
||||||
|
```
|
||||||
|
|
||||||
|
### 插件中的输入验证
|
||||||
|
|
||||||
|
#### 天气插件示例
|
||||||
|
|
||||||
|
```python
|
||||||
|
@matcher.command("天气")
|
||||||
|
async def handle_weather(bot, event: MessageEvent, args: List[str]):
|
||||||
|
city_input = args[0].strip()
|
||||||
|
|
||||||
|
# 输入验证
|
||||||
|
if not input_validator.validate_sql_input(city_input):
|
||||||
|
await event.reply("输入包含不安全字符,请重新输入。")
|
||||||
|
return
|
||||||
|
|
||||||
|
if not input_validator.validate_xss_input(city_input):
|
||||||
|
await event.reply("输入包含不安全内容,请重新输入。")
|
||||||
|
return
|
||||||
|
|
||||||
|
# 继续处理...
|
||||||
|
```
|
||||||
|
|
||||||
|
#### 代码执行插件示例
|
||||||
|
|
||||||
|
```python
|
||||||
|
def validate_code_security(code: str) -> bool:
|
||||||
|
"""验证代码安全性"""
|
||||||
|
# 检查命令注入
|
||||||
|
if not input_validator.validate_command_input(code):
|
||||||
|
return False
|
||||||
|
|
||||||
|
# 检查路径遍历
|
||||||
|
if not input_validator.validate_path_input(code):
|
||||||
|
return False
|
||||||
|
|
||||||
|
# 检查危险的系统调用
|
||||||
|
dangerous_patterns = [
|
||||||
|
r"import\s+(os|sys|subprocess|shutil|platform|ctypes)",
|
||||||
|
r"__import__\s*\(",
|
||||||
|
r"eval\s*\(",
|
||||||
|
r"exec\s*\(",
|
||||||
|
]
|
||||||
|
|
||||||
|
for pattern in dangerous_patterns:
|
||||||
|
if re.search(pattern, code, re.IGNORECASE):
|
||||||
|
return False
|
||||||
|
|
||||||
|
return True
|
||||||
|
```
|
||||||
|
|
||||||
|
## 异常处理
|
||||||
|
|
||||||
|
### 最佳实践
|
||||||
|
|
||||||
|
1. **避免裸异常捕获**:
|
||||||
|
```python
|
||||||
|
# 错误做法
|
||||||
|
try:
|
||||||
|
# 一些操作
|
||||||
|
except Exception:
|
||||||
|
pass
|
||||||
|
|
||||||
|
# 正确做法
|
||||||
|
try:
|
||||||
|
# 一些操作
|
||||||
|
except (ValueError, TypeError) as e:
|
||||||
|
logger.error(f"处理数据时出错: {e}")
|
||||||
|
except ConnectionError as e:
|
||||||
|
logger.error(f"网络连接失败: {e}")
|
||||||
|
```
|
||||||
|
|
||||||
|
2. **提供有意义的错误信息**:
|
||||||
|
```python
|
||||||
|
try:
|
||||||
|
result = await some_async_operation()
|
||||||
|
except asyncio.TimeoutError:
|
||||||
|
await event.reply("操作超时,请稍后重试")
|
||||||
|
except aiohttp.ClientError as e:
|
||||||
|
logger.error(f"网络请求失败: {e}")
|
||||||
|
await event.reply("网络请求失败,请检查网络连接")
|
||||||
|
```
|
||||||
|
|
||||||
|
3. **记录异常堆栈**:
|
||||||
|
```python
|
||||||
|
try:
|
||||||
|
# 一些操作
|
||||||
|
except Exception as e:
|
||||||
|
logger.exception(f"处理消息时发生未预期错误: {e}")
|
||||||
|
# 不要向用户暴露堆栈信息
|
||||||
|
await event.reply("处理消息时发生错误,请稍后重试")
|
||||||
|
```
|
||||||
|
|
||||||
|
### 框架提供的异常类
|
||||||
|
|
||||||
|
```python
|
||||||
|
from neobot.core.utils.exceptions import (
|
||||||
|
ConfigError,
|
||||||
|
ConfigNotFoundError,
|
||||||
|
ConfigValidationError,
|
||||||
|
PluginError,
|
||||||
|
PermissionDeniedError,
|
||||||
|
)
|
||||||
|
|
||||||
|
try:
|
||||||
|
config = Config("config.toml")
|
||||||
|
except ConfigNotFoundError as e:
|
||||||
|
logger.error(f"配置文件不存在: {e}")
|
||||||
|
except ConfigValidationError as e:
|
||||||
|
logger.error(f"配置验证失败: {e}")
|
||||||
|
for detail in e.error_details:
|
||||||
|
logger.error(f" - {detail}")
|
||||||
|
```
|
||||||
|
|
||||||
|
## 代码执行安全
|
||||||
|
|
||||||
|
### 沙箱环境
|
||||||
|
|
||||||
|
代码执行插件在 Docker 沙箱中运行用户代码,提供隔离的执行环境。
|
||||||
|
|
||||||
|
#### 安全特性
|
||||||
|
|
||||||
|
1. **资源限制**:
|
||||||
|
- CPU 使用限制
|
||||||
|
- 内存使用限制
|
||||||
|
- 执行时间限制
|
||||||
|
- 网络访问限制
|
||||||
|
|
||||||
|
2. **代码验证**:
|
||||||
|
```python
|
||||||
|
def validate_code_security(code: str) -> bool:
|
||||||
|
"""验证代码安全性"""
|
||||||
|
# 检查危险模块导入
|
||||||
|
dangerous_imports = [
|
||||||
|
"import os", "import sys", "import subprocess",
|
||||||
|
"__import__", "eval", "exec", "compile"
|
||||||
|
]
|
||||||
|
|
||||||
|
for dangerous in dangerous_imports:
|
||||||
|
if dangerous in code.lower():
|
||||||
|
return False
|
||||||
|
|
||||||
|
return True
|
||||||
|
```
|
||||||
|
|
||||||
|
3. **输入输出限制**:
|
||||||
|
- 最大输入长度限制
|
||||||
|
- 最大输出长度限制
|
||||||
|
- 禁止文件系统访问
|
||||||
|
|
||||||
|
### 异步操作
|
||||||
|
|
||||||
|
所有可能阻塞的操作都应使用异步版本:
|
||||||
|
|
||||||
|
```python
|
||||||
|
# 错误做法(同步阻塞)
|
||||||
|
import requests
|
||||||
|
response = requests.get(url) # 会阻塞事件循环
|
||||||
|
|
||||||
|
# 正确做法(异步非阻塞)
|
||||||
|
import aiohttp
|
||||||
|
async with aiohttp.ClientSession() as session:
|
||||||
|
async with session.get(url) as response:
|
||||||
|
data = await response.text()
|
||||||
|
```
|
||||||
|
|
||||||
|
## 网络通信安全
|
||||||
|
|
||||||
|
### HTTPS 强制
|
||||||
|
|
||||||
|
所有外部请求都应使用 HTTPS:
|
||||||
|
|
||||||
|
```python
|
||||||
|
# 确保使用 HTTPS
|
||||||
|
url = "https://api.example.com/data"
|
||||||
|
|
||||||
|
# 验证 URL 安全性
|
||||||
|
if not input_validator.validate_url(url, allowed_schemes=["https"]):
|
||||||
|
raise ValueError("不安全的 URL 协议")
|
||||||
|
```
|
||||||
|
|
||||||
|
### 请求超时设置
|
||||||
|
|
||||||
|
避免请求无限期等待:
|
||||||
|
|
||||||
|
```python
|
||||||
|
import aiohttp
|
||||||
|
|
||||||
|
timeout = aiohttp.ClientTimeout(
|
||||||
|
total=30, # 总超时时间
|
||||||
|
connect=10, # 连接超时
|
||||||
|
sock_read=15 # 读取超时
|
||||||
|
)
|
||||||
|
|
||||||
|
async with aiohttp.ClientSession(timeout=timeout) as session:
|
||||||
|
async with session.get(url) as response:
|
||||||
|
data = await response.json()
|
||||||
|
```
|
||||||
|
|
||||||
|
### 请求重试机制
|
||||||
|
|
||||||
|
```python
|
||||||
|
import asyncio
|
||||||
|
from typing import Optional
|
||||||
|
|
||||||
|
async def safe_request(
|
||||||
|
url: str,
|
||||||
|
max_retries: int = 3,
|
||||||
|
base_delay: float = 1.0
|
||||||
|
) -> Optional[str]:
|
||||||
|
"""安全的网络请求,带重试机制"""
|
||||||
|
for attempt in range(max_retries):
|
||||||
|
try:
|
||||||
|
timeout = aiohttp.ClientTimeout(total=10)
|
||||||
|
async with aiohttp.ClientSession(timeout=timeout) as session:
|
||||||
|
async with session.get(url) as response:
|
||||||
|
response.raise_for_status()
|
||||||
|
return await response.text()
|
||||||
|
|
||||||
|
except (aiohttp.ClientError, asyncio.TimeoutError) as e:
|
||||||
|
if attempt == max_retries - 1:
|
||||||
|
logger.error(f"请求失败,已达最大重试次数: {e}")
|
||||||
|
return None
|
||||||
|
|
||||||
|
delay = base_delay * (2 ** attempt) # 指数退避
|
||||||
|
logger.warning(f"请求失败,{delay}秒后重试: {e}")
|
||||||
|
await asyncio.sleep(delay)
|
||||||
|
|
||||||
|
return None
|
||||||
|
```
|
||||||
|
|
||||||
|
## 文件操作安全
|
||||||
|
|
||||||
|
### 路径验证
|
||||||
|
|
||||||
|
所有文件操作前都应验证路径安全性:
|
||||||
|
|
||||||
|
```python
|
||||||
|
from pathlib import Path
|
||||||
|
|
||||||
|
def safe_file_operation(file_path: str) -> bool:
|
||||||
|
"""安全的文件操作"""
|
||||||
|
# 验证路径安全性
|
||||||
|
if not input_validator.validate_path_input(file_path):
|
||||||
|
logger.error(f"不安全的文件路径: {file_path}")
|
||||||
|
return False
|
||||||
|
|
||||||
|
# 解析路径
|
||||||
|
path = Path(file_path).resolve()
|
||||||
|
|
||||||
|
# 检查是否在允许的目录内
|
||||||
|
allowed_base = Path("/var/data").resolve()
|
||||||
|
if not str(path).startswith(str(allowed_base)):
|
||||||
|
logger.error(f"文件路径不在允许的目录内: {file_path}")
|
||||||
|
return False
|
||||||
|
|
||||||
|
# 检查文件大小限制
|
||||||
|
if path.exists() and path.stat().st_size > 10 * 1024 * 1024: # 10MB
|
||||||
|
logger.error(f"文件过大: {file_path}")
|
||||||
|
return False
|
||||||
|
|
||||||
|
return True
|
||||||
|
```
|
||||||
|
|
||||||
|
### 临时文件安全
|
||||||
|
|
||||||
|
```python
|
||||||
|
import tempfile
|
||||||
|
import os
|
||||||
|
|
||||||
|
def create_temp_file(content: bytes) -> str:
|
||||||
|
"""创建安全的临时文件"""
|
||||||
|
# 创建临时文件
|
||||||
|
with tempfile.NamedTemporaryFile(
|
||||||
|
mode='wb',
|
||||||
|
delete=False,
|
||||||
|
suffix='.tmp',
|
||||||
|
dir='/tmp' # 指定临时目录
|
||||||
|
) as f:
|
||||||
|
f.write(content)
|
||||||
|
temp_path = f.name
|
||||||
|
|
||||||
|
# 设置安全权限
|
||||||
|
os.chmod(temp_path, 0o600)
|
||||||
|
|
||||||
|
return temp_path
|
||||||
|
|
||||||
|
def cleanup_temp_file(file_path: str):
|
||||||
|
"""清理临时文件"""
|
||||||
|
try:
|
||||||
|
if os.path.exists(file_path):
|
||||||
|
os.unlink(file_path)
|
||||||
|
except Exception as e:
|
||||||
|
logger.warning(f"清理临时文件失败: {e}")
|
||||||
|
```
|
||||||
|
|
||||||
|
## 日志安全
|
||||||
|
|
||||||
|
### 敏感信息掩码
|
||||||
|
|
||||||
|
框架自动掩码敏感信息:
|
||||||
|
|
||||||
|
```python
|
||||||
|
from neobot.core.utils.env_loader import env_loader
|
||||||
|
|
||||||
|
# 敏感值会自动掩码
|
||||||
|
password = env_loader.get_masked("MYSQL_PASSWORD")
|
||||||
|
# 输出: pa***rd(不会显示完整密码)
|
||||||
|
|
||||||
|
token = env_loader.get_masked("DISCORD_TOKEN")
|
||||||
|
# 输出: di***en(不会显示完整令牌)
|
||||||
|
```
|
||||||
|
|
||||||
|
### 安全日志记录
|
||||||
|
|
||||||
|
```python
|
||||||
|
from neobot.core.utils.logger import logger
|
||||||
|
|
||||||
|
# 安全记录用户输入(截断长内容)
|
||||||
|
def safe_log_user_input(user_input: str, max_length: int = 100):
|
||||||
|
"""安全记录用户输入"""
|
||||||
|
if len(user_input) > max_length:
|
||||||
|
logged_input = user_input[:max_length] + "..."
|
||||||
|
else:
|
||||||
|
logged_input = user_input
|
||||||
|
|
||||||
|
# 移除敏感信息
|
||||||
|
logged_input = logged_input.replace("\n", "\\n")
|
||||||
|
logged_input = logged_input.replace("\r", "\\r")
|
||||||
|
|
||||||
|
logger.info(f"用户输入: {logged_input}")
|
||||||
|
|
||||||
|
# 记录操作时避免敏感信息
|
||||||
|
def log_operation(user_id: int, operation: str, details: str = ""):
|
||||||
|
"""记录用户操作"""
|
||||||
|
logger.info(f"用户 {user_id} 执行操作: {operation}")
|
||||||
|
if details:
|
||||||
|
# 确保 details 不包含敏感信息
|
||||||
|
safe_details = input_validator.sanitize_html(details)
|
||||||
|
logger.debug(f"操作详情: {safe_details}")
|
||||||
|
```
|
||||||
|
|
||||||
|
## 总结
|
||||||
|
|
||||||
|
遵循这些安全最佳实践可以显著提高 NeoBot 应用的安全性:
|
||||||
|
|
||||||
|
1. **使用环境变量管理敏感配置**
|
||||||
|
2. **对所有用户输入进行验证**
|
||||||
|
3. **使用具体的异常类型进行错误处理**
|
||||||
|
4. **在沙箱中执行不可信代码**
|
||||||
|
5. **使用异步操作避免阻塞**
|
||||||
|
6. **验证所有文件路径和网络请求**
|
||||||
|
7. **在日志中掩码敏感信息**
|
||||||
|
|
||||||
|
定期审查代码,确保遵循这些安全实践,可以保护你的应用免受常见的安全威胁。
|
||||||
32
main.py
32
main.py
@@ -10,18 +10,18 @@ import time
|
|||||||
from watchdog.observers import Observer
|
from watchdog.observers import Observer
|
||||||
from watchdog.events import FileSystemEventHandler
|
from watchdog.events import FileSystemEventHandler
|
||||||
|
|
||||||
# 初始化日志系统,必须在其他 core 模块导入之前执行
|
# 初始化日志系统,必须在其他 neobot 模块导入之前执行
|
||||||
from core.utils.logger import logger
|
from neobot.core.utils.logger import logger
|
||||||
|
|
||||||
# 核心模块导入
|
# 核心模块导入
|
||||||
from core.ws import WS
|
from neobot.core.ws import WS
|
||||||
from core.managers import plugin_manager, matcher, permission_manager, reverse_ws_manager, thread_manager
|
from neobot.core.managers import plugin_manager, matcher, permission_manager, reverse_ws_manager, thread_manager
|
||||||
from core.managers.redis_manager import redis_manager
|
from neobot.core.managers.redis_manager import redis_manager
|
||||||
from core.managers.browser_manager import browser_manager
|
from neobot.core.managers.browser_manager import browser_manager
|
||||||
from core.utils.executor import run_in_thread_pool, initialize_executor
|
from neobot.core.utils.executor import run_in_thread_pool, initialize_executor
|
||||||
from core.config_loader import global_config as config
|
from neobot.core.config_loader import global_config as config
|
||||||
from core.services.local_file_server import start_local_file_server, stop_local_file_server
|
from neobot.core.services.local_file_server import start_local_file_server, stop_local_file_server
|
||||||
from adapters.discord_adapter import DiscordAdapter
|
from neobot.adapters.discord_adapter import DiscordAdapter
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
@@ -31,7 +31,7 @@ sys.path.insert(0, ROOT_DIR)
|
|||||||
|
|
||||||
|
|
||||||
# 获取插件目录的绝对路径
|
# 获取插件目录的绝对路径
|
||||||
PLUGIN_DIR = os.path.join(ROOT_DIR, "plugins")
|
PLUGIN_DIR = os.path.join(ROOT_DIR, "src", "neobot", "plugins")
|
||||||
|
|
||||||
|
|
||||||
async def reload_plugin_and_sync_help(module_name: str):
|
async def reload_plugin_and_sync_help(module_name: str):
|
||||||
@@ -87,7 +87,7 @@ class PluginReloadHandler(FileSystemEventHandler):
|
|||||||
self.last_reload_time = current_time
|
self.last_reload_time = current_time
|
||||||
|
|
||||||
# 从文件路径解析出模块名
|
# 从文件路径解析出模块名
|
||||||
# 例如: C:\path\to\project\plugins\bili_parser.py -> plugins.bili_parser
|
# 例如: C:\path\to\project\src\neobot\plugins\bili_parser.py -> neobot.plugins.bili_parser
|
||||||
relative_path = os.path.relpath(src_path, ROOT_DIR)
|
relative_path = os.path.relpath(src_path, ROOT_DIR)
|
||||||
module_name = os.path.splitext(relative_path.replace(os.sep, '.'))[0]
|
module_name = os.path.splitext(relative_path.replace(os.sep, '.'))[0]
|
||||||
|
|
||||||
@@ -112,7 +112,7 @@ async def main():
|
|||||||
3. 建立连接并保持运行
|
3. 建立连接并保持运行
|
||||||
"""
|
"""
|
||||||
# 初始化向量数据库
|
# 初始化向量数据库
|
||||||
from core.managers.vectordb_manager import vectordb_manager
|
from neobot.core.managers.vectordb_manager import vectordb_manager
|
||||||
vectordb_manager.initialize()
|
vectordb_manager.initialize()
|
||||||
|
|
||||||
# 首先加载所有插件
|
# 首先加载所有插件
|
||||||
@@ -154,7 +154,7 @@ async def main():
|
|||||||
|
|
||||||
# 启动文件监控
|
# 启动文件监控
|
||||||
# 监控 plugins 目录
|
# 监控 plugins 目录
|
||||||
plugin_path = os.path.join(os.path.dirname(__file__), "plugins")
|
plugin_path = os.path.join(os.path.dirname(__file__), "src", "neobot", "plugins")
|
||||||
|
|
||||||
# 获取当前事件循环并传递给处理器
|
# 获取当前事件循环并传递给处理器
|
||||||
loop = asyncio.get_running_loop()
|
loop = asyncio.get_running_loop()
|
||||||
@@ -220,8 +220,8 @@ if __name__ == "__main__":
|
|||||||
"""
|
"""
|
||||||
程序主入口,添加全局异常捕获和友好提示
|
程序主入口,添加全局异常捕获和友好提示
|
||||||
"""
|
"""
|
||||||
from core.utils.error_codes import exception_to_error_response
|
from neobot.core.utils.error_codes import exception_to_error_response
|
||||||
from core.utils.logger import ModuleLogger
|
from neobot.core.utils.logger import ModuleLogger
|
||||||
|
|
||||||
# 创建主程序日志记录器
|
# 创建主程序日志记录器
|
||||||
main_logger = ModuleLogger("Main")
|
main_logger = ModuleLogger("Main")
|
||||||
|
|||||||
@@ -7,7 +7,7 @@ name = "neobot"
|
|||||||
version = "0.1.0"
|
version = "0.1.0"
|
||||||
description = "NEO Bot Framework - A high-performance bot framework"
|
description = "NEO Bot Framework - A high-performance bot framework"
|
||||||
readme = "README.md"
|
readme = "README.md"
|
||||||
requires-python = ">=3.14"
|
requires-python = "3.14"
|
||||||
license = {text = "MIT"}
|
license = {text = "MIT"}
|
||||||
authors = [
|
authors = [
|
||||||
{name = "Neo", email = "neo@example.com"}
|
{name = "Neo", email = "neo@example.com"}
|
||||||
@@ -17,7 +17,6 @@ classifiers = [
|
|||||||
"Development Status :: 4 - Beta",
|
"Development Status :: 4 - Beta",
|
||||||
"Intended Audience :: Developers",
|
"Intended Audience :: Developers",
|
||||||
"License :: OSI Approved :: MIT License",
|
"License :: OSI Approved :: MIT License",
|
||||||
"Programming Language :: Python :: 3",
|
|
||||||
"Programming Language :: Python :: 3.14",
|
"Programming Language :: Python :: 3.14",
|
||||||
]
|
]
|
||||||
|
|
||||||
@@ -36,6 +35,7 @@ dependencies = [
|
|||||||
"beautifulsoup4>=4.12.0",
|
"beautifulsoup4>=4.12.0",
|
||||||
"requests>=2.31.0",
|
"requests>=2.31.0",
|
||||||
"cython>=3.0.0",
|
"cython>=3.0.0",
|
||||||
|
"python-dotenv>=1.0.0",
|
||||||
]
|
]
|
||||||
|
|
||||||
[project.optional-dependencies]
|
[project.optional-dependencies]
|
||||||
@@ -56,16 +56,16 @@ Repository = "https://github.com/yourusername/neobot"
|
|||||||
"Bug Tracker" = "https://github.com/yourusername/neobot/issues"
|
"Bug Tracker" = "https://github.com/yourusername/neobot/issues"
|
||||||
|
|
||||||
[tool.setuptools]
|
[tool.setuptools]
|
||||||
packages = ["core", "models", "plugins", "adapters"]
|
packages = ["neobot", "neobot.core", "neobot.models", "neobot.plugins", "neobot.adapters", "neobot.tests"]
|
||||||
package-dir = {"" = "."}
|
package-dir = {"" = "src"}
|
||||||
|
include-package-data = true
|
||||||
|
|
||||||
[tool.setuptools.package-data]
|
[tool.setuptools.package-data]
|
||||||
"core" = ["py.typed"]
|
neobot = ["py.typed", "templates/**/*", "docs/**/*", "web_static/**/*", "data/**/*"]
|
||||||
"plugins" = ["**/*.py"]
|
neobot.plugins = ["**/*.py"]
|
||||||
"models" = ["**/*.py"]
|
|
||||||
|
|
||||||
[tool.setuptools.exclude-package-data]
|
[tool.setuptools.exclude-package-data]
|
||||||
"*" = [
|
neobot = [
|
||||||
"config.toml",
|
"config.toml",
|
||||||
"config.example.toml",
|
"config.example.toml",
|
||||||
"ca/*",
|
"ca/*",
|
||||||
@@ -74,7 +74,7 @@ package-dir = {"" = "."}
|
|||||||
]
|
]
|
||||||
|
|
||||||
[tool.pytest.ini_options]
|
[tool.pytest.ini_options]
|
||||||
testpaths = ["tests"]
|
testpaths = ["src/neobot/tests"]
|
||||||
python_files = ["test_*.py"]
|
python_files = ["test_*.py"]
|
||||||
asyncio_mode = "auto"
|
asyncio_mode = "auto"
|
||||||
|
|
||||||
|
|||||||
7
src/neobot/__init__.py
Normal file
7
src/neobot/__init__.py
Normal file
@@ -0,0 +1,7 @@
|
|||||||
|
"""
|
||||||
|
NEO Bot Package
|
||||||
|
|
||||||
|
NEO Bot Framework - A high-performance bot framework for multiple platforms.
|
||||||
|
"""
|
||||||
|
|
||||||
|
__version__ = "0.1.0"
|
||||||
9
src/neobot/adapters/__init__.py
Normal file
9
src/neobot/adapters/__init__.py
Normal file
@@ -0,0 +1,9 @@
|
|||||||
|
"""
|
||||||
|
NEO Bot Adapters Package
|
||||||
|
|
||||||
|
适配器模块,用于连接不同的平台(如 Discord)。
|
||||||
|
"""
|
||||||
|
|
||||||
|
from .discord_adapter import DiscordAdapter
|
||||||
|
|
||||||
|
__all__ = ["DiscordAdapter"]
|
||||||
@@ -21,10 +21,10 @@ try:
|
|||||||
except ImportError:
|
except ImportError:
|
||||||
DISCORD_AVAILABLE = False
|
DISCORD_AVAILABLE = False
|
||||||
|
|
||||||
from core.utils.logger import ModuleLogger
|
from neobot.core.utils.logger import ModuleLogger
|
||||||
from .router import DiscordToOneBotConverter
|
from .router import DiscordToOneBotConverter
|
||||||
from core.managers.redis_manager import redis_manager
|
from neobot.core.managers.redis_manager import redis_manager
|
||||||
from core.config_loader import global_config
|
from neobot.core.config_loader import global_config
|
||||||
|
|
||||||
class DiscordAdapter(discord.Client if DISCORD_AVAILABLE else object):
|
class DiscordAdapter(discord.Client if DISCORD_AVAILABLE else object):
|
||||||
"""
|
"""
|
||||||
@@ -81,7 +81,7 @@ class DiscordAdapter(discord.Client if DISCORD_AVAILABLE else object):
|
|||||||
# 1. 将 discord.Message 伪装成 OneBot 事件模型
|
# 1. 将 discord.Message 伪装成 OneBot 事件模型
|
||||||
# 2. 触发业务逻辑
|
# 2. 触发业务逻辑
|
||||||
# 将伪装后的事件丢给现有的命令管理器 (matcher)
|
# 将伪装后的事件丢给现有的命令管理器 (matcher)
|
||||||
from core.managers.command_manager import matcher
|
from neobot.core.managers.command_manager import matcher
|
||||||
|
|
||||||
# matcher.handle_event 需要 bot 实例和 event 实例
|
# matcher.handle_event 需要 bot 实例和 event 实例
|
||||||
# 我们在 create_mock_event 中已经注入了一个假的 bot 对象
|
# 我们在 create_mock_event 中已经注入了一个假的 bot 对象
|
||||||
@@ -20,10 +20,10 @@ try:
|
|||||||
except ImportError:
|
except ImportError:
|
||||||
DISCORD_AVAILABLE = False
|
DISCORD_AVAILABLE = False
|
||||||
|
|
||||||
from models.events.message import GroupMessageEvent, PrivateMessageEvent
|
from neobot.models.events.message import GroupMessageEvent, PrivateMessageEvent
|
||||||
from models.message import MessageSegment as OneBotMessageSegment
|
from neobot.models.message import MessageSegment as OneBotMessageSegment
|
||||||
from models.sender import Sender
|
from neobot.models.sender import Sender
|
||||||
from core.utils.logger import ModuleLogger
|
from neobot.core.utils.logger import ModuleLogger
|
||||||
|
|
||||||
logger = ModuleLogger("EventRouter")
|
logger = ModuleLogger("EventRouter")
|
||||||
|
|
||||||
@@ -230,7 +230,7 @@ class DiscordToOneBotConverter:
|
|||||||
伪装后的 OneBot 事件对象
|
伪装后的 OneBot 事件对象
|
||||||
"""
|
"""
|
||||||
# 在静态方法内部创建模块专用日志记录器
|
# 在静态方法内部创建模块专用日志记录器
|
||||||
from core.utils.logger import ModuleLogger
|
from neobot.core.utils.logger import ModuleLogger
|
||||||
mod_logger = ModuleLogger("DiscordConverter")
|
mod_logger = ModuleLogger("DiscordConverter")
|
||||||
|
|
||||||
# 1. 提取基础信息
|
# 1. 提取基础信息
|
||||||
23
src/neobot/core/__init__.py
Normal file
23
src/neobot/core/__init__.py
Normal file
@@ -0,0 +1,23 @@
|
|||||||
|
"""
|
||||||
|
NEO Bot Core Package
|
||||||
|
|
||||||
|
核心框架模块,包含事件处理、API封装、管理器等核心功能。
|
||||||
|
"""
|
||||||
|
|
||||||
|
from .api import MessageAPI, GroupAPI, FriendAPI, AccountAPI, MediaAPI
|
||||||
|
from .bot import Bot
|
||||||
|
from .config_loader import global_config
|
||||||
|
from .permission import Permission
|
||||||
|
from .plugin import Plugin
|
||||||
|
|
||||||
|
__all__ = [
|
||||||
|
"MessageAPI",
|
||||||
|
"GroupAPI",
|
||||||
|
"FriendAPI",
|
||||||
|
"AccountAPI",
|
||||||
|
"MediaAPI",
|
||||||
|
"Bot",
|
||||||
|
"global_config",
|
||||||
|
"Permission",
|
||||||
|
"Plugin",
|
||||||
|
]
|
||||||
@@ -1,15 +1,21 @@
|
|||||||
from .base import BaseAPI
|
"""
|
||||||
from .message import MessageAPI
|
NEO Bot API Package
|
||||||
from .group import GroupAPI
|
|
||||||
from .friend import FriendAPI
|
OneBot API 封装模块。
|
||||||
|
"""
|
||||||
|
|
||||||
from .account import AccountAPI
|
from .account import AccountAPI
|
||||||
|
from .base import BaseAPI
|
||||||
|
from .friend import FriendAPI
|
||||||
|
from .group import GroupAPI
|
||||||
from .media import MediaAPI
|
from .media import MediaAPI
|
||||||
|
from .message import MessageAPI
|
||||||
|
|
||||||
__all__ = [
|
__all__ = [
|
||||||
"BaseAPI",
|
|
||||||
"MessageAPI",
|
|
||||||
"GroupAPI",
|
|
||||||
"FriendAPI",
|
|
||||||
"AccountAPI",
|
"AccountAPI",
|
||||||
|
"BaseAPI",
|
||||||
|
"FriendAPI",
|
||||||
|
"GroupAPI",
|
||||||
"MediaAPI",
|
"MediaAPI",
|
||||||
|
"MessageAPI",
|
||||||
]
|
]
|
||||||
@@ -8,7 +8,7 @@ import orjson
|
|||||||
from typing import Dict, Any, Type, TypeVar
|
from typing import Dict, Any, Type, TypeVar
|
||||||
from dataclasses import is_dataclass, fields
|
from dataclasses import is_dataclass, fields
|
||||||
from .base import BaseAPI
|
from .base import BaseAPI
|
||||||
from models.objects import LoginInfo, VersionInfo, Status
|
from neobot.models.objects import LoginInfo, VersionInfo, Status
|
||||||
from ..managers.redis_manager import redis_manager
|
from ..managers.redis_manager import redis_manager
|
||||||
|
|
||||||
T = TypeVar('T')
|
T = TypeVar('T')
|
||||||
@@ -7,7 +7,7 @@
|
|||||||
import orjson
|
import orjson
|
||||||
from typing import List, Dict, Any
|
from typing import List, Dict, Any
|
||||||
from .base import BaseAPI
|
from .base import BaseAPI
|
||||||
from models.objects import FriendInfo, StrangerInfo
|
from neobot.models.objects import FriendInfo, StrangerInfo
|
||||||
from ..managers.redis_manager import redis_manager
|
from ..managers.redis_manager import redis_manager
|
||||||
|
|
||||||
|
|
||||||
@@ -8,7 +8,7 @@ from typing import List, Dict, Any, Optional
|
|||||||
import orjson
|
import orjson
|
||||||
from ..managers.redis_manager import redis_manager
|
from ..managers.redis_manager import redis_manager
|
||||||
from .base import BaseAPI
|
from .base import BaseAPI
|
||||||
from models.objects import GroupInfo, GroupMemberInfo, GroupHonorInfo
|
from neobot.models.objects import GroupInfo, GroupMemberInfo, GroupHonorInfo
|
||||||
from ..utils.logger import logger
|
from ..utils.logger import logger
|
||||||
|
|
||||||
|
|
||||||
@@ -8,8 +8,8 @@ from typing import Union, List, Dict, Any, TYPE_CHECKING
|
|||||||
from .base import BaseAPI
|
from .base import BaseAPI
|
||||||
|
|
||||||
if TYPE_CHECKING:
|
if TYPE_CHECKING:
|
||||||
from models.message import MessageSegment
|
from neobot.models.message import MessageSegment
|
||||||
from models.events.base import OneBotEvent
|
from neobot.models.events.base import OneBotEvent
|
||||||
|
|
||||||
|
|
||||||
class MessageAPI(BaseAPI):
|
class MessageAPI(BaseAPI):
|
||||||
@@ -175,7 +175,7 @@ class MessageAPI(BaseAPI):
|
|||||||
return message
|
return message
|
||||||
|
|
||||||
# 避免循环导入,在运行时导入
|
# 避免循环导入,在运行时导入
|
||||||
from models.message import MessageSegment
|
from neobot.models.message import MessageSegment
|
||||||
|
|
||||||
if isinstance(message, MessageSegment):
|
if isinstance(message, MessageSegment):
|
||||||
return [self._segment_to_dict(message)]
|
return [self._segment_to_dict(message)]
|
||||||
@@ -11,9 +11,9 @@ Bot 核心抽象模块
|
|||||||
- 整合所有细分的 API 调用(消息、群组、好友等)。
|
- 整合所有细分的 API 调用(消息、群组、好友等)。
|
||||||
"""
|
"""
|
||||||
from typing import TYPE_CHECKING, Dict, Any, List, Union, Optional
|
from typing import TYPE_CHECKING, Dict, Any, List, Union, Optional
|
||||||
from models.events.base import OneBotEvent
|
from neobot.models.events.base import OneBotEvent
|
||||||
from models.message import MessageSegment
|
from neobot.models.message import MessageSegment
|
||||||
from models.objects import GroupInfo, StrangerInfo
|
from neobot.models.objects import GroupInfo, StrangerInfo
|
||||||
|
|
||||||
if TYPE_CHECKING:
|
if TYPE_CHECKING:
|
||||||
from .ws import WS
|
from .ws import WS
|
||||||
316
src/neobot/core/config_loader.py
Normal file
316
src/neobot/core/config_loader.py
Normal file
@@ -0,0 +1,316 @@
|
|||||||
|
"""
|
||||||
|
配置加载模块
|
||||||
|
|
||||||
|
负责读取和解析 config.toml 配置文件,提供全局配置对象。
|
||||||
|
支持从环境变量覆盖敏感配置。
|
||||||
|
"""
|
||||||
|
from pathlib import Path
|
||||||
|
|
||||||
|
import tomllib
|
||||||
|
from pydantic import ValidationError
|
||||||
|
from .config_models import ConfigModel, NapCatWSModel, BotModel, RedisModel, DockerModel, ImageManagerModel, MySQLModel, ReverseWSModel, ThreadingModel, BilibiliModel, LocalFileServerModel, DiscordModel, CrossPlatformModel, LoggingModel
|
||||||
|
from .utils.logger import ModuleLogger
|
||||||
|
from .utils.exceptions import ConfigError, ConfigNotFoundError, ConfigValidationError
|
||||||
|
from .utils.env_loader import env_loader
|
||||||
|
|
||||||
|
|
||||||
|
class Config:
|
||||||
|
"""
|
||||||
|
配置加载类,负责读取和解析 config.toml 文件
|
||||||
|
支持从环境变量覆盖敏感配置
|
||||||
|
"""
|
||||||
|
|
||||||
|
def __init__(self, file_path: str = "config.toml"):
|
||||||
|
"""
|
||||||
|
初始化配置加载器
|
||||||
|
|
||||||
|
:param file_path: 配置文件路径,默认为 "config.toml"
|
||||||
|
"""
|
||||||
|
self.path = Path(file_path)
|
||||||
|
self._model: ConfigModel
|
||||||
|
# 创建模块专用日志记录器
|
||||||
|
self.logger = ModuleLogger("ConfigLoader")
|
||||||
|
# 加载环境变量
|
||||||
|
env_loader.load()
|
||||||
|
self.load()
|
||||||
|
|
||||||
|
def load(self):
|
||||||
|
"""
|
||||||
|
加载并验证配置文件
|
||||||
|
|
||||||
|
:raises ConfigNotFoundError: 如果配置文件不存在
|
||||||
|
:raises ConfigValidationError: 如果配置格式不正确
|
||||||
|
:raises ConfigError: 如果加载配置时发生其他错误
|
||||||
|
"""
|
||||||
|
# 检查配置文件权限
|
||||||
|
self._check_file_permissions()
|
||||||
|
|
||||||
|
if not self.path.exists():
|
||||||
|
self.logger.warning(f"配置文件 {self.path} 未找到,正在生成示例配置...")
|
||||||
|
self._generate_example_config()
|
||||||
|
self.logger.success(f"示例配置已生成: {self.path}")
|
||||||
|
self.logger.info("请编辑配置文件后重新启动程序")
|
||||||
|
|
||||||
|
try:
|
||||||
|
self.logger.info(f"正在从 {self.path} 加载配置...")
|
||||||
|
with open(self.path, "rb") as f:
|
||||||
|
raw_config = tomllib.load(f)
|
||||||
|
|
||||||
|
# 从环境变量覆盖敏感配置
|
||||||
|
raw_config = self._override_with_env_vars(raw_config)
|
||||||
|
|
||||||
|
self._model = ConfigModel(**raw_config)
|
||||||
|
self.logger.success("配置加载并验证成功!")
|
||||||
|
|
||||||
|
except ValidationError as e:
|
||||||
|
error_details = []
|
||||||
|
for error in e.errors():
|
||||||
|
field = " -> ".join(map(str, error["loc"]))
|
||||||
|
error_msg = f"字段 '{field}': {error['msg']}"
|
||||||
|
error_details.append(error_msg)
|
||||||
|
|
||||||
|
validation_error = ConfigValidationError(
|
||||||
|
message="配置验证失败"
|
||||||
|
)
|
||||||
|
validation_error.original_error = e
|
||||||
|
|
||||||
|
self.logger.error("配置验证失败,请检查 `config.toml` 文件中的以下错误:")
|
||||||
|
for detail in error_details:
|
||||||
|
self.logger.error(f" - {detail}")
|
||||||
|
|
||||||
|
self.logger.log_custom_exception(validation_error)
|
||||||
|
raise validation_error
|
||||||
|
except tomllib.TOMLDecodeError as e:
|
||||||
|
error = ConfigError(
|
||||||
|
message=f"TOML解析错误: {str(e)}"
|
||||||
|
)
|
||||||
|
error.original_error = e
|
||||||
|
self.logger.error(f"加载配置文件时发生TOML解析错误: {error.message}")
|
||||||
|
self.logger.log_custom_exception(error)
|
||||||
|
raise error
|
||||||
|
except Exception as e:
|
||||||
|
error = ConfigError(
|
||||||
|
message=f"加载配置文件时发生未知错误: {str(e)}"
|
||||||
|
)
|
||||||
|
error.original_error = e
|
||||||
|
self.logger.exception(f"加载配置文件时发生未知错误: {error.message}")
|
||||||
|
self.logger.log_custom_exception(error)
|
||||||
|
raise error
|
||||||
|
|
||||||
|
def _check_file_permissions(self):
|
||||||
|
"""
|
||||||
|
检查配置文件权限
|
||||||
|
|
||||||
|
确保配置文件不会被其他用户读取,保护敏感信息。
|
||||||
|
"""
|
||||||
|
if not self.path.exists():
|
||||||
|
return
|
||||||
|
|
||||||
|
try:
|
||||||
|
import os
|
||||||
|
import stat
|
||||||
|
|
||||||
|
# 获取文件状态
|
||||||
|
file_stat = self.path.stat()
|
||||||
|
|
||||||
|
# 检查文件权限
|
||||||
|
mode = file_stat.st_mode
|
||||||
|
|
||||||
|
# 检查是否其他用户可读
|
||||||
|
if mode & stat.S_IROTH:
|
||||||
|
self.logger.warning(f"配置文件 {self.path} 其他用户可读,存在安全风险")
|
||||||
|
self.logger.info("建议使用命令: chmod 600 config.toml")
|
||||||
|
|
||||||
|
# 检查是否其他用户可写
|
||||||
|
if mode & stat.S_IWOTH:
|
||||||
|
self.logger.error(f"配置文件 {self.path} 其他用户可写,存在严重安全风险!")
|
||||||
|
self.logger.error("请立即修复权限: chmod 600 config.toml")
|
||||||
|
|
||||||
|
except Exception as e:
|
||||||
|
self.logger.warning(f"检查文件权限失败: {e}")
|
||||||
|
|
||||||
|
def _override_with_env_vars(self, raw_config: dict) -> dict:
|
||||||
|
"""
|
||||||
|
使用环境变量覆盖敏感配置
|
||||||
|
|
||||||
|
Args:
|
||||||
|
raw_config: 原始配置字典
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
更新后的配置字典
|
||||||
|
"""
|
||||||
|
# MySQL 配置
|
||||||
|
if 'mysql' in raw_config:
|
||||||
|
mysql_config = raw_config['mysql']
|
||||||
|
mysql_config['host'] = env_loader.get('MYSQL_HOST', mysql_config.get('host', 'localhost'))
|
||||||
|
mysql_config['port'] = env_loader.get_int('MYSQL_PORT', mysql_config.get('port', 3306))
|
||||||
|
mysql_config['user'] = env_loader.get('MYSQL_USER', mysql_config.get('user', 'root'))
|
||||||
|
mysql_config['password'] = env_loader.get('MYSQL_PASSWORD', mysql_config.get('password', ''))
|
||||||
|
mysql_config['db'] = env_loader.get('MYSQL_DB', mysql_config.get('db', 'neobot'))
|
||||||
|
|
||||||
|
# Redis 配置
|
||||||
|
if 'redis' in raw_config:
|
||||||
|
redis_config = raw_config['redis']
|
||||||
|
redis_config['host'] = env_loader.get('REDIS_HOST', redis_config.get('host', 'localhost'))
|
||||||
|
redis_config['port'] = env_loader.get_int('REDIS_PORT', redis_config.get('port', 6379))
|
||||||
|
redis_config['db'] = env_loader.get_int('REDIS_DB', redis_config.get('db', 0))
|
||||||
|
redis_config['password'] = env_loader.get('REDIS_PASSWORD', redis_config.get('password', ''))
|
||||||
|
|
||||||
|
# NapCat WebSocket 配置
|
||||||
|
if 'napcat_ws' in raw_config:
|
||||||
|
ws_config = raw_config['napcat_ws']
|
||||||
|
ws_config['uri'] = env_loader.get('NAPCAT_WS_URI', ws_config.get('uri', 'ws://localhost:8080'))
|
||||||
|
ws_config['token'] = env_loader.get('NAPCAT_WS_TOKEN', ws_config.get('token', ''))
|
||||||
|
|
||||||
|
# Discord 配置
|
||||||
|
if 'discord' in raw_config:
|
||||||
|
discord_config = raw_config['discord']
|
||||||
|
discord_config['token'] = env_loader.get('DISCORD_TOKEN', discord_config.get('token', ''))
|
||||||
|
discord_config['proxy'] = env_loader.get('DISCORD_PROXY', discord_config.get('proxy'))
|
||||||
|
|
||||||
|
# Bilibili 配置
|
||||||
|
if 'bilibili' in raw_config:
|
||||||
|
bili_config = raw_config['bilibili']
|
||||||
|
bili_config['sessdata'] = env_loader.get('BILIBILI_SESSDATA', bili_config.get('sessdata'))
|
||||||
|
bili_config['bili_jct'] = env_loader.get('BILIBILI_BILI_JCT', bili_config.get('bili_jct'))
|
||||||
|
bili_config['buvid3'] = env_loader.get('BILIBILI_BUVID3', bili_config.get('buvid3'))
|
||||||
|
bili_config['dedeuserid'] = env_loader.get('BILIBILI_DEDEUSERID', bili_config.get('dedeuserid'))
|
||||||
|
|
||||||
|
# Docker 配置
|
||||||
|
if 'docker' in raw_config:
|
||||||
|
docker_config = raw_config['docker']
|
||||||
|
docker_config['base_url'] = env_loader.get('DOCKER_BASE_URL', docker_config.get('base_url'))
|
||||||
|
docker_config['tls_verify'] = env_loader.get_bool('DOCKER_TLS_VERIFY', docker_config.get('tls_verify', False))
|
||||||
|
|
||||||
|
# 反向 WebSocket 配置
|
||||||
|
if 'reverse_ws' in raw_config:
|
||||||
|
reverse_config = raw_config['reverse_ws']
|
||||||
|
reverse_config['enabled'] = env_loader.get_bool('REVERSE_WS_ENABLED', reverse_config.get('enabled', False))
|
||||||
|
reverse_config['host'] = env_loader.get('REVERSE_WS_HOST', reverse_config.get('host', '0.0.0.0'))
|
||||||
|
reverse_config['port'] = env_loader.get_int('REVERSE_WS_PORT', reverse_config.get('port', 3002))
|
||||||
|
reverse_config['token'] = env_loader.get('REVERSE_WS_TOKEN', reverse_config.get('token'))
|
||||||
|
|
||||||
|
# 本地文件服务器配置
|
||||||
|
if 'local_file_server' in raw_config:
|
||||||
|
server_config = raw_config['local_file_server']
|
||||||
|
server_config['enabled'] = env_loader.get_bool('LOCAL_FILE_SERVER_ENABLED', server_config.get('enabled', True))
|
||||||
|
server_config['host'] = env_loader.get('LOCAL_FILE_SERVER_HOST', server_config.get('host', '0.0.0.0'))
|
||||||
|
server_config['port'] = env_loader.get_int('LOCAL_FILE_SERVER_PORT', server_config.get('port', 3003))
|
||||||
|
|
||||||
|
# 日志配置
|
||||||
|
if 'logging' in raw_config:
|
||||||
|
log_config = raw_config['logging']
|
||||||
|
log_config['level'] = env_loader.get('LOG_LEVEL', log_config.get('level', 'DEBUG'))
|
||||||
|
log_config['file_level'] = env_loader.get('LOG_FILE_LEVEL', log_config.get('file_level', 'DEBUG'))
|
||||||
|
log_config['console_level'] = env_loader.get('LOG_CONSOLE_LEVEL', log_config.get('console_level', 'INFO'))
|
||||||
|
|
||||||
|
return raw_config
|
||||||
|
|
||||||
|
def _generate_example_config(self):
|
||||||
|
"""
|
||||||
|
生成示例配置文件
|
||||||
|
"""
|
||||||
|
example_path = Path("config.example.toml")
|
||||||
|
|
||||||
|
if not example_path.exists():
|
||||||
|
self.logger.error(f"示例配置文件 {example_path} 不存在,无法生成配置")
|
||||||
|
raise ConfigNotFoundError(message=f"示例配置文件 {example_path} 不存在")
|
||||||
|
|
||||||
|
content = example_path.read_text()
|
||||||
|
self.path.write_text(content)
|
||||||
|
|
||||||
|
# 通过属性访问配置
|
||||||
|
@property
|
||||||
|
def napcat_ws(self) -> NapCatWSModel:
|
||||||
|
"""
|
||||||
|
获取 NapCat WebSocket 配置
|
||||||
|
"""
|
||||||
|
return self._model.napcat_ws
|
||||||
|
|
||||||
|
@property
|
||||||
|
def bot(self) -> BotModel:
|
||||||
|
"""
|
||||||
|
获取 Bot 基础配置
|
||||||
|
"""
|
||||||
|
return self._model.bot
|
||||||
|
|
||||||
|
@property
|
||||||
|
def redis(self) -> RedisModel:
|
||||||
|
"""
|
||||||
|
获取 Redis 配置
|
||||||
|
"""
|
||||||
|
return self._model.redis
|
||||||
|
|
||||||
|
@property
|
||||||
|
def mysql(self) -> MySQLModel:
|
||||||
|
"""
|
||||||
|
获取 MySQL 配置
|
||||||
|
"""
|
||||||
|
return self._model.mysql
|
||||||
|
|
||||||
|
@property
|
||||||
|
def docker(self) -> DockerModel:
|
||||||
|
"""
|
||||||
|
获取 Docker 配置
|
||||||
|
"""
|
||||||
|
return self._model.docker
|
||||||
|
|
||||||
|
@property
|
||||||
|
def image_manager(self) -> ImageManagerModel:
|
||||||
|
"""
|
||||||
|
获取图片生成管理器配置
|
||||||
|
"""
|
||||||
|
return self._model.image_manager
|
||||||
|
|
||||||
|
@property
|
||||||
|
def reverse_ws(self) -> ReverseWSModel:
|
||||||
|
"""
|
||||||
|
获取反向 WebSocket 配置
|
||||||
|
"""
|
||||||
|
return self._model.reverse_ws
|
||||||
|
|
||||||
|
@property
|
||||||
|
def threading(self) -> ThreadingModel:
|
||||||
|
"""
|
||||||
|
获取线程管理配置
|
||||||
|
"""
|
||||||
|
return self._model.threading
|
||||||
|
|
||||||
|
@property
|
||||||
|
def bilibili(self) -> BilibiliModel:
|
||||||
|
"""
|
||||||
|
获取 Bilibili 配置
|
||||||
|
"""
|
||||||
|
return self._model.bilibili
|
||||||
|
|
||||||
|
@property
|
||||||
|
def local_file_server(self) -> LocalFileServerModel:
|
||||||
|
"""
|
||||||
|
获取本地文件服务器配置
|
||||||
|
"""
|
||||||
|
return self._model.local_file_server
|
||||||
|
|
||||||
|
@property
|
||||||
|
def discord(self) -> DiscordModel:
|
||||||
|
"""
|
||||||
|
获取 Discord 配置
|
||||||
|
"""
|
||||||
|
return self._model.discord
|
||||||
|
|
||||||
|
@property
|
||||||
|
def cross_platform(self) -> CrossPlatformModel:
|
||||||
|
"""
|
||||||
|
获取跨平台配置
|
||||||
|
"""
|
||||||
|
return self._model.cross_platform
|
||||||
|
|
||||||
|
@property
|
||||||
|
def logging(self) -> LoggingModel:
|
||||||
|
"""
|
||||||
|
获取日志配置
|
||||||
|
"""
|
||||||
|
return self._model.logging
|
||||||
|
|
||||||
|
|
||||||
|
# 实例化全局配置对象
|
||||||
|
global_config = Config()
|
||||||
9
src/neobot/core/handlers/__init__.py
Normal file
9
src/neobot/core/handlers/__init__.py
Normal file
@@ -0,0 +1,9 @@
|
|||||||
|
"""
|
||||||
|
NEO Bot Handlers Package
|
||||||
|
|
||||||
|
事件处理器模块。
|
||||||
|
"""
|
||||||
|
|
||||||
|
from .event_handler import matcher
|
||||||
|
|
||||||
|
__all__ = ["matcher"]
|
||||||
31
src/neobot/core/managers/__init__.py
Normal file
31
src/neobot/core/managers/__init__.py
Normal file
@@ -0,0 +1,31 @@
|
|||||||
|
"""
|
||||||
|
NEO Bot Managers Package
|
||||||
|
|
||||||
|
管理器模块,包含各种功能管理器。
|
||||||
|
"""
|
||||||
|
|
||||||
|
from .bot_manager import bot_manager
|
||||||
|
from .browser_manager import browser_manager
|
||||||
|
from .command_manager import command_manager
|
||||||
|
from .image_manager import image_manager
|
||||||
|
from .mysql_manager import mysql_manager
|
||||||
|
from .permission_manager import permission_manager
|
||||||
|
from .plugin_manager import plugin_manager
|
||||||
|
from .redis_manager import redis_manager
|
||||||
|
from .reverse_ws_manager import reverse_ws_manager
|
||||||
|
from .thread_manager import thread_manager
|
||||||
|
from .vectordb_manager import vectordb_manager
|
||||||
|
|
||||||
|
__all__ = [
|
||||||
|
"bot_manager",
|
||||||
|
"browser_manager",
|
||||||
|
"command_manager",
|
||||||
|
"image_manager",
|
||||||
|
"mysql_manager",
|
||||||
|
"permission_manager",
|
||||||
|
"plugin_manager",
|
||||||
|
"redis_manager",
|
||||||
|
"reverse_ws_manager",
|
||||||
|
"thread_manager",
|
||||||
|
"vectordb_manager",
|
||||||
|
]
|
||||||
@@ -135,7 +135,7 @@ class BrowserManager(Singleton):
|
|||||||
try:
|
try:
|
||||||
page = self._page_pool.get_nowait()
|
page = self._page_pool.get_nowait()
|
||||||
await page.close()
|
await page.close()
|
||||||
except Exception:
|
except (asyncio.QueueEmpty, AttributeError):
|
||||||
pass
|
pass
|
||||||
self._page_pool = None
|
self._page_pool = None
|
||||||
|
|
||||||
@@ -8,7 +8,7 @@
|
|||||||
|
|
||||||
from typing import Any, Callable, Dict, Optional, Tuple
|
from typing import Any, Callable, Dict, Optional, Tuple
|
||||||
|
|
||||||
from models.events.message import MessageSegment
|
from neobot.models.events.message import MessageSegment
|
||||||
|
|
||||||
|
|
||||||
|
|
||||||
@@ -432,4 +432,4 @@ def require_admin(func):
|
|||||||
一个装饰器,用于限制命令只能由管理员执行。
|
一个装饰器,用于限制命令只能由管理员执行。
|
||||||
"""
|
"""
|
||||||
from functools import wraps
|
from functools import wraps
|
||||||
from models.events.message import MessageEvent
|
from neobot.models.events.message import MessageEvent
|
||||||
@@ -16,7 +16,7 @@ import threading
|
|||||||
from ..utils.logger import ModuleLogger
|
from ..utils.logger import ModuleLogger
|
||||||
from ..utils.error_codes import ErrorCode, create_error_response
|
from ..utils.error_codes import ErrorCode, create_error_response
|
||||||
from .command_manager import matcher
|
from .command_manager import matcher
|
||||||
from models.events.factory import EventFactory
|
from neobot.models.events.factory import EventFactory
|
||||||
from ..bot import Bot
|
from ..bot import Bot
|
||||||
from ..ws import ReverseWSClient as _ReverseWSClient
|
from ..ws import ReverseWSClient as _ReverseWSClient
|
||||||
|
|
||||||
@@ -10,8 +10,8 @@ import json
|
|||||||
from typing import List, Dict, Any, Optional
|
from typing import List, Dict, Any, Optional
|
||||||
import chromadb
|
import chromadb
|
||||||
from chromadb.config import Settings
|
from chromadb.config import Settings
|
||||||
from core.utils.logger import ModuleLogger
|
from neobot.core.utils.logger import ModuleLogger
|
||||||
from core.utils.singleton import Singleton
|
from neobot.core.utils.singleton import Singleton
|
||||||
|
|
||||||
logger = ModuleLogger("VectorDBManager")
|
logger = ModuleLogger("VectorDBManager")
|
||||||
|
|
||||||
@@ -1,9 +1,9 @@
|
|||||||
import inspect
|
import inspect
|
||||||
import functools
|
import functools
|
||||||
from typing import Optional, Union, Any, Callable
|
from typing import Optional, Union, Any, Callable
|
||||||
from core.managers.command_manager import matcher as command_manager
|
from neobot.core.managers.command_manager import matcher as command_manager
|
||||||
from core.permission import Permission
|
from neobot.core.permission import Permission
|
||||||
from models.events.message import MessageEvent
|
from neobot.models.events.message import MessageEvent
|
||||||
|
|
||||||
class Plugin:
|
class Plugin:
|
||||||
"""
|
"""
|
||||||
9
src/neobot/core/services/__init__.py
Normal file
9
src/neobot/core/services/__init__.py
Normal file
@@ -0,0 +1,9 @@
|
|||||||
|
"""
|
||||||
|
NEO Bot Services Package
|
||||||
|
|
||||||
|
服务层模块。
|
||||||
|
"""
|
||||||
|
|
||||||
|
from .local_file_server import start_local_file_server, stop_local_file_server
|
||||||
|
|
||||||
|
__all__ = ["start_local_file_server", "stop_local_file_server"]
|
||||||
@@ -17,8 +17,8 @@ import aiohttp
|
|||||||
from aiohttp import web
|
from aiohttp import web
|
||||||
import urllib.request
|
import urllib.request
|
||||||
|
|
||||||
from core.utils.logger import logger
|
from neobot.core.utils.logger import logger
|
||||||
from core.config_loader import global_config
|
from neobot.core.config_loader import global_config
|
||||||
|
|
||||||
|
|
||||||
class LocalFileServer:
|
class LocalFileServer:
|
||||||
19
src/neobot/core/utils/__init__.py
Normal file
19
src/neobot/core/utils/__init__.py
Normal file
@@ -0,0 +1,19 @@
|
|||||||
|
"""
|
||||||
|
NEO Bot Utils Package
|
||||||
|
|
||||||
|
工具函数模块。
|
||||||
|
"""
|
||||||
|
|
||||||
|
from .error_codes import exception_to_error_response, ErrorCodes
|
||||||
|
from .exceptions import BotException
|
||||||
|
from .logger import logger, ModuleLogger
|
||||||
|
from .singleton import Singleton
|
||||||
|
|
||||||
|
__all__ = [
|
||||||
|
"exception_to_error_response",
|
||||||
|
"ErrorCodes",
|
||||||
|
"BotException",
|
||||||
|
"logger",
|
||||||
|
"ModuleLogger",
|
||||||
|
"Singleton",
|
||||||
|
]
|
||||||
202
src/neobot/core/utils/env_loader.py
Normal file
202
src/neobot/core/utils/env_loader.py
Normal file
@@ -0,0 +1,202 @@
|
|||||||
|
"""
|
||||||
|
环境变量加载器
|
||||||
|
|
||||||
|
负责从环境变量加载敏感配置,支持 .env 文件和环境变量。
|
||||||
|
"""
|
||||||
|
import os
|
||||||
|
from pathlib import Path
|
||||||
|
from typing import Optional, Dict, Any
|
||||||
|
from dotenv import load_dotenv
|
||||||
|
|
||||||
|
from .logger import ModuleLogger
|
||||||
|
|
||||||
|
|
||||||
|
class EnvLoader:
|
||||||
|
"""
|
||||||
|
环境变量加载器类
|
||||||
|
"""
|
||||||
|
|
||||||
|
def __init__(self, env_file: str = ".env"):
|
||||||
|
"""
|
||||||
|
初始化环境变量加载器
|
||||||
|
|
||||||
|
Args:
|
||||||
|
env_file: .env 文件路径
|
||||||
|
"""
|
||||||
|
self.env_file = Path(env_file)
|
||||||
|
self.logger = ModuleLogger("EnvLoader")
|
||||||
|
self._loaded = False
|
||||||
|
|
||||||
|
def load(self) -> bool:
|
||||||
|
"""
|
||||||
|
加载环境变量
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
bool: 是否成功加载
|
||||||
|
"""
|
||||||
|
if self._loaded:
|
||||||
|
return True
|
||||||
|
|
||||||
|
try:
|
||||||
|
# 尝试从 .env 文件加载
|
||||||
|
if self.env_file.exists():
|
||||||
|
load_dotenv(self.env_file)
|
||||||
|
self.logger.info(f"已从 {self.env_file} 加载环境变量")
|
||||||
|
else:
|
||||||
|
self.logger.warning(f".env 文件不存在: {self.env_file}")
|
||||||
|
|
||||||
|
self._loaded = True
|
||||||
|
return True
|
||||||
|
|
||||||
|
except Exception as e:
|
||||||
|
self.logger.error(f"加载环境变量失败: {e}")
|
||||||
|
return False
|
||||||
|
|
||||||
|
def get(self, key: str, default: Optional[str] = None) -> Optional[str]:
|
||||||
|
"""
|
||||||
|
获取环境变量值
|
||||||
|
|
||||||
|
Args:
|
||||||
|
key: 环境变量键名
|
||||||
|
default: 默认值
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
环境变量值,如果不存在则返回默认值
|
||||||
|
"""
|
||||||
|
if not self._loaded:
|
||||||
|
self.load()
|
||||||
|
|
||||||
|
return os.getenv(key, default)
|
||||||
|
|
||||||
|
def get_int(self, key: str, default: int = 0) -> int:
|
||||||
|
"""
|
||||||
|
获取整数类型的环境变量值
|
||||||
|
|
||||||
|
Args:
|
||||||
|
key: 环境变量键名
|
||||||
|
default: 默认值
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
整数类型的环境变量值
|
||||||
|
"""
|
||||||
|
value = self.get(key)
|
||||||
|
if value is None:
|
||||||
|
return default
|
||||||
|
|
||||||
|
try:
|
||||||
|
return int(value)
|
||||||
|
except (ValueError, TypeError):
|
||||||
|
self.logger.warning(f"环境变量 {key} 的值 '{value}' 不是有效的整数,使用默认值 {default}")
|
||||||
|
return default
|
||||||
|
|
||||||
|
def get_bool(self, key: str, default: bool = False) -> bool:
|
||||||
|
"""
|
||||||
|
获取布尔类型的环境变量值
|
||||||
|
|
||||||
|
Args:
|
||||||
|
key: 环境变量键名
|
||||||
|
default: 默认值
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
布尔类型的环境变量值
|
||||||
|
"""
|
||||||
|
value = self.get(key)
|
||||||
|
if value is None:
|
||||||
|
return default
|
||||||
|
|
||||||
|
value_lower = value.lower()
|
||||||
|
if value_lower in ('true', 'yes', '1', 'on'):
|
||||||
|
return True
|
||||||
|
elif value_lower in ('false', 'no', '0', 'off'):
|
||||||
|
return False
|
||||||
|
else:
|
||||||
|
self.logger.warning(f"环境变量 {key} 的值 '{value}' 不是有效的布尔值,使用默认值 {default}")
|
||||||
|
return default
|
||||||
|
|
||||||
|
def get_list(self, key: str, default: Optional[list] = None, separator: str = ',') -> list:
|
||||||
|
"""
|
||||||
|
获取列表类型的环境变量值
|
||||||
|
|
||||||
|
Args:
|
||||||
|
key: 环境变量键名
|
||||||
|
default: 默认值
|
||||||
|
separator: 分隔符
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
列表类型的环境变量值
|
||||||
|
"""
|
||||||
|
value = self.get(key)
|
||||||
|
if value is None:
|
||||||
|
return default or []
|
||||||
|
|
||||||
|
return [item.strip() for item in value.split(separator) if item.strip()]
|
||||||
|
|
||||||
|
def validate_required(self, keys: list[str]) -> bool:
|
||||||
|
"""
|
||||||
|
验证必需的环境变量是否存在
|
||||||
|
|
||||||
|
Args:
|
||||||
|
keys: 必需的环境变量键名列表
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
bool: 所有必需的环境变量是否存在
|
||||||
|
"""
|
||||||
|
missing_keys = []
|
||||||
|
|
||||||
|
for key in keys:
|
||||||
|
if self.get(key) is None:
|
||||||
|
missing_keys.append(key)
|
||||||
|
|
||||||
|
if missing_keys:
|
||||||
|
self.logger.error(f"缺少必需的环境变量: {', '.join(missing_keys)}")
|
||||||
|
return False
|
||||||
|
|
||||||
|
return True
|
||||||
|
|
||||||
|
def mask_sensitive_value(self, value: str) -> str:
|
||||||
|
"""
|
||||||
|
隐藏敏感值(用于日志输出)
|
||||||
|
|
||||||
|
Args:
|
||||||
|
value: 原始值
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
隐藏后的值
|
||||||
|
"""
|
||||||
|
if not value:
|
||||||
|
return ""
|
||||||
|
|
||||||
|
if len(value) <= 4:
|
||||||
|
return "***"
|
||||||
|
else:
|
||||||
|
return value[:2] + "***" + value[-2:]
|
||||||
|
|
||||||
|
def get_safe_log_value(self, key: str) -> str:
|
||||||
|
"""
|
||||||
|
获取安全的日志值(隐藏敏感信息)
|
||||||
|
|
||||||
|
Args:
|
||||||
|
key: 环境变量键名
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
安全的日志值
|
||||||
|
"""
|
||||||
|
value = self.get(key)
|
||||||
|
if value is None:
|
||||||
|
return "<未设置>"
|
||||||
|
|
||||||
|
# 敏感键名列表
|
||||||
|
sensitive_keys = [
|
||||||
|
'password', 'token', 'secret', 'key', 'credential',
|
||||||
|
'sessdata', 'bili_jct', 'buvid3', 'dedeuserid'
|
||||||
|
]
|
||||||
|
|
||||||
|
for sensitive in sensitive_keys:
|
||||||
|
if sensitive in key.lower():
|
||||||
|
return self.mask_sensitive_value(value)
|
||||||
|
|
||||||
|
return value
|
||||||
|
|
||||||
|
|
||||||
|
# 全局环境变量加载器实例
|
||||||
|
env_loader = EnvLoader()
|
||||||
@@ -5,7 +5,7 @@ from docker.tls import TLSConfig
|
|||||||
from docker.types import LogConfig
|
from docker.types import LogConfig
|
||||||
from typing import Any, Callable
|
from typing import Any, Callable
|
||||||
|
|
||||||
from core.utils.logger import logger
|
from neobot.core.utils.logger import logger
|
||||||
|
|
||||||
class CodeExecutor:
|
class CodeExecutor:
|
||||||
"""
|
"""
|
||||||
388
src/neobot/core/utils/input_validator.py
Normal file
388
src/neobot/core/utils/input_validator.py
Normal file
@@ -0,0 +1,388 @@
|
|||||||
|
"""
|
||||||
|
输入验证工具
|
||||||
|
|
||||||
|
提供通用的输入验证功能,防止 SQL 注入、XSS 攻击等安全问题。
|
||||||
|
"""
|
||||||
|
import re
|
||||||
|
import html
|
||||||
|
from typing import Optional, Union, List, Dict, Any
|
||||||
|
from urllib.parse import urlparse
|
||||||
|
|
||||||
|
from .logger import ModuleLogger
|
||||||
|
|
||||||
|
|
||||||
|
class InputValidator:
|
||||||
|
"""
|
||||||
|
输入验证器类
|
||||||
|
"""
|
||||||
|
|
||||||
|
def __init__(self):
|
||||||
|
self.logger = ModuleLogger("InputValidator")
|
||||||
|
|
||||||
|
# SQL 注入检测模式(预编译正则表达式)
|
||||||
|
self.sql_injection_patterns = [
|
||||||
|
re.compile(r"(?i)(\b(select|insert|update|delete|drop|create|alter|truncate|union|join)\b)"),
|
||||||
|
re.compile(r"(?i)(\b(from|where|group by|order by|having|limit|offset)\b)"),
|
||||||
|
re.compile(r"(?i)(\b(and|or|not|xor|between|in|like|is|null)\b)"),
|
||||||
|
re.compile(r"(?i)(\b(exec|execute|sp_executesql|xp_cmdshell)\b)"),
|
||||||
|
re.compile(r"(?i)(\b(declare|set|cast|convert|case|when|then|else|end)\b)"),
|
||||||
|
re.compile(r"(--|\#|\/\*|\*\/|;)"),
|
||||||
|
re.compile(r"(\b(0x[0-9a-f]+)\b)"),
|
||||||
|
re.compile(r"(\b(admin|administrator|root|sysadmin)\b)"),
|
||||||
|
re.compile(r"(\b(password|passwd|pwd|secret|token|key)\b)"),
|
||||||
|
]
|
||||||
|
|
||||||
|
# XSS 攻击检测模式(预编译正则表达式)
|
||||||
|
self.xss_patterns = [
|
||||||
|
re.compile(r"(<script[^>]*>.*?</script>)", re.IGNORECASE | re.DOTALL),
|
||||||
|
re.compile(r"(<iframe[^>]*>.*?</iframe>)", re.IGNORECASE | re.DOTALL),
|
||||||
|
re.compile(r"(<object[^>]*>.*?</object>)", re.IGNORECASE | re.DOTALL),
|
||||||
|
re.compile(r"(<embed[^>]*>.*?</embed>)", re.IGNORECASE | re.DOTALL),
|
||||||
|
re.compile(r"(<applet[^>]*>.*?</applet>)", re.IGNORECASE | re.DOTALL),
|
||||||
|
re.compile(r"(<meta[^>]*>.*?</meta>)", re.IGNORECASE | re.DOTALL),
|
||||||
|
re.compile(r"(<link[^>]*>.*?</link>)", re.IGNORECASE | re.DOTALL),
|
||||||
|
re.compile(r"(<style[^>]*>.*?</style>)", re.IGNORECASE | re.DOTALL),
|
||||||
|
re.compile(r"(<base[^>]*>.*?</base>)", re.IGNORECASE | re.DOTALL),
|
||||||
|
re.compile(r"(<form[^>]*>.*?</form>)", re.IGNORECASE | re.DOTALL),
|
||||||
|
re.compile(r"(<input[^>]*>.*?</input>)", re.IGNORECASE | re.DOTALL),
|
||||||
|
re.compile(r"(<button[^>]*>.*?</button>)", re.IGNORECASE | re.DOTALL),
|
||||||
|
re.compile(r"(<select[^>]*>.*?</select>)", re.IGNORECASE | re.DOTALL),
|
||||||
|
re.compile(r"(<textarea[^>]*>.*?</textarea>)", re.IGNORECASE | re.DOTALL),
|
||||||
|
re.compile(r"(<img[^>]*>.*?</img>)", re.IGNORECASE | re.DOTALL),
|
||||||
|
re.compile(r"(<svg[^>]*>.*?</svg>)", re.IGNORECASE | re.DOTALL),
|
||||||
|
re.compile(r"(<math[^>]*>.*?</math>)", re.IGNORECASE | re.DOTALL),
|
||||||
|
re.compile(r"(javascript:|data:|vbscript:|about:|file:|ftp:|mailto:|telnet:)", re.IGNORECASE),
|
||||||
|
re.compile(r"(on\w+\s*=)", re.IGNORECASE),
|
||||||
|
re.compile(r"(expression\s*\()", re.IGNORECASE),
|
||||||
|
re.compile(r"(url\s*\()", re.IGNORECASE),
|
||||||
|
]
|
||||||
|
|
||||||
|
# 路径遍历检测模式(预编译正则表达式)
|
||||||
|
self.path_traversal_patterns = [
|
||||||
|
re.compile(r"(\.\./|\.\.\\)", re.IGNORECASE),
|
||||||
|
re.compile(r"(/etc/passwd|/etc/shadow|/etc/hosts)", re.IGNORECASE),
|
||||||
|
re.compile(r"(C:\\Windows\\System32|C:\\Windows\\SysWOW64)", re.IGNORECASE),
|
||||||
|
re.compile(r"(/bin/sh|/bin/bash|/usr/bin/python)", re.IGNORECASE),
|
||||||
|
re.compile(r"(\.\.%2f|\.\.%5c)", re.IGNORECASE),
|
||||||
|
]
|
||||||
|
|
||||||
|
# 命令注入检测模式(预编译正则表达式)
|
||||||
|
self.command_injection_patterns = [
|
||||||
|
re.compile(r"(;|\||&|\$\(|\`|\n|\r)"),
|
||||||
|
re.compile(r"(rm\s+-rf|del\s+/f|format\s+)", re.IGNORECASE),
|
||||||
|
re.compile(r"(shutdown|reboot|halt|poweroff)", re.IGNORECASE),
|
||||||
|
re.compile(r"(wget|curl|ftp|scp|ssh)\s+", re.IGNORECASE),
|
||||||
|
re.compile(r"(nc|netcat|telnet|nmap)\s+", re.IGNORECASE),
|
||||||
|
]
|
||||||
|
|
||||||
|
# 预编译常用正则表达式
|
||||||
|
self.email_pattern = re.compile(r'^[a-zA-Z0-9._%+-]+@[a-zA-Z0-9.-]+\.[a-zA-Z]{2,}$')
|
||||||
|
self.phone_pattern = re.compile(r'^1[3-9]\d{9}$')
|
||||||
|
self.nine_digit_pattern = re.compile(r'^\d{9}$') # 用于城市代码验证
|
||||||
|
|
||||||
|
def validate_sql_input(self, input_str: str, allow_safe_keywords: bool = False) -> bool:
|
||||||
|
"""
|
||||||
|
验证 SQL 输入是否安全
|
||||||
|
|
||||||
|
Args:
|
||||||
|
input_str: 输入字符串
|
||||||
|
allow_safe_keywords: 是否允许安全的 SQL 关键字
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
bool: 是否安全
|
||||||
|
"""
|
||||||
|
if not input_str:
|
||||||
|
return True
|
||||||
|
|
||||||
|
input_lower = input_str.lower()
|
||||||
|
|
||||||
|
# 检查 SQL 注入模式(使用预编译的正则表达式)
|
||||||
|
for pattern in self.sql_injection_patterns:
|
||||||
|
if pattern.search(input_lower):
|
||||||
|
self.logger.warning(f"检测到可能的 SQL 注入: {input_str}")
|
||||||
|
return False
|
||||||
|
|
||||||
|
# 如果允许安全关键字,检查是否包含危险操作
|
||||||
|
if allow_safe_keywords:
|
||||||
|
dangerous_operations = ['drop', 'delete', 'truncate', 'alter', 'create', 'exec']
|
||||||
|
for op in dangerous_operations:
|
||||||
|
if op in input_lower:
|
||||||
|
self.logger.warning(f"检测到危险 SQL 操作: {op}")
|
||||||
|
return False
|
||||||
|
|
||||||
|
return True
|
||||||
|
|
||||||
|
def validate_xss_input(self, input_str: str) -> bool:
|
||||||
|
"""
|
||||||
|
验证 XSS 输入是否安全
|
||||||
|
|
||||||
|
Args:
|
||||||
|
input_str: 输入字符串
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
bool: 是否安全
|
||||||
|
"""
|
||||||
|
if not input_str:
|
||||||
|
return True
|
||||||
|
|
||||||
|
# 检查 XSS 攻击模式(使用预编译的正则表达式)
|
||||||
|
for pattern in self.xss_patterns:
|
||||||
|
if pattern.search(input_str):
|
||||||
|
self.logger.warning(f"检测到可能的 XSS 攻击: {input_str}")
|
||||||
|
return False
|
||||||
|
|
||||||
|
return True
|
||||||
|
|
||||||
|
def validate_path_input(self, input_str: str) -> bool:
|
||||||
|
"""
|
||||||
|
验证路径输入是否安全
|
||||||
|
|
||||||
|
Args:
|
||||||
|
input_str: 输入字符串
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
bool: 是否安全
|
||||||
|
"""
|
||||||
|
if not input_str:
|
||||||
|
return True
|
||||||
|
|
||||||
|
# 检查路径遍历攻击(使用预编译的正则表达式)
|
||||||
|
for pattern in self.path_traversal_patterns:
|
||||||
|
if pattern.search(input_str):
|
||||||
|
self.logger.warning(f"检测到可能的路径遍历攻击: {input_str}")
|
||||||
|
return False
|
||||||
|
|
||||||
|
return True
|
||||||
|
|
||||||
|
def validate_command_input(self, input_str: str) -> bool:
|
||||||
|
"""
|
||||||
|
验证命令输入是否安全
|
||||||
|
|
||||||
|
Args:
|
||||||
|
input_str: 输入字符串
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
bool: 是否安全
|
||||||
|
"""
|
||||||
|
if not input_str:
|
||||||
|
return True
|
||||||
|
|
||||||
|
# 检查命令注入攻击(使用预编译的正则表达式)
|
||||||
|
for pattern in self.command_injection_patterns:
|
||||||
|
if pattern.search(input_str):
|
||||||
|
self.logger.warning(f"检测到可能的命令注入攻击: {input_str}")
|
||||||
|
return False
|
||||||
|
|
||||||
|
return True
|
||||||
|
|
||||||
|
def validate_url(self, url: str, allowed_schemes: List[str] = None) -> bool:
|
||||||
|
"""
|
||||||
|
验证 URL 是否安全
|
||||||
|
|
||||||
|
Args:
|
||||||
|
url: URL 字符串
|
||||||
|
allowed_schemes: 允许的协议列表
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
bool: 是否安全
|
||||||
|
"""
|
||||||
|
if not url:
|
||||||
|
return False
|
||||||
|
|
||||||
|
if allowed_schemes is None:
|
||||||
|
allowed_schemes = ['http', 'https', 'ftp', 'file']
|
||||||
|
|
||||||
|
try:
|
||||||
|
parsed = urlparse(url)
|
||||||
|
|
||||||
|
# 检查协议
|
||||||
|
if parsed.scheme not in allowed_schemes:
|
||||||
|
self.logger.warning(f"不允许的协议: {parsed.scheme}")
|
||||||
|
return False
|
||||||
|
|
||||||
|
# 检查主机名
|
||||||
|
if not parsed.hostname:
|
||||||
|
self.logger.warning("URL 缺少主机名")
|
||||||
|
return False
|
||||||
|
|
||||||
|
# 检查路径安全性
|
||||||
|
if not self.validate_path_input(parsed.path):
|
||||||
|
return False
|
||||||
|
|
||||||
|
return True
|
||||||
|
|
||||||
|
except Exception as e:
|
||||||
|
self.logger.error(f"URL 解析失败: {e}")
|
||||||
|
return False
|
||||||
|
|
||||||
|
def validate_email(self, email: str) -> bool:
|
||||||
|
"""
|
||||||
|
验证邮箱地址格式
|
||||||
|
|
||||||
|
Args:
|
||||||
|
email: 邮箱地址
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
bool: 是否有效
|
||||||
|
"""
|
||||||
|
if not email:
|
||||||
|
return False
|
||||||
|
|
||||||
|
return bool(self.email_pattern.match(email))
|
||||||
|
|
||||||
|
def validate_phone(self, phone: str) -> bool:
|
||||||
|
"""
|
||||||
|
验证手机号码格式
|
||||||
|
|
||||||
|
Args:
|
||||||
|
phone: 手机号码
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
bool: 是否有效
|
||||||
|
"""
|
||||||
|
if not phone:
|
||||||
|
return False
|
||||||
|
|
||||||
|
return bool(self.phone_pattern.match(phone))
|
||||||
|
|
||||||
|
def validate_integer(self, value: str, min_value: Optional[int] = None, max_value: Optional[int] = None) -> bool:
|
||||||
|
"""
|
||||||
|
验证整数格式和范围
|
||||||
|
|
||||||
|
Args:
|
||||||
|
value: 整数字符串
|
||||||
|
min_value: 最小值
|
||||||
|
max_value: 最大值
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
bool: 是否有效
|
||||||
|
"""
|
||||||
|
if not value:
|
||||||
|
return False
|
||||||
|
|
||||||
|
try:
|
||||||
|
int_value = int(value)
|
||||||
|
|
||||||
|
if min_value is not None and int_value < min_value:
|
||||||
|
return False
|
||||||
|
|
||||||
|
if max_value is not None and int_value > max_value:
|
||||||
|
return False
|
||||||
|
|
||||||
|
return True
|
||||||
|
|
||||||
|
except ValueError:
|
||||||
|
return False
|
||||||
|
|
||||||
|
def validate_float(self, value: str, min_value: Optional[float] = None, max_value: Optional[float] = None) -> bool:
|
||||||
|
"""
|
||||||
|
验证浮点数格式和范围
|
||||||
|
|
||||||
|
Args:
|
||||||
|
value: 浮点数字符串
|
||||||
|
min_value: 最小值
|
||||||
|
max_value: 最大值
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
bool: 是否有效
|
||||||
|
"""
|
||||||
|
if not value:
|
||||||
|
return False
|
||||||
|
|
||||||
|
try:
|
||||||
|
float_value = float(value)
|
||||||
|
|
||||||
|
if min_value is not None and float_value < min_value:
|
||||||
|
return False
|
||||||
|
|
||||||
|
if max_value is not None and float_value > max_value:
|
||||||
|
return False
|
||||||
|
|
||||||
|
return True
|
||||||
|
|
||||||
|
except ValueError:
|
||||||
|
return False
|
||||||
|
|
||||||
|
def sanitize_html(self, html_str: str) -> str:
|
||||||
|
"""
|
||||||
|
清理 HTML 字符串,防止 XSS 攻击
|
||||||
|
|
||||||
|
Args:
|
||||||
|
html_str: HTML 字符串
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
str: 清理后的字符串
|
||||||
|
"""
|
||||||
|
if not html_str:
|
||||||
|
return ""
|
||||||
|
|
||||||
|
# 转义 HTML 特殊字符
|
||||||
|
sanitized = html.escape(html_str)
|
||||||
|
|
||||||
|
# 移除危险的属性
|
||||||
|
sanitized = re.sub(r'on\w+\s*=', 'data-', sanitized, flags=re.IGNORECASE)
|
||||||
|
sanitized = re.sub(r'javascript:', 'data:', sanitized, flags=re.IGNORECASE)
|
||||||
|
sanitized = re.sub(r'data:', 'data:', sanitized, flags=re.IGNORECASE)
|
||||||
|
sanitized = re.sub(r'vbscript:', 'data:', sanitized, flags=re.IGNORECASE)
|
||||||
|
|
||||||
|
return sanitized
|
||||||
|
|
||||||
|
def sanitize_sql(self, sql_str: str) -> str:
|
||||||
|
"""
|
||||||
|
清理 SQL 字符串,防止 SQL 注入
|
||||||
|
|
||||||
|
Args:
|
||||||
|
sql_str: SQL 字符串
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
str: 清理后的字符串
|
||||||
|
"""
|
||||||
|
if not sql_str:
|
||||||
|
return ""
|
||||||
|
|
||||||
|
# 移除注释
|
||||||
|
sanitized = re.sub(r'--.*$', '', sql_str, flags=re.MULTILINE)
|
||||||
|
sanitized = re.sub(r'/\*.*?\*/', '', sanitized, flags=re.DOTALL)
|
||||||
|
|
||||||
|
# 移除分号(在参数化查询中不需要)
|
||||||
|
sanitized = sanitized.replace(';', '')
|
||||||
|
|
||||||
|
return sanitized
|
||||||
|
|
||||||
|
def validate_all(self, input_str: str, validation_types: List[str] = None) -> Dict[str, bool]:
|
||||||
|
"""
|
||||||
|
执行所有验证
|
||||||
|
|
||||||
|
Args:
|
||||||
|
input_str: 输入字符串
|
||||||
|
validation_types: 验证类型列表
|
||||||
|
|
||||||
|
Returns:
|
||||||
|
Dict[str, bool]: 验证结果字典
|
||||||
|
"""
|
||||||
|
if validation_types is None:
|
||||||
|
validation_types = ['sql', 'xss', 'path', 'command']
|
||||||
|
|
||||||
|
results = {}
|
||||||
|
|
||||||
|
for vtype in validation_types:
|
||||||
|
if vtype == 'sql':
|
||||||
|
results['sql'] = self.validate_sql_input(input_str)
|
||||||
|
elif vtype == 'xss':
|
||||||
|
results['xss'] = self.validate_xss_input(input_str)
|
||||||
|
elif vtype == 'path':
|
||||||
|
results['path'] = self.validate_path_input(input_str)
|
||||||
|
elif vtype == 'command':
|
||||||
|
results['command'] = self.validate_command_input(input_str)
|
||||||
|
elif vtype == 'url':
|
||||||
|
results['url'] = self.validate_url(input_str)
|
||||||
|
elif vtype == 'email':
|
||||||
|
results['email'] = self.validate_email(input_str)
|
||||||
|
elif vtype == 'phone':
|
||||||
|
results['phone'] = self.validate_phone(input_str)
|
||||||
|
|
||||||
|
return results
|
||||||
|
|
||||||
|
|
||||||
|
# 全局输入验证器实例
|
||||||
|
input_validator = InputValidator()
|
||||||
@@ -23,7 +23,7 @@ if TYPE_CHECKING:
|
|||||||
import websockets
|
import websockets
|
||||||
from websockets.legacy.client import WebSocketClientProtocol
|
from websockets.legacy.client import WebSocketClientProtocol
|
||||||
|
|
||||||
from models.events.factory import EventFactory
|
from neobot.models.events.factory import EventFactory
|
||||||
|
|
||||||
from .config_loader import global_config
|
from .config_loader import global_config
|
||||||
from .utils.executor import CodeExecutor
|
from .utils.executor import CodeExecutor
|
||||||
65
src/neobot/docs/project-structure.md
Normal file
65
src/neobot/docs/project-structure.md
Normal file
@@ -0,0 +1,65 @@
|
|||||||
|
# 项目结构
|
||||||
|
|
||||||
|
本项目采用标准的 Python 包结构,遵循 PEP 621 规范。
|
||||||
|
|
||||||
|
## 目录结构
|
||||||
|
|
||||||
|
```
|
||||||
|
src/neobot/
|
||||||
|
├── core/ # 框架核心代码
|
||||||
|
├── models/ # 数据模型
|
||||||
|
├── adapters/ # 平台适配器
|
||||||
|
├── plugins/ # 插件目录
|
||||||
|
├── tests/ # 测试文件
|
||||||
|
├── templates/ # 模板文件
|
||||||
|
├── docs/ # 文档
|
||||||
|
├── web_static/ # 静态文件
|
||||||
|
└── data/ # 数据文件
|
||||||
|
```
|
||||||
|
|
||||||
|
## 核心目录说明
|
||||||
|
|
||||||
|
### core/
|
||||||
|
|
||||||
|
框架核心代码,包含:
|
||||||
|
|
||||||
|
- **api/**: OneBot API 封装
|
||||||
|
- **handlers/**: 事件处理器
|
||||||
|
- **managers/**: 各种管理器
|
||||||
|
- **services/**: 服务层
|
||||||
|
- **utils/**: 工具函数
|
||||||
|
|
||||||
|
### models/
|
||||||
|
|
||||||
|
数据模型定义,包含:
|
||||||
|
|
||||||
|
- **events/**: OneBot 事件模型
|
||||||
|
- **message.py**: 消息段模型
|
||||||
|
- **objects.py**: API 响应对象
|
||||||
|
- **sender.py**: 发送者信息
|
||||||
|
|
||||||
|
### plugins/
|
||||||
|
|
||||||
|
插件目录,所有业务逻辑都在这里。插件开发请参考 [插件开发文档](plugin-development/index.md)。
|
||||||
|
|
||||||
|
### tests/
|
||||||
|
|
||||||
|
单元测试和集成测试文件。
|
||||||
|
|
||||||
|
## 导入路径
|
||||||
|
|
||||||
|
所有代码使用绝对导入,格式为 `neobot.{module}.{submodule}`。
|
||||||
|
|
||||||
|
例如:
|
||||||
|
|
||||||
|
```python
|
||||||
|
from neobot.core.managers import plugin_manager
|
||||||
|
from neobot.models import MessageSegment, OneBotEvent
|
||||||
|
from neobot.adapters import DiscordAdapter
|
||||||
|
```
|
||||||
|
|
||||||
|
## 新增模块
|
||||||
|
|
||||||
|
1. 在对应目录下创建模块文件
|
||||||
|
2. 更新 `__init__.py` 文件导出新模块
|
||||||
|
3. 使用绝对导入引用新模块
|
||||||
@@ -1,7 +1,7 @@
|
|||||||
"""
|
"""
|
||||||
Models 包
|
NEO Bot Models Package
|
||||||
|
|
||||||
导出常用的模型类,方便插件导入。
|
数据模型模块,包含事件、消息、发送者等数据结构定义。
|
||||||
"""
|
"""
|
||||||
|
|
||||||
from .events.base import OneBotEvent
|
from .events.base import OneBotEvent
|
||||||
@@ -9,7 +9,7 @@ from typing import TYPE_CHECKING, Optional, Final
|
|||||||
from abc import ABC, abstractmethod
|
from abc import ABC, abstractmethod
|
||||||
|
|
||||||
if TYPE_CHECKING:
|
if TYPE_CHECKING:
|
||||||
from core.bot import Bot
|
from neobot.core.bot import Bot
|
||||||
|
|
||||||
|
|
||||||
class EventType:
|
class EventType:
|
||||||
@@ -5,8 +5,8 @@
|
|||||||
"""
|
"""
|
||||||
from typing import Any, Dict
|
from typing import Any, Dict
|
||||||
|
|
||||||
from models.message import MessageSegment
|
from neobot.models.message import MessageSegment
|
||||||
from models.sender import Sender
|
from neobot.models.sender import Sender
|
||||||
from .base import OneBotEvent, EventType
|
from .base import OneBotEvent, EventType
|
||||||
from .message import GroupMessageEvent, PrivateMessageEvent, Anonymous
|
from .message import GroupMessageEvent, PrivateMessageEvent, Anonymous
|
||||||
from .notice import (
|
from .notice import (
|
||||||
@@ -6,9 +6,9 @@
|
|||||||
from dataclasses import dataclass, field
|
from dataclasses import dataclass, field
|
||||||
from typing import List, Optional, Union, ClassVar
|
from typing import List, Optional, Union, ClassVar
|
||||||
|
|
||||||
from core.permission import Permission
|
from neobot.core.permission import Permission
|
||||||
from models.message import MessageSegment
|
from neobot.models.message import MessageSegment
|
||||||
from models.sender import Sender
|
from neobot.models.sender import Sender
|
||||||
from .base import OneBotEvent, EventType
|
from .base import OneBotEvent, EventType
|
||||||
|
|
||||||
|
|
||||||
41
src/neobot/plugins/__init__.py
Normal file
41
src/neobot/plugins/__init__.py
Normal file
@@ -0,0 +1,41 @@
|
|||||||
|
"""
|
||||||
|
NEO Bot Plugins Package
|
||||||
|
|
||||||
|
插件模块,包含所有业务逻辑插件。
|
||||||
|
"""
|
||||||
|
|
||||||
|
from . import admin
|
||||||
|
from . import ai_chat
|
||||||
|
from . import auto_approve
|
||||||
|
from . import bot_status
|
||||||
|
from . import broadcast
|
||||||
|
from . import code_py
|
||||||
|
from . import echo
|
||||||
|
from . import furry
|
||||||
|
from . import furry_assistant
|
||||||
|
from . import github_parser
|
||||||
|
from . import group_welcome
|
||||||
|
from . import jrcd
|
||||||
|
from . import knowledge_base
|
||||||
|
from . import mirror_avatar
|
||||||
|
from . import thpic
|
||||||
|
from . import weather
|
||||||
|
|
||||||
|
__all__ = [
|
||||||
|
"admin",
|
||||||
|
"ai_chat",
|
||||||
|
"auto_approve",
|
||||||
|
"bot_status",
|
||||||
|
"broadcast",
|
||||||
|
"code_py",
|
||||||
|
"echo",
|
||||||
|
"furry",
|
||||||
|
"furry_assistant",
|
||||||
|
"github_parser",
|
||||||
|
"group_welcome",
|
||||||
|
"jrcd",
|
||||||
|
"knowledge_base",
|
||||||
|
"mirror_avatar",
|
||||||
|
"thpic",
|
||||||
|
"weather",
|
||||||
|
]
|
||||||
@@ -1,6 +1,6 @@
|
|||||||
from core.managers import command_manager, permission_manager
|
from neobot.core.managers import command_manager, permission_manager
|
||||||
from core.permission import Permission
|
from neobot.core.permission import Permission
|
||||||
from models.events.message import MessageEvent
|
from neobot.models.events.message import MessageEvent
|
||||||
|
|
||||||
# 更新插件元信息以包含OP管理
|
# 更新插件元信息以包含OP管理
|
||||||
__plugin_meta__ = {
|
__plugin_meta__ = {
|
||||||
@@ -4,11 +4,14 @@ AI 聊天插件,支持向量数据库记忆功能
|
|||||||
"""
|
"""
|
||||||
import time
|
import time
|
||||||
import uuid
|
import uuid
|
||||||
from core.managers.command_manager import matcher
|
import os
|
||||||
from models.events.message import GroupMessageEvent, PrivateMessageEvent
|
import base64
|
||||||
from core.managers.vectordb_manager import vectordb_manager
|
from neobot.core.managers.command_manager import matcher
|
||||||
from core.utils.logger import ModuleLogger
|
from neobot.models.events.message import GroupMessageEvent, PrivateMessageEvent
|
||||||
from core.config_loader import global_config
|
from neobot.core.managers.vectordb_manager import vectordb_manager
|
||||||
|
from neobot.core.managers.image_manager import image_manager
|
||||||
|
from neobot.core.utils.logger import ModuleLogger
|
||||||
|
from neobot.core.config_loader import global_config
|
||||||
|
|
||||||
logger = ModuleLogger("AIChat")
|
logger = ModuleLogger("AIChat")
|
||||||
|
|
||||||
@@ -18,7 +21,6 @@ __plugin_meta__ = {
|
|||||||
"usage": "/chat <内容> - 与 AI 进行对话"
|
"usage": "/chat <内容> - 与 AI 进行对话"
|
||||||
}
|
}
|
||||||
|
|
||||||
# 尝试导入 OpenAI 客户端
|
|
||||||
try:
|
try:
|
||||||
from openai import AsyncOpenAI
|
from openai import AsyncOpenAI
|
||||||
OPENAI_AVAILABLE = True
|
OPENAI_AVAILABLE = True
|
||||||
@@ -30,7 +32,6 @@ async def get_ai_response(user_id: int, group_id: int, user_message: str) -> str
|
|||||||
if not OPENAI_AVAILABLE:
|
if not OPENAI_AVAILABLE:
|
||||||
return "请先安装 openai 库: pip install openai"
|
return "请先安装 openai 库: pip install openai"
|
||||||
|
|
||||||
# 从配置中获取 DeepSeek API 配置(复用跨平台插件的配置或全局配置)
|
|
||||||
api_key = getattr(global_config.cross_platform, 'deepseek_api_key', None) or "sk-f71322a9fbba4b05a7df969cb4004f06"
|
api_key = getattr(global_config.cross_platform, 'deepseek_api_key', None) or "sk-f71322a9fbba4b05a7df969cb4004f06"
|
||||||
api_url = getattr(global_config.cross_platform, 'deepseek_api_url', "https://api.deepseek.com/v1")
|
api_url = getattr(global_config.cross_platform, 'deepseek_api_url', "https://api.deepseek.com/v1")
|
||||||
model = getattr(global_config.cross_platform, 'deepseek_model', "deepseek-chat")
|
model = getattr(global_config.cross_platform, 'deepseek_model', "deepseek-chat")
|
||||||
@@ -38,7 +39,6 @@ async def get_ai_response(user_id: int, group_id: int, user_message: str) -> str
|
|||||||
if api_key == "your-api-key":
|
if api_key == "your-api-key":
|
||||||
return "请先在配置中设置 DeepSeek API Key"
|
return "请先在配置中设置 DeepSeek API Key"
|
||||||
|
|
||||||
# 1. 从向量数据库检索相关记忆
|
|
||||||
collection_name = f"chat_memory_{user_id}"
|
collection_name = f"chat_memory_{user_id}"
|
||||||
memory_context = ""
|
memory_context = ""
|
||||||
|
|
||||||
@@ -56,7 +56,6 @@ async def get_ai_response(user_id: int, group_id: int, user_message: str) -> str
|
|||||||
except Exception as e:
|
except Exception as e:
|
||||||
logger.error(f"检索聊天记忆失败: {e}")
|
logger.error(f"检索聊天记忆失败: {e}")
|
||||||
|
|
||||||
# 2. 构建 Prompt
|
|
||||||
system_prompt = f"""你是一个友好的 AI 助手。请根据用户的输入进行回复。
|
system_prompt = f"""你是一个友好的 AI 助手。请根据用户的输入进行回复。
|
||||||
如果提供了相关历史记忆,请参考这些记忆来保持对话的连贯性。{memory_context}"""
|
如果提供了相关历史记忆,请参考这些记忆来保持对话的连贯性。{memory_context}"""
|
||||||
|
|
||||||
@@ -78,7 +77,6 @@ async def get_ai_response(user_id: int, group_id: int, user_message: str) -> str
|
|||||||
|
|
||||||
ai_reply = response.choices[0].message.content
|
ai_reply = response.choices[0].message.content
|
||||||
|
|
||||||
# 3. 将本次对话存入向量数据库
|
|
||||||
if ai_reply:
|
if ai_reply:
|
||||||
try:
|
try:
|
||||||
doc_id = str(uuid.uuid4())
|
doc_id = str(uuid.uuid4())
|
||||||
@@ -103,6 +101,33 @@ async def get_ai_response(user_id: int, group_id: int, user_message: str) -> str
|
|||||||
logger.error(f"AI 聊天请求失败: {e}")
|
logger.error(f"AI 聊天请求失败: {e}")
|
||||||
return f"请求失败: {str(e)}"
|
return f"请求失败: {str(e)}"
|
||||||
|
|
||||||
|
async def generate_chat_image_base64(user_name: str, user_message: str, ai_reply: str) -> str:
|
||||||
|
"""生成聊天图片并返回 Base64 编码"""
|
||||||
|
template_name = "ai_chat.html"
|
||||||
|
|
||||||
|
user_avatar = user_name[0] if user_name else 'U'
|
||||||
|
|
||||||
|
data = {
|
||||||
|
"user_name": user_name,
|
||||||
|
"user_message": user_message,
|
||||||
|
"ai_reply": ai_reply,
|
||||||
|
"user_avatar": user_avatar,
|
||||||
|
"width": 800,
|
||||||
|
"height": 600
|
||||||
|
}
|
||||||
|
|
||||||
|
output_name = f"chat_{int(time.time())}.png"
|
||||||
|
|
||||||
|
image_base64 = await image_manager.render_template_to_base64(
|
||||||
|
template_name=template_name,
|
||||||
|
data=data,
|
||||||
|
output_name=output_name,
|
||||||
|
width=800,
|
||||||
|
height=600
|
||||||
|
)
|
||||||
|
|
||||||
|
return image_base64
|
||||||
|
|
||||||
@matcher.command("chat")
|
@matcher.command("chat")
|
||||||
async def chat_command(event: GroupMessageEvent | PrivateMessageEvent, args: list[str]):
|
async def chat_command(event: GroupMessageEvent | PrivateMessageEvent, args: list[str]):
|
||||||
"""AI 聊天命令"""
|
"""AI 聊天命令"""
|
||||||
@@ -116,4 +141,19 @@ async def chat_command(event: GroupMessageEvent | PrivateMessageEvent, args: lis
|
|||||||
|
|
||||||
await event.reply("正在思考中...")
|
await event.reply("正在思考中...")
|
||||||
reply = await get_ai_response(user_id, group_id, user_message)
|
reply = await get_ai_response(user_id, group_id, user_message)
|
||||||
await event.reply(reply)
|
|
||||||
|
try:
|
||||||
|
image_base64 = await generate_chat_image_base64(
|
||||||
|
user_name=str(event.user_id),
|
||||||
|
user_message=user_message,
|
||||||
|
ai_reply=reply
|
||||||
|
)
|
||||||
|
|
||||||
|
if image_base64:
|
||||||
|
from neobot.models.message import MessageSegment
|
||||||
|
await event.reply(MessageSegment.image(image_base64))
|
||||||
|
else:
|
||||||
|
await event.reply(reply)
|
||||||
|
except Exception as e:
|
||||||
|
logger.error(f"生成聊天图片失败: {e}")
|
||||||
|
await event.reply(reply)
|
||||||
@@ -3,9 +3,9 @@
|
|||||||
|
|
||||||
提供自动同意好友请求和群聊邀请的功能。
|
提供自动同意好友请求和群聊邀请的功能。
|
||||||
"""
|
"""
|
||||||
from core.managers.command_manager import matcher
|
from neobot.core.managers.command_manager import matcher
|
||||||
from core.bot import Bot
|
from neobot.core.bot import Bot
|
||||||
from models.events.request import FriendRequestEvent, GroupRequestEvent
|
from neobot.models.events.request import FriendRequestEvent, GroupRequestEvent
|
||||||
|
|
||||||
__plugin_meta__ = {
|
__plugin_meta__ = {
|
||||||
"name": "自动同意请求",
|
"name": "自动同意请求",
|
||||||
Some files were not shown because too many files have changed in this diff Show More
Reference in New Issue
Block a user