# One API系统架构与实现笔记 ## 一、系统概述 One API是一个大模型API管理与分发系统，通过统一的OpenAI API格式来访问不同类型的大语言模型。它具有以下特点： 1. **基础架构**: – 依赖MySQL作为核心数据库（2c4g配置下QPS上限约1000） &# […]

分布式训练模型（Distributed Training） 分布式训练是一种将深度学习模型的训练过程分布在多个设备（如GPU）上的技术，用于提升训练速度、处理更大的模型和数据集。 🔹 分布式训练的四种主要方式 1. Data Parallelism（DP） – 数据并行 原理：将数据切分 […]

AI能力评估方法调研报告 引言：AI能力评估的关键作用 随着人工智能模型能力的不断增强及其在各个领域的广泛应用，对这些模型进行稳健且可靠的评估变得至关重要。评估在通用人工智能开发过程的每个阶段都至关重要，包括模型选择、提示工程和模型定制。理解不同AI模型的优势和劣势对于在各种应用中做出明智的决策至关 […]