red-future/model-gateway
4
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

gatway

Browse Source
This commit is contained in:
王利钊
2026-05-12 13:45:08 +08:00
parent e81df5ce5a
commit 37d3461983
38 changed files with 1721 additions and 1113 deletions
Download Patch File Download Diff File Expand all files Collapse all files

106
model/dto/model_dto.go
View File

@@ -1,7 +1,6 @@
package dto
import (
"gitea.com/red-future/common/beans"
"github.com/gogf/gf/v2/frame/g"
)
@@ -9,20 +8,26 @@ import (
type CreateModelReq struct {
g.Meta `path:"/createModel" method:"post" tags:"模型管理" summary:"创建模型配置" dc:"添加新的模型配置"`
ModelName string `p:"modelName" json:"modelName" v:"required#modelName不能为空" dc:"模型名称（唯一标识）"`
ModelsType string `p:"modelsType" json:"modelsType" dc:"模型类型ID列表（逗号分隔），示例：1,2,3（关联 asynch_models_type.type_id，可选）"`
ModelsType int `p:"modelsType" json:"modelsType" v:"required#modelsType不能为空" dc:"模型类型：1-文本生成 2-图像生成 3-语音 4-视频 5-多模态"`
BaseURL string `p:"baseUrl" json:"baseUrl" v:"required#baseUrl不能为空" dc:"模型服务基础地址（如 http(s)://host:port）"`
Route string `p:"route" json:"route" dc:"路由/路径（拼接到 BaseURL 之后的可选路径）"`
HttpMethod string `p:"httpMethod" json:"httpMethod" dc:"请求方式：GET/POST（默认POST）"`
HeadMsg string `p:"headMsg" json:"headMsg" dc:"请求头绑定（支持多个，逗号分隔），示例：X-API-Key:xxx,operation:true"`
Form any `p:"form" json:"form" dc:"动态表单配置（JSON），用于前端渲染配置项，示例：[{field,label,type,required},...]"`
Enabled int `p:"enabled" json:"enabled" dc:"是否启用：0-禁用，1-启用"`
MaxConcurrency int `p:"maxConcurrency" json:"maxConcurrency" dc:"最大并发数"`
QueueLimit int `p:"queueLimit" json:"queueLimit" dc:"排队队列上限（超过则拒绝/限流）"`
TimeoutSeconds int `p:"timeoutSeconds" json:"timeoutSeconds" dc:"请求超时时间（秒）"`
ExpectedSeconds int `p:"expectedSeconds" json:"expectedSeconds" dc:"模型预计执行时间（秒，用于超时判定/排队策略等）"`
RetryTimes int `p:"retryTimes" json:"retryTimes" dc:"失败重试次数"`
RetryQueueMaxSeconds int `p:"retryQueueMaxSeconds" json:"retryQueueMaxSeconds" dc:"失败重试最大排队时间（秒）；0表示失败重试插队到队首；>0表示排队超过该时间后插队，否则仍到队尾"`
AutoCleanSeconds int `p:"autoCleanSeconds" json:"autoCleanSeconds" dc:"自动清理间隔（秒）（如清理超时任务/队列）"`
HeadMsg string `p:"headMsg" json:"headMsg" dc:"请求头绑定（支持多个，逗号分隔），示例：Authorization:Bearer xxx,Content-Type:application/json"`
IsPrivate int `p:"isPrivate" json:"isPrivate" v:"in:0,1#私有化参数只能为0或1" dc:"是否私有化：0-私有（默认） 1-公共"`
Enabled int `p:"enabled" json:"enabled" v:"in:0,1#启用参数只能为0或1" dc:"是否启用：0-禁用，1-启用（默认1）"`
IsChatModel int `p:"isChatModel" json:"isChatModel" v:"in:0,1#对话模型参数只能为0或1" dc:"是否为对话模型：0-否，1-是（默认0）"`
ApiKey string `p:"apiKey" json:"apiKey" v:"required-if:isPrivate,1#公共模型必须填写API密钥" dc:"调用凭证/密钥，用于模型认证"`
Form any `p:"form" json:"form" dc:"动态表单配置（JSON），用于前端渲染配置项"`
RequestMapping any `p:"requestMapping" json:"requestMapping" dc:"请求映射"`
ResponseMapping any `p:"responseMapping" json:"responseMapping" dc:"返回映射"`
ResponseBody any `p:"responseBody" json:"responseBody" dc:"返回主体"`
TokenMapping string `p:"tokenMapping" json:"tokenMapping" dc:"token映射"`
MaxConcurrency int `p:"maxConcurrency" json:"maxConcurrency" dc:"最大并发数（默认10）"`
QueueLimit int `p:"queueLimit" json:"queueLimit" dc:"排队队列上限（默认1000）"`
TimeoutSeconds int `p:"timeoutSeconds" json:"timeoutSeconds" dc:"请求超时时间（秒，默认600）"`
ExpectedSeconds int `p:"expectedSeconds" json:"expectedSeconds" dc:"模型预计执行时间（秒，默认600）"`
RetryTimes int `p:"retryTimes" json:"retryTimes" dc:"失败重试次数（默认3）"`
RetryQueueMaxSeconds int `p:"retryQueueMaxSeconds" json:"retryQueueMaxSeconds" dc:"失败重试最大排队时间（秒，默认600）"`
AutoCleanSeconds int `p:"autoCleanSeconds" json:"autoCleanSeconds" dc:"任务完成后自动清理时间（秒，默认86400）"`
Remark string `p:"remark" json:"remark" dc:"备注说明"`
}
@@ -30,36 +35,39 @@ type CreateModelRes struct {
ID int64 `json:"id,string" dc:"配置ID"`
}
// UpdateModelReq 更新模型配置
type UpdateModelReq struct {
g.Meta `path:"/updateModel" method:"put" tags:"模型管理" summary:"更新模型配置" dc:"更新指定ID的模型配置"`
ID int64 `p:"id" json:"id,string" v:"required#id不能为空" dc:"配置ID"`
ModelsType *string `p:"modelsType" json:"modelsType" dc:"模型类型ID列表（逗号分隔）（可选更新）"`
BaseURL string `p:"baseUrl" json:"baseUrl" dc:"模型服务基础地址"`
Route string `p:"route" json:"route" dc:"路由/路径"`
HttpMethod *string `p:"httpMethod" json:"httpMethod" dc:"请求方式：GET/POST（可选更新）"`
HeadMsg *string `p:"headMsg" json:"headMsg" dc:"请求头绑定（可选更新）"`
Form any `p:"form" json:"form" dc:"动态表单配置（JSON）（可选更新）"`
Enabled *int `p:"enabled" json:"enabled" dc:"是否启用：0-禁用，1-启用（可选更新）"`
MaxConcurrency *int `p:"maxConcurrency" json:"maxConcurrency" dc:"最大并发数（可选更新）"`
QueueLimit *int `p:"queueLimit" json:"queueLimit" dc:"排队队列上限（可选更新）"`
TimeoutSeconds *int `p:"timeoutSeconds" json:"timeoutSeconds" dc:"请求超时时间（秒）（可选更新）"`
ExpectedSeconds *int `p:"expectedSeconds" json:"expectedSeconds" dc:"模型预计执行时间（秒）（可选更新）"`
RetryTimes *int `p:"retryTimes" json:"retryTimes" dc:"失败重试次数（可选更新）"`
RetryQueueMaxSeconds *int `p:"retryQueueMaxSeconds" json:"retryQueueMaxSeconds" dc:"失败重试最大排队时间（秒）（可选更新）"`
AutoCleanSeconds *int `p:"autoCleanSeconds" json:"autoCleanSeconds" dc:"自动清理间隔（秒）（可选更新）"`
Remark *string `p:"remark" json:"remark" dc:"备注说明（可选更新）"`
ID int64 `p:"id" json:"id" v:"required#id不能为空" dc:"配置ID"`
ModelsType string `p:"modelsType" json:"modelsType" dc:"模型类型ID列表（逗号分隔）（可选更新）"`
BaseURL string `p:"baseUrl" json:"baseUrl" dc:"模型服务基础地址"`
HttpMethod string `p:"httpMethod" json:"httpMethod" dc:"请求方式：GET/POST（可选更新）"`
HeadMsg string `p:"headMsg" json:"headMsg" dc:"请求头绑定（可选更新）"`
Form any `p:"form" json:"form" dc:"动态表单配置（JSON）（可选更新）"`
RequestMapping any `p:"requestMapping" json:"requestMapping" dc:"请求参数映射（可选更新）"`
ResponseMapping any `p:"responseMapping" json:"responseMapping" dc:"返回参数映射（可选更新）"`
ResponseBody any `p:"responseBody" json:"responseBody" dc:"返回主体（可选更新）"`
TokenMapping string `p:"tokenMapping" json:"tokenMapping" dc:"token映射（可选更新）"`
Enabled int `p:"enabled" json:"enabled" dc:"是否启用：0-禁用，1-启用（可选更新）"`
IsChatModel int `p:"isChatModel" json:"isChatModel" v:"in:0,1#对话模型参数只能为0或1" dc:"是否为对话模型：0-否，1-是（默认0）"`
MaxConcurrency int `p:"maxConcurrency" json:"maxConcurrency" dc:"最大并发数（可选更新）"`
QueueLimit int `p:"queueLimit" json:"queueLimit" dc:"排队队列上限（可选更新）"`
TimeoutSeconds int `p:"timeoutSeconds" json:"timeoutSeconds" dc:"请求超时时间（秒）（可选更新）"`
ExpectedSeconds int `p:"expectedSeconds" json:"expectedSeconds" dc:"模型预计执行时间（秒）（可选更新）"`
RetryTimes int `p:"retryTimes" json:"retryTimes" dc:"失败重试次数（可选更新）"`
RetryQueueMaxSeconds int `p:"retryQueueMaxSeconds" json:"retryQueueMaxSeconds" dc:"失败重试最大排队时间（秒）（可选更新）"`
AutoCleanSeconds int `p:"autoCleanSeconds" json:"autoCleanSeconds" dc:"自动清理间隔（秒）（可选更新）"`
Remark string `p:"remark" json:"remark" dc:"备注说明（可选更新）"`
}
// DeleteModelReq 删除模型配置
type DeleteModelReq struct {
g.Meta `path:"/deleteModel" method:"delete" tags:"模型管理" summary:"删除模型配置" dc:"删除指定ID的模型配置"`
ID int64 `p:"id" json:"id,string" v:"required#id不能为空" dc:"配置ID"`
ID string `p:"id" json:"id,string" v:"required#id不能为空" dc:"配置ID"`
}
// GetModelReq 获取模型配置详情
type GetModelReq struct {
g.Meta `path:"/getModel" method:"get" tags:"模型管理" summary:"获取模型配置" dc:"根据模型名称获取配置详情"`
g.Meta `path:"/getModel" method:"get" tags:"模型管理" summary:"获取模型配置" dc:"根据模型ID获取配置详情"`
ID int64 `p:"id" json:"id,string" v:"required#id不能为空" dc:"配置ID"`
}
@@ -69,9 +77,11 @@ type GetModelRes struct {
// ListModelReq 配置列表
type ListModelReq struct {
g.Meta `path:"/listModel" method:"post" tags:"模型管理" summary:"模型配置列表" dc:"分页获取模型配置列表"`
Page *beans.Page `p:"page" json:"page" dc:"分页参数"`
ModelName string `p:"modelName" json:"modelName" dc:"模型名称（模糊查询，可选）"`
g.Meta `path:"/listModel" method:"get" tags:"模型管理" summary:"模型配置列表" dc:"分页获取模型配置列表"`
PageNum int `p:"pageNum" json:"pageNum" dc:"页码（默认1）"`
PageSize int `p:"pageSize" json:"pageSize" dc:"每页条数（默认10）"`
ModelName string `p:"modelName" json:"modelName" dc:"模型名称（模糊查询，可选）"`
ModelType int `p:"modelType" json:"modelType" dc:"模型类型"`
}
type ListModelRes struct {
@@ -81,10 +91,34 @@ type ListModelRes struct {
// AutoTuneReq 动态调参（由上层定时任务每小时触发一次）
type AutoTuneReq struct {
g.Meta `path:"/autoTune" method:"post" tags:"模型管理" summary:"动态调参" dc:"按 model_name 维度统计指定时间窗口内执行耗时(P90)，动态生成运行时 max_concurrency/queue_limit（不超过配置上限），写入 Redis 供 Worker/CreateTask 使用；windowSeconds 不传默认 3600"`
g.Meta `path:"/autoTune" method:"post" tags:"模型管理" summary:"动态调参" dc:"按 model_name 维度统计指定时间窗口内执行耗时(P90)，动态生成运行时 max_concurrency/queue_limit（不超过配置上限），写入 Redis 供 Worker/CreateTask 使用；windowSeconds 不传默认 3600"`
WindowSeconds int `p:"windowSeconds" json:"windowSeconds" dc:"统计窗口秒数；不传/<=0 默认 3600（1小时）"`
}
type AutoTuneRes struct {
List any `json:"list" dc:"调参结果列表"`
}
type ModelTypeModelItem struct {
ID int64 `json:"id" dc:"模型主键ID"`
Name string `json:"name" dc:"模型名称"`
Form any `json:"form" dc:"动态表单配置（JSON数组），用于前端渲染"`
}
// ListModelTypeReq 模型类型列表（分页）
type ListTypeReq struct {
g.Meta `path:"/listType" method:"get" tags:"模型类型列表" summary:"模型类型列表" dc:"分页获取模型类型列表"`
}
type TypeItem struct {
Type map[int]string `json:"type" dc:"模型类型ID到名称的映射"`
}
type UpdateChatModelReq struct {
g.Meta `path:"/updateChatModel" method:"post" tags:"模型管理" summary:"更新聊天模型" dc:"更新指定模型的聊天模型"`
Id int64 `p:"id" json:"id" v:"required#model不能为空" dc:"模型id"`
}
type GetIsChatModelReq struct {
g.Meta `path:"/getIsChatModel" method:"get" tags:"模型管理" summary:"获取模型是否为聊天模型" dc:"根据模型ID获取是否为聊天模型"`
}

74
model/dto/model_type_dto.go
View File

@@ -1,74 +0,0 @@
package dto
import (
"gitea.com/red-future/common/beans"
"github.com/gogf/gf/v2/frame/g"
)
// CreateModelTypeReq 创建模型类型
type CreateModelTypeReq struct {
g.Meta `path:"/createModelType" method:"post" tags:"模型类型" summary:"创建模型类型" dc:"创建模型类型（图片/音频/视频等）"`
TypeID int `p:"typeId" json:"typeId" v:"required#typeId不能为空" dc:"模型类型ID（业务枚举）"`
TypeName string `p:"type" json:"type" v:"required#type不能为空" dc:"模型类型名称"`
Remark string `p:"remark" json:"remark" dc:"备注"`
}
type CreateModelTypeRes struct {
ID int64 `json:"id,string" dc:"主键ID"`
}
// UpdateModelTypeReq 更新模型类型
type UpdateModelTypeReq struct {
g.Meta `path:"/updateModelType" method:"put" tags:"模型类型" summary:"更新模型类型" dc:"更新模型类型"`
ID int64 `p:"id" json:"id,string" v:"required#id不能为空" dc:"主键ID"`
TypeID *int `p:"typeId" json:"typeId" dc:"模型类型ID（可选更新）"`
TypeName *string `p:"type" json:"type" dc:"模型类型名称（可选更新）"`
Remark *string `p:"remark" json:"remark" dc:"备注（可选更新）"`
}
// DeleteModelTypeReq 删除模型类型
type DeleteModelTypeReq struct {
g.Meta `path:"/deleteModelType" method:"delete" tags:"模型类型" summary:"删除模型类型" dc:"删除模型类型"`
ID int64 `p:"id" json:"id,string" v:"required#id不能为空" dc:"主键ID"`
}
// GetModelTypeReq 获取模型类型
type GetModelTypeReq struct {
g.Meta `path:"/getModelType" method:"get" tags:"模型类型" summary:"获取模型类型" dc:"获取模型类型详情"`
ID int64 `p:"id" json:"id,string" v:"required#id不能为空" dc:"主键ID"`
}
type GetModelTypeRes struct {
Type any `json:"type" dc:"模型类型详情"`
}
// ListModelTypeReq 模型类型列表（分页）
type ListModelTypeReq struct {
g.Meta `path:"/listModelType" method:"post" tags:"模型类型" summary:"模型类型列表" dc:"分页获取模型类型列表"`
Page *beans.Page `p:"page" json:"page" dc:"分页参数（默认10条）"`
TypeName string `p:"type" json:"type" dc:"模型类型名称（模糊查询，可选）"`
}
type ListModelTypeRes struct {
List any `json:"list" dc:"列表数据"`
Total int64 `json:"total" dc:"总数"`
}
// ListModelTypeWithModelsReq 按类型分组返回模型列表
type ListModelTypeWithModelsReq struct {
g.Meta `path:"/listModelTypeWithModels" method:"post" tags:"模型类型" summary:"按类型分组的模型列表" dc:"返回模型类型及其下的模型列表（用于前端分组展示）"`
TypeID int `p:"typeId" json:"typeId" dc:"按类型ID过滤（可选）"`
Type string `p:"type" json:"type" dc:"按类型名称过滤（可选，模糊匹配）"`
}
type ModelTypeModelItem struct {
ID int64 `json:"id" dc:"模型主键ID"`
Name string `json:"name" dc:"模型名称"`
Form any `json:"form" dc:"动态表单配置（JSON数组），用于前端渲染"`
}
type ModelTypeWithModelsItem struct {
TypeID int `json:"typeId" dc:"模型类型ID"`
Type string `json:"type" dc:"模型类型名称"`
Items []ModelTypeModelItem `json:"items" dc:"该类型下模型列表"`
}

11
model/dto/stat_dto.go
View File

@@ -1,14 +1,12 @@
package dto
import (
"gitea.com/red-future/common/beans"
"github.com/gogf/gf/v2/frame/g"
)
import "github.com/gogf/gf/v2/frame/g"
// ListModelStatReq 统计列表
type ListModelStatReq struct {
g.Meta `path:"/listModelStat" method:"post" tags:"统计" summary:"模型请求统计列表" dc:"按天统计模型请求次数，支持分页与条件筛选"`
Page *beans.Page `p:"page" json:"page" dc:"分页参数（默认10条）"`
g.Meta `path:"/listModelStat" method:"get" tags:"统计" summary:"模型请求统计列表" dc:"按天统计模型请求次数，支持分页与条件筛选"`
PageNum int `p:"pageNum" json:"pageNum" dc:"页码（默认1）"`
PageSize int `p:"pageSize" json:"pageSize" dc:"每页条数（默认10）"`
StartDay string `p:"startDay" json:"startDay" dc:"开始日期（YYYY-MM-DD，可选）"`
EndDay string `p:"endDay" json:"endDay" dc:"结束日期（YYYY-MM-DD，可选）"`
TenantID *int64 `p:"tenantId" json:"tenantId" dc:"租户ID（可选）"`
@@ -20,4 +18,3 @@ type ListModelStatRes struct {
List any `json:"list" dc:"列表数据"`
Total int64 `json:"total" dc:"总数"`
}

22
model/dto/task_dto.go
View File

@@ -1,19 +1,16 @@
package dto
import (
"gitea.com/red-future/common/beans"
"github.com/gogf/gf/v2/frame/g"
)
import "github.com/gogf/gf/v2/frame/g"
// CreateTaskReq 创建异步任务
type CreateTaskReq struct {
g.Meta `path:"/createTask" method:"post" tags:"任务管理" summary:"创建异步任务" dc:"创建异步任务并返回任务ID"`
g.Meta `path:"/createTask" method:"post" tags:"任务管理" summary:"创建异步任务" dc:"创建异步任务并返回任务ID；创建成功后会立即异步尝试执行当前任务，执行成功后按回调配置触发钩子"`
ModelName string `p:"modelName" json:"modelName" v:"required#modelName不能为空" dc:"模型名称"`
ModelKey string `p:"modelKey" json:"modelKey" dc:"动态请求头（用于覆盖/补充模型配置 head_msg），示例：X-API-Key:xxx"`
BizName string `p:"bizName" json:"bizName" dc:"业务名称（调用方模块/系统，用于统计）"`
CallbackUrl string `p:"callbackUrl" json:"callbackUrl" dc:"回调地址（可选，用于后续业务通知）"`
InputRef string `p:"inputRef" json:"inputRef" dc:"输入引用（如OSS/文件引用等）"`
RequestPayload any `p:"requestPayload" json:"requestPayload" dc:"请求负载（透传给模型服务）"`
EpicycleId int64 `json:"epicycleId" dc:"轮次ID"`
}
type CreateTaskRes struct {
@@ -49,11 +46,12 @@ type GetTaskBatchRes struct {
// ListTaskReq 任务列表分页查询
type ListTaskReq struct {
g.Meta `path:"/listTask" method:"post" tags:"任务管理" summary:"任务列表" dc:"分页查询任务列表，支持按状态/模型名称/task_id过滤"`
Page *beans.Page `p:"page" json:"page" dc:"分页参数"`
ModelName string `p:"modelName" json:"modelName" dc:"模型名称（模糊匹配）"`
TaskID string `p:"taskId" json:"taskId" dc:"任务ID（模糊匹配）"`
State *int `p:"state" json:"state" dc:"任务状态（0/1/2/3/4，可选）"`
g.Meta `path:"/listTask" method:"get" tags:"任务管理" summary:"任务列表" dc:"分页查询任务列表，支持按状态/模型名称/task_id过滤"`
PageNum int `p:"pageNum" json:"pageNum" dc:"页码（默认1）"`
PageSize int `p:"pageSize" json:"pageSize" dc:"每页条数（默认10）"`
ModelName string `p:"modelName" json:"modelName" dc:"模型名称（模糊匹配）"`
TaskID string `p:"taskId" json:"taskId" dc:"任务ID（模糊匹配）"`
State *int `p:"state" json:"state" dc:"任务状态（0/1/2/3/4，可选）"`
}
type ListTaskRes struct {
@@ -63,7 +61,7 @@ type ListTaskRes struct {
// RunWorkReq 手动触发 worker 执行一次（由上层定时任务调用）
type RunWorkReq struct {
g.Meta `path:"/runWork" method:"post" tags:"任务管理" summary:"执行一次Worker" dc:"手动触发一次Worker抢占并处理任务（用于由上层定时任务控制）"`
g.Meta `path:"/runWork" method:"post" tags:"任务管理" summary:"执行一次Worker" dc:"手动触发一次Worker抢占并处理排队中的任务；适合处理 createTask 立即执行时未处理到的任务以及积压队列"`
BatchSize int `p:"batchSize" json:"batchSize" dc:"本次抢占任务数量（默认10）"`
Goroutines int `p:"goroutines" json:"goroutines" dc:"本次并发数（默认1）"`
}