- 新增「交易渠道管理」指南与「前端用户偏好」开发文档,并加入侧边栏导航 - 图片记账:补充多图上传、实时识别进度、结果勾选导入与「来源图片」回看,AI 配置新增视觉模型说明 - 数据模型补充 t_channel、t_ai_config/t_ai_image 等表与「类型+金额+时间」去重键说明,表数更新为 21 张 - API 文档补充 /api/channel、/api/transaction/batch、/api/ai/record/image(/stream)、/api/ai/image、/api/ai/channel 等接口 - 截图脚本新增渠道页、图片记账、来源图片与渠道 AI 辅助截图,并放宽导航超时
8.2 KiB
AI 集成
系统集成 DeepSeek 大模型,用于分类打标、自然语言查询与记账等场景,并完整记录调用用量。
客户端
DeepSeekClient 基于 OpenAI 官方 Java SDK(com.openai:openai-java)调用,通过自定义 baseUrl 指向 DeepSeek 的 OpenAI 兼容接口:
- 使用
OpenAIOkHttpClient,按(baseUrl, apiKey, 超时)缓存客户端(上限 32,超出后清空重建)。 temperature = 0.2,response_format = {"type":"json_object"},非流式,maxRetries(0);文本请求超时 120 秒,视觉请求超时 240 秒(chatWithImages单独放宽)。- 取
choices[0].message.content与usage(输入/输出/总 token;缓存命中 token 取promptTokensDetails.cachedTokens,DeepSeek 私有字段读不到时为 0)。 - 对外保持
chat(baseUrl, apiKey, model, systemPrompt, userPrompt)与DeepSeekResponse不变,各Ai*ServiceImpl无需改动。 - 另有
chatWithImages(baseUrl, apiKey, model, systemPrompt, userText, imageDataUrls):将一张或多张图片以 base64 data URL 作为user消息的内容块发送(DeepSeek 视觉接口要求图片只能出现在 user 消息中),供图片记账使用。 - SDK 异常统一转
BusinessException;异常链含超时(SocketTimeoutException等)时返回面向用户的友好提示。
配置存储于 t_ai_config(每用户一条):enabled、api_key、base_url(默认 https://api.deepseek.com)、model(默认 deepseek-chat)、vision_model(图片记账视觉模型,默认 deepseek-flash)。API Key 对外脱敏,支持连通性测试。
数据外发范围(隐私)
调用大模型时仅发送功能所需的最小字段,禁止外发敏感数据:
- 禁止:
rawData(账单原始 JSON)、金额、交易号、账户/卡号、姓名、地址、电话等。 - 允许:收支类型、交易渠道、备注(必要时截断/脱敏)、分类与标签的名称/ID、用户主动输入的自然语言文本。
- 图片记账例外:用户主动上传的账单/支付截图会整张发送给视觉模型(可能含金额、交易对方、订单号等),视为用户主动提供的输入;图片同时落盘于
data/ai-images/,仅本人可经GET /api/ai/image/{id}访问,禁止用于其他外发场景。
调用类型
AiCallType 定义了 11 类调用,全部记录用量:
| 枚举值 | 含义 |
|---|---|
SUGGEST |
交易分类/标签建议(批量 + 单条) |
TEST |
连接测试 |
QUERY |
自然语言查询解析为筛选条件 |
RECORD |
自然语言记账解析为交易记录 |
RECORD_IMAGE |
图片记账解析(视觉模型) |
DECORATE |
分类 Emoji / 标签颜色建议 |
CATEGORY |
自然语言生成分类 |
TAG |
自然语言生成标签 |
CHANNEL |
自然语言生成交易渠道 |
RULE |
由已打标签记录生成分类与标签规则 |
STATISTICS |
自然语言统计查询解析 |
分类/标签建议
AiSuggestionServiceImpl:
- 先按「类型 + 交易渠道 + 备注」聚合去重,仅将代表记录送模型;单批 ≤ 100 条、总量 ≤ 500 条,超出则分批调用。
- 支持严格模式(仅从已有分类/标签中选择)与增强模式(可返回新分类/新标签)。
- 单条建议额外下发当前用户的渠道候选(内置取中文名、自定义取用户名称),模型可返回
channel,服务端仅接受候选中的编码;批量建议不下发渠道候选。 - 应用时分类覆盖写入、标签追加;新建分类按「类型 + 名称」去重,新建标签按名称去重并校验颜色格式。
自然语言查询
AiQueryServiceImpl 在提示词中注入当前分类、标签与当前日期,解析出:类型、交易渠道、分类名、标签名、日期范围预设(今天/昨天/本周/上周/本月/上月/近7天/近30天/今年/去年/自定义/无)、金额区间、备注、是否计入统计、是否未分类等,并在服务端把预设换算为绝对时间。
自然语言记账
AiRecordServiceImpl 解析类型、金额、分类、标签、交易渠道、交易时间、备注、计入统计等字段;金额无效直接报错,时间缺失回退当前时间。
生成交易渠道
AiChannelServiceImpl 根据用户对渠道用途的自然语言描述,使用 ai-channel-system 模板生成 2–6 字的渠道名称(返回 name 与 reason,名称长度上限 20),对应 POST /api/ai/channel。前端在新增/编辑记录的「交易渠道 · AI 新建」中使用,确认后经 POST /api/channel 创建并选中。
图片记账
AiImageRecordServiceImpl 处理截图上传到生成记录的完整链路,支持一次上传多张图片(最多 5 张,单张 ≤ 10MB、总 ≤ 30MB),合并为一次视觉模型调用:
- 校验图片数量、单张与总大小、格式(JPEG/PNG/GIF/WebP,按魔数识别),并确认 AI 已启用且配置了 API Key。
- 逐张经
AiImageStorage落盘至data/ai-images/{userId}/{yyyyMM}/(经AppHome解析运行目录),每张写入一条t_ai_image(记录 MIME、尺寸、所用视觉模型等)。 - 以
ai-record-image-system模板构造提示词(注入可用分类、标签、渠道与当前时间,要求模型对每笔输出imageIndex与rawData),调用chatWithImages使用视觉模型一次性识别。 - 复用
AiRecordJsonParser解析records数组(与文字记账共用:去除代码围栏、匹配分类/标签、校验渠道编码、回退时间),并回填摘要与各图记录数。 - 重复检测:
TransactionDedupUtils以「类型 + 金额 + 交易时间」为去重键,与已有记录及本批其它记录比对,命中则标记duplicate=true(前端默认不勾选)。 - 按模型标注的
imageIndex将每笔记录关联到来源图片,前端确认后经POST /api/transaction/batch批量创建(同时写入rawData、建立t_ai_image_transaction关联,并在导入阶段按同一去重键兜底跳过重复)。
实时进度:AiImageRecordStreamService 基于 SSE 将上述步骤的进度文本推送前端——POST /api/ai/record/image/stream 返回 SseEmitter,识别在后台线程执行,过程中逐条推送 progress 事件,结束推送 done(完整结果 JSON)或 failed(失败原因)。
图片访问:GET /api/ai/image/{id} 返回原图,?thumbnail=true 返回最长边 1280 的 JPEG 缩略图;仅图片所属用户可访问。交易列表的「来源图片」默认加载缩略图,用户可按需切换原图。
规则生成
AiRuleServiceImpl 由用户勾选的已打标签记录反推分类/标签规则:
- 仅加载属于当前用户且被勾选的记录(单次 ≤ 500 条),附带其标签名称与分类名;提示词字段为
type / remark / channel / category / tags(不含金额与rawData),并对相同组合去重。 - 解析并校验模型输出(分类 ID 归属与类型、标签归属、名称长度、颜色格式等)。
- 去重:按「类型 + 归一化关键词 + 分类 + 排序标签集合」计算签名;与已有规则或本次建议内部重复的条目标记
duplicate=true(前端默认不勾选且禁止导入),apply时后端再次校验并跳过。
统计搜索
AiStatisticsServiceImpl 在提示词中注入分类、标签与当前日期,将自然语言解析为统计面板参数:时间范围(预设→绝对时间)、收支类型、分类、标签、交易渠道、金额区间、备注、统计口径(statsScope)与趋势粒度(dimension)。
用量记录
- 每次调用写入
t_ai_usage:调用类型、模型、分析条数、输入/输出/总/缓存 token、是否成功、错误信息、耗时。 - 记录失败仅告警,不影响主流程。
GET /api/ai/usage返回汇总与最近明细,对应「模型使用情况」页面。
说明
账单类型识别不使用 AI,而是由邮箱账单的发件人规则确定,结果确定、可预期。详见定时通知与邮箱账单。