关于我

前言

写博客的目的主要是记录自己的成长和想法，希望大家能给我提一些建议。

基本信息

张熙浚 05年 南京

联系方式：

• QQ： 2902065320
• Email：zxj2902065320@163.com

我感兴趣的方向 ：agent，aiinfra，金融，量化，投资

我的理想

美景与音乐，自由与人生

因为生活过于教条，所以格外欣赏自由野性的事物，愿走遍千山万水，绝景尽入我眼！

教育经历

• 2023-2027 南京师范大学 计算机与电子信息学院 人工智能专业(gpa:3.88/5.0 rank:2/55)
• 2028-2030 中国科学技术大学 先进技术研究院 人工智能 认知智能全国重点实验室

专业技能

AI 应用开发与 Agent 架构

Agent 编排与系统设计：精通 LangChain、LangGraph 等智能体开发框架；深入理解 Context 管理、Tool Calling、Structured Output 及 Function Calling 机制，具备独立完成任务规划、状态驱动路由、长期/短期记忆及工具调用的系统设计与开发能力。

RAG 全链路工程实现：具备端到端 RAG 系统搭建与调优实战经验；熟练运用 Milvus、PostgreSQL 及知识图谱（LightRAG / Neo4j）技术，可独立完成复杂文档解析、分块策略、BM25 + Dense 混合检索、RRF 融合重排及检索评测流程，显著提升召回率与准确率。

大模型算法与 AI Infra

模型原理与微调实战：深入理解 Transformer 架构与 Self-Attention 机制；熟练掌握 LLaMA-Factory 等主流微调工具，具备基于 LoRA 进行领域大模型（LLM/MLLM）微调、数据集构建与性能评测的完整经验。

推理加速与 AI Infra：对大模型推理部署具备全局工程视角；深入理解 vLLM、SGLang、Ollama 等推理框架原理，掌握 KV Cache 优化、数据并行及推理延迟/吞吐量调优技巧。

后端开发与高并发编程

Python 异步高并发：精通 Python 现代开发范式与异步编程（asyncio），深谙 Event Loop、Coroutine、Task/Future 等底层原理；能熟练运用 async/await 构建高性能并发 I/O 服务，具备处理超时控制、任务取消（Cancellation）、异常传播及资源隔离的实战经验。

工程规范与类型系统：熟练运用 Pydantic 与 Type Hinting 进行严格的数据校验与类型标注；具备良好的代码抽象能力、单元测试意识及现代 Python 规范。

服务端运维与工程协作

API 服务与部署：精通 FastAPI 框架，具备设计与交付高可用 RESTful API 及 Agent 服务接口的经验；熟练掌握 Docker 容器化部署（如多 GPU 环境配置、自定义网络隔离与服务编排）。

版本控制与协作：熟练使用 Git 进行版本控制与分支管理，熟悉 GitHub / GitLab 协作流程，具备良好的规范化开发习惯。

实习经历

电力报告 RAG 系统全链路搭建 | 国家能源集团 2025.07 – 2025.08 技术栈: Docker、MinerU、SGLang、FastAPI、Elasticsearch、LangChain

• 文档解析链路: 实现基于 Docker 部署 MinerU 多 GPU 解析服务，使用 SGLang 进行加速推理，在 3 张 NVIDIA L20 上实现数据并行，将吞吐量提升至 4500 token/s；结合 LibreOffice 对文档进行预处理，统一格式，去除问题文件。
• 分块与检索: 将 MinerU 与 Qwen 模型接入 FastAPI，并通过 Docker 自定义网络供项目调用；针对表格密集问题，将 MinerU 输出的 HTML 表格转 Markdown 并标记边界，结合递归分块将表格相关问题 Recall@5 从 0.72 提升至 0.85，表格 token 消耗减少约 40%；将分块后数据构建多字段存入 ES，基于 langchain 实现 BM25+ 多字段的混合检索。
• 模型微调与评测: 本地使用 SGLang 部署 Qwen3-32B，供小规模任务使用；以 DeepSeek 作为教师模型，结合公司内部电力报告生成约 9000 条领域问答数据，使用 LLaMA-Factory 进行电力垂直领域 LoRA 微调，训练 loss 由约 1.64 收敛至 0.43；在 100 条电力报告问答人工评测集上，对比基座模型与微调模型在电力场景下的事实一致性，通过率由 72% 提升至 84%，提升 12 个百分点。

Tosea.ai AI Native 演示文稿生成平台 | 香港大学商学院 | https://tosea.ai 2025.11 – 2026.01

• 项目简介: Tosea.ai 是香港大学商学院孵化的从 0 到 1 AI Native 产品，本人作为核心开发人员之一参与产品从零到一构建一站式 PDF 到企业级 PPTX 的 AI 平台，四个月累计服务 25,000+ 用户，产品转化率稳定在 6%–8% 区间，ARR 超过 10 万美元。
• 全链路 Agent 架构: 基于 FastAPI 构建“文档解析 -> 大纲生成 -> HTML 渲染 -> AI 编辑 -> 导出交付”的生成式 Agent 链路，将解析结果、结构化大纲、Slide 状态、用户编辑指令等多字段中间态持久化存储，支持版本回滚和历史状态追踪。
• 云服务与商业化链路: 使用 Supabase 承载业务数据，Railway 部署 FastAPI 服务与定时任务，Stripe 支撑订阅支付，形成可上线运营的 AI SaaS 架构。

科研经历

TSAI: Temporal-Semantic Attention Intervention for Hallucination Mitigation in MLLMs ACM MM (CCF-A, Accept)，第二作者 2026.01 – 2026.04

• 核心发现：打破传统”均匀惩罚”的同质化假设，首次揭示了跨模态表示空间中的模态鸿沟：即”文本-文本”的相似度天然高于”图像-文本”的对齐度。该现象在时间轴上体现为幻觉在生成的中后期呈现明显的累积趋势；在语义轴上体现为模型对历史上文 Token 的注意力异常升高，进而引发强烈的”语义惯性”导致偏离视觉事实。
• 方法设计 (TSAI)：基于上述发现，提出免训练的时间语义感知注意力重分配方法 TSAI：在浅层网络，针对冗余的系统提示词注意力进行回收，并定向补偿至视觉与指令 Token；在中深层网络，构建宽跨度双轴历史抑制机制，结合时间轴上的渐进式惩罚与语义轴上的语法词差异化剥夺，将抠出的注意力额度动态补偿至视觉和语义 Token。
• 实验结果：在 LLaVA-1.5、Shikra 等主流模型及多个幻觉基准上进行系统评估；实验表明，TSAI 在单次前向传播且零额外推理延迟的前提下显著降低了幻觉率，同时有效地保留或微幅提升了文本生成的综合质量（例如在 LLaVA-1.5 上实现 CHAIRS 相对降低 42.29%，且 F1 分数相对升高 1.13%）。

Context-Preference Activation Steering for MLLM Hallucination Mitigation EMNLP (CCF-B, Under Review), 第二作者, https://arxiv.org/pdf/2605.27993 2026.02 – 2026.05

• 方法设计: 提出一种 Training-free 的推理期干预方法，将视觉依赖解耦为两类上下文偏好，并设计两组冲突样本提取上下文偏好向量：基于反事实图像构造 Visual Fidelity Vector (VFV)，刻画模型在“外部视觉证据 vs 内部常识先验”之间的偏好；基于对称图文冲突对构造 Modality Reliance Vector (MRV)，刻画模型在“视觉上下文 vs 文本上下文”之间的模态依赖。
• 激活干预: 在 LLaVA-1.5、Qwen-VL、Shikra 等主流 MLLM 上验证不同模型对视觉信息、参数化知识和文本上下文的依赖存在显著异质性，并提出带符号的激活引导干预：推理阶段根据模型自身偏好方向选择正向或负向干预，在 MLP 层输出处进行带符号残差注入。
• 实验结果: CAS 在多个模型评测中将平均 CHAIR_S 从 55.5 降至 38.5，下降 30.7%，在显著降低物体幻觉的同时保持生成质量稳定；在 AMBER 生成式评测中，平均 Hal 从 36.1 降至 25.9，下降 28.2%，验证多模型、多基准任务上的稳定泛化能力；推理延迟为 28.09ms/token，与原模型基本同量级，几乎不引入额外推理开销。

项目经历

AdaptiMultiRAG 自适应多 RAG 智能体系统 2025.09 – 2025.11 技术栈: FastAPI、LangGraph、Milvus、LightRAG github.com/zxj-2023/AdaptiMultiRAG

• 项目简介: 面向科研技术文档，输入网页 URL 即可调用 Crawl4AI 采集资料，并一键构建 Milvus 向量库与 LightRAG/Neo4j 图数据库；按知识库隔离向量、图谱与会话数据，保证数据边界清晰；构建 LangGraph Agent，根据意图识别与用户问题自动选择知识库和检索路径。
• LangGraph Agent 编排: 基于 StateGraph 设计状态驱动的 Agent 工作流，使用结构化输出提高问答稳定性，并通过条件边完成自动路由；基于 langmem 实现线程级 checkpoint 与用户级长期记忆，并使用 PostgreSQL 持久化存储。
• RAG 与后端服务化: 使用 Crawl4AI 抓取在线技术文档并构建知识库，Milvus 实现 dense 向量 + BM25 稀疏混合检索与 RRF 融合，使用 LightRAG 构建实体关系图并存入 Neo4j 图数据库；基于 FastAPI 封装聊天、知识库、采集和图谱接口，通过 SSE 流式返回节点事件与 token。

比赛经历

• 全国大学生电工数学建模竞赛 2025.07 国家级二等奖
• 全国大学生计算机设计大赛 2024.07 国家级三等奖
• JSCPC 江苏省大学生程序设计大赛 2026.05 江苏省铜奖
• “高教社杯”全国大学生数学建模竞赛 2024.09 江苏省一等奖
• 全球校园人工智能算法精英大赛 2025.11 江苏省二等奖
• 蓝桥杯全国软件和信息技术专业人才大赛软件赛 2024.04 江苏省三等奖
• 大创：基于区块链的多关键字可搜索加密 2024 国家级大创
• 大创：基于多模态的暴力行为检测 2025 省级大创

校内经历

本科时期：

担任学生会主任 班级学委

冯如尔奖学金|多次南京师范大学一等优秀学生奖学金|校优秀学习奖|校三好学生