AI 应用开发工程师
开发并维护已上线的 AI 对话与 Agent 系统，覆盖多模型接入、Agent 编排、上下文与记忆、流式响应，以及评估、成本与稳定性治理。
- 月薪
- 12–20K · 月
- 经验
- 经验不限
- 学历
- 学历不限不限学历专业，看重实际能力
- 地点
- 广州 · 天河区
为什么加入
- 不限量使用 Claude Code、Codex 等顶级 AI 研发工具
- 做已服务公司核心业务的线上系统，而不是一次性 Demo
- 资深工程师带你拆需求、定方案，也给你独立负责模块的空间
- 长期贡献突出者可获得年终奖与股权激励机会
工作内容
- 负责线上 AI 对话 / Agent 系统的开发、调优与维护，保障回复稳定、准确、及时
- 维护并扩展多模型、多供应商接入层，处理不同模型在能力、参数、计费、限流和故障上的差异，做好自动降级与容错
- 设计与迭代 Agent 编排，包括意图路由、工具调用和多步任务执行，在可控与灵活之间合理权衡
- 做上下文工程与检索、长期记忆，在有限上下文窗口内决定放什么、放多少、怎么排，并用向量检索提升回复相关性
- 维护流式响应链路，处理流式带来的一致性、持久化与异常问题
- 建设和使用评估与可观测体系，让模型和 Prompt 的每次改动可量化、可回归，让线上静默错误可快速定位
- 做成本与稳定性治理，如 Prompt 缓存、按任务分级选型、超时重试、幂等与限流，控制账单和延迟
- 基于异步 Python、消息队列和数据库持续提升系统并发能力与可维护性，参与微服务部署与运维
任职要求
- 熟悉 Python，能熟练编写 asyncio 异步代码，有并发与性能优化意识
- 有真实的大模型应用开发经验，深入理解流式输出、结构化输出 / Function Calling、多轮对话与上下文管理
- 用过至少一种 Agent / 编排框架（LangChain、LangGraph、CrewAI、Agno 等），能讲清节点、工具和状态如何串联，并能自行 Debug
- 理解 RAG 与向量检索原理，知道朴素的“切块—Embedding—检索”为什么会失效，并能提出改进方向
- 有治理不确定性的工程意识，清楚 LLM 会失败，愿意为可靠性、重试、降级和评估投入
- 熟悉 PostgreSQL（或同类关系库）与 Redis，能独立完成数据建模和事务、缓存设计
- 接触过 RabbitMQ、Kafka 等消息队列与异步任务处理，理解至少一次投递与幂等
- 熟悉 Docker，能在容器化环境下开发和排查问题
加分项
- 搭建过评估体系，能讲清如何判断一次改动是改进还是退化，用过 LLM-as-judge 并了解其局限
- 有 Token 成本与延迟优化实战，理解 Prompt 缓存原理
- 用过 pgvector 等向量数据库，或做过长期记忆、知识库类系统
- 接触过 Langfuse、OpenTelemetry、Prometheus 等可观测性工具，做过 AI 全链路追踪或质量监控
- 了解 Prompt 注入等 AI 特有安全风险，有纵深防御意识
- 熟悉 Kubernetes 与微服务架构，有线上部署与运维经验
技能栈
- Python
- FastAPI
- PostgreSQL
- Redis
- Kafka
- Docker
- RAG
- LangChain
- Prompt Engineering
投递这个职位
把简历发到邮箱，邮件标题写上职位名称；也可以在 BOSS直聘 上直接沟通。