Skip to main content

大模型应用开发

大模型有反思能力,但是上下文字数有线

免费应用

  1. deepseek:文档,联网
  2. 豆包:文档,tts
  3. ima:知识库 + LLM

常见开发场景

  1. 角色背景 -- 系统提示词
  2. 结果修正 -- 多轮对话或者修改提示词
  3. 模型记忆 -- 多轮对话
  4. 文件附件 -- 文件读取与OCR
  5. 大量知识 -- RAG+知识图谱,做长期记忆
  6. 联网搜索 -- 搜索后调用LLM
  7. 调用工具 -- function call和mcp,如联网、管理电脑、调用已有系统数据,调用文生图等。
  8. 流程较多 -- 工作流,AI和工具的多次顺序调用。
  9. 数字员工 -- 智能体(感知-计划-行动-反思 ),如旅游计划买票订餐订酒店,AI自己写程序部署改bug运行等
  10. 组织协调 -- 多智能体协作

开发框架

  1. LangChain与LangGraph

开源项目

  1. ten framework
  2. dify
  3. ragflow
  4. n8n
  5. coze studio
  6. cherry studio
  7. fast gpt
  8. fay