Public Docs
【模型量化】深度学习模型量化 & 量化理论 & 各平台的量化过程 & 硬件加速
【TVM】TI关于TVM的使用测试与分析
【LLM&LVM】大模型开源工程思维导图
【北航卓越工程师】《汽车前沿技术导论：智能驾驶》讲义
【工具链】Yocto使用介绍——使用Yocto创建一个树莓派的系统镜像
【工具链】使用ssh+dialog指令设定服务器指定用户仅容器访问
【推理引擎】一篇关于模型推理的详细对比与学习
【推理引擎】关于TVM中的Schedule优化详解（On going）
【LLM微调】使用litgpt进行私有数据集模型微调的测试总结
【TVM】在TVM Relay中创建一个自定义操作符
【STT+LLM+TTS】如何使用语音转文字模型+大预言模型＋语音生成模型完成一个类人的语音交互机器人
【RAG】 通过RAG构建垂直领域的LLM Agent的方法探索
【RAG】GraphRAG精读与测试(On going)
【AI Agent】MetaGPT精读与学习
【AI Base】Ilya Sutskever 27篇必读论文分享清单
【Nvidia】Jetson AGX Orin/ Jetson Orin nano 硬件测试调试内容(On going)
【BI/DI】LLM Using in BI Testing Scenario (On going)
【Nvidia】How to Activate a Camera on Nvidia Platform in Details
【RAS-PI】树莓派驱动开发
【行业咨询阅读】关注实时咨询和分析
【mobileye】2024 Driving AI
【mobileye】SDS_Safety_Architecture
【yolo】yolov8测试
【nvidia】Triton server实践
【alibaba】MNN（on updating）
【OpenAI】Triton（on updating）
【CAIS】关于Compound AI Systems的思考
【Nvidia】关于Cuda+Cudnn+TensorRT推理环境
【BEV】BEVDet在各个平台上的执行效率及优化（On Updating）
【Chip】AI在芯片设计和电路设计中的应用
【Chip】ChiPFormer
【Chip】关于布线的学习
【Chip】MaskPlace论文精读与工程复现优化
【gynasium】强化学习初体验
【Cadence】X AI
【transformer】MinGPT开源工程学习
【中间件】针对apollo 10.0中关于cyberRT性能优化的深度解读和思考
【Robotics】调研了解当前机器人开发者套件（on updating）
【Robotics】ROS CON China 2024 文档技术整理与感想总结（上2024.12.7，中2024.12.8，下场外产品）
【algorithm】关于模型、数据与标注规范的平衡问题
【nvidia】DLA的学习了解与使用
【nvidia】构建nvidia嵌入式平台的交叉编译环境（其他环境平台可借鉴）
文档发布于【Feng's Docs】
-
+
首页
【LLM&LVM】大模型开源工程思维导图
``` mindmap # RAG ## Llama_index ## Langchain ## Trulens(评估计算) # AI Agent ## Autogpt ## Metagpt ## Langchain # LLM ## litgpt:可用于模型预训练，模型微调，私有数据库微调，模型量化，模型服务化 ## langchain-chatchat：langchain LLM框架用于应用开发和模型离线私有化部署；chatchat可以用于聊天工具支持本地知识库问答，有web交互界面，支持openai等api接入； ## ollam/webui：开源LLM框架，`支持模型微调和大模型部署`，有前端web交互，支持openai等api接入 # Deploye ## mlx: 用于大模型的macOS部署 ## mlc-llm：基于tvm的各种端上大模型部署 ## web-llm：基于浏览器的llm部署 ## NIM：NV出的模型部署框架 ## Deepspeed：NV推出微调框架 ## Triton：Openai推出的GPU加速框架 ## FreeAskInternet：纯开源搜索引擎+llm，可不使用GPU（开源免费）api可接入，不可微调 ## llm-answer-engine：对话式大预言模型搜索引擎（开源）， 不可微调 # TTS ## ChatTTS：可用于模型微调与部署 ## SeedTTS：仿真和逼真还原度高，不开源，字节跳动出品，使用wisper-large-v3 openai模型 Paraformer-zh模型 # Viz ## llm-viz：大模型3d可视化 # Audio ## Whisper：nv推出的语音引擎 # Dataset ## https://commonvoice.mozilla.org/en ## DiDiSpeech ```
dingfeng
2024年7月4日 17:16
518
0 条评论
转发文档
收藏文档
上一篇
下一篇
评论
手机扫码
复制链接
手机扫一扫转发分享
复制链接
Markdown文件
PDF文档
PDF文档（打印）
分享
链接
类型
密码
更新密码