Public Docs
【模型量化】深度学习模型量化 & 量化理论 & 各平台的量化过程 & 硬件加速
【TVM】TI关于TVM的使用测试与分析
【LLM&LVM】大模型开源工程思维导图
【北航卓越工程师】《汽车前沿技术导论:智能驾驶》讲义
【工具链】Yocto使用介绍——使用Yocto创建一个树莓派的系统镜像
【工具链】使用ssh+dialog指令设定服务器指定用户仅容器访问
【推理引擎】一篇关于模型推理的详细对比与学习
【推理引擎】关于TVM中的Schedule优化详解(On going)
【LLM微调】使用litgpt进行私有数据集模型微调的测试总结
【TVM】在TVM Relay中创建一个自定义操作符
【STT+LLM+TTS】如何使用语音转文字模型+大预言模型+语音生成模型完成一个类人的语音交互机器人
【RAG】 通过RAG构建垂直领域的LLM Agent的方法探索
【RAG】GraphRAG精读与测试(On going)
【AI Agent】MetaGPT精读与学习
【AI Base】Ilya Sutskever 27篇必读论文分享清单
【Nvidia】Jetson AGX Orin/ Jetson Orin nano 硬件测试调试内容(On going)
【BI/DI】LLM Using in BI Testing Scenario (On going)
【Nvidia】How to Activate a Camera on Nvidia Platform in Details
【RAS-PI】树莓派驱动开发
【行业咨询阅读】关注实时咨询和分析
【mobileye】2024 Driving AI
【mobileye】SDS_Safety_Architecture
【yolo】yolov8测试
【nvidia】Triton server实践
【alibaba】MNN(on updating)
【OpenAI】Triton(on updating)
【CAIS】关于Compound AI Systems的思考
【Nvidia】关于Cuda+Cudnn+TensorRT推理环境
【BEV】BEVDet在各个平台上的执行效率及优化(On Updating)
【Chip】AI在芯片设计和电路设计中的应用
【Chip】ChiPFormer
【Chip】关于布线的学习
【Chip】MaskPlace论文精读与工程复现优化
【gynasium】强化学习初体验
【Cadence】X AI
【transformer】MinGPT开源工程学习
【中间件】针对apollo 10.0中关于cyberRT性能优化的深度解读和思考
【Robotics】调研了解当前机器人开发者套件(on updating)
【Robotics】ROS CON China 2024 文档技术整理与感想总结(上2024.12.7,中2024.12.8,下场外产品)
【algorithm】关于模型、数据与标注规范的平衡问题
【nvidia】DLA的学习了解与使用
【nvidia】构建nvidia嵌入式平台的交叉编译环境(其他环境平台可借鉴)
【2025AI生成式大会】2025大会个人总结
【Robotics】 Create Quadruped Robot RL FootStep Training Environment In IsaacLab
文档发布于【Feng's Docs】
-
+
首页
【LLM&LVM】大模型开源工程思维导图
``` mindmap # RAG ## Llama_index ## Langchain ## Trulens(评估计算) # AI Agent ## Autogpt ## Metagpt ## Langchain # LLM ## litgpt:可用于模型预训练,模型微调,私有数据库微调,模型量化,模型服务化 ## langchain-chatchat:langchain LLM框架用于应用开发和模型离线私有化部署;chatchat可以用于聊天工具支持本地知识库问答,有web交互界面,支持openai等api接入; ## ollam/webui:开源LLM框架,`支持模型微调和大模型部署`,有前端web交互,支持openai等api接入 # Deploye ## mlx: 用于大模型的macOS部署 ## mlc-llm:基于tvm的各种端上大模型部署 ## web-llm:基于浏览器的llm部署 ## NIM:NV出的模型部署框架 ## Deepspeed:NV推出微调框架 ## Triton:Openai推出的GPU加速框架 ## FreeAskInternet:纯开源搜索引擎+llm,可不使用GPU(开源免费)api可接入,不可微调 ## llm-answer-engine:对话式大预言模型搜索引擎(开源), 不可微调 # TTS ## ChatTTS:可用于模型微调与部署 ## SeedTTS:仿真和逼真还原度高,不开源,字节跳动出品,使用wisper-large-v3 openai模型 Paraformer-zh模型 # Viz ## llm-viz:大模型3d可视化 # Audio ## Whisper:nv推出的语音引擎 # Dataset ## https://commonvoice.mozilla.org/en ## DiDiSpeech ```
dingfeng
2024年7月4日 17:16
776
0 条评论
转发文档
收藏文档
上一篇
下一篇
评论
手机扫码
复制链接
手机扫一扫转发分享
复制链接
Markdown文件
PDF文档
PDF文档(打印)
分享
链接
类型
密码
更新密码