分类: AI大模型应用开发

文章分类
                            
                            【AI大模型应用学习笔记】基于LlamaIndex实现RAG
                        
                                介绍LlamaIndex核心组件，以及使用LlamaIndex简单实现RAG系统
                            
                                2025-05-02
                            
                                    AI大模型应用开发
                                
                            Python
                        
                            vllm
                        
                            LlamaIndex
                        
                            RAG
                        
                            【AI大模型应用学习笔记】OpenCompass模型评估框架的使用教程
                        
                                关于Open Compass模型评估框架的基本使用教程
                            
                                2025-04-29
                            
                                    AI大模型应用开发
                                
                            Markdown
                        
                            Python
                        
                            vllm
                        
                            PyTorch
                        
                            OpenCompass
                        
                            【AI大模型应用学习笔记】基于llama.cpp的模型转换为GGUF格式+本地ollama部署和open-webui部署
                        
                                使用llama.cpp框架转换hf模型格式为GGUF并通过ollama实现本地部署调用和使用open-webui界面调用案例教程
                            
                                2025-04-27
                            
                                    AI大模型应用开发
                                
                            ollama
                        
                            Python
                        
                            Linux
                        
                            PyTorch
                        
                            huggingface
                        
                            open-webui
                        
                            llama_cpp
                        
                            【AI大模型应用学习笔记】基于LLaMA-Factory的LlaMa3.2-1b模型微调弱智吧数据集全流程
                        
                                基于LLaMA-Factory模型微调框架，使用Unichat-llama3.2-Chinese-1B 和 弱智吧数据集 来进行模型微调训练、评估、量化、导出实现全过程
                            
                                2025-04-25
                            
                                    AI大模型应用开发
                                
                            Python
                        
                            vllm
                        
                            PyTorch
                        
                            LLaMA-Factory
                        
                            【AI大模型应用学习笔记】Ollama调用本地模型
                        
                                Linux安装Ollama安装命令：curl -fsSL https://ollama.com/install.sh | sh

如果下载速度很慢，可以开启学术加速
开启学术加速:source /etc/network_turbo

取消学
                            
                                2025-04-23
                            
                                    AI大模型应用开发
                                
                            ollama
                        
                            Python
                        
                            Linux
                        
                            LLaMa
                        
                            LoRA
                        
                            【AI大模型应用学习笔记】LLaMa3微调
                        
                                LLaMa3微调LoRA基本概念LoRA（Low-Rank Adaptation）是一种用于大模型微调的技术，通过引入低秩矩阵来减少微调时的参数量。在预训练的模型中，LoRA通过添加两个小矩阵B和A来近似原始的大矩阵ΔW，从而减少需要更新的
                            
                                2025-04-21
                            
                                    AI大模型应用开发
                                
                            ollama
                        
                            Python
                        
                            Linux
                        
                            LLaMa
                        
                            LoRA
                        
                            【AI大模型应用学习笔记】RAG-Embedding-Vector知识点学习
                        
                                关于RAG-Embedding-Vector知识点，以及RAG实现的基本流程实操记录
                            
                                2025-04-15
                            
                                    AI大模型应用开发
                                
                            Markdown
                        
                            RAG
                        
                            Embeddings
                        
                            OpenAI