大模型-Eoser's page!

Eoser's page! 博主等级

@学习@生活@自己

累计撰写 119 篇文章
累计创建 30 个标签
累计收到 0 条评论

目录CONTENT

以下是大模型相关的文章

2025-03-05
Python调用大模型(gguf llama) 本文章主要介绍自己学习如何使用调用别人提供的大模型，目前没计划学习训练微调，后面的文章可能会涉及。下载资源下载一个小一点的模型练手https://hf-mirror.com/TheBloke/TinyLlama-1.1B-Chat-v1.0-GGUF/tree/main 拷贝下载的模型到工作目录
- 2025-03-05
- 5
- 0
- 0
- 大模型
- python
2025-02-18
LmStudio运行deepseek windows vulkan调用GPU 官网下载安装包 LmStudio官网：https://lmstudio.ai/ 然后点击安装包安装即可，推荐安装到所有用户，后面修改文件方便，否则进入安装路径麻烦使用配置打开窗口后，右下角设置按钮可以调节语言桌边功能栏文件夹图标点击后左上方可以调整大模型存储位置代理配置 lmstudio没有
- 2025-02-18
- 7
- 0
- 0
- 大模型
2025-02-17
vllm运行huggingface的deepseek蒸馏模型 anaconda安装配置，以及huggingface镜像配置不在这里介绍了，可以看看《BitNet运行大模型折腾事件》创建一个运行环境 conda create -n vllm python=3.12 -y pip config set global.index-url https://pypi.
- 2025-02-17
- 7
- 0
- 0
- 大模型
2025-02-17
BitNet运行大模型折腾事件通过Anaconda搭建运行环境 1.下载anaconda安装包 wget https://repo.anaconda.com/archive/Anaconda3-2024.10-1-Linux-x86_64.sh 2.安装anacconda bash ./Anaconda3-2024.10-1-L
- 2025-02-17
- 11
- 0
- 0
- 大模型