exo
exo日常设备在家中运行您自己的 AI 集群
exo-explore/exo:使用日常设备📱💻 🖥️⌚在家中运行您自己的 AI 集群
EXO 根据当前的网络拓扑和可用设备资源对模型进行最佳拆分。这使您能够运行比在任何单个设备上运行更大的模型。
先决条件
Python>=3.12.0 是必需的,因为以前版本中的 asyncio 存在问题。
对于支持 NVIDIA GPU 的 Linux(仅限 Linux,如果不使用 Linux 或 NVIDIA,请跳过):
NVIDIA 驱动程序 - 使用nvidia-smi
CUDA 工具包 - 从 NVIDIA CUDA 指南安装,使用nvcc --version
cuDNN 库 - 从 NVIDIA cuDNN 页面下载,按照以下步骤验证安装
确保nvidia-smi,nvcc,cuDNN配置正确,缺一不可。
运行 exo 的唯一要求是所有设备上都有足够的内存,以便将整个模型放入内存中。例如,如果您运行的是 llama 3.1 8B (fp16),则所有设备都需要 16GB 内存。以下任何配置都可以工作,因为它们的内存总数 ...
Qwen-image
Qwen-image
docker部署
安装魔搭社区的modelscope模型管理工具
1pip install -i https://pypi.tuna.tsinghua.edu.cn/simple modelscope
下载docker镜像
1modelscope download --model inkcoi/ComfyUI-Qwen-Image --local_dir /home/user/#下载文件位置
镜像文件约40GB,请留有充足储存空间
加载Docker镜像
1docker load -i ./comfyui-qwen-image-latest.tar
加载镜像为comfyui-qwen-image latest 1c856fa3dfd8 10 days ago 42.5GB
运行docker容器
1docker run --gpus all -d --name comfyui-qwen -p 8188:8188 comfyui-qwen-image:latest python3 main.py --listen 0.0.0.0
挂 ...
ESP CSI 动作分类
9b315a3d4c3d18cdcacd57aca3d553cc671da0c43fafcb7b9343eac2d650ee3698f5107972fda9502e22caa9d67f583bb9d00ec1449c33774068b2f9d5ac954e697041c9f42d436fec9ba5c6482a62ca56e9f4169228e721e3b1a9765f3c278b3bd28fd4cadf5c30dd75657fad8680fadfa7b984f7a93e6b2a4fe32f79586680b8bb4377eefc1531d17b06a3d61b0c41219d31bdab8058e8061975cf4bc277c3270dab7fff1f23c217eb15a281588ab26a0a4d3c79d448e06cbfe9bf611dd7b8d7a448f1539a5a30e73f99417d2ac3f97a0702cf66a639d12ead5c2d92a8f50633ec6c6ab1388f0fab008cd4215e608a5912d7ed6155b3b75 ...
机器学习——深度学习
机器学习
机器学习是一个专门研究和开发能够学习的机器的领域,目标是获得通用人工智能。
机器学习是人工智能的核心领域,目标是让计算机通过数据学习规律并做出预测或决策。其核心逻辑是:从数据中提取特征,通过算法训练模型,实现对未知数据的推断。
分类:包括监督学习(如回归、分类算法)、无监督学习(如聚类、降维)、半监督学习和强化学习等。
关键特征:依赖人工设计的特征工程,例如在图像识别中,需要手动提取边缘、颜色等特征。
本篇是对之前文章的扩展,补充与深化,本人深感过去文章水平有限,仅是为完成工程任务调参了解的,极为片面,浅薄的记录,本文试图作为学习笔记系统性记录✍️本人的学习过程。(ノ∇︎〃 )
添加了很多骚话个人理解(´つヮ⊂︎)
前面大多为车轱辘话(╯‵□′)╯︵┻━┻,只需要大致了解概念。可直接跳至算法原理。(ฅ>ω<*ฅ)
序言
一些很漂亮很浪漫很有人类探索精神的屁话╮(╯▽╰)╭
千百年来,人类试图了解智能的机制,并将它复制到思维机器上。
人类从不满足于让机械或电子设备帮助做一些简单的任务,例如,使
用燧石打火,使用滑轮吊起沉重的岩石,使用计算器做算术。
相反 ...
机器学习——神经网络
机器学习——神经网络
概念合集(写得较为复杂)
机器学习(1)——绪论 - 知乎
机器学习(2)——线性回归(Linear Regression) - 知乎
机器学习(3)——Logistic回归(Logistic Regression) - 知乎
机器学习(4)——模型评价与正则化 - 知乎
机器学习(5)——神经网络(Neural Network,NN) - 知乎
机器学习(6)——激活函数 - 知乎
通俗易懂(合集):从函数到神经网络
进阶,概念,下饭(漫士沉思录)90分钟!清华博士带你一口气搞懂人工智能和神经网络
(3Blue1Brown)【官方双语】深度学习之神经网络的结构 Part 1 ver 2.0
机器学习的基本流程(从函数到神经网络)
机器学习是要找一个函数,对于给定的输入能给出正确的输出。例如聊天机器人就是输入当前的对话场景,输出机器的应答;语音识别就是输入待辨识的音频,输出对应的文字。
函数(function)
Functions Describe the World ----不是我说的
这个Functions完 ...
NanoDet训练
NanoDet训练
github:RangiLyu/nanodet: NanoDet-Plus⚡Super fast and lightweight anchor-free object detection model. 🔥Only 980 KB(int8) / 1.8MB (fp16) and run 97FPS on cellphone🔥
CPU:guo-pu/NanoDet-PyTorch-CPU: 此代码用于目标检测,模型小,检测速度快速,适合没GPU显卡的嵌入式设备运行,比如“树莓派”、ARM开发板、嵌入式开发板。
hpc203/nanodet-plus-opencv: 分别使用OpenCV、ONNXRuntime部署NanoDet-Plus,包含C++和Python两个版本的程序
目标检测——使用nanodet训练自己制作的数据集并测试模型,通俗易懂(详细图文教程)_nanodet训练自己的模型-CSDN博客
第一模块:深度学习轻量级模型nanodet-CSDN博客
轻量级目标检测模型NanoDet-Plus微调、部署(保姆级教学)-CSDN博客
数据集:
使用Labe ...
在Docker中安装Postgresql
在Docker中安装Postgresql
有个服务挂在supabase上长期未用,然后发现已经过期,只保留备份文件,遂本地部署。
拉取镜像
1docker pull postgres
创建本地卷
数据卷可以在容器之间共享和重用, 默认会一直存在,即使容器被删除(docker volume inspect pgdata可查看数据卷的本地位置,验证持久数据目录)你也不想数据库和容器一起消失吧
123docker volume create pgdatadocker volume inspect pgdata
可以看到输出本地卷信息
12345678910111213root@rick:/home/rick# docker volume inspect pgdata[ { "CreatedAt": "2025-04-10T08:46:11Z", "Driver": "local", "Labels": null, &q ...
永久免费LinuxONE云服务器
永久免费LinuxONE云服务器
无需信用卡,120天免费续费,注册的时候不要挂梯子,不能安装宝塔不能挂梯,2核4G,
延迟高,但是带宽高
LinuxONE官网:https://linuxone.cloud.marist.edu/#/login
前往官网注册,建议使用QQ邮箱,选择国家:美国,最后申请原因:I want to learn Linux
稍后会发送邮件到邮箱,前往授权后即可登陆。
进入主页,随后创建服务器
名称随意,选择系统,建议Ubuntu
选择设备配置,只有一个可选,创建SSH密钥,用于建立SSH连接,随后创建即可。
等待数分钟,直到服务器状态变为active
使用ssh连接用户名为Linux User对应,默认应该是linux1,ip即为所给ip,端口默认22
连接
使用SSH软件连接
使用刚才创建的私钥连接即可
或者ssh linux1@*. * . * . * -i /win/sshkey
切换root用户
123sudo passwd rootsu
安装1panel
该服务器因为不能安装宝塔,故可使用1panel
curl -sSL https://re ...
Cloudflare Worker自建Docker代理加速
Cloudflare Worker自建Docker代理加速
2025/08/12 更新
过去使用的Docker代理已经失效,会出现Missing x-amz-content-sha256错误,现在使用cmliu/CF-Workers-docker.io: 这个项目是一个基于 Cloudflare Workers 的 Docker 镜像代理工具。它能够中转对 Docker 官方镜像仓库的请求,解决一些访问限制和加速访问的问题。
cmliu/CF-Workers-docker.io: 这个项目是一个基于 Cloudflare Workers 的 Docker 镜像代理工具。它能够中转对 Docker 官方镜像仓库的请求,解决一些访问限制和加速访问的问题。
[!WARNING]
根据 Cloudflare 协议 中,2.2.1 第 (j) use the Services to provide a virtual private network or other similar proxy services.
使用本服务可能存在被 Cloudflare 封号的潜在风险,请自行斟酌使用风 ...
Gemini中转API
Gemini 转OpenAI API格式
GitHub - PublicAffairs/openai-gemini:Gemini ➜ OpenAI API 代理。无服务器!
选择部署到 Cloudflare
填写帐户 ID和API 令牌
创建令牌
填写帐户 ID和API 令牌
fork到自己的储存库并开启Github action功能
完成
完成后进入到cloudflare 的Worker页面
找到刚刚创建的gemini
在设置中为其添加一个域名
##Gemini API申请
现在中转服务已经部署,接下来是Gemini API申请: https://aistudio.google.com/
列出可用模型