博文

目前显示的是 十月, 2025的博文

Ubuntu下部署PDF转MarkDown的服务docling

一、部署安装: 1、创建并激活虚拟环境 uv venv && source .venv/bin/activate 2、按照docling uv pip install docling 3、配置模型镜像站( 第一次运行时需要 ) export HF_ENDPOINT=https://hf-mirror.com 二、使用方法: A、使用命令行转换: docling https://arxiv.org/pdf/2206.01062 B、使用Python代码转换(test.py): from docling.document_converter import DocumentConverter source = "https://arxiv.org/pdf/2408.09869"  # file path or URL converter = DocumentConverter() doc = converter.convert(source).document print(doc.export_to_markdown())  # output: "### Docling Technical Report[...]" C、使用webui页面转换(app.py): import gradio as gr from docling.document_converter import DocumentConverter import tempfile import os def pdf_to_markdown(pdf_file):     """     接收上传的 PDF 文件,将其转换为 Markdown。     返回 Markdown 文本和可下载文件路径。     """     if pdf_file is None:         return "请上传一个 PDF 文件。", None     try:         converter = DocumentConverter()       ...

Huggingface模型下载

对于huggingface-hub 1.0.1及以上的版本,貌似已经不再支持 huggingface-cli download 命令 新命令是: hf download Soul-AILab/SoulX-Podcast-1.7B --local-dir pretrained_models/SoulX-Podcast-1.7B ------------------------------------------------------------------- 也可以通过python代码来对模型下载,例如: huggingface-cli download --local-dir black-forest-labs/FLUX.1-Kontext-dev --local-dir checkpoints/FLUX.1-Kontext-dev 此命令,改为python代码为(download.py): from huggingface_hub import snapshot_download snapshot_download(     repo_id="black-forest-labs/FLUX.1-Kontext-dev",     local_dir="checkpoints/FLUX.1-Kontext-dev",     local_dir_use_symlinks=False  # 建议设为 False,避免符号链接问题 ) -------------------------------------- 对于某些模型,必须登陆huggingface后才能下载,则在执行download.py代码之前,要先执行: export HF_TOKEN=hf_wARFAvos********jteAsdFnxS 把您在Huggingface上的账号Token设为环境变量! 然后,再执行: python download.py

Ubuntu部署Huggingface上Space空间的Nanonets OCR2 项目

1、从Huggingface的Space上拉取项目: git clone https://huggingface.co/spaces/akhaliq/Nanonets-OCR2-3B cd Nanonets-OCR2-3B/ 2、创建并激活uv虚拟环境: uv venv --python 3.11.13 source .venv/bin/activate 3、安装PyTorch等依赖库 uv pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu128 uv pip install gradio transformers Pillow accelerate spaces 4、第一次运行设置Huggingface模型下载的镜像站点 uv pip install -U transformers uv pip install -U huggingface_hub export HF_ENDPOINT=https://hf-mirror.com 5、修改app.py代码(可选) 代码最后一句: demo.launch() 改为:     demo.launch(         server_name="0.0.0.0",         server_port=7860,         share=False     ) 修改之后,局域网内所有电脑都可以通过浏览器来访问此项目 (不改则只能Ubuntu本机通过浏览器访问项目) 6、运行项目程序: export HF_ENDPOINT=https://hf-mirror.com python app.py ---------------------------------------------- 本项目最大的优势,就是对于 手写签名 的精准识别!

Ubuntu部署Flash VSR + (模糊)视频高清化项目

1、拉取项目文件 git clone https://github.com/lihaoyun6/FlashVSR_plus && cd FlashVSR_plus 2、创建并激活uv虚拟环境 uv venv && source .venv/bin/activate 3、安装pytorch uv pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu128 4、安装项目依赖 uv pip install gradio numpy einops safetensors tqdm pillow imageio imageio-ffmpeg ffmpeg-python huggingface_hub hf-xet triton 5、安装模型下载的依赖 uv pip install -U huggingface_hub &&  export HF_ENDPOINT=https://hf-mirror.com 6、使用vi命令创建webui代码(app.py) import sys import argparse # --- 修改点 1: 移除 action="store_true",改为默认监听 0.0.0.0 --- # 描述修改为 '设置为 False 将限制为本机访问 (127.0.0.1)' parser = argparse.ArgumentParser(description="FlashVSR+ WebUI") parser.add_argument("--listen", type=bool, default=True, help="Set to False to restrict to local access (127.0.0.1). Default is True (Allow LAN access)") parser.add_argument("--port", type=int, default=7860, help="Service Port") ...

Ubuntu下部署DeepSeek-OCR图像识别OCR模型

1、克隆项目 git clone https://github.com/deepseek-ai/DeepSeek-OCR.git cd DeepSeek-OCR 2、创建uv虚拟环境 uv venv && source .venv/bin/activate 3、安装Flash-Attn的依赖库 uv pip install ninja packaging 4、安装CUDA 12.1版本的PyTorch uv pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121 5、下载FlashAttention的预编译wheel文件( python 3.10,cuda 12.1对应版本的 ) curl -LO https://github.com/Dao-AILab/flash-attention/releases/download/v2.8.3/flash_attn-2.8.3+cu12torch2.5cxx11abiFALSE-cp310-cp310-linux_x86_64.whl 6、安装Flash_attn uv pip install flash_attn-2.8.3+cu12torch2.5cxx11abiFALSE-cp310-cp310-linux_x86_64.whl 验证Flash_attn是否安装成功: python -c "import flash_attn; print(f'Flash-Attn version: {flash_attn.__version__}')" 如果返回信息如: Flash-Attn version: 2.8.3 则表示Flash-Attn 2.8.3已经安装完成! 7、安装DeepSeek-OCR的依赖库 uv pip install -r requirements.txt uv pip install gradio 8、使用vi编写webui代码(app.py) import gradio as gr from transformers import AutoModel , AutoTokenizer import torch...