<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[grape_yan的博客]]></title><description><![CDATA[英特尔边缘计算创新大使 百度飞桨开发者技术专家(PPDE) OpenVINO C# API NuGet Package 作者 主要致力于模型部署相关方面的研究，OpenVINO、TensorRT模型部署套件在C#端使用。]]></description><link>https://blog.csdn.net/grape_yan</link><language>zh-cn</language><generator>https://blog.csdn.net/</generator><copyright><![CDATA[Copyright &copy; grape_yan]]></copyright><item><title><![CDATA[不止于内置模型：用 DeploySharp 接管新模型的前处理、推理与结果解码]]></title><link>https://blog.csdn.net/grape_yan/article/details/169951207</link><guid>https://blog.csdn.net/grape_yan/article/details/169951207</guid><author>grape_yan</author><pubDate>Tue, 03 Nov 2026 21:01:44 +0800</pubDate><description><![CDATA[是一个面向C#/.NET 开发者的开源模型部署框架，由「椒颜皮皮虾」开发，项目源码遵循。项目封装了等推理引擎，提供模型加载、图像前处理、推理和结果后处理接口，方便大家在桌面软件、工业视觉和文档应用中部署模型。目前项目已接入目标检测、分类、实例分割、关键点、旋转框、异常检测、背景移除等视觉任务，也提供PP-OCRv4/v5/v6、PP-Structure 文档处理及部分图文、本地语言模型的使用入口。]]></description><category></category></item><item><title><![CDATA[MIGraphX CSharp API 发布：让 C# 接入 AMD GPU 原生推理]]></title><link>https://blog.csdn.net/grape_yan/article/details/169950999</link><guid>https://blog.csdn.net/grape_yan/article/details/169950999</guid><author>grape_yan</author><pubDate>Tue, 03 Nov 2026 20:39:43 +0800</pubDate><description><![CDATA[MIGraphX CSharp API 0.0.2 已发布，为 .NET 开发者提供 AMD GPU 上的 ONNX 模型推理能力。支持 YOLOv26、PaddleOCR、PP-Structure 与 CLIP 四类场景，实现模型解析、动态输入、GPU 编译与张量管理。通过类型化接口与 IDisposable 资源管控，兼容 .NET 5–10 及旧版框架，可集成 HIP 实现端到端 GPU 推理。配套案例覆盖视觉检测、文档处理与图文检索，助力 C# 项目高效接入 AMD ROCm 生态。]]></description><category></category></item><item><title><![CDATA[让文档不止于文字：DeploySharp + PP-Structure，打通版面分析与表格重建]]></title><link>https://blog.csdn.net/grape_yan/article/details/169746989</link><guid>https://blog.csdn.net/grape_yan/article/details/169746989</guid><author>grape_yan</author><pubDate>Sun, 01 Nov 2026 20:10:55 +0800</pubDate><description><![CDATA[DeploySharp 2.0.0 支持在 C# 中高效部署 PP-Structure 文档结构化任务，通过组合版面检测、文字识别与表格解析模型，实现多栏页面区域划分、文字定位及表格行列还原。项目提供 ONNX Runtime、OpenVINO 等多后端支持，兼容 Windows 与 Ubuntu，支持批量推理与大图切片，可生成带坐标的 HTML 结构文档，助力工业级文档智能处理。]]></description><category></category></item><item><title><![CDATA[一套 C# 接口，解锁四类视觉任务：DeploySharp 分类、分割、关键点与旋转框实战]]></title><link>https://blog.csdn.net/grape_yan/article/details/169746537</link><guid>https://blog.csdn.net/grape_yan/article/details/169746537</guid><author>grape_yan</author><pubDate>Sun, 01 Nov 2026 19:38:54 +0800</pubDate><description><![CDATA[DeploySharp 2.0.0 支持图像分类、实例分割、关键点检测与旋转框检测，四类任务共用同一推理流程。通过 NuGet 安装相关包，使用 ONNX Runtime CPU 推理，实现模型加载、前处理、推理与后处理一体化。项目提供统一接口，按需切换任务，输出结果图像与 JSON，支持掩码分离、关节点定位及倾斜目标框提取，适用于工业视觉与文档分析场景。]]></description><category></category></item><item><title><![CDATA[模型部署不再卡在环境上：DeploySharp 四大推理引擎与 Windows/Linux 离线交付实战]]></title><link>https://blog.csdn.net/grape_yan/article/details/169652091</link><guid>https://blog.csdn.net/grape_yan/article/details/169652091</guid><author>grape_yan</author><pubDate>Sat, 31 Oct 2026 20:51:32 +0800</pubDate><description><![CDATA[DeploySharp 2.0.0 是面向 C#/.NET 开发者的开源模型部署框架，支持 ONNX Runtime、OpenVINO、TensorRT 等多后端，实现模型、运行时与应用的统一交付。新版本分离视觉任务与推理引擎，支持离线部署、跨平台（Windows/Linux）运行，并提供 PaddleOCR、YOLO 等模型的本地化接入。通过 NuGet 按需组合组件，可灵活适配 CPU/GPU 环境，显著降低部署复杂度，助力工业视觉与文档处理应用快速落地。]]></description><category></category></item><item><title><![CDATA[让 C# 读懂整张图：DeploySharp 驱动 PaddleOCR v4/v5/v6，打通 OCR 全流程]]></title><link>https://blog.csdn.net/grape_yan/article/details/169652064</link><guid>https://blog.csdn.net/grape_yan/article/details/169652064</guid><author>grape_yan</author><pubDate>Sat, 31 Oct 2026 20:48:20 +0800</pubDate><description><![CDATA[DeploySharp 2.0.0 为 C#/.NET 开发者提供轻量级模型部署框架，支持 ONNX Runtime、OpenVINO 等多后端推理。本文以 PP-OCRv5 Mobile 为例，实现从图像到文字识别的完整流水线：文字检测 → 透视裁剪 → 方向分类 → 文字识别，输出文本、JSON 及标注图。通过对比 v4、v5、v6 不同组合，展示模型选型与字典配套策略，并在 Windows 与 Ubuntu 上验证跨平台兼容性，助力文档智能处理落地。]]></description><category></category></item><item><title><![CDATA[在 C# 中使用 DeploySharp 部署 YOLO26：从 NuGet 安装到检测结果]]></title><link>https://blog.csdn.net/grape_yan/article/details/169465273</link><guid>https://blog.csdn.net/grape_yan/article/details/169465273</guid><author>grape_yan</author><pubDate>Thu, 29 Oct 2026 21:50:49 +0800</pubDate><description><![CDATA[DeploySharp 2.0.0 是面向 C#/.NET 的开源模型部署框架，支持 YOLO 等目标检测及 OCR、文档处理等任务。通过 NuGet 安装 JYPPX.DeploySharp 组件，可快速在 Windows 上使用 ONNX Runtime、OpenVINO 等后端进行本地模型推理。本文演示基于 YOLO26n 与 OpenCV 图像处理的控制台检测流程，涵盖模型加载、前处理、推理与结果可视化，并支持自定义模型配置与多后端切换，助力开发者高效集成 AI 能力至桌面应用。]]></description><category></category></item><item><title><![CDATA[DeploySharp 2.0.0 正式发布：多后端、多模型，让 C# 模型部署更简单]]></title><link>https://blog.csdn.net/grape_yan/article/details/169465232</link><guid>https://blog.csdn.net/grape_yan/article/details/169465232</guid><author>grape_yan</author><pubDate>Thu, 29 Oct 2026 21:48:49 +0800</pubDate><description><![CDATA[是一个专为C#/.NET 开发者设计的模型部署框架，由「椒颜皮皮虾」开发并开源，项目源码遵循。它基于等推理引擎，提供模型加载、参数配置、图像前处理、推理执行和结果后处理的配套接口，帮助开发者将模型接入自己的应用。目前，项目已经接入了目标检测、图像分类、分割、姿态估计、旋转框、工业异常检测、背景移除等视觉任务，以及PP-OCRv4/v5/v6 文字识别和 PP-Structure 文档处理；同时提供 SAM 提示分割、CLIP 图文匹配、BLIP 图像描述和 Qwen2.5 本地文本生成的相应模型入口。]]></description><category></category></item><item><title><![CDATA[【TensorRTtSharp v4.0】使用 TensorRT CSharp API v4.0 在 C# 中运行 ResNet18 图像分类]]></title><link>https://blog.csdn.net/grape_yan/article/details/163876129</link><guid>https://blog.csdn.net/grape_yan/article/details/163876129</guid><author>grape_yan</author><pubDate>Wed, 19 Aug 2026 09:41:45 +0800</pubDate><description><![CDATA[本文介绍了如何利用TensorRT CSharp API v4.0进行图像分类任务，主要步骤包括：获取TorchVision ResNet18模型并转换为ONNX格式，使用C#完成与TorchVision一致的图片预处理（resize、center crop、RGB/NCHW转换和ImageNet归一化），通过TensorRT构建和执行推理引擎，生成Top-5分类结果。同时使用同一预处理数据对比ONNX Runtime作为独立参考，确保结果可靠性。文章提供了完整的项目源码和NuGet包链接，强调结果的可验证]]></description><category></category></item><item><title><![CDATA[【TensorRTtSharp v4.0】TensorRT Callback 生命周期：Logger、Profiler、ProgressMonitor 与 DebugListener]]></title><link>https://blog.csdn.net/grape_yan/article/details/163875080</link><guid>https://blog.csdn.net/grape_yan/article/details/163875080</guid><author>grape_yan</author><pubDate>Wed, 19 Aug 2026 09:39:01 +0800</pubDate><description><![CDATA[TensorRT Callback 生命周期管理示例展示了四种回调接口在托管与原生环境中的复杂交互。该示例构建1x1卷积网络并执行推理，严格记录Logger、ProgressMonitor、Profiler和DebugListener的真实调用情况。关键挑战在于：1) 保持回调对象在原生调用期间有效；2) 正确清理顺序；3) 验证跨边界数据一致性。示例通过结构化JSON记录调用计数、失败统计和释放顺序，确保不出现悬空指针或异步异常。]]></description><category></category></item><item><title><![CDATA[【TensorRTtSharp v4.0】使用 TensorRT CSharp API v4.0 实现 CUDA 多流与 Event 同步]]></title><link>https://blog.csdn.net/grape_yan/article/details/163833318</link><guid>https://blog.csdn.net/grape_yan/article/details/163833318</guid><author>grape_yan</author><pubDate>Tue, 18 Aug 2026 10:30:00 +0800</pubDate><description><![CDATA[TensorRT CSharp API v4.0 的 MultiStream 示例演示了 CUDA Stream 的正确同步机制。该程序通过两个阶段验证并发操作：第一阶段在独立 Stream 上异步处理显存数据；第二阶段通过 Event 建立跨流依赖，确保 Stream B 在读取数据前等待 Stream A 完成写入。程序逐字节校验结果，仅当两种路径均正确时才输出 MultiStream Passed=True。该示例强调 Stream 并发需显式同步（如 Event），否则可能因竞态导致数据错误。文中还]]></description><category></category></item><item><title><![CDATA[【TensorRTtSharp v4.0】在 C# 中使用 TensorRT CSharp API v4.0 动态编译并运行 CUDA Kernel]]></title><link>https://blog.csdn.net/grape_yan/article/details/163833188</link><guid>https://blog.csdn.net/grape_yan/article/details/163833188</guid><author>grape_yan</author><pubDate>Tue, 18 Aug 2026 10:00:00 +0800</pubDate><description><![CDATA[CUDA Runtime Compilation 示例展示了如何在运行时动态编译和执行CUDA Kernel。该示例通过两种路径（CUDA Runtime和Driver API）验证了NVRTC编译流程的完整性，包括环境探测、虚拟头文件支持、产物管理、错误处理及结果验证。关键验证点包括：编译确定性（相同输入生成相同PTX）、两种加载路径的正确性（最大误差为0）、以及错误源码的编译失败处理。示例不依赖TensorRT，但通过TensorRT CSharp API提供的CUDA接口实现完整GPU计算流程，确保从]]></description><category></category></item><item><title><![CDATA[【TensorRTtSharp v4.0】TensorRT Refitted Plan 实战：权重替换、持久化与重新加载]]></title><link>https://blog.csdn.net/grape_yan/article/details/163812338</link><guid>https://blog.csdn.net/grape_yan/article/details/163812338</guid><author>grape_yan</author><pubDate>Mon, 17 Aug 2026 08:46:18 +0800</pubDate><description><![CDATA[TensorRT CSharp API v4.0 提供的 Refit 功能允许在保持网络结构不变的情况下更新模型权重，而无需重新构建整个 Engine。本文通过一个确定性示例演示了完整的 Refit 生命周期：首先生成两个结构相同的 ONNX 模型（baseline 和 refit），构建并保存 baseline Plan；然后使用 TensorRtRefitter 提交权重更新，保存 refitted Plan；最后重新加载并验证新 Plan 的输出是否符合预期。该功能适用于需要频繁更新权重的场景，但必须]]></description><category></category></item><item><title><![CDATA[【TensorRTtSharp v4.0】从 ONNX 到 TensorRT Engine：构建、加载与单次推理]]></title><link>https://blog.csdn.net/grape_yan/article/details/163812282</link><guid>https://blog.csdn.net/grape_yan/article/details/163812282</guid><author>grape_yan</author><pubDate>Mon, 17 Aug 2026 08:44:00 +0800</pubDate><description><![CDATA[本文介绍了TensorRT CSharp API v4.0中的OnnxBuildAndRun示例程序，它展示了如何通过C#/.NET完整执行ONNX模型的TensorRT推理链路。该程序提供两种模式：确定性synthetic Identity模式（无需外部模型）和用户ONNX文件模式，共用同一套TensorRT构建和推理实现。文章详细说明了项目结构、依赖关系（包括核心NuGet包和Runtime Bridge）、运行验证标准（状态输出、enqueue计数和结果校验），并强调该示例仅验证API和GPU执行流程]]></description><category></category></item><item><title><![CDATA[【TensorRTtSharp v4.0】使用 TensorRT CSharp API 完成 Dynamic Shape 与动态 Batch 推理]]></title><link>https://blog.csdn.net/grape_yan/article/details/163735571</link><guid>https://blog.csdn.net/grape_yan/article/details/163735571</guid><author>grape_yan</author><pubDate>Fri, 14 Aug 2026 10:30:00 +0800</pubDate><description><![CDATA[本文介绍了如何利用TensorRT CSharp API v4.0构建并运行支持动态输入尺寸的神经网络推理流程。示例通过一个简单的Identity网络演示了动态batch维度的处理，包括构建阶段设置Optimization Profile、运行时绑定变化的输入shape、异步执行及结果校验等关键步骤。文章提供了完整的项目源码链接、NuGet包依赖列表及运行环境配置说明，帮助开发者掌握TensorRT动态shape的核心概念与实现方法，适用于分类、检测等多种实际场景中的变长输入需求。]]></description><category></category></item><item><title><![CDATA[【TensorRTtSharp v4.0】使用 TensorRT CSharp API 管理推理输入、显存绑定与 GPU 输出读回]]></title><link>https://blog.csdn.net/grape_yan/article/details/163735532</link><guid>https://blog.csdn.net/grape_yan/article/details/163735532</guid><author>grape_yan</author><pubDate>Fri, 14 Aug 2026 00:13:37 +0800</pubDate><description><![CDATA[本文介绍了TensorRT CSharp API v4.0的使用方法，重点讲解了如何通过C#/.NET完成TensorRT Engine的构建、推理绑定和执行流程验证。项目提供了托管API来管理TensorRT Engine生命周期、CUDA内存操作和异步流同步，示例使用Identity网络演示了完整的推理流程：从环境准备、网络构建、输入输出绑定到GPU执行和结果校验。 关键点： 项目封装了TensorRT/CUDA的底层操作，提供安全的C# API接口]]></description><category></category></item><item><title><![CDATA[【TensorRTtSharp v4.0】TensorRT CSharp API v4.0 系列案例总览与学习路线]]></title><link>https://blog.csdn.net/grape_yan/article/details/163706832</link><guid>https://blog.csdn.net/grape_yan/article/details/163706832</guid><author>grape_yan</author><pubDate>Thu, 13 Aug 2026 10:00:00 +0800</pubDate><description><![CDATA[TensorRT CSharp API v4.0提供了一套完整的C#接口，将TensorRT与CUDA功能封装为可工程化的解决方案。项目包含8个循序渐进的学习案例，涵盖从CUDA基础操作到真实图像分类的全流程。每个案例保持小而专注，通过公开的NuGet包构建，要求用户自行安装NVIDIA运行环境。项目强调结果验证，要求明确区分帮助输出、合成测试与真实模型运行结果，确保每个案例都可独立验证。源码和文档已在GitHub开源，适用于需要将TensorRT集成到.NET应用的开发者。]]></description><category></category></item><item><title><![CDATA[【TensorRTtSharp v4.0】TensorRT CSharp API v4.0 正式发布：面向 .NET 的 TensorRT 与 CUDA 全新重构]]></title><link>https://blog.csdn.net/grape_yan/article/details/163706278</link><guid>https://blog.csdn.net/grape_yan/article/details/163706278</guid><author>grape_yan</author><pubDate>Thu, 13 Aug 2026 10:00:00 +0800</pubDate><description><![CDATA[TensorRT CSharp API v4.0.0 是一次全面重构后的正式版本，提供了更清晰的托管对象模型、更严格的资源管理和更灵活的版本适配。通过 NuGet 分发的托管包和 Bridge 包，开发者可以快速集成 TensorRT 到 .NET 项目中，同时保持对底层 GPU 资源的精确控制。]]></description><category></category></item><item><title><![CDATA[OpenVINO C# API 3.3.1：支持OpenVINO 2026.3及GenAI增强]]></title><link>https://blog.csdn.net/grape_yan/article/details/163551770</link><guid>https://blog.csdn.net/grape_yan/article/details/163551770</guid><author>grape_yan</author><pubDate>Tue, 11 Aug 2026 10:49:07 +0800</pubDate><description><![CDATA[OpenVINO C# API 3.3.1正式适配OpenVINO 2026.3，主要更新包括：1. 提供平滑升级路径，Core推理API保持兼容，现有图像分类、目标检测等模型无需修改代码即可使用；2. 增强GenAI支持，新增ChatHistory管理VLM多轮对话，同时保持GenAI作为可选模块；3. 简化部署，通过NuGet自动管理runtime依赖，支持Windows、Linux和macOS多平台。开发者需注意：保持托管包与runtime版本一致，检查硬件驱动兼容性，GenAI项目建议迁移至新版Ch]]></description><category></category></item><item><title><![CDATA[OpenVINO™ C# API 3.3 全新发布！正式接入 OpenVINO GenAI，C# 本地大模型开发全面启航！]]></title><link>https://blog.csdn.net/grape_yan/article/details/161881096</link><guid>https://blog.csdn.net/grape_yan/article/details/161881096</guid><author>grape_yan</author><pubDate>Thu, 11 Jun 2026 09:37:12 +0800</pubDate><description><![CDATA[OpenVINO™ C# API 3.3 正式发布！本次版本正式接入 OpenVINO GenAI，让 C#/.NET 项目可以直接调用本地 LLM、Whisper 语音识别和 VLM 图文问答能力。传统推理继续稳定支持，GenAI runtime 按需引入，覆盖 net46 到 net10.0，更适合桌面、工业、内网和边缘 AI 应用落地。]]></description><category></category></item></channel></rss>