<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[uncle_ll的博客]]></title><description><![CDATA[keep healthy, keep going.]]></description><link>https://blog.csdn.net/uncle_ll</link><language>zh-cn</language><generator>https://blog.csdn.net/</generator><copyright><![CDATA[Copyright &copy; uncle_ll]]></copyright><item><title><![CDATA[SGLang：为什么 40 万张 GPU 选择了它而不是 vLLM]]></title><link>https://blog.csdn.net/uncle_ll/article/details/167913989</link><guid>https://blog.csdn.net/uncle_ll/article/details/167913989</guid><author>uncle_ll</author><pubDate>Wed, 14 Oct 2026 19:10:52 +0800</pubDate><description><![CDATA[SGLang凭借RadixAttention和原生结构化输出等创新，成为vLLM之外的生产级推理引擎新选择。其前缀缓存复用机制在多轮对话、RAG、决策模型等场景下性能领先2.4-4.1倍，尤其适合高重叠前缀与结构化输出需求。支持多模态、MoE模型及异构硬件，原生兼容SystemOne协议，部署简单。选型应基于业务场景：有固定提示或结构化输出则首选SGLang；纯随机请求则两者接近。最终建议以真实负载对比为准。]]></description><category></category></item><item><title><![CDATA[Clef 实操：从拉模型到跑通第一个决策，完整代码走一遍]]></title><link>https://blog.csdn.net/uncle_ll/article/details/167895524</link><guid>https://blog.csdn.net/uncle_ll/article/details/167895524</guid><author>uncle_ll</author><pubDate>Wed, 14 Oct 2026 15:45:00 +0800</pubDate><description><![CDATA[本文手把手教程：从HuggingFace拉取Clef模型，配置环境（需24G+显存），通过原生SystemOne调用实现结构化决策（支持choice/noul/score三类问题），并提供SGLang服务化部署方案，完整跑通首个决策调用。代码基于官方实现，涵盖模型加载、输入编码、批处理与推理全流程，确保输出严格兼容Jev协议，适用于内容审核、工单分类等场景。]]></description><category></category></item><item><title><![CDATA[Cloudflare Clef：开源、多模态、快到飞起来的决策模型]]></title><link>https://blog.csdn.net/uncle_ll/article/details/167808578</link><guid>https://blog.csdn.net/uncle_ll/article/details/167808578</guid><author>uncle_ll</author><pubDate>Tue, 13 Oct 2026 21:00:00 +0800</pubDate><description><![CDATA[Cloudflare 推出开源决策模型 Clef 及其轻量版 Clef-flash，对标 Jev。Clef 基于 Qwen 底座，采用 prefill-only + 并行 schema 打分架构，支持多模态输入、64k 上下文，延迟低至 38.8ms（中位），在分类、工具调用等任务上超越 Jev。虽通用底座在泛化推理略逊，但结合自托管与 Apache 2.0 开源，更适合合规需求场景。技术上通过两阶段注意力路由实现精准决策，整体表现均衡，标志着决策模型进入按需选型新阶段。]]></description><category></category></item><item><title><![CDATA[Jev 到底是什么：一个不写文章的 AI，为什么突然火了]]></title><link>https://blog.csdn.net/uncle_ll/article/details/167491311</link><guid>https://blog.csdn.net/uncle_ll/article/details/167491311</guid><author>uncle_ll</author><pubDate>Sat, 10 Oct 2026 20:00:00 +0800</pubDate><description><![CDATA[2026年9月，旧金山初创公司TypeSafe AI推出名为Jev的专用决策模型，不聊天、不生成内容，仅专注快速、精准的判断任务。基于“系统一”思维，它以单次前向传播返回概率与置信度，杜绝格式幻觉，延迟快193倍、成本低444倍，且置信度经校准，可直接用于自动化流程。对比通用大模型，其稳定性与效率显著提升。虽面临Cloudflare Clef等竞品挑战，但其在文本分类、工单路由、内容审核等场景中展现出不可替代价值，标志着AI从“生成”迈向“决策”的关键跃迁。]]></description><category></category></item><item><title><![CDATA[分类任务解决样本数据不均衡的落地实战指南]]></title><link>https://blog.csdn.net/uncle_ll/article/details/166795732</link><guid>https://blog.csdn.net/uncle_ll/article/details/166795732</guid><author>uncle_ll</author><pubDate>Mon, 28 Sep 2026 23:08:42 +0800</pubDate><description><![CDATA[我们先明确工业界的真实数据现状，以常见的内容风险分类任务为例：正常文本（0类）：48900+ 样本各类违规小众风险（6类）：合计仅300+ 样本这种上万 vs 几百的悬殊分布，就是典型的长尾不均衡数据。很多新手会陷入误区：觉得只要数据总量够，模型就能训好。1. 真实业务分类任务，数据不均衡是常态，准确率高不代表模型可用，切勿被虚假指标误导；2. 大模型微调、文本/语音业务场景，优先训练集重采样，简单稳定、落地效果最优；3. 传统CV小模型可选用 Focal Loss，无需改动数据，迭代效率更高；]]></description><category></category></item><item><title><![CDATA[别再把 AI 当高级搜索引擎：用好 WorkBuddy 的十条心法]]></title><link>https://blog.csdn.net/uncle_ll/article/details/166493439</link><guid>https://blog.csdn.net/uncle_ll/article/details/166493439</guid><author>uncle_ll</author><pubDate>Wed, 23 Sep 2026 22:15:46 +0800</pubDate><description><![CDATA[大多数人误用AI，将其当作会打字的实习生，而非能承担复杂任务的项目经理。真正高效的关键在于：清晰表达需求、合理拆解任务、迭代优化输出，并通过自动化释放人力。核心是重构人与AI的分工——让AI执行机械劳动，人类专注决策与创造。掌握“做什么+有什么+怎么样”等十条心法，可显著提升产出质量与效率。]]></description><category></category></item><item><title><![CDATA[crontab 定时任务到点未执行排查实录：一次时区问题引发的]]></title><link>https://blog.csdn.net/uncle_ll/article/details/165859871</link><guid>https://blog.csdn.net/uncle_ll/article/details/165859871</guid><author>uncle_ll</author><pubDate>Fri, 18 Sep 2026 11:29:47 +0800</pubDate><description><![CDATA[本文分享了因系统时区设置为UTC导致crontab定时任务执行异常的排查过程。用户发现stop脚本未执行，经日志分析确认任务被触发但时间错位（实际执行时间为UTC 10:38，对应北京时间18:38）。根源在于crontab默认按系统本地时区解析时间。解决方案为：在crontab顶部添加CRON_TZ=Asia/Shanghai或修改系统时区为Asia/Shanghai。经验总结：排查时应查看/var/log/cron日志，注意输出重定向，务必确认时区设置，避免“准时不执行”问题。]]></description><category></category></item><item><title><![CDATA[基于LlamaIndex本地知识库 RAG 实战]]></title><link>https://blog.csdn.net/uncle_ll/article/details/164757953</link><guid>https://blog.csdn.net/uncle_ll/article/details/164757953</guid><author>uncle_ll</author><pubDate>Wed, 09 Sep 2026 23:09:00 +0800</pubDate><description><![CDATA[本文基于LlamaIndex实现无需微调的大模型私有知识增强方案，通过构建本地知识库与高阶RAG架构（混合检索、交叉重排序、智能分块、查询重写、Agentic RAG），有效解决医疗、法律、企业知识等场景下的幻觉与知识截止问题。结合Streamlit快速搭建可视化交互界面，实测表明RAG可将幻觉率降至近乎零，具备强泛化性与生产落地能力。]]></description><category></category></item><item><title><![CDATA[语音 AI 落地指南：从 Wav2Vec2 特征提取实战]]></title><link>https://blog.csdn.net/uncle_ll/article/details/164632698</link><guid>https://blog.csdn.net/uncle_ll/article/details/164632698</guid><author>uncle_ll</author><pubDate>Tue, 08 Sep 2026 23:25:08 +0800</pubDate><description><![CDATA[本文系统梳理语音AI四大核心技术（ASR、KWS、SV、音频生成）的边界与落地：从16kHz音频采样基础出发，剖析Wav2Vec2自监督特征提取原理，详解ASR/KWS/SV工程流程、向量数据库选型，并延伸至扩散模型音频生成逻辑，结合PyTorch代码构建完整知识闭环。]]></description><category></category></item><item><title><![CDATA[从 localStorage 到 Chrome 商店：一个 HTML 文件的 7 次重构]]></title><link>https://blog.csdn.net/uncle_ll/article/details/164484817</link><guid>https://blog.csdn.net/uncle_ll/article/details/164484817</guid><author>uncle_ll</author><pubDate>Mon, 07 Sep 2026 18:44:54 +0800</pubDate><description><![CDATA[用WorkBuddy构建健康打卡+记账工具，从单文件HTML到Chrome扩展，7次重构皆因坑：在线页非云端、SDK lint限制、多用户数据隔离、Supabase RLS验证、MV3 CSP禁内联脚本、扩展ID算法编码差异。坑点隐蔽，踩后顿悟，终成功打包上架。]]></description><category></category></item><item><title><![CDATA[SenseNova U1.5 Lite 实战]]></title><link>https://blog.csdn.net/uncle_ll/article/details/164451372</link><guid>https://blog.csdn.net/uncle_ll/article/details/164451372</guid><author>uncle_ll</author><pubDate>Mon, 07 Sep 2026 10:00:49 +0800</pubDate><description><![CDATA[SenseNova-U1 不只是又一个开源多模态模型。去掉 VE 和 VAE，直接在像素-词元空间做端到端统一，是可行且高效的。无编码器设计能同时保留语义和像素表征（COCO 重建 PSNR 31.56）原生 MoT 让理解和生成协同进化，本质冲突极小原生多模态架构展现出极高的数据规模化效率如果这条路线在更多工作中被复现和验证，未来的多模态架构会简化很多——一个模型、一套权重、一次推理，覆盖理解、生成、编辑的完整闭环。目前图文交错生成仍是 beta 特性，效果还没达到独立文生图流水线的水平；]]></description><category></category></item><item><title><![CDATA[智能客服实践：微调+RAG双引擎架构落地]]></title><link>https://blog.csdn.net/uncle_ll/article/details/164426796</link><guid>https://blog.csdn.net/uncle_ll/article/details/164426796</guid><author>uncle_ll</author><pubDate>Sun, 06 Sep 2026 13:03:54 +0800</pubDate><description><![CDATA[针对采购智能客服场景，提出微调+RAG双引擎融合架构：固定问答用QLoRA小样本微调，确保标准合规；动态数据用LlamaIndex实时检索，解决幻觉与滞后；高精度场景以检索兜底。]]></description><category></category></item><item><title><![CDATA[大模型交付必备评测体系OpenCompass]]></title><link>https://blog.csdn.net/uncle_ll/article/details/164398535</link><guid>https://blog.csdn.net/uncle_ll/article/details/164398535</guid><author>uncle_ll</author><pubDate>Sat, 05 Sep 2026 11:52:30 +0800</pubDate><description><![CDATA[大模型微调后需标准化评测，OpenCompass作为工业级综合评测基准支持通用与私有业务数据集，提供多维度指标和生成式任务评估。通过虚拟环境部署、自定义JSONL数据集及CLI配置，可生成可溯源的验收报告，并支持vLLM加速调优，是模型交付与选型的关键工具。]]></description><category></category></item><item><title><![CDATA[本地大模型私有化落地实战｜心理问诊系统全流程开发]]></title><link>https://blog.csdn.net/uncle_ll/article/details/164203196</link><guid>https://blog.csdn.net/uncle_ll/article/details/164203196</guid><author>uncle_ll</author><pubDate>Mon, 31 Aug 2026 06:59:47 +0800</pubDate><description><![CDATA[本项目旨在搭建一套纯本地化、隐私绝对可控、具备高共情能力的智能心理问诊系统。该系统需实现用户情绪疏导、心理问题答疑以及基础心理咨询辅助功能。此架构具备极强的泛化能力，可无缝迁移至企业智能客服、行业专属问答机器人等各类生成式 AI 场景。掌握需求分析 ➔ 数据治理 ➔ 模型微调 ➔ 效果评估 ➔ 量化部署的全链路 AI 工程能力。在架构博弈中，核心在于技术为场景服务。对于需要快速迭代、量化评估以及复杂对齐策略的规模化落地，LLaMA Factory 是最佳选择；]]></description><category></category></item><item><title><![CDATA[零代码搭建多智能体协作系统：AutoGen Studio 从入门到实战全教程]]></title><link>https://blog.csdn.net/uncle_ll/article/details/164135961</link><guid>https://blog.csdn.net/uncle_ll/article/details/164135961</guid><author>uncle_ll</author><pubDate>Fri, 28 Aug 2026 07:22:40 +0800</pubDate><description><![CDATA[在菜单中，点击New ModelSkills 是赋能智能体执行真实动作的核心机制。技能本质为一段合规的 Python 代码。在菜单中，点击New Skillimport os"""将智能体生成的最终分析报告保存为本地 Markdown 文件。]]></description><category></category></item><item><title><![CDATA[从零落地离线私有化 RAG：LlamaIndex 0.10.x + 本地开源大模型工程实战]]></title><link>https://blog.csdn.net/uncle_ll/article/details/164066738</link><guid>https://blog.csdn.net/uncle_ll/article/details/164066738</guid><author>uncle_ll</author><pubDate>Tue, 25 Aug 2026 23:36:28 +0800</pubDate><description><![CDATA[本文介绍了离线私有化RAG（检索增强生成）技术在企业级应用中的优势，包括数据零泄露、无API调用成本以及实时知识更新能力。文章基于LlamaIndex 0.10.x重构后的架构，详细拆解了从环境隔离、模型选型到本地向量索引构建的全流程工程方案。对比了RAG与监督微调（SFT）的优缺点，重点阐述了LlamaIndex的核心演进、虚拟环境搭建、依赖版本锁定、本地模型下载与配置，以及私有知识库构建的完整链路。方案采用HuggingFace本地模型，确保数据隐私与高效检索生成能力。]]></description><category></category></item><item><title><![CDATA[LlamaIndex 全栈实战指南：架构解构、RAG 核心原理与私有知识库工程化落地方案]]></title><link>https://blog.csdn.net/uncle_ll/article/details/164034727</link><guid>https://blog.csdn.net/uncle_ll/article/details/164034727</guid><author>uncle_ll</author><pubDate>Mon, 24 Aug 2026 22:45:24 +0800</pubDate><description><![CDATA[本文介绍了大语言模型（LLM）面临的三大工程瓶颈及检索增强生成（RAG）作为私有数据问答的最佳解决方案。重点剖析了LlamaIndex框架的核心架构和配置革新，提供了本地私有知识库落地的完整实践方案。 关键内容： RAG技术相比微调（SFT）在数据更新成本、幻觉抑制等方面优势明显 LlamaIndex五大核心组件构成的数据处理闭环 新版采用模块化设计，以Settings对象替代ServiceContext 详细演示了从文档加载、向量存储到检索问答的全流程实现 支持ChromaDB持久化存储和多格式文档处理 ]]></description><category></category></item><item><title><![CDATA[多模态大模型视听生成本地实战]]></title><link>https://blog.csdn.net/uncle_ll/article/details/163998608</link><guid>https://blog.csdn.net/uncle_ll/article/details/163998608</guid><author>uncle_ll</author><pubDate>Sun, 23 Aug 2026 16:00:48 +0800</pubDate><description><![CDATA[从纯文本交互到跨模态感知，多模态大模型（MLLM）正成为 AI 从语言对话走向全场景智能的关键枢纽。本文从核心分类、对齐机制、任务矩阵到本地部署，系统拆解多模态技术的工程化落地全流程。]]></description><category></category></item><item><title><![CDATA[大模型落地选型GGUF 量化与 Ollama 部署指南]]></title><link>https://blog.csdn.net/uncle_ll/article/details/163969547</link><guid>https://blog.csdn.net/uncle_ll/article/details/163969547</guid><author>uncle_ll</author><pubDate>Sat, 22 Aug 2026 15:30:00 +0800</pubDate><description><![CDATA[摘要： 本文探讨生成式AI工程化落地中的关键权衡与技术方案，提供从微调选型到本地部署的完整链路。首先对比SFT微调与RAG检索增强的适用场景，推荐采用SFT+RAG复合架构。随后解析LoRA与QLoRA的高效微调原理及实测性能，QLoRA可在4-bit量化下显存降低45%且精度损失≤1%。模型评估需结合客观指标（BLEU-4、ROUGE-L）与主观评判（GPT-4o打分）。]]></description><category></category></item><item><title><![CDATA[大模型量化落地全解：原理、实操、效果对比与评估调优指南]]></title><link>https://blog.csdn.net/uncle_ll/article/details/163967754</link><guid>https://blog.csdn.net/uncle_ll/article/details/163967754</guid><author>uncle_ll</author><pubDate>Sat, 22 Aug 2026 09:50:17 +0800</pubDate><description><![CDATA[大模型量化技术解析与实践指南 本文系统介绍了大语言模型(LLM)量化技术的核心原理、算法演进和落地实践。量化技术通过将高精度浮点权重映射为低精度整数，可显著降低显存占用(50%-75%)并提升推理速度。文章详细阐述了非对称均匀量化的数学表达、GPTQ/AWQ等主流PTQ算法的演进，以及不同量化等级(INT8/INT4/INT2)的取舍边界。实践部分提供了稳定的环境构建方案，并通过LLaMA Factory工具展示了GPTQ量化流程。]]></description><category></category></item></channel></rss>