<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[添柴程序猿的专栏]]></title><description><![CDATA[程序人生_困难下的坚持最珍贵.....]]></description><link>https://blog.csdn.net/lidew521</link><language>zh-cn</language><generator>https://blog.csdn.net/</generator><copyright><![CDATA[Copyright &copy; lidew521]]></copyright><item><title><![CDATA[超级引擎_英伟达GPU与CUDA相关的必备知识点_CPU和GPU的区别_CUDA核心显存如何分配_自注意力机制如何在CUDA上运行---AI大模型系统从零开始0050]]></title><link>https://blog.csdn.net/lidew521/article/details/163568296</link><guid>https://blog.csdn.net/lidew521/article/details/163568296</guid><author>lidew521</author><pubDate>Fri, 07 Aug 2026 16:32:22 +0800</pubDate><description><![CDATA[本文介绍了GPU的关键知识点，重点分析了英伟达的发展历程和CUDA框架的重要性。英伟达从手机芯片起步，虽早期产品效果不佳，但通过专注GPU实现了高速增长。GPU与CPU的核心区别在于：GPU拥有大量计算核心（ALU），适合并行处理但控制能力弱；CPU控制能力强但计算单元少。2006年英伟达推出CUDA框架，使GPU的通用计算能力得以释放，从游戏领域扩展到科学计算等领域。文章详细说明了GPU处理图像和运行自注意力机制的计算原理，包括任务分配、显存占用等关键问题，并以GPT-3为例计算了模型训练所需的显存规模（]]></description><category></category></item><item><title><![CDATA[opencode以及qwenpaw如何设置-AI智能体禁止执行某些动作_比如严禁操作git防止代码泄露---AI大模型系统从零开始0049]]></title><link>https://blog.csdn.net/lidew521/article/details/163555191</link><guid>https://blog.csdn.net/lidew521/article/details/163555191</guid><author>lidew521</author><pubDate>Fri, 07 Aug 2026 11:10:06 +0800</pubDate><description><![CDATA[qwenpaw 和opencode 如何设置安全护栏]]></description><category></category></item><item><title><![CDATA[Deepseek性价比之王背后的极致压缩技术MLA原理解析_MOE混合专家模型---AI大模型系统从零开始0047]]></title><link>https://blog.csdn.net/lidew521/article/details/163449996</link><guid>https://blog.csdn.net/lidew521/article/details/163449996</guid><author>lidew521</author><pubDate>Tue, 04 Aug 2026 17:21:55 +0800</pubDate><description><![CDATA[DeepSeek-V3是一款高效混合专家大模型（MoE），总参数量671亿，推理时仅激活37亿参数，显著降低算力开销。核心采用已验证的MLA多头隐注意力和DeepSeekMoE架构，并新增两大创新：无辅助损失负载均衡策略自动平衡专家模块负载；多令牌预测训练提升模型能力。训练流程包括14.8万亿文本预训练及微调优化，性能媲美顶尖闭源模型，训练成本仅278.8万H800显卡小时且稳定性优异。模型已开源，其MLA技术通过低秩压缩KV缓存，支持长上下文同时大幅降低显存占用，实现“大模型能力、小模型成本”目标。]]></description><category></category></item><item><title><![CDATA[MoE 架构在 Scaling Law 之后继续提升大模型能力_MTP多令牌预测_混合精度训练---AI大模型系统从零开始0046]]></title><link>https://blog.csdn.net/lidew521/article/details/162962879</link><guid>https://blog.csdn.net/lidew521/article/details/162962879</guid><author>lidew521</author><pubDate>Mon, 03 Aug 2026 18:26:30 +0800</pubDate><description><![CDATA[DeepSeek-V3技术架构解析与创新亮点 摘要： DeepSeek-V3作为国产稀疏大模型代表，采用混合专家（MoE）架构实现高效推理与海量知识存储。核心创新包括：1）61层Transformer中前3层保持稠密，后58层采用&quot;1共享专家+256私有专家&quot;的MoE架构，共享专家处理通用知识，私有专家专注细分领域；2）引入无辅助损失负载均衡机制，通过动态偏置调整专家调用频率，避免传统均衡方案对模型性能的干扰；3）采用MLA压缩注意力技术降低KV缓存显存占用，支持长上下文处理；4）创新多]]></description><category></category></item><item><title><![CDATA[MoE 架构在 Scaling Law 之后继续提升大模型能力_DeepSeek论文Moe专家模型原理_MLA多头潜在注意力---AI大模型系统从零开始0045]]></title><link>https://blog.csdn.net/lidew521/article/details/163448814</link><guid>https://blog.csdn.net/lidew521/article/details/163448814</guid><author>lidew521</author><pubDate>Mon, 03 Aug 2026 18:19:42 +0800</pubDate><description><![CDATA[文章摘要： MoE（混合专家）架构通过解耦模型总容量与计算开销，突破了传统稠密Transformer受限于ScalingLaw（缩放定律）的瓶颈。稠密模型因参数与算力强绑定，导致边际收益骤减、成本爆炸及参数冗余。MoE的核心创新在于稀疏激活——仅动态调用Top-K专家参与计算，其余休眠，从而在总参数量（如万亿级）激增时，保持推理算力稳定（如仅激活几十亿参数）。其优势包括：1）同等算力下效果远超稠密模型；2）专家分工实现能力专业化涌现；3）横向无限扩展专家集群；4）推理成本可控，推动大模型落地。尽管存在训练均]]></description><category></category></item><item><title><![CDATA[qwenpaw使用中出现回答一半就自动终止任务的解决办法_opencode配置---AI大模型系统从零开始0044]]></title><link>https://blog.csdn.net/lidew521/article/details/163447099</link><guid>https://blog.csdn.net/lidew521/article/details/163447099</guid><author>lidew521</author><pubDate>Mon, 03 Aug 2026 18:13:24 +0800</pubDate><description><![CDATA[当模型参数量小或算力不足时，QwenPaw等AI可能在回答时出现中断问题。可通过调整运行配置改善：在智能体Loop设置中启用迭代限制（建议设为500轮），并勾选&quot;启用定性完成度检查&quot;，这能显著减少回答中断现象，但可能导致部分回答重复。用户需根据实际效果权衡设置，在回答完整性和重复率之间找到平衡点。]]></description><category></category></item><item><title><![CDATA[V100显卡使用中出现掉卡现象解决解决_显卡驱动无法加载_英伟达显卡驱动卸载安装_qwenpaw技能依赖python库安装---AI大模型系统从零开始0043]]></title><link>https://blog.csdn.net/lidew521/article/details/163268396</link><guid>https://blog.csdn.net/lidew521/article/details/163268396</guid><author>lidew521</author><pubDate>Tue, 28 Jul 2026 11:52:35 +0800</pubDate><description><![CDATA[英伟达V100显卡驱动安装注意事项：1. 4张32G显存V100启动需等待3分钟，确保驱动完全加载；2. 通过设备管理器确认4张显卡均正常识别；3. 使用nvidia-smi检查显卡状态后再启动ollama；4. 出现CPU满载需更换小模型；5. 遇到掉卡时，先用DDU彻底卸载驱动，再从英伟达官网下载最新驱动重新安装（官网地址已提供）。老旧显卡需特别注意完整启动和驱动兼容性问题。]]></description><category></category></item><item><title><![CDATA[Sapiens_人体姿态识别_分割_深度_发线模型_meta的实践和成果_Sapiens-1B训练过程---AI大模型系统从零开始0042]]></title><link>https://blog.csdn.net/lidew521/article/details/162769909</link><guid>https://blog.csdn.net/lidew521/article/details/162769909</guid><author>lidew521</author><pubDate>Fri, 17 Jul 2026 11:34:35 +0800</pubDate><description><![CDATA[本文介绍了Meta公司开发的Sapiens模型，这是一个基于视觉Transformer架构的大规模人体图像分析系统。该模型在3亿张标注图像(Human-300M dataset)上进行预训练，采用MAE(掩码自编码器)方法，能够处理75%遮挡图像的恢复。Sapiens具备四大核心功能：1) 人体姿态估计(308个关键点标注，包括243个面部关键点)；2) 像素级人体分割(28个精细部位分类)；3) 深度估计；4) 表面法线计算。实验表明，其20亿参数版本(Sapiens-2B)在各项任务上均超越现有算法，特]]></description><category></category></item><item><title><![CDATA[Sapiens_人体姿态识别_人体关键部位分割_人体深度识别_身体发线识别_VAE_AE_MAE---AI大模型系统从零开始0041]]></title><link>https://blog.csdn.net/lidew521/article/details/162962562</link><guid>https://blog.csdn.net/lidew521/article/details/162962562</guid><author>lidew521</author><pubDate>Fri, 17 Jul 2026 11:31:20 +0800</pubDate><description><![CDATA[Meta（Facebook）在2024年推出了基于视觉识别的MAE（带掩码自编码器）模型，专注于人体姿态分析。该模型具备四大核心功能：姿态识别（Pose）、图像分割（Seg）、深度感知（Depth）和法线计算（Normal），能实现精准的实时3D建模。技术亮点包括：1）采用75%高遮蔽率训练，证明图像信息高度冗余；2）非对称编解码结构提升算力效率；3）通过&quot;信息压力训练&quot;增强编码器泛化能力，有效防止过拟合。模型采用VisionTransformer架构，参数量控制在0.3-2亿，兼具性能]]></description><category></category></item><item><title><![CDATA[自用_英伟达Tesla V100 4张卡_每张卡32G显存共128G显存_使用ollama部署_并且使用Python编程代理程序实现_4卡并行_多出来的自动排队---AI大模型系统从零开始0040]]></title><link>https://blog.csdn.net/lidew521/article/details/162878656</link><guid>https://blog.csdn.net/lidew521/article/details/162878656</guid><author>lidew521</author><pubDate>Tue, 14 Jul 2026 18:25:09 +0800</pubDate><description><![CDATA[设备：4 张 V100 32G 显卡，因显卡老旧不兼容新版 vLLM，放弃原生大并发推理；
方案核心：一卡单独启动一个独立 Ollama 进程，独占单卡显存、互不抢占，再用 Python 编写统一代理网关做负载均衡转发，实现 4 卡硬件级真并行，规避单 Ollama 多并发容易显存溢出、自动降级串行的问题。]]></description><category></category></item><item><title><![CDATA[sora视频模型训练原理_ImagenVideo模型原理_视频训练数据切分_视频patch切分_视频精细描述---AI大模型系统从零开始0039]]></title><link>https://blog.csdn.net/lidew521/article/details/162702604</link><guid>https://blog.csdn.net/lidew521/article/details/162702604</guid><author>lidew521</author><pubDate>Fri, 10 Jul 2026 18:55:42 +0800</pubDate><description><![CDATA[论文摘要：视频生成模型的技术演进与创新 本文系统梳理了视频生成领域的技术发展，重点分析了Sora、ImagenVideo等代表性模型的架构创新。Sora采用Transformer架构，通过时空关联建模实现高质量视频生成，其关键突破在于原生比例训练保障构图合理性，以及重标注技术提升文本-视频对齐。ImagenVideo则提出级联扩散方案，通过7个专用子模型分阶段处理分辨率、帧率等维度，实现高效高清生成。研究对比了不同技术路线的优劣：Transformer架构擅长时空一致性，扩散模型更适合模块化部署。文章还探讨]]></description><category></category></item><item><title><![CDATA[sora视频生成原理_Video Diffusion Models视频扩散模型_DIT用Transformer来做视频扩散_视频切分方式_4种理解视频的方法---AI大模型系统从零开始0038]]></title><link>https://blog.csdn.net/lidew521/article/details/162769784</link><guid>https://blog.csdn.net/lidew521/article/details/162769784</guid><author>lidew521</author><pubDate>Fri, 10 Jul 2026 18:51:11 +0800</pubDate><description><![CDATA[✅ 相比 Model1：算力砍到十几分之一，可工程落地 ✅ 相比 Model2：不压缩聚合特征，画面细节不会丢失，生成画质与逻辑连贯性更强 这就是 Sora 论文里正式选用的核心 Transformer 注意力范式。让我们来看第三种做法。第三种做法其实是对 Transformer 做了一个更改。可以看到，它同样使用了 Transformer 里面的自注意力机制，但是这个自注意力机制有两层：第一层是属于空间上的自注意力机制，第二层是属于时间维度上的自注意力机制。]]></description><category></category></item><item><title><![CDATA[Sora模型训练原理_VIT_VIVIT原理_VGG_视频训练patch切分---AI大模型系统从零开始0037]]></title><link>https://blog.csdn.net/lidew521/article/details/162769755</link><guid>https://blog.csdn.net/lidew521/article/details/162769755</guid><author>lidew521</author><pubDate>Fri, 10 Jul 2026 18:45:41 +0800</pubDate><description><![CDATA[文章摘要： 本文深入解析了Sora模型如何借鉴大语言模型和ViT的设计思路，通过时空Patch分块技术实现通用视频生成。Sora将视频视为3D时空数据，先压缩至潜空间再切分为时空Patch，作为Transformer的Token处理，从而支持任意分辨率、时长和画幅的视频生成。模型采用扩散Transformer（DiT）架构，通过去噪Patch序列生成连贯视频，突破了传统CNN在长距离依赖和尺寸灵活性上的局限。相比Stable Diffusion的卷积UNet，Sora的Transformer架构展现出更强的]]></description><category></category></item><item><title><![CDATA[大小适中_5GB到30GB_支持RAG与龙虾智能体_ollama总结常用可用模型对比认识和分析_granite4_ifm2.5ornith_GPTOSS---AI大模型系统从零开始0036]]></title><link>https://blog.csdn.net/lidew521/article/details/162751611</link><guid>https://blog.csdn.net/lidew521/article/details/162751611</guid><author>lidew521</author><pubDate>Fri, 10 Jul 2026 10:34:03 +0800</pubDate><description><![CDATA[Ornith是由DeepReinforce团队推出的开源大模型家族，专注于智能体编程场景，具备自主构建执行框架（自适应脚手架）和循环修复能力，提供9B到397B不同规模的模型选择，支持多模态输入并展现优异的日文处理能力。同时，OpenAI推出的GPT-OSS开源模型家族包含120B和20B两款，具备原生智能体能力和可配置推理力度，以Apache 2.0协议开放商用。两者均为轻量级、可本地部署的开源模型，显著降低了AI应用门槛。]]></description><category></category></item><item><title><![CDATA[文生图原理_Latent Diffusion Model 潜扩散模型_LDM扩散模型---AI大模型系统从零开始0035]]></title><link>https://blog.csdn.net/lidew521/article/details/162701422</link><guid>https://blog.csdn.net/lidew521/article/details/162701422</guid><author>lidew521</author><pubDate>Wed, 08 Jul 2026 16:43:42 +0800</pubDate><description><![CDATA[潜扩散模型（Latent Diffusion Model, LDM）是Stable Diffusion的核心技术，通过将图像压缩到低维潜空间进行扩散计算，大幅降低了显存需求和计算成本。其核心架构包含VAE编码器（图像压缩/还原）、UNet去噪网络（潜空间扩散）和CLIP文本编码器（文本引导生成）。相比直接在像素空间操作的DDPM模型，LDM通过潜空间计算使512×512图像的处理效率提升64倍，使得消费级显卡（如1660/3060）也能运行AI绘图。该模型通过交叉注意力机制实现文本到图像的精准控制：将文本向]]></description><category></category></item><item><title><![CDATA[DM扩散模型_DDPM Denoising Diffusion Probabilistic Model去噪扩散概率模型_DALL模型_Clip模型---AI大模型系统从零开始0034]]></title><link>https://blog.csdn.net/lidew521/article/details/162701282</link><guid>https://blog.csdn.net/lidew521/article/details/162701282</guid><author>lidew521</author><pubDate>Wed, 08 Jul 2026 16:39:51 +0800</pubDate><description><![CDATA[本文系统梳理了扩散模型的发展历程与技术原理。2015年提出的扩散模型最初未受重视，其核心是通过U-Net架构逐步去噪还原图像。关键突破在于DDPM团队将预测目标从像素转为高斯噪声，大幅提升效果。2021年扩散模型超越GAN，结合分类器引导实现可控生成。OpenAI的DALL-E2创新性地融合CLIP文本编码与扩散模型，通过prior模型将文本向量转化为图像向量，再经解码器生成图片。文章详细解析了训练阶段的加噪-去噪机制、U-Net的结构优势，以及文生图应用中扩散模型如何通过迭代去噪在文本引导下生成目标图像，]]></description><category></category></item><item><title><![CDATA[GAN对抗网络_ AE Auto encoder自编码器_VAE 变分自编码器---AI大模型系统从零开始0033]]></title><link>https://blog.csdn.net/lidew521/article/details/162700922</link><guid>https://blog.csdn.net/lidew521/article/details/162700922</guid><author>lidew521</author><pubDate>Wed, 08 Jul 2026 16:34:15 +0800</pubDate><description><![CDATA[本文探讨了DALL-E和Stable Diffusion等图像生成模型的原理与发展。早期GAN模型能生成逼真图像但缺乏多样性和指令可控性；自编码器（AE）通过编码-解码结构提取关键特征，但仍受限于样本多样性；变分自编码器（VAE）创新性地将特征映射为高斯分布，通过在潜在空间中随机采样实现图像生成的多样性，能创造不存在于训练数据中的新图像。这些技术进步为后续DALL-E和Stable Diffusion等能平衡多样性与可控性的模型奠定了基础，推动了AI图像生成从模仿到创造的发展。]]></description><category></category></item><item><title><![CDATA[Tesla v100 4张显卡组装机安装vllm和ollama在Ubuntu系统上的安装---AI大模型系统从零开始0032]]></title><link>https://blog.csdn.net/lidew521/article/details/162625657</link><guid>https://blog.csdn.net/lidew521/article/details/162625657</guid><author>lidew521</author><pubDate>Wed, 08 Jul 2026 08:56:18 +0800</pubDate><description><![CDATA[本文提供Ubuntu22.04系统下vLLM的完整安装指南，适配4×32G Tesla显卡的单机4卡张量并行部署。教程包含：1）硬件要求（Ubuntu22.04、NVIDIA驱动≥535、CUDA12.1+）；2）NVIDIA驱动自动安装方法；3）Python3.10虚拟环境配置；4）vLLM官方预编译包一键安装；5）单机4卡启动Qwen3.6-27B模型的完整参数说明（含FP8量化、多进程并行等关键配置）。文末附分布式部署的Ray集群方案参考链接，适用于多机8卡场景。]]></description><category></category></item><item><title><![CDATA[两台32G * 4 Tesla V100显卡_单机128G_两台256G显存显存如何部署大模型_使用vllm部署大模型和使用ollama部署大模型的区别---AI大模型系统从零开始0030]]></title><link>https://blog.csdn.net/lidew521/article/details/162623917</link><guid>https://blog.csdn.net/lidew521/article/details/162623917</guid><author>lidew521</author><pubDate>Mon, 06 Jul 2026 10:27:58 +0800</pubDate><description><![CDATA[文章摘要： vLLM与Ollama在张量并行（TP）方案上差异显著：vLLM通过层内权重切分实现多卡线性加速，支持全局KV缓存共享和高并发，适合生产环境；Ollama采用层分片策略，显存利用率低且仅限单机使用。vLLM原生兼容OpenAI API，支持多卡TP/PP分布式扩展，4卡并行性能远超Ollama；CPU模式下两者差距较小，但GPU仍为首选。部署建议优先使用Ubuntu系统结合Ray+NCCL集群，实现8卡分布式推理，充分发挥硬件性能。vLLM在长文本、高并发及工具调用场景表现更优。]]></description><category></category></item><item><title><![CDATA[ubuntu系统安装mattermost过程_设置分区挂载永久生效---Linux工作笔记0075]]></title><link>https://blog.csdn.net/lidew521/article/details/162440103</link><guid>https://blog.csdn.net/lidew521/article/details/162440103</guid><author>lidew521</author><pubDate>Tue, 30 Jun 2026 10:09:43 +0800</pubDate><description><![CDATA[本文摘要：介绍了在Ubuntu系统上挂载第二块500G硬盘的完整步骤，包括分区创建（使用fdisk工具）、格式化为ext4文件系统、创建挂载点并临时挂载。同时说明了如何通过编辑/etc/fstab实现永久挂载（建议使用UUID方式）。此外还包含了为Mattermost应用创建PostgreSQL数据库及用户的操作流程：创建名为mattermostdb的数据库并指定所属用户，通过psql命令行修改用户密码。最后提示安装完成后可直接创建管理员账户使用。全文提供了从磁盘挂载到数据库配置的一站式操作指南。]]></description><category></category></item></channel></rss>