AudioLDM 2 推理加速指南：在 Diffusers 中实现 10 倍提速与显存优化
Hugging Face 介绍了在 Diffusers 库中加速文本转音频模型 AudioLDM 2 的多项工程优化，将 10 秒音频的推理生成耗时从 14 秒缩短至 1 秒以内。
推荐理由：文章系统演示了结合半精度、编译与高效调度器优化扩散模型推理的完整步骤，为多模态音频生成任务提供了可复用的加速范式。
公司与模型
Hugging Face 最新动态
Hugging Face 开源社区动态：热门模型与数据集、排行榜变化与开源生态的晴雨表。
207 条精选近 30 天 7 条共收录 399 条
更新
精选归档 · 第 8 页
Hugging Face Blog精选AI 评分6464
Hugging Face Blog精选AI 评分8484 Hugging Face 全面集成 Meta 代码大模型 Code Llama
Hugging Face 宣布在生态内全面集成 Meta 发布的开源代码大模型 Code Llama，涵盖 7B、13B 和 34B 三种参数规模。该模型基于 Llama 2 并在 5000 亿 token 代码数据上训练，提供基础版、Python 专用版及指令微调版，支持最高 100k 上下文窗口以及代码填充能力。
推荐理由：文章梳理了 Code Llama 三种尺寸与变体的能力边界，并提供了代码填充和 4 位量化部署的具体调用示例。
Hugging Face Blog精选AI 评分7676 Hugging Face 将 AutoGPTQ 集成至 Transformers
Hugging Face 宣布将 AutoGPTQ 库原生集成到 Transformers 中，支持用户以 8、4、3 甚至 2-bit 精度对大语言模型进行 GPTQ 量化与推理。
推荐理由：Hugging Face 将 AutoGPTQ 原生集成进 Transformers 与 TGI，大幅降低了 70B 级别大模型在消费级与单卡硬件上的部署门槛。
Hugging Face Blog精选AI 评分7474 Hugging Face 开源视觉语言模型 IDEFICS：复现 Flamingo 并提供 9B 与 80B 版本
Hugging Face 正式开源视觉语言模型 IDEFICS，作为 DeepMind 闭源模型 Flamingo 的开放复现版本，支持图文交错序列输入并生成文本。
推荐理由：该项目完全基于公开数据和开源模型复现了闭源 Flamingo 的图文交错多模态能力，为多模态研究提供了透明的数据集与权重参考。
Hugging Face Blog精选AI 评分6060 如何使用 🤗 Transformers 优化 Bark 文本转语音模型推理
Hugging Face 发布实践教程，展示如何通过 Transformers、Optimum 和 Accelerate 库优化 Suno 的 Bark 文本转语音模型推理。
推荐理由：原文给出了三种优化手段组合下的显存和吞吐实测数据，读者可以据此权衡本地部署多阶段语音模型时的资源分配。
Hugging Face Blog精选AI 评分7272 Hugging Face 发布 Swift Transformers，支持在苹果设备端侧运行大语言模型
Hugging Face 推出 Swift Transformers 工具包，旨在让 Swift 开发者能够在 Mac 和 iOS 设备上通过 Core ML 在本地端侧运行大语言模型。
推荐理由：提供了将大语言模型转为 Core ML 并在苹果设备端侧运行的工具链与工程实践，适合 iOS 与 Mac 开发者参考。
Hugging Face Blog精选AI 评分7575 Stable Diffusion XL 适配 Core ML：利用混合位调色板量化在 Mac 端运行
Hugging Face 联合 Apple 将 Stable Diffusion XL 移植到 Core ML，并推出混合位调色板量化方案以实现 Mac 本地运行。
推荐理由：文章详细解析了按网络层敏感度分配精度的混合位量化方案，为在苹果芯片上轻量化部署大参数扩散模型提供了具体的落地路径。
Hugging Face Blog精选AI 评分6060 Hugging Face 联名提出欧盟人工智能法案开源建议
Hugging Face 联合 GitHub、Eleuther AI、LAION 等机构发布立场文件，呼吁欧盟《人工智能法案》保护开源机器学习生态。联合倡议提出五项具体建议，包括明确 AI 组件定义、免除公共仓库开源开发者的合规负担，以及对基础模型设立相称监管要求并确保研发测试豁免。
推荐理由：联合文件明确了开源阵营对监管条款的具体诉求，呈现了基础模型治理与开源生态博弈的关键争议。
Hugging Face Blog精选AI 评分6767 Hugging Face 推出 Agents.js：在 JavaScript 环境中为大语言模型赋予工具调用能力
Hugging Face 发布开源库 Agents.js（包名 @huggingface/agents），支持在浏览器或 Node.js 服务端为大语言模型赋予工具调用能力。
推荐理由：该库让前端与Node开发者能直接用JavaScript构建工具调用智能体，并支持自定义模型与多模态输入。
Hugging Face Blog精选AI 评分9797 Llama 2 正式上线 Hugging Face 并支持商用
Meta 正式开源 Llama 2 大语言模型系列，Hugging Face 同步上线模型权重并提供生态集成支持。该系列涵盖 7B、13B 和 70B 参数规格，允许商用，预训练 token 增加 40%，上下文窗口扩展至 4k tokens。平台同步提供了 Transformers 推理示例、Text Generation Inference 部署方案以及单卡 QLoRA 微调脚本。
推荐理由：文章梳理了该系列模型相比前代在上下文与训练量上的变化，并提供了在消费级显卡上微调与部署的工程配置。
Hugging Face Blog精选AI 评分6262 Hugging Face 开源文本生成与大语言模型生态全景解析
Hugging Face 官方发文系统盘点了开源文本生成与大语言模型生态，涵盖主流开源模型授权、部署方案与高效微调工具链。文中详细对比了 Falcon、MPT、Llama 2 与 StarCoder 等模型的商业许可与指令微调数据集，并介绍了支撑 HuggingChat 的 TGI 推理服务方案，以及支持 LoRA 等技术的 PEFT 参数高效微调库。
推荐理由：文章系统梳理了主流开源模型的商用授权差异、TGI 推理方案与 PEFT 微调工具链，为团队自建私有化模型服务提供了完整选型参考。
Hugging Face Blog精选AI 评分6363 Hugging Face 发布 AI WebTV 构建指南：基于开源模型实现全自动流媒体
Hugging Face 发布了 AI WebTV 实验性演示项目的技术架构与实现方案，用于展示开源文本生成视频与音乐合成的串联效果。系统通过 ChatGPT 生成分镜提示词，使用两阶段 Zeroscope 模型生成并超分辨率放大视频，再结合 FILM 插帧算法与 MusicGen 音频合成，最终借助 FFmpeg 将切片推流至 RTMP 服务器。
推荐理由：原文拆解了从文本生成视频、超分辨率、插帧到推流的全流程架构，读者可以据此搭建端到端的多模态流媒体管道。
Hugging Face Blog精选AI 评分6767 如何使用 Transformers.js 构建纯浏览器端机器学习网页游戏
Hugging Face 发布实践教程，演示如何使用 Transformers.js 构建完全在浏览器本地运行的实时画图猜词游戏 Doodle Dash。开发者基于 Google Quick, Draw!
推荐理由：文章完整展示了将轻量视觉模型微调转换并在浏览器端无延迟运行的全流程，为构建纯前端交互式 AI 应用提供了参考方案。
Hugging Face Blog精选AI 评分6262 用开源机器学习模型构建 Web 应用生成器教程
Hugging Face 发布教程，介绍如何在 Node.js 环境中利用开源机器学习模型构建流式 Web 应用生成器。
推荐理由：文章提供了在 Node 环境中流式调用开源代码模型并结合图像生成接口生成完整 Web 应用的完整实现步骤。
Hugging Face Blog精选AI 评分6868 Hugging Face 详解 Open LLM Leaderboard 的 MMLU 评测差异与实现细节
Hugging Face 发文解释了 Open LLM Leaderboard 榜单上 LLaMA 等模型的 MMLU 得分显著低于原论文报告数据的原因。核心差异来自原始代码、Stanford HELM 与 EleutherAI Harness 三种评测实现之间在提示词格式及概率提取逻辑上的不同，导致同一模型在同一数据集上的绝对得分可产生近 30% 的差距并改变排名。
推荐理由：文章通过对比三套实现揭示了提示词与概率提取机制对基准评测的剧烈影响，为读者解读大模型论文和榜单指标提供了校准参考。
Hugging Face Blog精选AI 评分7171 基于 Core ML 在 iPhone、iPad 和 Mac 上加速 Stable Diffusion
Hugging Face 结合苹果发布的 Core ML 新特性与 coremltools 7.0，推出了基于 6-bit 调色板量化的 Stable Diffusion 端侧加速方案并上传了预转换模型。
推荐理由：文章梳理了针对苹果芯片的六比特调色板量化机制与注意力分块优化，开发者可直接参考该流程压缩自定义扩散模型并在移动端部署。
Hugging Face Blog精选AI 评分7171 Hugging Face 评测基础模型标注能力：GPT-4 评估存在显著偏见
Hugging Face 联合 Scale AI 开展实验，测试基础模型能否像人类一样评估大模型输出偏好，发现 GPT-4 存在明显的位置偏见与偏爱长回复的长度偏见，甚至将人类示范样本排在多个开源模型之后。实验显示 GPT-4 与人类标注在头脑风暴等创意任务上相关性达 0.60，但在代码生成与事实问答等任务上相关性显著降低。
推荐理由：原文对比了人类与 GPT-4 对开源模型的偏好打分，指出了位置与长度偏见对评估有效性的实际干扰。
Hugging Face Blog精选AI 评分7171 Hugging Face Hub 支持通过 DuckDB 直接对 5 万多个数据集执行 SQL 查询
Hugging Face Hub 宣布集成 DuckDB，允许开发者直接针对 Hub 上存储的 50,000 多个公开数据集运行 SQL 分析查询。Dataset Viewer 会将数据集自动转换为 Parquet 列式存储文件并切分为 500MB 分片，用户可通过 /parquet 端点获取文件链接。
推荐理由：平台将公开数据集自动转为 Parquet 分片，开发者借助 DuckDB 的远程读取能力即可免下载执行复杂 SQL 查询。
Hugging Face Blog精选AI 评分8383 Falcon 系列大模型接入 Hugging Face 生态
阿布扎比技术创新研究院研发的开源语言模型 Falcon 系列正式接入 Hugging Face 生态，采用 Apache 2.0 协议开源并支持商用。该系列包括 Falcon-40B 与 Falcon-7B 及其指令微调版本，采用 Multi-Query Attention 架构降低推理时的 KV 缓存占用，预训练数据主要由 RefinedWeb 网页数据集构成。
推荐理由：文章拆解了其多查询注意力机制与预训练数据设计，并提供在消费级显卡上通过量化和微调落地的具体方法。
Hugging Face Blog精选AI 评分6969 Hugging Face 推出适用于 Amazon SageMaker 的 LLM 推理容器
Hugging Face 推出基于 Text Generation Inference（TGI）的全新 SageMaker LLM 深度学习容器（DLC），用于在托管环境中部署 BLOOM、Llama 和 Falcon 等开源大语言模型。
推荐理由：文章给出了在云端托管大模型的专用容器方案，读者可以据此将开源模型低成本接入企业级生产环境。