Protect AI 与 Hugging Face 合作 6 个月扫描超 440 万模型,推出 4 个新威胁检测模块
Hugging Face 与 Protect AI 合作 6 个月以来已扫描平台 141 万个仓库中的 447 万个模型版本,共在 5.17 万个模型中标记出 35.2 万个不安全或可疑问题。
推荐理由:通过披露扫描数百万开源模型发现的漏洞类型与攻击链条,有助于开发者排查加载第三方权重时的代码执行风险。
内容形态
AI 产品与应用的功能上新、改版与商业化动态——谁家的产品变强了、变贵了、能用了。
31 条精选近 30 天 9 条共收录 78 条
Hugging Face 与 Protect AI 合作 6 个月以来已扫描平台 141 万个仓库中的 447 万个模型版本,共在 5.17 万个模型中标记出 35.2 万个不安全或可疑问题。
推荐理由:通过披露扫描数百万开源模型发现的漏洞类型与攻击链条,有助于开发者排查加载第三方权重时的代码执行风险。
Hugging Face 宣布与 Cloudflare 达成合作,开发者使用 Hugging Face Token 即可直接调用 Cloudflare 覆盖全球超 335 个节点的 TURN 服务器网络。FastRTC 开发者每月可免费获得 10GB 流媒体数据额度且无需信用卡,该集成在 FastRTC 0.0.20 及以上版本中提供,旨在简化实时语音助手和多模态应用的部署维护。
推荐理由:开发者无需自行搭建 TURN 服务即可通过 Hugging Face 凭证调用全球中继节点,降低了实时语音与视频应用的工程门槛。
Hugging Face 在 Diffusers 库中推出实验性 Remote VAE 功能,允许开发者将扩散模型的高分辨率 VAE 解码计算委托给远程 Inference Endpoints 处理。
推荐理由:通过将高显存消耗的解码环节移至远程端点,开发者可以在消费级显卡上低显存运行大分辨率图像与视频生成模型。
OpenAI 推出 deep research 智能体,利用推理能力综合海量网络信息以完成多步骤研究任务。该功能即日起面向 Pro 用户开放,后续将逐步推向 Plus 和 Team 用户。
推荐理由:关注该功能如何利用推理能力自动化完成多步网络检索与综合分析,便于了解各订阅层级的上线规划。
Hugging Face 宣布 Diffusers 库正式支持图像生成模型 Stable Diffusion 3.5 Large。
OpenAI 推出 Realtime API,允许开发者在自身应用程序中构建快速的语音到语音交互体验。
推荐理由:该接口支持在应用中构建快速语音交互,为需要低延迟语音能力的开发者提供了直接接入途径。
OpenAI 宣布在微调 API 中正式引入视觉支持。开发者现可结合图像和文本数据微调 GPT-4o,以针对特定场景提升模型的视觉能力。
推荐理由:开发者可基于自身的图文数据集定制 GPT-4o,有助于优化特定场景下的视觉理解表现。
OpenAI 在 API 中推出提示词缓存(Prompt Caching)功能。该功能可对模型最近已处理过的输入内容自动提供折扣优惠。
OpenAI 在其 API 平台上线模型蒸馏功能。开发者可以直接在 OpenAI 平台上,使用前沿大模型的输出结果来微调成本效益更高的小模型。
推荐理由:开发者可以直接在 OpenAI 平台利用前沿大模型的输出微调低成本小模型,简化了蒸馏落地流程。
OpenAI 宣布 DALL·E 正式取消候补名单限制,新用户无需排队即可直接开始创作。官方表示,实际部署中积累的经验以及安全系统的改进使得更大范围的开放成为可能。
OpenAI 为 DALL·E 推出 Outpainting 功能。该功能允许用户在原有画面基础上向外延伸扩展,生成任意尺寸的图像以展现更宏大的视觉内容。