跳到正文
npaka · AI与游戏开发技术· 来源·· 4 小时前AI 评分78

Speridlabs 发布 Idol:单图生成高质量 3D Gaussian Splatting 模型

Idolの概要 - 1枚の画像から3D Gaussian Splattingを生成するAI

正文 · AI 翻译

总结了「Idol」的概要。

目次

  1. 1. 什么是Idol
  2. 2. Idol的工作原理
  3. 2-1. 从图像生成3D的流程
  4. 2-2. 什么是3D高斯溅射(3D Gaussian Splatting)
  5. 3. 与类似模型的比较
  6. 3-1. 主要相似模型
  7. 3-2. 生成精度与速度比较
  8. 6. 试用Idol

1. 什么是Idol

“Idol”是一个能从单张图片生成3D对象的AI模型。它由“Speridlabs”于2026年10月发布。

当输入照片或CG图像时,AI会推测画面中未显示的背面部分,从而生成可从360度视角观察的3D对象。

生成形式采用了3D Gaussian Splatting(3DGS)。这是一种在3D空间中放置大量半透明椭球体(Gaussian),以表现物体形状和外观的技术。

主要特征如下:

・从单张图片生成3D:包含未可见部分的生成
・3DGS格式:输出为PLY文件
・轻量级模型:约6.6亿参数,峰值VRAM约7.2GB
・高速生成:B300上约3.4秒,RTX 4090上约19.1秒
・开源:代码和预训练模型以Apache 2.0许可证公开

2. Idol的机制

2-1. 从图像生成3D的流程

Idol提取图像特征,并使用扩散模型生成3D Gaussian。

处理流程如下。

(1) 图像输入:读取照片或CG图像
(2) 预处理:去除背景,提取物体
(3) 特征提取:使用DINOv3和FLUX.2 VAE提取图像特征
(4) 3D生成:通过Diffusion Transformer(DiT)生成3D表示
(5) 输出:将3D Gaussian保存为PLY文件

模型本体约有6.6亿参数,但若包含图像识别模型等在内的整个推理系统,则总参数量约为18亿。

2-2. 什么是3D高斯溅射(3D Gaussian Splatting)

3D高斯溅射是一种用大量高斯分布而非多边形来表现物体的技术。

・多边形网格:通过顶点和面来表现物体表面
・3DGS:通过高斯的位置、大小、颜色、透明度等来表现外观

3DGS适合高质量渲染,但无法直接用于类似常规多边形网格的形状编辑或3D打印。

3. 与相似模型的比较

3-1. 主要相似模型

以下是从单张图像生成3D对象的代表性模型:

・Idol:重视3DGS的生成质量与速度的平衡
・TripoSplat:从图像生成3DGS
・TRELLIS:可生成3DGS、多边形网格等
・LGM:专注于3DGS的高速生成

3-2. 生成精度与速度的比较

在Idol的官方基准测试中,使用NVIDIA H100报告了以下结果。

画像

指标的含义如下:

・SSIM ↑:与输入图像的结构相似度。越高越好
・LPIPS ↓:与输入图像的视觉差异。越低越好
・DINOv2 ↑:不同视角图像特征的相似性。越高越好
・生成时间 ↓:3D对象的生成时间。越短越好

Idol在所有三项质量指标中均获得最高评价。

6. 试用Idol

(1) 登录Hugging Face,打开FLUX.2-dev模型卡片并接受许可协议。

画像

(2) AIエージェント(Codexなど)にColab CLI経由でMotionBricksのデモをセットアップしてもらう。
ColabでHugging Faceのトークン(HF_TOKEN)を設定していない場合は、事前に設定しておいてください。

Idle (https://github.com/speridlabs/idol-sdk) のデモをColab CLIで実行して
ブラウザで操作したい

セットアップ完了までの時間も教えて

セットアップ完了です。 ColabのL4 GPUで、ブラウザからの3D生成・表示・回転操作まで確認しました。

デモを開く

合計:約10分45秒(13:34:35〜13:45:20、認証・同意待ちを含む)
初回生成:約75秒(モデル取得・読み込み込み)
画像を選び「Generate」で生成し、3Dビューをドラッグして回転できます。

画像

(2) 動作確認。

画像
画像

(3) 停止 Colab。

请停止 Colab。

来源:npaka · AI与游戏开发技术 · note.com