当前位置: 首页 > 科技

谷歌 Fluid 颠覆共识:两大因素被发现,AI 文生图领域自回归模型超越扩散模型

IT之家 10 月 23 日消息,科技媒体 The Decoder 昨日(10 月 22 日)发布博文,报道称谷歌 DeepMind 团队携手麻省理工学院(MIT),推出了全新的“Fluid”模型,在规模达到 105 亿参数时候,能取得最佳的文生图效果。

目前在文生图领域,行业内的一个共识是自回归模型(Autoregressive Models)不如扩散模型(Diffusion Models)。

IT之家简要介绍下这两种模型:

  • 扩散模型 (Diffusion Models): 这是一种最近非常热门的内容生成技术,它模拟的是信号从噪声中逐渐恢复的过程。扩散模型通过迭代地减少随机噪声来生成高质量的图像、文本和其他形式的数据。比如应用于图像生成领域中的 DDPM(离散扩散概率模型)及其变体就有很高的关注度。

  • 自回归模型 (Autoregressive Models): 自回归模型预测序列中的下一个元素时,依赖于前面的元素。在文本生成领域,像基于 Decoder-only 的 GPT 系列(如 GPT-3、GPT-4)就是典型的自回归模型,它们逐词预测下一个词,从而生成连贯的文本段落。

谷歌 DeepMind 和 MIT 团队通过深入研究,发现了使用连续 tokens(非离散 tokens)和采用随机生成顺序(非固定顺序)两个关键设计因素,显著提高了自回归模型的性能和可扩展性。

团队表示在离散 tokens 为每个图像区域分配一个来自有限词汇的代码,这会导致信息丢失,而连续 tokens 可以更精确地图像信息存储,减少信息丢失。这让模型能够更好地重建图像,提高视觉质量。

此外大多数自回归模型以固定顺序生成图像,而 Fluid 采用随机生成顺序,让模型能够在每一步预测任意位置的多个像素,这种方法在理解整体图像结构时表现更为出色。

Fluid 模型结合了连续标记和随机生成顺序后,当其规模扩大到 105 亿参数时,Fluid 在重要基准测试中超越了 Stable Diffusion 3 扩散模型和谷歌此前的 Parti 自回归模型。

与 Parti 相比,Fluid 显示出显著的改进:拥有 200 亿参数的 Parti 在 MS-COCO 上达到了 7.23 的 FID 分数,而仅有 3.69 亿参数的小型 Fluid 模型却达到了相同的分数。

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。

谷歌图像AI 新浪众测 新浪众测 新浪科技公众号 新浪科技公众号

“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)

相关新闻
本文来源于网络,不代表福建法制网立场,转载请注明出处
转发到:
拓展阅读
  • 探索像素艺术的魅力!《像素图形游戏大全》揭示了下载量傲人的经典之作。这部盘点文章带你穿越回复古游戏世界,领略那些深受玩家喜爱的像素佳作。无论是怀旧情怀还是寻找创新乐趣,这里是你不可错过的游戏宝典,一探究竟吧!《节奏魔女 舞动的骷髅》是一款结[全文]
    2024-12-10 04:34
  • 探寻智慧与乐趣的巅峰,平台解谜游戏十大必玩排行榜带你领略游戏艺术中的智力挑战。无论是经典之作还是创新设计,这些游戏集合了巧妙的关卡设计、引人入胜的故事,让你在解开一个个谜题中体验思维火花的碰撞。无论你是解谜爱好者还是寻求新鲜刺激的玩家,这篇[全文]
    2024-12-10 04:19
  • 12月6日,法拉第未来(以下简称FF)在官网宣布,成功销售了一辆FF 91。据悉,这款车型已经与知名超模、设计师和时尚圈意见领袖Suede Brooks签订了销售协议。Suede Brooks以其强大的社交媒体影响力和反霸凌运动倡导者的身份[全文]
    2024-12-08 04:18
  • 新浪科技公众号 “掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注) [全文]
    2024-12-08 04:17
  • 12月1日至12月7日,是第七个“宪法宣传周”。中国移动广西桂林分公司围绕“弘扬宪法精神,推动深化改革”主题,与法同行,开展多样化宣传。与多单位联动,入社区、进企业普及法律知识,进一步弘扬宪法精神,营造了尊崇宪法、学习宪法、遵守宪法的浓厚氛[全文]
    2024-12-07 04:36
  • IT之家 12 月 5 日消息,叠纸旗下虚幻 5 开放世界收集游戏《无限暖暖(Infinity Nikki)》12 月 5 日(今天)10:00 开启全球公测,登陆 PC、PS5、iOS 及安卓平台,支持多端游戏进度同步、游戏币互通,上线最[全文]
    2024-12-06 04:26
阿里云服务器
腾讯云秒杀
Copyright 2003-2025 by 福建法制网 fj.zjxxinw.cn All Right Reserved.   版权所有