2024 年 2 月 15 日,Google 宣布了下一代模型 Gemini 1.5,首发拿出来给早期试用的是 1.5 Pro。
官方重点讲的是「长上下文」:标准窗口大约 12.8 万 token;有限预览里,开发者和企业客户可以试到大约 100 万 token。按他们的说法,这大约相当于 1 小时视频、11 小时音频、三万多行代码,或七十多万英文单词量级的文本——官方博客里写的量级大概是这样。
他们还提到 1.5 用了 Mixture-of-Experts(专家混合)一类架构,想在效果和训练/推理效率之间找平衡。1.5 Pro 在不少评测上接近当时的 1.0 Ultra,却用更小的体量去扛。
以前跟大模型聊天,上下文一长就容易「忘事」。看到「百万 token」这几个字,第一反应不是激动,而是——哦,以后或许真能把一整份文档、一小段录屏说明丢进去,让它帮着捋。当然,那会儿大多还是预览,速度和配额都有限制。我当新闻记下,并不急着冲进去排队。
对写代码、看文档的人:可以把更大一块仓库或更长的会议记录一次性丢给模型,让它做摘要、找接口、解释某段逻辑。对普通阅读:长 PDF、长字幕也更有机会「整份理解」,而不是切成碎块硬拼。我自己后来用长上下文,多半是把说明文档或报错日志整段贴进去,问「这段在干什么、我下一步改哪」。用得上就用,用不稳就换短一点的问法——还是那句,够用就好。
原创
Gemini 1.5:一次能塞进一整本厚书的上下文
本文采用 CC BY-NC-SA 4.0 许可协议,转载请注明出处。
评论交流
欢迎留下你的想法