谷歌Gemma 12B模型突破:双模态直连无编码器,内存占用大降30%
币界网消息,谷歌最新上线的Gemma 4技术报告展示了如何用极简架构让大模型在手机和端侧跑得更快,省下更多内存。Gemma 4 12B模型首次实现了视觉与音频双模态的「无编码器」极简一体化,直接将视觉翻译器砍掉93%,音频翻译器完全干掉,解决了「外挂翻译器」造成的显存浪费。此外,该模型在处理长文本时通过全局注意力复用,减少了37.5%的内存占用。其轻量级端侧版本的预测加速器还将词典范围从26万个缩减到4096个,显著提升了解码速度。