Google DeepMind의 DiffusionGemma는 Gemma 4와 같은 기존 모델을 개조하여 텍스트 확산 모델을 구축할 수 있음을 보여주며, 원래 훈련 예산의 10% 미만을 사용한다.

출처 브리프

Google DeepMind의 DiffusionGemma는 Gemma 4와 같은 기존 모델을 개조하여 텍스트 확산 모델을 구축할 수 있음을 보여주며, 원래 훈련 예산의 10% 미만을 사용한다. 256개의 토큰을 병렬로 생성하여 초당 약 1,500개의 토큰에 도달한다.