אימון באמצעות JAX
-
אימון של Llama 3-8B באמצעות JAX, Ray ו-GKE ב-Trillium
אימון מבוזר של המודל Llama 3-8B ב-GKE באמצעות JAX, Ray Train ו-TPU v6e (Trillium) עם MaxText, כדי לשפר את קנה המידה בכמה מארחים.
-
אימון מראש של Llama 3.1-70B באמצעות אשכולות GKE ב-Ironwood
אימון המודל Llama 3.1-70B ב-TPU7x (Ironwood) באמצעות מסגרת MaxText.
-
אימון מראש של DeepSeek 3-671B באמצעות אשכולות GKE ב-Ironwood
אימון המודל DeepSeek 3-671B ב-TPU7x באמצעות מתכונים שעברו אופטימיזציה לארכיטקטורות של שילוב מומחים (MoE) בקנה מידה גדול.
-
אימון מראש של GPT OSS-120B באמצעות אשכולות GKE ב-Ironwood
אימון מודל החשיבה הרציונלית GPT OSS-120B ב-TPU7x באמצעות מתכונים שעברו אופטימיזציה לאימון מבוזר בקנה מידה גדול.
-
אימון מראש של Qwen 3-235B באמצעות אשכולות GKE ב-Ironwood
אימון המודל Qwen 3-235B-A22B MoE ב-TPU7x באמצעות מתכונים שעברו אופטימיזציה להסקת מסקנות ברמת ביצועים גבוהה.
-
אימון מראש של Wan 2.1-14B באמצעות אשכולות GKE ב-Ironwood
אימון המודל ליצירת וידאו Wan 2.1-14B ב-TPU7x באמצעות מתכונים שעברו אופטימיזציה לסינתזת וידאו בביצועים גבוהים.
-
אימון מראש של GPT3-175B באמצעות אשכולות GKE ב-Trillium
אימון המודל GPT3-175B ב-TPU v6e באמצעות MaxText ומתכונים שעברו אופטימיזציה לביצועים בקנה מידה גדול ומשתלמים.
-
אימון מראש של Gemma3-12B באמצעות אשכולות GKE ב-Trillium
אימון המודל Gemma3-12B ב-TPU v6e באמצעות MaxText ומתכונים שעברו אופטימיזציה לפיתוח מודלים פתוחים עם ביצועים גבוהים.
-
אימון מראש של Llama 3.1-70B באמצעות אשכולות GKE ב-Trillium
אימון של Llama 3.1-70B ב-TPU v6e באמצעות MaxText ומתכונים שעברו אופטימיזציה לאימון מודלים בקנה מידה גדול ועם תפוקה גבוהה.
-
אימון מראש של Llama 3.1-8B באמצעות אשכולות GKE ב-Trillium
אימון של Llama 3.1-8B באמצעות MaxText ב-TPU v6e עם המתכון הזה שעבר אופטימיזציה לאימון מראש, שניתן להתאמה ובעל ביצועים גבוהים.
-
אימון מראש של Mixtral-8x22B באמצעות אשכולות GKE ב-Trillium
אימון של Mixtral-8x22B ב-TPU v6e באמצעות MaxText לביצועים ויעילות אופטימליים.
-
אימון מראש של Mixtral-8x7B באמצעות אשכולות GKE ב-Trillium
אימון של Mixtral-8x7B באמצעות MaxText ב-TPU v6e עם הגדרות אופטימליות לביצועי MoE עם תפוקה גבוהה ב-Google Cloud.
-
אימון מראש של DeepSeek 3-671B באמצעות אשכולות GKE ב-v5p
אימון ופריסה של המודל DeepSeek 3-671B ב-TPU v5p באמצעות MaxText לביצועים אופטימליים בקנה מידה גדול.
-
אימון מראש של GPT3-175B באמצעות אשכולות GKE ב-v5p
אימון המודל GPT3-175B ב-TPU v5p באמצעות MaxText עם הגדרות אופטימליות לאימון מבוזר בקנה מידה גדול.
-
אימון מראש של Mixtral-8x7B באמצעות אשכולות GKE ב-v5p
אימון של Mixtral-8x7B ב-TPU v5p באמצעות MaxText עם הגדרות אופטימליות לעומסי עבודה של MoE עם ביצועים גבוהים.
-
אימון מראש של SDXL באמצעות אשכולות GKE ב-v5p
אימון והתאמה לעומס של Stable Diffusion XL (SDXL) ב-TPU v5p באמצעות MaxDiffusion לעומסי עבודה של AI גנרטיבי עם ביצועים גבוהים.
אימון באמצעות PyTorch
-
אימון מראש של Qwen 3-32B באמצעות TorchTitan באשכולות GKE ב-Ironwood
אימון המודל Qwen 3-32B ב-TPU7x (Ironwood) באמצעות PyTorch, TorchTPU ו-TorchTitan framework.
-
אימון מראש של Qwen 3-30B-A3B באמצעות TorchTitan באשכולות GKE ב-Ironwood
אימון המודל Qwen 3-30B-A3B Mixture-of-Experts (MoE) ב-TPU7x באמצעות PyTorch, TorchTPU ו-TorchTitan.
-
אימון מראש של Qwen 3-8B באמצעות TorchTitan באשכולות GKE ב-Ironwood
אימון המודל Qwen 3-8B ב-TPU7x באמצעות PyTorch, TorchTPU ו-TorchTitan לאימון מבוזר וניתן להתאמה.
-
אימון מראש של Muse Glimmer 30B באמצעות TorchTitan באשכולות GKE ב-Ironwood
אימון המודל Muse Glimmer 30B ב-TPU7x באמצעות PyTorch, TorchTPU ו-TorchTitan.
-
אימון מראש של Llama 3-70B באמצעות TorchTitan ב-Ironwood
אימון המודל Llama 3-70B ב-TPU7x (Ironwood) באמצעות PyTorch, TorchTPU ו-TorchTitan.
-
אימון מראש של Llama 3-8B באמצעות TorchTitan ב-Trillium
אימון המודל Llama 3-8B ב-TPU v6e (Trillium) באמצעות PyTorch, TorchTPU ו-TorchTitan.
הסקת מסקנות באמצעות JAX
-
הצגת Llama 3.1-70B באמצעות GKE ו-vLLM ב-Trillium
איך מגישים מודלי LLM ב-GKE באמצעות TPU v6e ו-vLLM, כולל התאמה אוטומטית לעומס (autoscaling) אופטימלית והגשת מודלים עם ביצועים גבוהים ב-Google Cloud.
-
איך מגישים מודלי LLM באמצעות GKE עם KubeRay
איך מגישים LLM באמצעות יחידות TPU ב-GKE עם התוסף Ray Operator ומסגרת ההגשה vLLM.
-
הצגת מודלים פתוחים של LLM באמצעות GKE עם Terraform
הקצאת סביבת הסקה ב-GKE ופריסת מודלי LLM פתוחים באמצעות יחידות TPU וארכיטקטורת Terraform שהוגדרה מראש.
-
איך מפעילים את Stable Diffusion XL (SDXL) באמצעות GKE
איך משתמשים ב-Stable Diffusion XL (SDXL) ב-GKE באמצעות Cloud TPU ומסגרת MaxDiffusion כדי ליצור תמונות באיכות גבוהה.
-
מילוי בקשות של GPT OSS-120B עם vLLM באמצעות אשכולות GKE ב-Ironwood
איך מריצים הסקה בביצועים גבוהים למודלים של GPT-OSS ב-TPU7x באמצעות vLLM, כדי לשפר את הקיבולת ולהקטין את זמן האחזור ב-Google Cloud.
-
מילוי בקשות של Qwen3-Coder-480B עם vLLM באמצעות אשכולות GKE ב-Ironwood
הצגת Qwen3-Coder-480B-A35B ב-TPU7x באמצעות vLLM ליצירת קוד והסקת מסקנות אופטימליות עם תפוקה גבוהה.
-
הצגת Llama 3.1-8B עם vLLM ב-Trillium
הצגת Llama 3.1-8B ב-TPU v6e באמצעות vLLM להסקת מסקנות אופטימלית עם זמן אחזור נמוך והצגה עם תפוקה גבוהה.
-
מילוי בקשות של Qwen 3 עם vLLM ב-Trillium
הצגת מודלים של Qwen 3 ב-TPU v6e באמצעות vLLM להסקה ניתנת להתאמה ובעלת ביצועים גבוהים, וקצב העברת נתונים אופטימלי.
-
מילוי בקשות של Qwen2.5-32B עם vLLM ב-Trillium
הצגת המודל Qwen2.5-32B ב-TPU v6e באמצעות vLLM להסקת מסקנות אופטימלית עם תפוקה גבוהה.
-
מילוי בקשות של Qwen2.5-VL עם vLLM ב-Trillium
איך משתמשים ב-vLLM כדי להפעיל מודלים של שפה וראייה מסוג Qwen2.5-VL ב-TPU v6e, בשביל הסקת מסקנות אופטימלית ואיכותית בכמה מצבים.
הסקת מסקנות באמצעות PyTorch
-
איך מגישים את Qwen 3.5-397B עם vLLM-TorchTPU באמצעות אשכולות GKE ב-Ironwood
הצגת המודל Qwen 3.5-397B ב-TPU7x באמצעות PyTorch ו-vLLM-TorchTPU להסקה מבוזרת בכמה מארחים.
-
הצגת Gemma 4-26B עם vLLM-TorchTPU ב-Ironwood
איך מפעילים את המודל Gemma 4-26B ב-TPU7x באמצעות PyTorch וה-backend של vLLM-TorchTPU להסקת מסקנות עם תפוקה גבוהה.
-
מילוי בקשות של GLM-5.2 עם vLLM-TorchTPU ב-Ironwood
הצגת המודל GLM-5.2 ב-TPU7x באמצעות PyTorch והקצה העורפי vLLM-TorchTPU.
-
מילוי בקשות של Qwen 3-32B עם vLLM-TorchTPU ב-Trillium
הצגת המודל Qwen 3-32B ב-TPU v6e (Trillium) באמצעות PyTorch וה-backend של vLLM-TorchTPU.
-
מילוי בקשות של Qwen 3.5-35B-A3B באמצעות vLLM-TorchTPU ב-Trillium
איך מציגים את המודל Qwen 3.5-35B-A3B Mixture-of-Experts (MoE) ב-TPU v6e באמצעות PyTorch וה-backend של vLLM-TorchTPU.
-
הצגת Gemma 4-26B עם vLLM-TorchTPU ב-Trillium
מילוי בקשות של מודל Gemma 4-26B ב-TPU v6e באמצעות PyTorch וה-backend של vLLM-TorchTPU.