התאמת המודל לחומרה שבתקציב שלכם.
מתאימים את המודל ואת מנוע ההרצה כשהמדידות מצדיקות זאת, מתקינים את המערכת על החומרה שלכם או בחשבון הענן שלכם, ומוסרים לכם את ההגדרות ואת הוראות התפעול.
- היקף העבודה
- לפי המשימות והעומס שלכם
- מחיר ומועדים
- נקבעים בהצעת העבודה
- תמיכה
- מהחוקר שבונה את המערכת, בתנאים שסוכמו.
למי השירות מתאים
- יש לכם משימה מוגדרת ואילוצי חומרה או תקציב תפעול.
- אתם צריכים מערכת שתוכלו לתפעל, לא רק מודל שמצליח להיטען.
מה מקבלים
- פריסה מותקנת בהתאם להיקף שסוכם.
- הגדרות המערכת ותיעוד המדידות.
- הוראות לתפעול ולהתאוששות מתקלות.
- מסירה מסודרת ותוכנית תמיכה מוסכמת.
מה נצטרך מכם
בקשות מייצגות, יעדי איכות וזמן תגובה, גישה לחומרה או לחשבון הענן, ואיש קשר שיתפעל את המערכת.
איך מתקדמים
מודדים את נקודת הפתיחה
בודקים איך המודל והמערכת הקיימים מתפקדים במשימות ובעומס שלכם.
משנים את מה שמגביל את המערכת
בודקים קוונטיזציה, גיזום, שינויים בארכיטקטורה ובמנוע ההרצה, ומודדים איכות ולא רק מהירות וזיכרון.
מתקינים ומעבירים לתפעול
בודקים את הפריסה בסביבה המיועדת לה ומתעדים איך להפעיל אותה.
אפשר גם להקים בענן
מתקינים על הכרטיסים שלכם, או מקימים פריסה בחשבון הענן שלכם. פריסות הייחוס שלנו פועלות ב־Nebius (בריטניה) וב־Verda (פינלנד); ההמלצה כוללת משאבי מחשוב, עבודת פיתוח ותפעול שוטף.
קראו על מדידת הבקשה המלאה (באנגלית)
memra הוא מנוע ההרצה המחקרי של המעבדה, שנכתב מאפס ב־Rust וב־CUDA עבור Blackwell. הליבות, חישובי הקוונטיזציה והפענוח הספקולטיבי מפותחים ונמדדים בפומבי.
זהו תיעוד של עבודת המחקר, לא טענה שהמנוע הזה מפעיל את סביבת הניסיון או מנבא את התוצאות שלכם.
היקף העבודה, מסירה ותמיכה
ההצעה מפרטת את העבודה, המחיר, מועדי ההתחלה והמסירה ומה נדרש מכם. בחישוב העלות מביאים בחשבון חומרה, חיובי ענן, עבודת פיתוח ותפעול שוטף. ימי עבודה אצלכם ותמיכה בהמשך נקבעים כחלק מההתקשרות. החוקר שבונה את המערכת הוא גם מי שממשיך לתמוך בה, בתנאים שסוכמו.
שאלות על העבודה המשותפת
איך נקבע המחיר?
לפי המשימות והעומס שלכם, החומרה והיקף ההקמה והתמיכה שנסכם יחד. ההצעה מפרידה בין עבודת הפיתוח לבין עלויות החומרה, הענן והתפעול השוטף.
מי ממשיך לתמוך במערכת?
החוקר שבנה אותה. לפני שמתחילים מסכמים מה כוללת התמיכה, איזו עבודה תתבצע אצלכם ואיך מטפלים בתקלות.
צריך לקנות חומרה מראש?
לא. מתחילים מהמשימות שלכם ומהתקציב. משווים את האפשרויות לפני שממליצים על רכישה או פריסה.