IT News פורטל המחשוב העסקי וההייטק של ישראל
מדובר בפתרון הראשון המספק LLMs נתמכים, משופרים ובעלי רישיון קוד פתוח של IBM Granite במסגרת מודל המנויים הארגוני הגמיש והמוכח של רד האט
הפתרון מספק סביבת זמן ריצה נתמכת ומוכנה לשימוש ארגוני בפלטפורמות של AMD, Intel ו-NVIDIA להנעת חדשנות AI המבוססת על קוד פתוח
רד האט, הספקית המובילה בעולם של פתרונות קוד פתוח, השיקה את Red Hat Enterprise Linux AI (RHEL AI), פלטפורמת מודל בסיס המאפשרת למשתמשים לפתח, לבדוק ולפרוס מודלים של GenAI בצורה חלקה יותר. RHEL AI מאחדת בין משפחת מודלי השפה הגדולים (LLM) בעלת רישיון הקוד הפתוח Granite מבית IBM Research, כלי יישור מודל המבוססים על מתודולוגיית LAB (יישור בקנה מידה גדול עבור צ'אטבוטים) וגישה מונחית–קהילה לפיתוח מודלים באמצעות פרויקט InstructLab. הפתרון כולו ארוז כתמונת RHEL ממוטבת וניתנת לאתחול עבור פריסות שרתים בודדים ברחבי הענן ההיברידי ונכלל גם כחלק מ- OpenShift AI, פלטפורמת ה-MLOps ההיברידית של רד האט להפעלת מודלים בקנה מידה גדול בסביבות של אשכולות מבוזרים.
השקת ChatGPT עוררה עניין רב ב-GenAI וקצב החדשנות רק הואץ מאז. ארגונים החלו לעבור מהיערכות מוקדמות של שירותי GenAI לבניית יישומים מבוססי AI. אקו-סיסטם צומח במהירות עם שלל אפשרויות דרבן חדשנות נוספת בתחום ה-AI והמחיש כי לא יהיה "מודל אחד שישלוט בכולם". הלקוחות ייהנו ממגוון אפשרויות כדי להתמודד עם דרישות ספציפיות, אשר כולן עומדות להיות מואצות עוד יותר על ידי גישה פתוחה לחדשנות.
הטמעת אסטרטגיית AI דורשת יותר מאשר רק בחירת מודל; ארגוני טכנולוגיה זקוקים למומחיות כדי לכוון מודל נתון למקרה השימוש הספציפי שלהם, כמו גם להתמודד עם העלויות המשמעותיות של הטמעת AI. המחסור במיומנויות בתחום מדע הנתונים מתווסף לדרישות פיננסיות משמעותיות הכוללות רכישת תשתית AI או צריכת שירותי AI; התהליך המורכב של כוונון מודלים של AI לצרכים עסקיים ספציפיים; שילוב AI ביישומים ארגוניים; וניהול מחזור החיים של היישום והמודל.
כדי להנמיך את חסמי הכניסה לחדשנות AI, ארגונים צריכים להיות מסוגלים להרחיב את רשימת העובדים שיכולים לעבוד על יוזמות AI ובו-זמנית, לשלוט בעלויות הכרוכות בכך. עם כלי היישור של InstructLab, מודלי Granite ו-RHEL AI, רד האט שואפת ליישם את היתרונות של פרויקטי קוד פתוח אמיתיים – הנגישים חינם, ניתנים לשימוש חוזר, שקופים ופתוחים לשיתופי פעולה – ל-GenAI מתוך מאמץ להסיר מכשולים אלה.
בניית AI בצורה פתוחה עם InstructLab
IBM Research יצרה את טכניקת Large-scale Alignment for chatBots (LAB), גישה ליישור מודלים המשתמשת ביצירת נתונים סינתטיים מונחי טקסונומיה ובמסגרת כוונון רב-שלבית חדשנית. גישה זו הופכת את פיתוח מודל ה-AI לפתוח ונגיש יותר לכל המשתמשים על ידי הפחתת ההסתמכות על הסברים אנושיים יקרים ומודלים קנייניים. באמצעות שיטת LAB, ניתן לשפר מודלים על ידי ציון מיומנויות וידע הקשורים לטקסונומיה, הפקת נתונים סינתטיים ממידע זה בקנה מידה גדול כדי להשפיע על המודל ושימוש בנתונים שנוצרו לאימון מודלים.
לאחר שראו כי שיטת LAB יכולה לסייע לשפר משמעותית את ביצועי המודל, IBM ורד האט החליטו להשיק את InstructLab, קהילת קוד פתוח הבנויה סביב שיטת LAB ומודלי Granite בקוד פתוח של IBM. פרויקט InstructLab נועד לשים את פיתוח ה-LLM בידי המפתחים באמצעות ביצוע, בנייה ותרומה ל-LLM בדומה לתרומה לכל פרויקט קוד פתוח אחר.
כחלק מהשקת InstructLab , IBM שחררה גם משפחה של מודלי קוד ושפה נבחרים באנגלית של Granite באופן פתוח. המודלים משוחררים תחת רישיון אפאצ'י עם שקיפות לגבי מערכי הנתונים המשמשים לאימון מודלים אלה. מודל השפה Granite 7B באנגלית שולב בקהילת InstructLab, שבה משתמשי קצה יכולים לתרום את הכישורים והידע כדי לשפר את המודל באופן קולקטיבי, בדיוק כפי שהם היו עושים כאשר הם תורמים לכל פרויקט קוד פתוח אחר. תמיכה דומה במודלי הקוד של Granite בתוך InstructLab תהיה זמינה בקרוב.
AI מבוסס קוד פתוח על גבי יסודות מהימנים של Linux
RHEL AI מתבססת על גישה פתוחה לחדשנות AI ומשלבת גרסה מוכנה לארגונים של פרויקט InstructLab ומודלי השפה והקוד של Granite יחד עם פלטפורמת ה-Linux הארגונית המובילה בעולם כדי לפשט את הפריסה בסביבת תשתית היברידית, דבר המאפשר לייבא מודלים של GenAI ברישיון קוד פתוח לארגון.
RHEL AI כוללת מודלי שפה וקוד של Granite ברישיון קוד פתוח הנתמכים ומפוצים על ידי רד האט; הפצה נתמכת בעלת מחזור חיים של InstructLab המספקת פתרון חסכוני, בעלת יכולת גדילה לשיפור יכולות LLM והנגשת תרומות ידע ומיומנויות למגוון רחב יותר של משתמשים; ועוד.
כאשר ארגונים מתנסים ומכווננים מודלים חדשים של AI על RHEL AI, יש להם נתיב מהיר להרחבת היכולות הללו עם Red Hat OpenShift AI, שתכלול את RHEL AI – שם יוכלו למנף את מנוע הקוברנטיס של OpenShift כדי לאמן ולשרת מודלי AI בקנה מידה גדול ואת יכולות ה-MLOps המשולבות של OpenShift AI לניהול מחזור החיים של המודל.
אשאש בדאני, סגן נשיא בכיר ומנהל מוצר ראשי ברד האט, אמר כי, "ה-GenAI מהווה קפיצת מדרגה מהפכנית עבור ארגונים, אך רק אם הארגונים הטכנולוגיים יוכלו לפרוס בפועל מודלים של AI ולהשתמש בהם באופן שתואם את הצרכים העסקיים הספציפיים שלהם. RHEL AI ופרויקט InstructLab, יחד עם Red Hat OpenShift AI בקנה מידה גדול, תוכננו כדי להסיר רבים מהחסמים העומדים בפני GenAI ברחבי הענן ההיברידי, החל ממיומנויות מוגבלות במדע הנתונים ועד למשאבים העצומים הנדרשים, תוך הנעת חדשנות הן בפריסות ארגוניות והן בקהילות הקוד הפתוח".
זמינות
Red Hat Enterprise Linux AI זמינה כעת כתצוגה מקדימה למפתחים. בהתבסס על תשתית ה-GPU הזמינה ב-IBM Cloud, המשמשת לאימון מודלי ה-Granite ולתמיכה ב-InstructLab, IBM Cloud תוסיף כעת תמיכה ב-RHEL AI וב-OpenShift AI. שילוב זה יאפשר לארגונים לפרוס GenAI בקלות רבה יותר אל היישומים העסקיים הקריטיים שלהם.
אודות רד האט (Red Hat)
רד האט הינה החברה המובילה בעולם למתן פתרונות תוכנה מבוססי קוד פתוח לארגוני Enterprise. רד האט מבוססת על כוחה של קהילת הקוד הפתוח בפיתוח ואספקת טכנולוגיות Linux, ענן, קונטיינרים ו-Kubernetes אמינות ובעלות ביצועים גבוהים. החברה מסייעת ללקוחות לשלב בין יישומי IT חדשים וקיימים, לפתח יישומים מוטי-ענן (cloud-native), לבצע סטנדרטיזציה של מערכת ההפעלה, יחד עם אוטומציה, אבטחה וניהול של סביבות מורכבות. שירותי התמיכה, ההדרכה והייעוץ של רד האט זכו להכרה ופרסים בתעשייה והופכים אותה לשותפה ויועצת מוערכת עבור חברות רבות ברשימת ה–Fortune 500. משרדי החברה בישראל מונים מהנדסים מהשורה הראשונה בישראל, אשר עובדים על פיתוח הפתרונות הטכנולוגיים של רד האט בתחום תשתיות הענן. הסניף הישראלי כולל גם את צוות המכירות והשירות של אזור ישראל, יוון וקפריסין.
