IT News פורטל המחשוב העסקי וההייטק של ישראל
פתרונות התוכנה והחומרה של HPE נבנו במיוחד כדי להאיץ ולהקל על הפיתוח והפריסה של יישומי GenAI ו-LLM
Hewlett Packard Enterprise (NYSE: HPE) הכריזה בכנס NVIDIA GTC על חידושים במערך הפתרונות של החברה, מהעשירים ביותר בתחום תשתיות ה- IT עבור יישומי AI. החידושים, אשר תוכננו בשיתוף פעולה עם חברת NVIDIA, נועדו לקדם שימוש ביישומי GenAI, LLM, למידה עמוקה (DL) ולמידת מכונה (ML).
החידושים של HPE כוללים: פתרון קצה לקצה לפיתוח אפליקציות מבוססות GenAI ו-LLM; פתרון לביצוע הסקה (Inference) על יישומי למידת מכונה (ML), ולמידה עמוקה (DL) לרבות GenAI; ארכיטקטורת פתרון מוכחת ליישום Retrieval Augmented Generation (RAG); הכרזה על פיתוח מוצרים על בסיס הדור הבא של המאיצים של אנבידיה – Blackwell; סרטיפיקציות ל-DGX SuperPOD עבור פתרונות האחסון של Greenlake.
"עיצוב הפתרונות מוכרח להיות היברידי כדי לממש את ההבטחה של GenAI ולהתמודד ביעילות עם מחזור החיים של יישומי AI", אמר אנטוניו נרי, נשיא ומנכ"ל HPE. "HPE ו-NVIDIA חולקות היסטוריה ארוכה של שיתוף פעולה חדשני ואנחנו נמשיך לספק פתרונות תוכנה וחומרה מבוססות-AI בעיצוב משותף, המסייעים ללקוחותינו להאיץ את הפיתוח והפריסה של GenAI משלב הקונספט ועד לייצור".
"GenAI יכול להפוך נתונים לתובנות מכל התקן מחובר ברשת ועל פני כל ענן בעולם", אמר ג'נסן הואנג, מייסד ומנכ"ל NVIDIA. "שיתוף הפעולה המתפתח שלנו עם HPE יספק פתרונות משותפים והיברידים עם HPE GreenLake. דבר זה יאפשר ללקוחות ארגוניים לספק פרודוקטיביות חסרת תקדים, אשר תמנף את הנתונים הפרטיים שלהם כדי לפרוס יכולות AI חדשות שישנו את העסקים והתעשיות שלהם".
החידושים מבית HPE עבור GenAI ו-LLM כוללים:
פלטפורמת No-Code עבור GenAI – סביבת עבודה אשר אינה דורשת יכולות תכנות ומאפשרת במספר לחיצות כפתור להרים מודלי Open-Source LLM בענן או ב-On-Prem, ולהתחיל לתשאל אותם תוך מתן כלים ליישום של Prompt Engineering איכותי ומותאם, וכן ביצוע אימוני Fine-Tuning ע"י קישור ל-Data Sets. בכל שלב ניתן להשוות את ביצועי המודל אל מול ה-Ground Truth של ה-Data Set. בסיום העבודה המערכת מפיקה באופן אוטומטי את המודל המחודש, מטריקות של ביצועי האימון הניתנות לתחקור ע"י כלי Visualization, וגם את הקוד שנוצר אוטומטית.
אימון וטיוב GenAI המופעל באמצעות מחשוב-על – פתרון מחשוב-העל של HPE ל-GenAI זמין עבור ארגונים המחפשים פתרון full-stack שהוגדר ונבדק מראש לצורך פיתוח ואימון של מודלי AI גדולים. הפתרון המלא, אשר נבנה בצורה ייעודית כדי לסייע ללקוחות להאיץ פרויקטים של GenAI ולמידה עמוקה, מופעל על ידי NVIDIA ויכול לתמוך בעד ל-168 מאיצי GH200 Grace Hopper Superchips. הפתרון מאפשר לארגונים גדולים, מוסדות מחקר וגופי ממשלה לייעל את תהליך פיתוח המודלים באמצעות מחסנית תוכנת AI/ML, המסייעת ללקוחות להאיץ פרויקטים של GenAI ולמידה עמוקה, כולל LLMs, מערכות המלצה ומאגרי נתונים וקטוריים.
טיוב והסקה (Inference) עבור GenAI לארגוני Enterprise – פתרון המחשוב הארגוני של HPE עבור GenAI זמין ללקוחות ישירות או באמצעות HPE GreenLake עם מודל תשלום גמיש לפי שימוש ועם אפשרות גידול. פתרון הטיוב וההסקה, אשר תוכנן יחד עם NVIDIA, מתוכנן לשפר ולהאיץ את הפרודקטיביות והעלויות על ידי הצעת שירותי המחשוב, האחסון, התוכנה, התקשורת והייעוץ הנכונים הדרושים לארגונים כדי לייצר יישומי GenAI. פתרון ה-full-stack המובנה מעניק לעסקים את המהירות, יכולת הגדילה והשליטה הדרושים כדי להתאים מודלים בסיסיים באמצעות שימוש בנתונים פרטיים ולפרוס יישומי GenAI בתוך מודל ענן היברידי. המהירות והביצועים מאפשרים ללקוחות לקבל ערך בזמן קצר יותר על ידי שיפור הפרודוקטיביות העסקית באמצעות יישומי AI כגון עוזרים וירטואליים, צ'אטבוטים חכמים וחיפוש ארגוני.
מאב-טיפוס לפרודוקטיביות – HPE ו-NVIDIA משתפות פעולה בפתרונות תוכנה שיסייעו לארגונים לעשות את הצעד הבא על ידי הפיכת הוכחות היתכנות של AI ו-ML ליישומי בפרודקשן. תוכנת HPE Machine Learning Inference Software זמינה ללקוחות HPE ותאפשר לארגונים לפרוס במהירות ובאופן מאובטח מודלים של ML בקנה מידה גדול. הפתרון החדש ישתלב עם NVIDIA Inference Microservices (NIM) כדי לספק מודלי בסיס משופרים של NVIDIA באמצעות קונטיינרים מובנים מראש.
פתרונות הדור הבא המבוססים על ארכיטקטורת NVIDIA Blackwell – HPE תפתח מוצרים עתידיים המבוססים על ארכיטקטורת NVIDIA Blackwell שהוכרזה לאחרונה, המשלבת מנוע הסקה כדי להאיץ את עומסי העבודה של GenAI.
אחסון קבצים בצפיפות גבוהה מאושר עבור NVIDIA DGX SuperPOD ו-BasePOD – פתרון HPE GreenLake for File Storage קיבל את הסמכת NVIDIA DGX SuperPOD, המספק ללקוחות פתרון אחסון קבצים ארגוני מוכח להאצת עומסי עבודה של GenAI ו-AI בקנה מידה גדול.
אודות Hewlett Packard Enterprise
Hewlett Packard Enterprise (NYSE: HPE) היא חברת פתרונות ה- edge-to-cloud (מן הקצה אל הענן), המסייעת לארגונים להאיץ תוצאות על ידי הבטחת הערך המופק מן הנתונים שלהם, בכל מקום. HPE, הנשענת על עשורים של עיצוב העתיד באמצעות חדשנות שנועדה לקדם את הדרך שבה אנשים חיים ועובדים. HPE מספקת פתרונות טכנולוגיים ייחודיים, פתוחים וחכמים כשירות. עם היצע פתרונות רחב המשתרע משירותי ענן, מיחשוב עם ביצועים גבוהים, AI, פתרונות קצה חכמים, פתרונות תוכנה ופתרונות אחסון, HPE מספקת חוויה עקבית בכל העננים והתקני הקצה. היא מסייעת ללקוחות לפתח מודלים עסקיים חדשים, לתקשר בצורות חדשות ולשפר את הביצועים התפעוליים. למידע נוסף: www.hpe.com
