Comet חושפת ערכה משנת-משחק של כלים ואינטגרציות להאצת תזרים העבודה במודל שפה גדול עבור מדעני מידע

החברה מגדילה את הפרודוקטיביות והביצועים על ידי הצגת יכולות LLMOps חדשניות

ניו יורק, 19 באפריל 2023, (BUSINESS WIRE):

Comet, פלטפורמה מובילה לניהול, ויזואליזציה ומיטוב מודלים מהרצות הדרכה ועד לניטור ייצור, הודיעה היום על חבילת כלים חדשה המתוכננת לחולל מהפכה בזרימת העבודה סביב מודלי שפה גדולים (LLM). כלים אלה מסמנים את תחילתה של קטגורית שוק חדשה, הידועה כ-LLMOps. עם פלטפורמת LLMOps וכלי ה-LLMOps החדשניים של Comet, ארגונים יכולים לנהל ביעילות את ה-LLMs שלהם, ולשפר את הביצועים בזמן קצר הרבה יותר.

הופעת הבכורה של חבילת הכלים החדשה של Comet מתרחשת שעה שמדעני מידע העובדים על NLP אינם מאמנים עוד את המודלים שלהם; במקום זאת, הם מבלים את ימיהם בהפקת המנחים (פרומפטים) הנכונים (קרי, הנדסת מנחים או שרשור מנחים שבהם מדעני מידע יוצרים מנחים על בסיס הפלט של מנחה קודם לפתרון בעיות מורכבות יותר). אולם, למדעני מידע לא היו כלים מספקים לניהול וניתוח של ביצועי המנחים הללו. ההצעה של Comet מאפשרת להם לאמץ רמות פרודוקטיביות וביצועים ללא תחרות. הכלים של Comet מטפלים בצרכים המתפתחים של קהילת ה-ML לבנות LLMs מוכנים לייצור ולמלא את הפערים בשוק שהוזנח עד עתה.

"בעבר, למדעני מידע נדרשו כמויות מידע גדולות, משאבי GPU משמעותיים וחודשים של עבודה כדי לאמן מודל," כך מעיר גדעון מנדלס, מייסד משותף של Comet. "אבל כיום, הם יכולים להביא את המודלים שלהם לייצור מהר יותר מאי פעם. עם זאת, תזרים העבודה החדש ב-LLM מצריך כלים שונים דרמטית, והיכולות של ה-LLMOps של Comet תוכננו לטפל בצורך מכריע זה. אנחנו מאמינים שעם ההשקה האחרונה שלנו Comet מציעה פתרון כולל לאתגרים שעלו בשימוש במודלי שפה גדולים."

כלי ה-LLMOps של Comet בפעולה

כלי ה-LLMOps של Comet מתוכננים לאפשר למשתמשים למנף את הפיתוחים האחרונים בניהול מנחים ומודלים לשאילתות ב-Comet כדי לחזרר מהר יותר, לזהות צווארי בקבוק בביצועים ולויזואליזציה של המצב הפנימי של שרשרות מנחים.

ערכת הכלים החדשה משרתת שלוש פונקציות עיקריות:

*מגרש משחקים למנחים: מגרש המשחקים למנחים של Comet מאפשר למהנדסי מנחים לחזרר מהר עם תבניות מנחים שונות ולהבין את ההשפעה על הקשרים שונים.

*היסטורית מנחים: כלי ניפוי זה מנהל מעקב מנחים, תגובות ושרשרות למעקב אחר ניסיונות וקבלת החלטות באמצעות כלי ויזואליזציה לשרשרות.

*מעקב שימוש מנחים: עכשיו יכולים הצוותים לבצע מעקב ברמת הפרויקט והניסוי כדי להבין טוב יותר את השימוש במנחים ברמת גרגרית מאוד.

אינטראקציות עם מודלי שפה גדולים מובילים וספריות

Comet גם הכריזה על אינטגרציות עם OpenAI ועם LangChain, דבר המוסיף ערך משמעותי למשתמשים. האינטגרציה של Comet עם LangChain מאפשרת למשתמשים לעקוב, לבצע ויזואליזציה ולהשוות שרשרות כך שהם יכולים לחזרר מהר יותר. האינטגרציה עם OpenAI מעצימה מדעני מידע למנף את הפוטנציאל המלא של GPT-3 ב-OpenAI וללכוד נתוני שימוש ומנחים / תגובות כך שהמשתמשים לא יאבדו את המעקב אחר ניסויי העבר שלהם.

"המטרה של LangChain היא להקל ככל האפשר על המפתחים בבניית יישומי מודל שפה. אחת מהנקודות הכואבות ביותר ששמענו היא סביב המעקב אחר מנחים והשלמות מנחים," אומר הריסון צ'ייס, יוצר LangChain. "זו הסיבה שהאינטגרציה עם Comet, שהיא פלטפורמה למעקב וניטור ניסויי למידת המכונה שלכם, כל כך מרגשת אותנו. עם Comet המשתמשים יכולים לנהל יומנים של המנחים שלהם, ותפוקות LLM ולהשוות ניסויים שונים לקבלת החלטות מהירה יותר. אינטגרציה זו מאפשרת למשתמשי LangChain ליעל את תזרים העבודה שלהם ולהשיג את המירב והמיטב מפיתוח ה-LLM שלהם."

למידע נוסף על ערכת הכלים החדשה והאינטגרציות שלנו בקרו באתר האינטרנט של Comet, http://comet.com/site/products/llmops

אודות Comet

Comet מספקת פלטפורמה מובילה לניהול מודלים ללמידת מכונה לאורך כל הדרך מניסויים מוקדמים לניטור המודלים בייצור. היא מספקת כלים למעקב אחר ניסויים, ניהול תוצאי שווא (ארטיפקטים), מרשמי מודלים, שיתופי פעולה, ויזואליזציה, ותומכת באינטגרציה עם כל מסגרות ה-ML הפופולריות. המשימה של Comet היא לסייע למדעני מידע וצוותי ML להאיץ פיתוח ופריסה של מודלי ML ולסייע לחברות להשיג ערך עסקי מבינה מלאכותית.