IT News פורטל המחשוב העסקי וההייטק של ישראל
איאן טיין, מנכ"ל Mattermost, Inc., מכריז על פלטפורמת "OpenOps" לשליטה בקניין רוחני והימנעות מנעילה כאשר זרימות עבודה תפעוליות הופכות למאיצות בינה מלאכותית
Mattermost מכריזה על מסגרת "OpenOps" להאצת הערכה אחראית של יישומי AI גנרטיביים לזרימות עבודה בעולם האמיתי.
ארגז חול של שיתוף פעולה באמצעות צ'אט קוד פתוח המבוסס על בינה מלאכותית מאיץ את ההערכה של מודלים ומדיניות של שימוש בבינה מלאכותית בתהליכי עבודה בעולם האמיתי תוך שמירה על שליטה מלאה בנתונים
פאלו אלטו, קליפורניה, 28 ביוני 2023, (GLOBE NEWSWIRE) :
פלטפורמת שיתוף הפעולה המאובטחת לצוותים טכניים Mattermost, Inc, הכריזה במהלך 2023 Collision Conference על השקת OpenOps – גישה בקוד פתוח להאצת ההערכה האחראית לתזרימי עבודה ומדיניות שימוש המשופרים באמצעות בינה מלאכותית תוך שמירה על בקרת נתונים והימנעות מהינעלות על ספקים.
OpenOps ממוקמת בצומת שבין המרוץ למינוף בינה מלאכותית לטובת השגת יתרון תחרותי ובין הצורך הדחוף בתפעול מהימן, כולל פיתוח מדיניות שימוש ופיקוח והבטחת בקרות נתונים רגולטוריות ומחויבות חוזית.
המטרה היא לסייע בניקוי צווארי בקבוק מרכזיים בין החששות הקריטיים הללו על ידי מתן אפשרות למפתחים וארגונים לארח בעצמם סביבת "ארגז חול" עם בקרת נתונים מלאה כדי להעריך בצורה אחראית את היתרונות והסיכונים של מודלי בינה מלאכותית שונים ושל מדיניות שימוש בתזרימי עבודה בצ'אט מרובה משתמשים בעולם האמיתי.
המערכת יכולה לשמש להערכת מודלים של שפה גדולה המתארחים ב-Hugging Face, כולל Falcon LLM ו-GPT4All, כאשר השימוש מותאם לבקרת נתונים, כמו גם מודלים מוגדלים, המתארחים אצל ספקים בפלטפורמת Azure AI, OpenAI ChatGPT ו-Anthropic Claude עם שימוש מותאם לביצועים.
הגרסה הראשונה של פלטפורמת OpenOps מאפשרת הערכה של מגוון תרחישי שימוש מועצמי בינה מלאכותית, כולל:
שאלה ותשובה אוטומטיות: במהלך עבודה משותפת וגם פרטנית משתמשים יכולים להכתיב שאלות למודלים של בינה מלאכותית, אם באירוח עצמי או אצל ספק, כדי ללמוד על נושאים שונים שהמודל תומך בהם.
סיכום דיונים: ניתן להשתמש בבינה מלאכותית כדי ליצור סיכומים מדיונים מבוססי צ'אט באירוח עצמי כדי להאיץ את זרימת המידע וקבלת ההחלטות תוך קיצור הזמן והפחתת העלות הנדרשים לארגונים כדי להישאר מעודכנים.
חקירה מבוססת הקשר: משתמשים יכולים להכתיב שאלות המשך לשרשור סיכומים שנוצרו על ידי בוטים של בינה מלאכותית כדי ללמוד נתונים בסיסיים מבלי להיכנס לחומרים הגולמיים. לדוגמה, ניתן לתחקר סיכום דיון מבוט בינה מלאכותית על אדם מסוים שמגיש סדרה של בקשות בנושא של פתרון בעיות באמצעות בוט בינה מלאכותית לקבלת הקשר נוסף על הסיבה לכך שהאדם הגיש את הבקשות, וכיצד הוא מתכוון להשתמש במידע.
ניתוח רגשי: בוטים של בינה מלאכותית יכולים לנתח את ההיבט הרגשי בהודעות, כך שניתן יהיה להשתמש בתוצאות כדי להמליץ ולהעביר תגובות מבוססות סמלונים על ההודעות הללו בשמו של המשתמש. לדוגמה, לאחר זיהוי רגש חגיגי, בוט בינה מלאכותית עשוי להוסיף סמלון של "אש" המעיד על התרגשות.
אוסף של חיזוקי למידה ממשוב אנושי (RLHF): כדי לעזור להעריך ולאמן מודלים של בינה מלאכותית, המערכת יכולה לאסוף משוב ממשתמשים על תגובות מהנחיות ומודלים שונים על ידי רישום סימני ה-'אגודל למעלה/אגודל למטה' שמשתמשי הקצה בוחרים. ניתן להשתמש בנתונים בעתיד גם לכוונון עדין של מודלים קיימים, וגם כדי לספק קלט להערכת מודלים חלופיים על פי הנחיות משתמש קודמות.
מסגרת קוד פתוח זו, באירוח עצמי, מציעה "תפעול בשליטת לקוח וארכיטקטורת בינה מלאכותית", המספקת מרכזת תפעולית לתיאום ומיכון עם בוטים של בינה מלאכותית המחוברים לשדרה באירוח עצמי של בינה מלאכותית יוצרת ומודל שפה גדולה הניתנים להחלפה, משירותים כמו Hugging Face, שניתן להגדיל ולהעביר לארכיטקטורות ענן פרטי ודאטה סנטרים, התאמה מטה לצורך הפעלה על מחשב נייד של מפתח לטובת מחקר ובדיקה. במקביל, היא יכולה גם להתחבר לדגמים מוגדלים שמתארחים אצל ספקים בפלטפורמת Azure AI וכן OpenAI.
"כל הארגונים נמצאים במרוץ להגדיר כיצד הבינה המלאכותית מאיצה את היתרון התחרותי שלהם", אומר מנכ"ל Mattermost , איאן טיין, "יצרנו את OpenOps כדי לעזור לארגונים לנצל בצורה אחראית את הפוטנציאל שלהם עם היכולת להעריך מגוון רחב של מדיניות שימוש ומודלים של בינה מלאכותית, ואת היכולת שלהם להאיץ את תזרימי העבודה הפנימיים בשיתוף פעולה".
המסגרת של OpenOps ממליצה על גישה של ארבעה שלבים לפיתוח בינה מלאכותית:
- ארגז חול באירוח עצמי – בקשו מהצוותים הטכניים להקים סביבת "ארגז חול" באירוח עצמי כמרחב בטוח עם בקרת נתונים ויכולת ביקורת כדי לחקור ולהדגים טכנולוגיות בינה מלאכותית. ארגז החול של OpenOps יכול לכלול רק צ'אט שיתוף פעולה מרובה-משתמשים מבוסס דפדפן, או שניתן להרחיב אותו כך שיכלול יישומים שולחניים וניידים, אינטגרציות מכלים שונים פנימיים של החברה כדי לדמות סביבת ייצור, כמו גם אינטגרציה עם סביבות שיתוף פעולה אחרות כגון ערוצי Microsoft Teams.
- מסגרת בקרת נתונים– צוותים טכניים עורכים הערכה ראשונית של מודלי בינה מלאכותית שונים המבוססים על תרחישים פנימיים, ומגדירים נקודת מוצא למדיניות שימוש המכסה נושאי בקרת נתונים עם מודלים שונים על סמך מודלי באירוח עצמי או כאלה שמתארחים בספק חיצוני, ובמקרה של מודלים המתארחים אצל ספקים להגדיר מדיניות המבוססת על הבטחות שונות לטיפול בנתונים. לדוגמה, מדיניות בקרת נתונים יכולה לנוע מחסימה מוחלטת של בינה מלאכותית המתארחת אצל ספקים, לחסימת חשד לשימוש בנתונים רגישים כגון מספרי כרטיסי אשראי או מפתחות פרטיים, ועד מדיניות מותאמת שניתן לקודד אל תוך סביבת העבודה.
- מסגרת אמון, בטיחות וציות – צוותי אמון, בטיחות וציות לרגולציה מוזמנים לסביבת ארגז החול כדי לצפות ולקיים אינטראקציה עם תרחישים ראשוניים מבוססי בינה מלאכותית וכדי לעבוד עם הצוותים הטכניים כדי לפתח מדיניות שימוש ופיקוח, וזאת מעבר לבקרת נתונים. לדוגמה, לקבוע האם ניתן להשתמש בבינה מלאכותית כדי לעזור למנהלים לכתוב הערכות ביצועים עבור הצוותים שלהם, או האם ניתן לחקור טכניקות מחקר לפיתוח רושעות באמצעות בינה מלאכותית.
- פיילוט וייצור– ברגע שקו הבסיס למדיניות השימוש בשיפורי בינה מלאכותית ראשוניים כבר זמין, ניתן להוסיף קבוצה של משתמשי פיילוט לסביבת ארגז החול כדי להעריך את היתרונות של השימוש בשיפורים. הצוותים טכניים יכולים לחזור על ההוספה של עוד תזרימי עבודה באמצעות מודלים שונים של בינה מלאכותית, בעוד שצוותי האמון, בטיחות וציות יכולים לפקח על השימוש עם יכולת לביקורת מלאה על מדיניות השימוש וההטמעה שלה. כשמערכת הפיילוט מתבגרת, ניתן לפרוס את מערך השיפורים המלא בסביבות ייצור שיכולות לרוץ על גרסת ייצור של מסגרת OpenOps.
המסגרת של OpenOps כוללת את היכולות הבאות:
רכזת תפעולית באירוח עצמי: OpenOps מאפשרת תזרימי עבודה תפעוליים באירוח עצמי בפלטפורמת הודעות בזמן אמת בדפדפן, טלפון חכם או סביבת שולחן עבודה מפרויקט הקוד הפתוח של Mattermost. אינטגרציות עם מערכות פנימיות וכלים פופולריים למפתחים שיעזרו להעשיר את השדרה של הבינה המלאכותית בנתונים קריטיים מבוססי הקשר. המיכון של תזרימי העבודה מאיץ את זמני התגובה תוך הפחתת שיעורי השגיאות והסיכון.
AI Bots עם Interchangeable AI Backends: OpenOps מאפשרת לשלב בוטים של AI בפעולות תוך חיבור למגוון פלטפורמות AI הניתנות להחלפה. לשליטה מרבית בנתונים, עבוד עם מודלים של LLM בקוד פתוח באירוח עצמי, כולל GPT4All ו- Falcon LLM משירותים כמו Hugging Face. לקבלת ביצועים מרביים, השתמשו במסגרת AI של צד שלישי, כולל OpenAI ChatGPT, Azure AI Platform ו- Anthropic Claude.
שליטה מלאה בנתונים: OpenOps מאפשרת לארגונים לארח בעצמם, לשלוט ולנטר את כל תעבורת הנתונים, ה-IP והרשת באמצעות תשתית האבטחה והתאימות הקיימת שלהם. זה מאפשר לארגונים לפתח קורפוס עשיר של נתוני הדרכה בעולם האמיתי להערכה עתידית של AI backend וכוונון עדין.
שליטה מלאה בנתונים: OpenOps מאפשרת לארגונים לארח בעצמם, לשלוט ולנטר את כל תעבורת הנתונים, ה-IP והרשת באמצעות תשתית האבטחה והתאימות הקיימת שלהם. זה מאפשר לארגונים לפתח קורפוס עשיר של נתוני הדרכה בעולם האמיתי להערכה עתידית של AI backend וכוונון עדין.
קוד חופשי ופתוח: OpenOps, הזמינה תחת רישיונות MIT ו-Apache 2, היא מערכת קוד פתוח חינמית, המאפשרת לארגונים לפרוס ולהריץ בקלות את הארכיטקטורה המלאה.
מדרגיות: OpenOps מציעה את הגמישות לפריסה בעננים פרטיים, מרכזי נתונים או אפילו מחשב נייד סטנדרטי. המערכת גם מבטלת את הצורך בחומרה מיוחדת כגון GPU, ומרחיבה את מספר המפתחים שיכולים לחקור מודלים של AI באירוח עצמי.
מסגרת OpenOps היא כרגע ניסיונית וניתן להוריד אותה מ openops.mattermost.com.
אודות Mattermost
Mattermost מספקת שיתוף פעולה מאובטח עבור צוותים טכניים ותפעוליים שצריכים לעמוד בדרישות אבטחה ואמון ברמת מדינת לאום. אנו משרתים תעשיות טכנולוגיה, מגזר ציבורי וביטחון לאומי עם לקוחות החל מענקיות טכנולוגיה, דרך משרד ההגנה האמריקאי ועד סוכנויות ממשלתיות ברחבי העולם.
הצעות האירוח העצמי והענן שלנו מספקות מרכז מורחב לתקשורת טכנית באינטרנט, במחשבים שולחניים ובמכשירים ניידים לשיתוף פעולה באירועים, זרימות עבודה תפעוליות, שילוב עם Dev/Sec/Ops ושרשראות כלים פנימיות, ופלטפורמות תקשורת מאוחדת מובילות.
אנו בנויים על פלטפורמת קוד פתוח שנבדקה ונפרסה על ידי הארגונים המאובטחים והקריטיים ביותר בעולם, שנבנתה בשיתוף עם למעלה מ-4,000 תורמים לפרויקטי קוד פתוח שסיפקו למעלה מ-30,000 שיפורי קוד לקראת חזון המוצר המשותף שלנו, המתורגם ל-20 שפות.
לקבלת מידע נוסף, בקרו באתר www.mattermost.com.
Mattermost והלוגו של Mattermost הם סימנים מסחריים רשומים של Mattermost, Inc. כל הסימנים המסחריים האחרים הם רכושם של בעליהם בהתאמה.
