Machine & Deep Learning Israel
3.47K subscribers
670 photos
37 videos
6 files
873 links
The Telegram group of MDLI

Link to the group:
bit.ly/MDLIgroup

Link to the newsletter:
bit.ly/MDLInews
Download Telegram
איך עוקפים את מנגנוני האבטחה של ChatGPT וגורמים לו להדליף מידע? או אפילו יותר נורא: להרעיל את הזיכרון שיש לו על המשתמשים?

יש הרבה דרכים להשפיע על ChatGPT ועל הדרך שהוא מאחזר מידע - במיוחד אם הוא מביא מידע שהוא מחפש בחוץ. אם יש לכם שליטה על התוכן של האתר, בין אם זה דרך עמודים מקודמים או אפילו תגובות באתרים פופלארים - אתם יכולים להזריק מידע בעייתי לChatGPT ולגרום לו להדליף מידע.

ואם זה לא מספיק, זה יכול גם לפעפע לזיכרון שלו ולגרום לו להדליף מידע מאוד רגיש אבל גם בדרך אלגנטית שלא תתבצע בפעימה אחת אלא במספר פעימות (הוא עכשיו זוכר שהוא צריך לבצע את המשימה הזו).

על זה בדיוק הולך לדבר ארי איתן מ-Tenable בכנס CyberML שלנו. הוא ידבר על איך הם הצליחו להערים על מנגנוני ההגנה של ChatGPT וגם מה אתם יכולים לעשות כדי להגן על המנוי שלכם ממתקפות כאלה.

לינק לכנס: https://machinelearning.co.il/lp-events/cyberml/
פרק חדש בפודקאסט שלנו והפעם היה לי הכבוד לארח את בן משיח, Director of Data & AI בחברת Claroty. מה שמיוחד ב-Claroty הוא שהם מאבטחים את המתקנים הרגישים בעולם: החל ממפעלים ובתי חולים ועד לדאטה סנטרים גדולים.

כל זה יוצר אתגרים מאוד משמעותיים כשמנסים להגן על אתרים חשובים שכאלה - במיוחד שחלקם לרוב מנותק מהאינטרנט. בפרק דברנו על איך הם משלבים AI כדי לתת מענה לכל איומי הסייבר של הלקוחות שלהם וגם לאן הולך התחום כולו.

לצפייה ביוטיוב:
https://youtu.be/gcQVN_dw9nY
ספוטיפי:
https://open.spotify.com/episode/1Kx6cu2LKBDjwpgiwbxVAV?si=63eba87394da4fe5
אפל:
https://podcasts.apple.com/il/podcast/%D7%90%D7%99%D7%9A-%D7%9E%D7%A9%D7%AA%D7%9E%D7%A9%D7%99%D7%9D-%D7%91-ai-%D7%9B%D7%93%D7%99-%D7%9C%D7%94%D7%92%D7%9F-%D7%A2%D7%9C-%D7%94%D7%9E%D7%AA%D7%A7%D7%A0%D7%99%D7%9D-%D7%94%D7%A8%D7%92%D7%99%D7%A9%D7%99%D7%9D-%D7%91%D7%99%D7%95%D7%AA%D7%A8/id1874897486?i=1000770717556

אם אתם רוצים לשמוע עוד על הנושא, Claroty ידברו על כל זה ועוד בכנס CyberML שלנו:

https://machinelearning.co.il/lp-events/cyberml/
זהו. נמכר הכל.
נתראה בחמישי.
👏2
עכשיו אפשר לסכם את CyberML.
הוא היה אחד הכנסים המוצלחים ביותר של הקהילה.

אתמול התכנסו למעלה מ450 מהאנשים המובילים בתחום הסייבר וה-AI לשמוע מטובי המרצים והמרצות על השילוב המיוחד בין שני התחומים. ראינו איך תחום הסייבר משתנה ואיך הכניסה של AI לכל אלמנט בו פשוט טורפת את הקלפים.

אני רוצה להודות לדוברים והדוברות המדהימים שלנו שהעבירו הרצאות טכניות ומקצועיות ברמה הגבוהה ביותר. היה פשוט מרתק לשמוע על כל העשייה המקומית שמתקיימת פה ממש בישראל. אנחנו נעלה בקרוב את כל התכנים לאתר (מצגות + הקלטות).

תודה ענקית גם לנותני החסות שלנו. בראשם חברת Irregular שהיו נותני חסות Platinum שלנו. הם היו שותפים מלאים שלנו מתחילת הדרך והביאו לנו האת הרוח הגבית המדהימה לכנס. בזכותם יכלנו לצאת אל הדרך ולקיים את הכנס הזה.

כמובן תודה רבה לכל השותפים האחרים שלנו: Vega, Claroty, Tenzai, Twine, Tenable, Dream, Cyera, Irregular, Lasso, Checkmarx. קבלנו מחמאות אדירות על התוכן שלכם (וגם הסוואג ;) ).

ומעל כל זה, תודה ענקית לצוות המדהים שלי שניצח על הכל ביד רמה וגרם לכנס להיות בצורת גימור כזו גבוהה. תודה ענקית ל- Adi Shachal שאחראית על הכנס מקצה לקצה ובזכותה אנחנו נהנים מכנסים כאלה איכותיים בקהילה. תודה גם ל Ofer Ashkenazi שסייע לאורך כל הכנס וגם לשחק החיזוק שלנו Dean Langsam שכבר הפך להיות פק"ל עזרה קבוע בכל כנס.

ואחרונים חביבים: תודה לכל חברי הקהילה שהגיעו לתמוך ולקחת חלק באירוע.
באותו יום התחרנו בכמה כנסים מאוד גדולים ומוצלחים (בראשם בכנס של גוגל) ועדיין האולם היה מלא באנשים מאוד איכתיים.

תודה ענקית ונתראה בכנס הבא :)
👏92
רגע לפני כנס CyberML, היה לי הכבוד לארח בפודקאסט את עופרי זיו, ממייסדי חברת Tenzai.
למי שלא מכיר, Tenzai בונה את ה-"AI Hacker" האולטימטיבי - מערכת אג'נטית מתקדמת שעוזרת לארגונים גדולים לבדוק באופן אוטומטי את רמת האבטחה והחדירות של האפליקציות והרשתות שלהם.
בפרק דברנו על תהליך הבנייה של סוכן בינה מלאכותית שחושב ופועל כמו האקר אנושי ויצירתי, איך מציבים לו גבולות (Guardrails) כדי לוודא שהוא לא עושה נזק למערכות פרודקשן, ואיך מודלים חזקים משנים את עולם הסייבר ומשפיעים על יכולות התקיפה וההגנה.
לצפייה ביוטיוב:
https://youtu.be/UPtAc5UHEyE
האזנה בספוטיפיי:
https://open.spotify.com/episode/46ZZgyKwzQSJmIWsJb9Wre?si=T3hkJGriSBSQ1T-mlhc60w
האזנה באפל:
https://podcasts.apple.com/il/podcast/%D7%90%D7%99%D7%9A-%D7%91%D7%95%D7%A0%D7%99%D7%9D-%D7%90%D7%AA-%D7%94-ai-hacker-%D7%94%D7%90%D7%95%D7%9C%D7%98%D7%99%D7%9E%D7%98%D7%99%D7%91%D7%99-%D7%A8%D7%90%D7%99%D7%95%D7%9F-%D7%A2%D7%95%D7%A4%D7%A8%D7%99-%D7%96%D7%99%D7%95/id1874897486?i=1000771518126

הצוות של Tenzai הרחיבו על כל הסוגיות האלה ועוד בכנס CyberML שלנו:
https://machinelearning.co.il/lp-events/cyberml/

בקרוב יעלו באתר ההקלטות והמצגות.
אני עולה ללייב עכשיו ספונטני לדבר על כל הסאגה של האיסור שימוש במודלים של אנטורפיק מחוץ לארה"ב
לינק:
https://www.youtube.com/watch?v=NmjMQD4s7co
היה לי הכבוד להיות העורך המדעי לספר "דרכה של אנבידיה" של טאי קים (תרגום של הוצאת מטר)

זו הייתה אחלה הרפתקה ומאוד נהניתי לשבור את הראש על איך מתרגמים (או לא) מושגים כל כך חשובים בתחום השבבים והAI.

כן ממליץ ויש עניין ;)
👍7🔥5👨‍💻1
אני שמח ונרגש לעדכן שההקלטות והמצגות של כנס CyberML עלו לאתר שלנו. אני יודע שהרבה רצו להגיע לכנס ולא יכלו, אז עכשיו אתם יכולים לצפות בהרצאות המצוינות שהיו.

תודה רבה לכל המרצים והמרצות שלקחו חלק בכנס. קבלנו פידבקים מדהימים על התוכן!

הכל נמצא באתר:
https://machinelearning.co.il/lp-events/cyberml/
לינק לפליילסט ביוטיוב:
https://www.youtube.com/playlist?list=PL1FoIGqsXJ_B3-Bvg3Ww-g1l7R6VNd7kC
2
פרק חדש בפודקאסט Hidden Layers שלנו והפעם היה לי הכבוד לראיין את ערן הופמן, ה-Chief R&D officer בחברת Dream. בחברת Dream מפתחים טכנולוגיה מיוחדת שנועדה להגן על ממשלות וגופים ציבוריים כנגד מתקפות סייבר.

בפרק דברנו על האתגרים המיוחדים שיש בסוג הלקוחות האלה, על הסטאק הטכנולוגי המאתגר וגם על איך מודלי AI כמו מיתוס משפיעים על עתיד הסייבר ויכולות התקיפה כנגד מעצמות.

בזה אנחנו חותמים את סדרת הפרקים שלנו מהכנס CyberML שהיה הצלחה מדהימה.

כל התוכן מהכנס פה: https://machinelearning.co.il/lp-events/cyberml/
לצפייה: https://youtu.be/JcsAA2-eBbk
ספוטיפי: https://open.spotify.com/episode/0VuXESLXcr8dtYQVHp2ogQ?si=n_65cjQ8TpS8Wme9NphoNw
אפל: https://podcasts.apple.com/il/podcast/%D7%90%D7%99%D7%9A-%D7%9E%D7%A9%D7%AA%D7%9E%D7%A9%D7%99%D7%9D-%D7%91-ai-%D7%9B%D7%93%D7%99-%D7%9C%D7%94%D7%92%D7%9F-%D7%A2%D7%9C-%D7%9E%D7%AA%D7%A7%D7%A4%D7%95%D7%AA-%D7%A1%D7%99%D7%99%D7%91%D7%A8-%D7%9B%D7%A0%D7%92%D7%93-%D7%9E%D7%93%D7%99%D7%A0%D7%95%D7%AA/id1874897486?i=1000773223523
סוף כל סוף אנחנו מארגנים מיטאפ על אחד הנושאים שהכי מסקרנים אותי בתחום ה-AI: זיכרון של סוכנים.

לגרום לסוכן לבצע משימה מסוימת זה נחמד, לגרום לו להשתפר ולממש לזכור את הפעולות שלו זה החלק הקשה. אחד הדברים שאני חוקר לא מעט זה איך יוצרים "ניסיון" אצל סוכנים וגורמים להם להפוך מג'ויניורים לסיניורים.

איך בוחרים מה להכניס לזיכרון של הסוכן ומה לא? איזה דברים אנחנו רוצים שהוא גם ישכח מידי פעם? איך אנחנו מתקפים את הניסיון שהוא צבר? יש מלא שאלות מסקרנות על איך בונים מנגנון שלם סביב הסוגיה הזו.

אנחנו מקיימים אירוע בשיתוף אורקל בחודש הבא בדיוק על זה ובדיוק בונים את התוכן. אסף מאורקל יביא סקירה מקיפה על כל המאמרים והעבודות שיצאו בנושא ויעשה סדר בכל מה שפופלארי עכשיו. לאחר מכן יהיו לנו עוד הרצאות בנושא.
אם אתם עושים משהו מעניין בהקשר הזה נשמח לשמוע ולתת לכם במה.
מוזמנים להירשם כאן (בחינם). שימו לב שמספר המקומות מוגבל אז שווה להירשם בהקדם.

לינק: https://machinelearning.co.il/lp-events/meetup-agentstack-the-memory-layer/
פרק חדש של Hidden Layers והפעם בשיתוף Bria 🙂
בפרק הזה היה לי תענוג לראיין את Misha Feinstein, ה-CTO של חברת Bria.

אני עוקב אחרי Bria מאז שהוקמה ועוד אז המשימה שלהם נראתה לי כמעט בלתי אפשרית: הם רוצים לאמן מודל בסיס מאפס שידע לייצר תמונות באיכות הגבוהה ביותר אבל גם לדעת איזה אומן תרם ליצירת התמונה ולשלם לו בהתאם.
כלומר, הם פיתחו מודל שידע לייצר תמונות אבל גם להביא תמלוגים לכל מי שהמודל התבסס עליו בג'ינרוט הנוכחי. זה אתגר טכנולוגי כל כך קשה וזה פשוט תענוג לראות חברה ישראלית שמצליחה בו כל כך.

אז אם אתם רוצים ללמוד איך זה להתחרות בחברות הטכנולוגיה הגדולות בעולם ואיך זה ליצור מודל בסיס עצמאי, אז אתם מוזמנים להאזין לפרק.
לצפייה: https://youtu.be/LlR5QVb8hkU

להאזנה באפל: https://podcasts.apple.com/il/podcast/%D7%90%D7%99%D7%9A-%D7%9E%D7%90%D7%9E%D7%A0%D7%99%D7%9D-%D7%9E%D7%90%D7%A4%D7%A1-%D7%9E%D7%95%D7%93%D7%9C-%D7%91%D7%A1%D7%99%D7%A1-%D7%A9%D7%9E%D7%99%D7%99%D7%A6%D7%A8-%D7%AA%D7%9E%D7%95%D7%A0%D7%95%D7%AA-%D7%A8%D7%90%D7%99%D7%95%D7%9F-%D7%A2%D7%9D-%D7%A4%D7%99%D7%99%D7%A0%D7%A9%D7%98%D7%99%D7%9F/id1874897486?i=1000774016544
האזנה ספוטיפי: https://open.spotify.com/episode/19qfdsCuYKsvf9pOjQV4Mb?si=IcCfgoMoTCWmEYMIKfjYcQ
המיטאפ שלנו על זיכרון של סוכנים מתקדם בצעדי ענק ואת הרצאת הפתיחה יעביר אסף מאורקל.

אסף הולכת לעשות סדר בכל הגישות והארכיטקטורות הנפוצות לניהול זיכרון. זה יהיה מבוא מעולה למי שעושה את הצעדים הראשונים שלו בתחום אבל גם רוצה סקירת עומק מקיפה על מה שעובד באמת.

אל תפספסו.

הרשמה: https://mdli.co.il/agentstack
This media is not supported in your browser
VIEW IN TELEGRAM
שמח לעדכן שהגעתי ללונדון לסקר את כנס NiCE World שבו הם יחשפו כמה פיתוחים חדשים שלהם בתחום הAI.

הכנס גם מלא בהרצאות ותוכן על אחד התחומים הכי חמים עכשיו: סוכנים קוליים. זה טרנד שצומח מאוד בתחומי שירות לקוחות ועולמות תוכן נוספים.

בשנה האחרונה יצא לי לעבוד לא מעט עם NiCE ולהכיר את הפעילות שלהם. יהיה מעניין מאוד לראות את הטכנולוגיה החדשה שהם פיתחו ואיך הם מצליחים לתת מענה לכל השינויים הרבים שקורים עכשיו בפן הטכנולוגי.

אני גם הולך לראיין את אחד המנהלים הבכירים שם וממש לצלול לכל הסוגיות האלה. במיוחד ברמה הטכנית.

יהיה מעניין :)
👍2
אני מניח שרובכם כבר שמעתם שאנטרופיק מתכוונת להחזיר לשימוש את פאבל 5 ולפתוח אותו להמונים וזה לאחר ההתאמות שהם עשו כדי להתאם אותו לציבור הרחב.

זו הרמה להנחתה מעולה כדי לספר לכם על הפרק החדש בפודקאסט Hidden Layers בשיתוף עם חברת Alice, שבו ראיינתי את אבי גולן, Chief Product & Engineering Officer בחברה.

בחברת Alice עובדים על 8 מתוך 10 מעבודת ה-AI המובילות בעולם כדי לסייע להם להבין כיצד המודלים שלהם מתנהגים בתרגישים שונים ואיך הם יכולים למנוע מהם לבצע משימות שהם לא רוצים.
בפרק צללנו על איך הם בנו מנגנונים בסקייל כדי לבחון את המודלים החזקים בעולם, איך הם מספקים תובנות מעשיות לאותן מעבדות וגם מה צופן לנו העתיד בתחום.

פרק חובה לכל מי שרוצה להבין איך מצליחים "לאלף" מודלים כאלה מתקדמים.

לינק לצפייה: https://youtu.be/eFKGYS5q-Zw

האזנה בספוטיפי:
https://open.spotify.com/episode/6xX2AqmL4x7TZKNFtXEthy?si=46673f6e084347b1
האזנה באפל:
https://podcasts.apple.com/il/podcast/%D7%90%D7%99%D7%9A-%D7%9E%D7%95%D7%95%D7%93%D7%90%D7%99%D7%9D-%D7%A9%D7%9E%D7%95%D7%93%D7%9C%D7%99-%D7%94-ai-%D7%94%D7%97%D7%96%D7%A7%D7%99%D7%9D-%D7%91%D7%99%D7%95%D7%AA%D7%A8-%D7%91%D7%A2%D7%95%D7%9C%D7%9D-%D7%9C%D7%90-%D7%99%D7%95%D7%A6%D7%90%D7%99%D7%9D/id1874897486?i=1000774967896
האם חברה ישראלית תמצא אלטרנטיבה לטרנספורמרים?

פרק נוסף לפודקאסט שלנו והפעם פרק בשיתוף חברת Manifold, שבו ראיינתי את גלעד לוי, המייסד והמנכל של החברה.

לא בכל יום אתה מראיין יזם שרוצה לקרוא תיגר על הטכנולוגיה הכי מוכרת ונפוצה בתחום ה-AI וממש עובד על ארכיטקטורה חדשה שתחליף את הטרנספורמים המפורסמים.

גלעד, שאת התואר הראשון שלו עשה בגיל 15 בטכניון, שיתף אותי על למה הוא חושב שטרנספורמרים כבר לא מספיקה, על הגישה שלהם להתמודד עם בעיות AI וגם למה כל כך חשוב לו להקים מעבדה מתקדמת בתחום ה-AI כאן בישראל.

פרק טכני מהרגיל אבל מאוד מעניין לכל מי שרוצה לצלול למאחורי הקלעים.

יוטיוב: https://youtu.be/EwCnhMOm49I

אפל: https://podcasts.apple.com/il/podcast/%D7%94%D7%90%D7%9D-%D7%A0%D7%9E%D7%A6%D7%90-%D7%94%D7%AA%D7%97%D7%9C%D7%99%D7%A3-%D7%9C%D7%98%D7%A8%D7%A0%D7%A1%D7%A4%D7%95%D7%A8%D7%9E%D7%A8%D7%99%D7%9D-%D7%A8%D7%90%D7%99%D7%95%D7%9F-%D7%A2%D7%9D-%D7%92%D7%9C%D7%A2%D7%93-%D7%9C%D7%95%D7%99-%D7%9E%D7%97%D7%91%D7%A8%D7%AA/id1874897486?i=1000775624299

ספוטיפי
https://open.spotify.com/episode/5x7CmlhijOqT5jMVJLK9WB?si=301e4cbc0a074be8