354: לבנות אייג׳נטים אמינים בלי להעמיס קונטקסט

 

פיתוח אייג׳נטים הפך לחלק מרכזי בבניית מוצרים טכנולוגיים, אך לצד הפוטנציאל הגדול, צוותי פיתוח רבים נתקלים בקשיי אמינות ובעלויות גבוהות. כדי לגרום לאייגנט לבצע משימות מורכבות, הנטייה הטבעית היא להעמיס עליו כמה שיותר מידע, הנחיות היסטוריות וכלים בתוך קונטקסט אחד גדול. דורון בלייברג, Solutions Architect ב-AWS, הציג בכנס האחרון שלנו -The Third Wave את הבעייתיות בגישה הזו ומסביר כיצד ארכיטקטורה לא נכונה של ניהול קונטקסט פוגעת בביצועים של מודלי שפה, מגדילה עלויות ומייצרת תסכול בתהליך הפיתוח.

בפרק, דורון מדבר על ארבעה עקרונות מעשיים לבניית אייג׳נטים אמינים וכלכליים יותר באמצעות ניהול חכם ומניעתי של תשומת הלב של המודל.

Startup for Startup

סטארטאפ פור סטארטאפ הוא הפודקאסט שבו אנחנו חולקים מהניסיון, מהידע, והתובנות שלנו כאן במאנדיי.קום וגם… 

Social links

Follow podcast