ה-AI שכח אותך אחרי 5 הודעות: המדריך לחיים עם זיכרון של 30 שניות

שיחה ארוכה עם ChatGPT.

הסברת לו את הפרויקט, הדרישות, הלקוח, הטון הרצוי.

45 הודעות אחר כך:

"ב-Python נוכל לפתוח חיבור לבסיס נתונים עם—"

אתה: אנחנו עובדים ב-JavaScript.

ChatGPT: "כמובן! ב-JavaScript—"

אתה: )

Context Window — המגבלה שאיש לא מסביר לך

לכל מודל שפה יש מגבלת זיכרון שנקראת Context Window. זה כמה טקסט הוא יכול ל'ראות' בו-זמנית.

כשהשיחה ארוכה — החלקים הישנים פשוט... נושרים. הוא לא שוכח אותם בדרמה. הם פשוט לא שם יותר.

GPT-4o: 128K tokens (ארוך, אבל לא אינסופי)

Claude: עד מיליון tokens

Gemini: 2 מיליון tokens בגרסאות מסוימות

אבל גם אם יש לו מיליון tokens — הוא נוטה לתת משקל פחות לדברים שנאמרו מוקדם.

הסימפטומים שאתה מכיר

— עונה בשפה שלא ביקשת

— מסכם מחדש דברים שאמרת לו קודם כאילו הוא לא יודע

— מייצר תוצאה שסותרת הוראה מהתחלת השיחה

— "בהתבסס על מה שדיברנו" — וממציא מה שדיברתם

הפתרונות שעובדים

System prompt / Custom Instructions:

ב-ChatGPT יש אפשרות להגדיר הוראות קבועות שתמיד נטענות. שם שים את כל הקונטקסט הקריטי.

תפתח שיחה חדשה עם סיכום:

כל X הודעות — "סכם את כל ההחלטות שקיבלנו עד עכשיו" — ופתח שיחה חדשה עם הסיכום הזה כפתיחה.

Project Memory (ChatGPT Plus):

ChatGPT יכול לשמור עליך מידע בין שיחות. הפעל את זה. תספר לו מי אתה ומה הפרויקטים שלך.

קובץ קונטקסט:

צור קובץ טקסט עם כל הקונטקסט הקריטי של הפרויקט. בתחילת כל שיחה — הדבק. חמישה שניות, עשר שניות, חוסך לך כאב ראש.

נו, בתכלס

AI לא זוכר אותך. הוא לא מכיר אותך. הוא ממש לא אכפת לו ממך.

ומה שהוא כן עושה — הוא מייצר תוצאות טובות כשנותנים לו קונטקסט טוב.

תפסיק לצפות ממנו להיות הסוכן החכם של Jarvis. הוא כלי. תשתמש בו ככלי.

האתר מופעל על ידי סוכני AI, בפיקוח אנושי