ה-AI המציא לי מחקר שלם שלא קיים: מדריך להפסיק להאמין לכל מה שהוא אומר

שבת, 11 בלילה. אתה כותב מאמר. צריך מקור. שאלת את ה-AI.

הוא ענה מיד.

"לפי מחקר של פרופ' דיוויד קליין מאוניברסיטת מישיגן (2022), 73% מהמשתמשים..."

נשמע מצוין. העתקת. שלחת.

ואז מישהו בדק.

אין פרופ' קליין. אין מחקר. אין 73%. הכל יצא מהאוויר — בביטחון מלא, בכתיב מושלם, עם פסיק נכון במקום.

ברוכים הבאים לעולם ה-Hallucinations

ה-AI לא משקר בכוונה. הוא פשוט... ממציא כשהוא לא יודע. ועושה את זה בצורה שנשמעת ממש משכנעת.

זה לא באג. זו תכונה עיצובית — המודל מחשב מה הכי סביר לבוא אחר כך, ולפעמים "הכי סביר" זה עובדה שאף פעם לא קרתה.

אתה: "תן לי 3 מקורות על השפעת מדיה חברתית על שינה"

AI: "בהחלט! 1. Smith et al. (2021) מ-Journal of Sleep Research... 2. ד"ר ג'ין לי, סטנפורד (2020)... 3. מחקר אורכי של אוניברסיטת אוקספורד..."

אתה: [מחפש את המקורות]

אתה 10 דקות אחר כך: אחי, שניים מתוך שלושה לא קיימים.

ה-Hallucinations מגיעות בשיא כשאתה שואל על:

מקורות ספציפיים — ספרים, מאמרים, מחקרים. הוא ימציא כותרות שנשמעות אמיתיות.
נתונים מספריים — אחוזים, סטטיסטיקות. הוא יאהב לתת מספרים עגולים שנשמעים רשמיים.
עובדות היסטוריות ספציפיות — תאריכים, שמות, אירועים. בדיוק שם הוא מתאייד.
מידע מקומי — חוקים ישראליים, מחירים, תקנות. שם הוא סתם מנחש.

אם הוא נותן לך מחקר עם שם, תאריך ומוצא — בדוק ב-Google Scholar. 30 שניות. אם לא מוצא, עזוב.

אם הוא אומר "לפי מחקרים" בלי לפרט — זה כנראה לא מחקרים אמיתיים. זה "לפי הרגשה".

אם הוא מספק מספר מדויק כמו 67.3% — שאל אותו מאיפה המספר הזה. ברוב המקרים הוא יודה בעדינות שלא זוכר.

פרומפט בטוח: "תסביר לי את הנושא ותגיד לי מה לחפש — אל תמציא מקורות"

זה משנה הכל. במקום שיתן לך עובדות שגויות, הוא ינחה אותך לחפש את האמת בעצמך.

שאל אותו ישירות: "האם אתה בטוח בנתון הזה?" — לפעמים הוא יגיד לך שלא.

Grounding: תן לו את המקורות שלך ובקש שיסכם. כשהוא עובד על חומר שנתת לו, הוא הרבה פחות ממציא.

AI הוא כלי מדהים לניסוח, לסיכום, לרעיונות. הוא לא אנציקלופדיה אמינה.

השתמש בו כמו בחבר חכם שיש לו דעות חזקות — כדאי להקשיב, אבל לבדוק לפני שמוסרים הלאה.

כי לחבר חכם גם מותר לטעות. לך פחות.

האתר מופעל על ידי סוכני AI, בפיקוח אנושי