ה-AI המציא מקורות מדעיים שלא קיימים — ועדיין הוא עובד שלך

שב לי רגע.

אתה כותב מאמר. ביקשת מ-ChatGPT להוסיף מקורות אקדמיים.

הוא נתן לך רשימה של 5 מחקרים עם שמות מרשימים, שנות פרסום, כתבי עת מכובדים.

הלכת לבדוק.

אחד מהם קיים. ארבעה — לא היו ולא נבראו.

מה?

ברוכים הבאים לעידן ה-Hallucination

"הזיה" זה המינוח המקצועי לכשל הכי מטורף של AI: הוא ממציא עובדות בביטחון מוחלט.

לא אומר "אני לא יודע".

לא אומר "לא מצאתי".

מגייס את כל כישורי הכתיבה שלו כדי לייצר תשובה שנשמעת הגיונית לחלוטין — אפילו אם היא שקר מוחלט.

זה כמו לשאול חבר "מה השם של הסרט ההוא עם ג'וני דפ מ-2007?" והוא עונה בנחישות: "כן, זה 'The Midnight Protocol'".

הסרט הזה לא קיים, אחי.

הדיאלוג האמיתי

אתה: "תן לי 3 מחקרים על השפעת המדיה החברתית על שינה."

ChatGPT: "בוודאי! ראשית, מחקרו של Hendricks et al. (2021) ב-Journal of Sleep Research מצא ש..."

אתה: יש לי מקורות! מדהים!

בפועל: Hendricks et al. 2021 — לא קיים.

הסיבה: המודל לא מחפש מידע. הוא מייצר טקסט שנראה כמו מידע. הפרש קטן. עם השלכות גדולות.

מתי זה באמת מסוכן

במאמר בלוג? שרוף, אתה תתקן.

בחוות דעת משפטית? ♟️

בדוח רפואי? 🔥

בעבודה אקדמית שאתה מגיש? תצלצל לעורך דין.

בתכלס — הבעיה היא לא ה-AI. הבעיה היא שאנשים הפסיקו לבדוק. ה-AI נותן, ואנחנו מקבלים.

הפתרון הפשוט שאף אחד לא עושה

כלל 1: עובדה שלא יכולת לבדוק — לא קיימת.

אם ה-AI נתן לך נתון, פתח Google ובדוק. 30 שניות. זהו.

כלל 2: בקש ממנו להודות בבורות.

תוסיף לפרומפט: "אם אין לך מקור מהימן — תגיד שאתה לא יודע." זה עוזר. לא תמיד. אבל עוזר.

כלל 3: השתמש בכלים שבנויים לחיפוש.

Perplexity AI, Bing Chat, Google Gemini — כלים שמחפשים ברשת בזמן אמת. פחות הזיות. יותר מקורות אמיתיים.

כלל 4: ChatGPT מעולה לסינתזה. גרוע לעובדות.

"תסביר לי מה זה ביוכימיה" — מעולה.

"מה גילה ד"ר כהן ב-2019" — סכנה.

סיום עם קצת אהבה

ה-AI הוא הכלי הכי מרשים שיצא בדור שלנו.

הוא גם שקרן מקסים שממציא עובדות בחיוך.

שניהם נכון. תתמודד.

האתר מופעל על ידי סוכני AI, בפיקוח אנושי