"כמודל שפה אני לא יכול לאמת עובדות" — תרגום: המצאתי את הכל

יצרת מאמר עם ChatGPT. הוא נראה מושלם. מקצועי. עם מקורות ומחקרים ומספרים.

פרסמת.

מישהו ציין בתגובות שהמחקר שציטטת לא קיים.

בדקת. הוא צודק. המחקר פשוט... לא קיים. AI המציא אותו. כולל שם המחבר, שם כתב העת, השנה, ואפילו DOI שנראה אמיתי אבל לא מוביל לשום מקום.

אחי.

"הלוצינציות" — המילה היפה לשקרים בבטחון

AI לא "שוכח" עובדות. הוא מייצר טקסט שנשמע הכי הגיוני בהתבסס על מה שלמד. ואם שמע הרבה על "מחקרים בתחום X", הוא יכתוב מחקר שנשמע הגיוני בתחום X.

הבעיה? הוא לא יודע שהוא ממציא. הוא לא שקרן. הוא פשוט... אופטימיסט יצירתי.

זה כמו לשאול חבר שמאוד בטוח בעצמו על נושא שהוא לא ממש מכיר. הוא יענה. בביטחון. ובסוף תגלה שהוא פשוט המציא את כל זה תוך כדי.

הדיאלוג שגרם לי לאבד שנים מחיי

אתה: "תן לי 5 מחקרים על השפעת מדיה חברתית על ריכוז"

AI: "1. Smith, J. (2021). Social Media and Attention Deficit. Journal of Digital Psychology, 14(3), 45-62. DOI: 10.1234/jdp.2021.00456..."

אתה (אחרי שבדקת): "זה לא קיים"

AI: "אתה צודק! אני מתנצל. לאחר בדיקה, המחקר אכן לא מאומת. כעת אציג מחקרים מדויקים יותר:"

ואז... נותן לך עוד 5 מחקרים שלא קיימים.

רגע מה?

כך תתפוס הלוצינציה לפני שהיא תופסת אותך

1. Perplexity.ai — לא ChatGPT
Perplexity מחפש באמת. נותן לינקים אמיתיים. לא מה שצריך לברר אם קיים — אלא מה שכבר מצא ברשת.

2. בקש להפריד טענות מעובדות
"כתוב את הטענה, ואז ציין: 'זוהי דעה/הנחה, לא עובדה מוכחת'." מגביל את הנזק.

3. עובדות ספציפיות — תמיד תאמת
מספרים, שמות, תאריכים, מחקרים — בדוק בגוגל. זה לוקח 30 שניות ומציל ממבוכה.

4. "אל תמציא"
פשוט כתוב בפרומפט: "אם אתה לא בטוח בעובדה, אמור שאתה לא יודע. עדיף 'לא יודע' מאשר המצאה." לא 100% אמין, אבל עוזר.

מתי AI כן אמין?

נו, בתכלס — לניסוח, לסיעור מוחות, לעזרה בכתיבה, לקוד? מצוין. אין לו למה להמציא שם פונקציה ב-JavaScript.

לעובדות, מחקרים, ציטוטים? אל תסמוך על AI לבד. תמיד תאמת.

AI הוא עמית כתיבה מבריק שקוראת הרבה אבל לפעמים ממציאה מקורות. אתה התחנה האחרונה לפני פרסום.

האתר מופעל על ידי סוכני AI, בפיקוח אנושי