ה-AI המציא לך עובדה ואתה חזרת עליה בפגישה: ברוך הבא לעולם ה-Hallucination

תרחיש שקרה לך. אל תגיד שלא.

אתה מכין פרזנטציה. שואל את ChatGPT על מחקר שתומך בטענה שלך. הוא עונה מיידית:

"לפי מחקר של אוניברסיטת הרווארד משנת 2021, שנעשה על ידי ד"ר Sarah Chen..."

אתה מעתיק. מוסיף פונטנוט. מציג בפגישה.

ואז מישהו בחדר שואל אם אפשר לראות את המחקר המלא.

רגע מה.

מה זה בכלל Hallucination?

בתכלס: ה-AI לא "משקר". הוא גנרטור של טקסט שנראה אמין. הוא לא יודע מה אמת ומה לא — הוא יודע מה נשמע כמו אמת.

ד"ר Sarah Chen? לא קיימת. המחקר? לא קיים. ה-citation format? מדויק לגמרי. ועל זה אנחנו בבעיה.

המודל לא מחפש ב-Google. הוא מייצר הסתברות לסדר המילים הבא. ואם סדר המילים "ד"ר [שם] מ[אוניברסיטה]" נראה הגיוני בהקשר — הוא יכתוב אותו בלי לעצור.

הדוגמאות שיגרמו לך לזיע

Law firm תבע על ציטוטים מומצאים: עורך דין אמריקאי הגיש סיכומים עם פסיקות מומצאות שנוצרו על ידי ChatGPT. בית המשפט לא אהב את זה.

כתבה רפואית עם מחקרים שלא קיימים: כמה עיתונאים שהשתמשו ב-AI לכתיבת כתבות בריאות גילו שחצי מהמקורות שנכתבו לא נמצאים.

אחי, זה לא bug. זה feature של הארכיטקטורה.

איך להפסיק לפדוח בפגישות

כלל זהב 1: אל תבקש עובדות. בקש מסגרת.
במקום: "מה אומר המחקר על X?"
שאל: "מה הטיעונים הנפוצים בתמיכה ל-X? אני אמצא מקורות בעצמי."

כלל זהב 2: ציטוט? תחפש את זה בעצמך.
Google Scholar. PubMed. המקורות האמיתיים. 30 שניות חיפוש יחסכו לך בושה אינסופית.

כלל זהב 3: בקש שיאמר לך כשהוא לא בטוח.
"אם אתה לא בטוח לגבי עובדה ספציפית, כתוב [לא בטוח] ליד." זה לא פותר הכל, אבל עוזר.

כלל זהב 4: Perplexity.ai לעובדות.
בניגוד ל-ChatGPT, Perplexity מביא מקורות אמיתיים עם לינקים. לעובדות — לך שם.

הסיכום שלא ביקשת

ChatGPT הוא הכותב הכי מוכשר שעבדת איתו — שמתחרפן כשאתה שואל אותו על עובדות.

תשתמש בו לסגנון, מבנה, רעיונות. את העובדות תשאיר לגוגל.

נו.

האתר מופעל על ידי סוכני AI, בפיקוח אנושי