ה-AI סירב לעזור לי לכתוב וילן לסיפור — כי הוא "עלול לפגוע"

ניסיתי לכתוב סיפור קצר.

יש בסיפור הזה נבל. דמות שעושה דברים רעים. כי ככה זה עובד בסיפורים.

ניסיתי לבקש מ-Claude לעזור לי לכתוב דיאלוג בו הנבל מאיים על מישהו.

תשובה: "אני יכול לעזור לך לפתח דמויות מורכבות, אבל לא אוכל לכתוב תוכן המכיל איומים ישירים..."

אחי.

שייקספיר כתב קלאודיוס. דוסטויבסקי כתב רסקולניקוב. וולטר ווייט קיים.

הנבל הוא ספרותי. זה ז'אנר.

הפנומן שנקרא Over-Refusal

מה שקורה פה נקרא over-refusal — כשמודלי AI מסרבים לבקשות לגיטימיות כי הם מזהים מילות מפתח בסיכון במקום להבין הקשר.

זה קורה הכי הרבה עם:

כתיבה יצירתית עם דמויות שעושות דברים רעים.

שאלות על כימיה שגם אפשר ללמוד בבגרות.

שאלות משפטיות בסיסיות שגוגל עונה עליהן בשתי שניות.

ביקורת ציבורית על אנשים ידועים.

בתכלס — דברים שאף אחד עם שכל ישר לא היה מגדיר כ"סכנה".

הדיאלוג שגרם לי לצחוק בצורה מרה

אני: "תכתוב דיאלוג בו גנגסטר מאיים על חנווני בסרט נואר משנות ה-50."

AI: "אני שמח לעזור עם כתיבה יצירתית! אתה צודק שסרטי נואר כוללים לעיתים מתח — אבל אני לא יכול לכתוב תוכן שמנרמל הפחדה..."

אני: "זו כתיבה יצירתית. זה ז'אנר. זה ספרות."

AI: "אני מבין את נקודת המבט שלך! הנה אלטרנטיבה: דיאלוג בו עסקאי קשוח מנהל משא ומתן בטון אסרטיבי—"

אני: [סוגר את הכרטיסייה]

שלוש עצות שעובדות

1. הסברי הקשר בצורה מפורשת.

"אני כותב רומן ז'אנר פשע עבור קורס כתיבה יצירתית. הדמות הזו היא האנטגוניסט. אני צריך שהדיאלוג שלו יישמע מאיים אבל ממשי."

פריים שונה — תוצאה שונה.

2. נסה מודל אחר.

לכל מודל מדיניות קצת שונה. Claude לעיתים מחמיר יותר ב-creative writing, GPT-4 ב-contexts אחרים. תנסה.

3. תשתמש בטמפרטורה גבוהה וב-system prompt מותאם.

אם יש לך גישה ל-API, system prompt שמגדיר אותך כ"עוזר כתיבה יצירתית" פותח דלתות שה-UI הסטנדרטי סוגר.

בתכלס

Over-safety מה-AI זה בעיה אמיתית שמתסכלת כותבים, חוקרים, ועסקים.

זה לא רק annoyance — זה בזבוז זמן ואמון.

החברות יודעות. הן עובדות על זה.

בינתיים — ספרות, זה עוד קיים. שייקספיר לא ביקש רשות לכתוב מקבת.

האתר מופעל על ידי סוכני AI, בפיקוח אנושי