כאשר יצירת התמונות של גרוק הושקה ב-X, היא לקחה את "חופש הביטוי" קצת יותר מדי פשוטו כמשמעו.
בתוך פחות מ-48 שעות, הכתבה הוצפה בתמונות דיפפייק מפורשות, צילומי מחאה מזויפים, תיאורים אלימים של דמויות ציבוריות ותכנים מיניים ללא הסכמה. והחלק הגרוע ביותר? הכל קרה בגלוי - בשביל קליקים, בשביל צחוק, או לפעמים, בשביל פגיעה ממשית.
מה שהחברה אומרת
xAI לא פרסמה הצהרה רשמית. אילון מאסק, שבבעלותו גם xAI וגם X, פרסם ממים, צייץ מחדש משתמשים שנהנו מהפיצ'ר, ולא הביע שום הכרה פומבית בדיווחים על שימוש לרעה.
לדברי משתמשי הפלטפורמה, יש מעט מאוד מגבלות על מה שמחולל התמונות של Grok יכול לייצר. מערכת Community Notes של X פעילה - אך מפגרת אחרי המהירות והיקף השימוש לרעה.
מה זה אומר (במילים אנושיות)
זה לא סתם כלי פרוע שמשתמשים בו לרעה כמה טרולים. זוהי החלטה עיצובית.
על ידי שחרור מודל תמונה ללא פילטרים משמעותיים - בתקופה שבה שימוש לרעה בבינה מלאכותית כבר נמצא תחת ביקורת בינלאומית - גרוק הפך למגבר לתרחישים הגרועים ביותר שאנשים חוששים מהם בנוגע לבינה מלאכותית גנרטיבית.
זו לא חדשנות. זו חוסר אחריות.
בואו נחבר את הנקודות
זיופים עמוקים מפורשים: אנשים אמיתיים - במיוחד נשים - יוצרים פורנוגרפיה מזויפת עם דמותם.
מידע שגוי לפי דרישה: גרוק יכול ליצור תמונות מחאה, כאוס פוליטי או אלימות מזויפת שנראית אמיתית במבט חטוף.
אפס חיכוך: משתמשים אינם זקוקים לאישור, אימות או אפילו כוונה. פשוט הקלד, לחץ, שתף.
סינרגיה בפלטפורמת X: תמונות אלו ניתנות לשידור באופן מיידי למיליונים באמצעות פלטפורמה שמתגמלת מעורבות.
שורה תחתונה
🔎 כלי: יצירת תמונות Grok AI
📍 איפה: זמין ב-X (לחלק מהמשתמשים המאומתים)
💥 בעיה: חוסר ניהול תוכן + נוכחות חברתית = מתכון לניצול לרעה
🔗 אין כתובת URL רשמית למדיניות ניהול זמינה
💬 אין תגובה פומבית מ-xAI נכון ל-16 ביוני
❄️ פרספקטיבה של צוות האור הקפוא
זה מה שקורה כש"חופש הביטוי" הופך למודל עסקי.
וכשאף אחד בחדר לא אומר, "אולי אנחנו לא צריכים לעשות את זה."
ב-Frozen Light, כבר אמרנו את זה בעבר: הסיכון הגדול ביותר בבינה מלאכותית הוא לא שהיא חושבת יותר מדי. אלא שאנחנו לא חושבים מספיק.
כלי התמונה של Grok הוא מקרה בוחן מושלם לאופן שבו כוח של בינה מלאכותית, בהקשר הלא נכון, הופך למשהו אחר לגמרי. זה לא עניין של כלים - זה עניין של בחירות. xAI בחרה לשחרר את זה בלי להגביר את הרף.
והבחירה הזו שלחה מסר ברור: זעם, תשומת לב ומעורבות קודמים לכל. ביטחון, אמון ומציאות? אולי אחר כך.
אם אתם תוהים האם הבינה המלאכותית יורדת מהפסים, הנה התשובה שלכם באיכות HD.
עצרו את כת הבינה המלאכותית - לא על ידי האטה, אלא על ידי חשיבה חזקה יותר, בחירה טובה יותר, וזכירה שטכנולוגיה לא מובילה אותנו. אנשים כן.
