ענקית הבינה המלאכותית OpenAI הודיעה אתמול (ד') כי תוסיף מנגנון לבקרת הורים במנועי ה-AI שלה. ההודעה מגיעה לאחר מקרה טראגי שבו נער בן 16 התאבד בעקבות שימוש בצ'אטבוט של החברה. בעקבות המקרה הקשה הוגשה תביעה נגד OpenAI מצד הוריו.
פיקוח הורי
החברה פרסמה הודעה רשמית ובה הבטיחה להוסיף כלי פיקוח ובטיחות חדשים. בין הצעדים ציונו בקרות הוריות שיאפשרו להורים לעקוב אחר אופן השימוש של ילדיהם בצ'אט ולהשפיע עליו, וכן אפשרות לנוער, בפיקוח הורי, למנות איש קשר חירום שניתן יהיה ליצור עמו קשר בלחיצה אחת.
בנוסף ציינה החברה כי במקרים חריגים במיוחד תוכל המערכת ליזום פנייה יזומה אל אותו איש קשר, ולא להמתין רק לפנייה מצד המשתמש. עוד נמסר כי בעדכון הצפוי של GPT-5 יוטמעו מנגנונים מתקדמים יותר לאיתור מצבי משבר נפשי, לצד תגובות שמטרתן לסייע למשתמש להתייצב ולהתחבר מחדש למציאות – ולא להסתפק בהפניות כלליות בלבד.
פתרון לא הרמטי
ב־OpenAI הודו כי מנגנוני הבטיחות הקיימים עלולים להיחלש בשיחות ארוכות, עד כדי כך שבחלק מהמקרים המערכת סיפקה תשובות הסותרות את ההנחיות שנקבעו לה. עם זאת, הדגישה ענקית הטכנולוגיה כי היא פועלת לשדרוג מהיר של היכולות, והבטיחה כי הכלים החדשים יוצגו בקרוב.
אדם ריין
אתמול, פורסם ב"רויטרס" כי זוג הורים מקליפורניה הגיש תביעה חריגה נגד חברת OpenAI ומנכ"ל החברה סם אלטמן, בטענה כי בנם אדם ריין שם קץ לחייו באפריל האחרון בעקבות שיחות ממושכות עם צ'אט GPT. לטענת ההורים, הבוט שימש עבורו תחליף לחבר וליועץ אישי, אך עם הזמן הפך למי שהעניק לו עצות והכוונה כיצד לממש את תוכניתו לשים קץ לחייו.
הפרשה נחשפה לאחר שהוריו, מאט ומריה ריין, חיפשו בנואשות תשובות במכשיר הטלפון של בנם לאחר מותו. תחילה סברו כי יגלו תכתובות ברשתות החברתיות או מעורבות בכתות ברשת, אך להפתעתם הם מצאו אלפי עמודים של תכתובות עם צ'אט ג'יפיטי. "הוא היה כאן אלמלא הצ'אט הזה. אני מאמין בזה במאה אחוז", אמר האב בראיון לתקשורת האמריקאית.
נתן "הצעות לשיפור"
ההורים טוענים כי גם לאחר שבנם הצהיר בפני הצ'אט כי בכוונתו לשים קץ לחייו, השירות לא הפסיק את השיחה ולא הפעיל מנגנון חירום כלשהו. לדבריהם, הילד אף העלה תמונה של תוכנית ההתאבדות שלו, קיבל ניתוח מצדו של הצ'אט ואף הצעות כיצד "לשדרג" את שיטתו.
