חברת OpenAI שמחזיקה בבעלותה את הצ'אט הפופולרי GPT, תשיק החודש (ספטמבר) אפשרות של "בקרת הורים" על השימוש בצ'אט, בעקבות תביעה שהוגשה נגד החברה.
מה הבקרה תאפשר?
"בקרת ההורים" תאפשר להם בקרה הדוקה על שימוש של ילדיהם בצ'אט. באמצעות הזמנה פשוטה במייל, יוכלו ההורים לקשר בין חשבונם לחשבון הילד, וכך ההורים יוכלו לקבוע למודל כללים לשימוש, בהתאם לגיל הילד, וכן להשבית תוכנות כמו שמירת תכנים והיסטוריית צ'אט. בנוסף, יוכלו ההורים לקבל התראות מהמודל כאשר המערכת מזהה סימני מצוקה אצל הילד.
הסיבה והמהלכים הנוספים
מדובר במהלך שמטרתו לשפר את האופן בו מגיבים צ'אטים כאלו למצוקה, אולם לא מדובר במהלך שנעשה מתוך רצון טוב בלבד, אלא לאחר תביעה שהוגשה נגד החברה על ידי הוריו של אדם ריין, נער אמריקאי בן 16, שהתאבד לאחר שיחה עם הצ'אט.
בתגובה לכך, הודיעה חברת OpenAI כי היא מתכננת לשפר את ההתמודדות של כלי ה-AI שלה עם "מצבים רגישים", וכן טענה כי היא משתפת פעולה עם מומחים בתחום ה-AI ורופאים, במטרה לשפר את הגישה שלה לבריאות הנפש. החברה אף עדכנה כי היא שוקלת לחבר בין אנשים הסובלים ממצוקה נפשית למומחים או לקרובים אליהם.
