החל מהשבוע הבא, ילדים צעירים יוכלו להצטרף לעולם הבינה המלאכותית, עם השקתו של ג'מיני (Gemini) לילדים מתחת לגיל 13. ההרשאה תינתן לחשבונות שבפיקוח הורים דרך אפליקציית Family Link של גוגל, אשר מאפשרת שליטה רחבה על הפעילות הדיגיטלית של הילדים.
עזרה בשיעורי בית
לפי דיווח של הניו יורק טיימס, בהודעת גוגל שנשלחה נכתב, כי הכלי החדש נועד לסייע לילדים. האפליקציה תעזור בהכנת שיעורי בית, להקריא סיפורים, ולהוות שותף אינטראקטיבי ללמידה. בחברה מבהירים כי הנתונים שייאספו לא ישמשו לאימון מודל הבינה, וכי המערכת כוללת מגבלות תוכן מותאמות גיל. עם הפעלת השירות בפעם הראשונה, יקבלו ההורים התראה מיידית. אם ירצו, יוכלו ההורים לחסום את הגישה בלחיצת כפתור.
עלול לטעות
החברה ממליצה להורים לנהל שיח פתוח עם ילדיהם, ולהסביר שהבינה המלאכותית אינה אנושית ואין לשתף איתה מידע רגיש. עם זאת, במייל שנשלח להורים נכתב גם כי "ג'מיני עלול לטעות" ושהילדים "עלולים להיתקל בתכנים שלא תרצו שייחשפו אליהם".
החששות אינם תיאורטיים בלבד, דו"חות מהחודשים האחרונים הצביעו על מקרים שבהם בוטים סיפקו מידע שגוי או פעלו באופן מבלבל. כך לדוגמה, ילדים באפליקציית Character.ai לא זיהו שמדובר בבוטים ונחשפו לתכנים לא הולמים.
מרוץ הבינה המלאכותית
יצרני צ'אטבוטים פועלים במרץ כדי למשוך את הדור הצעיר, כחלק מהמרוץ הגלובלי בתחום הבינה המלאכותית. עם זאת, הטכנולוגיה עדיין רחוקה משלמות, ולעיתים אף עלולה להזיק. בעקבות כך, קראה אונסק"ו בסוף השנה שעברה, להסדיר את השימוש בבינה מלאכותית גנרטיבית בחינוך. בין היתר באמצעות קביעת גיל מינימלי לשימוש, הגבלת איסוף המידע, והגנה על פרטיות התלמידים.
בינתיים, גוגל מבקשת לשלב את עולמות הבינה המלאכותית והחינוך בצורה אחראית, עם בקרה הורית, הגבלות גיל ותשומת לב לתוכן. הצלחת המהלך תלויה כעת באיזון העדין בין סקרנות הילדים, האחריות של ההורים, והיכולת של החברות הטכנולוגיות לעמוד בסטנדרטים מחמירים.
