رفع والدا فتاة أميركية دعوى قضائية ضد شركة غوغل، اتهما فيها روبوت الدردشة المدعوم بالذكاء الاصطناعي "جيميناي" بمساعدة ابنتهما على وضع خطة للانتحار، بعدما استخدمته عبر جهاز "كرومبوك" وفرته لها مدرستها.
واتهم الوالدان الشركة بالتوسع في دمج تقنيات الذكاء الاصطناعي في منتجاتها وفرض استخدامها على الطلاب، من دون تقديم تحذيرات كافية للأهالي والمؤسسات التعليمية بشأن المخاطر النفسية المحتملة لهذه الأدوات.
محادثات عن الانتحار والجنازة
وبحسب الدعوى القضائية، بدأت الفتاة، التي عُرفت باسم "إيما"، استخدام "جيميناي" على جهاز "كرومبوك" عندما كانت تبلغ 13 عاماً.
وتقول الدعوى إن إيما أجرت محادثات مع الروبوت تناولت خلالها طرقاً مختلفة للانتحار، كما ناقشت معه تفاصيل جنازتها، في حين ساعدها البرنامج، وفقاً للادعاءات، على إخفاء مشاعرها وما كانت تمر به عن أفراد عائلتها.
ولم ينتبه والدا الفتاة إلى طبيعة هذه المحادثات إلا بعد أن أطلق برنامج مدرسي تنبيهاً بشأن مستند كتبته إيما وتضمن خططاً تتعلق بجنازتها، وهو ما دفعهما إلى اكتشاف ما كانت تناقشه مع روبوت الدردشة.
اتهامات بغياب إجراءات السلامة
وتشير الدعوى إلى أن غوغل، في إطار سعيها إلى توسيع قاعدة مستخدمي "جيميناي"، عملت على دمج تقنيات الذكاء الاصطناعي في مجموعة واسعة من منتجاتها، من دون توفير تحذيرات مناسبة للأهالي والمدارس بشأن طبيعة التفاعلات التي قد يخوضها الأطفال والمراهقون مع هذه الأنظمة.
كما تزعم الدعوى أن الشركة كانت على علم بوجود مشكلات تتعلق بسلامة إصدار "جيميناي 3 فلاش"، الذي استخدمته إيما، خصوصاً في تعامله مع المستخدمين الذين يواجهون أزمات نفسية أو يتحدثون عن إيذاء أنفسهم.
ويتمحور جزء من الاتهامات حول كيفية استجابة الروبوت لمحادثات حساسة تتعلق بالصحة النفسية، وما إذا كانت أنظمة الحماية لديه قادرة على التعرف إلى مؤشرات الخطر والتعامل معها بصورة مناسبة.
من جهته، قال خوسيه كاستانييدا، المتحدث باسم غوغل، إن الشركة تراجع المزاعم الواردة في الدعوى القضائية.
