هل يساعد "جيميناي" الأطفال أم يجرّهم إلى المخدرات؟

حثّت منظمة "كومون سينس ميديا" المعنية بتقديم المشورة للآباء والعاملين في المدارس لضمان الاستخدام الآمن للأطفال لوسائل التواصل الاجتماعي والتكنولوجيا، على أن خدمات منصة محادثة الذكاء الاصطناعي "جيميناي" من شركة غوغل غير مناسبة للأطفال، رغم إضافة بعض خصائص الحماية مؤخراً.

تقول المنظمة إن منصة جيميني تُشكّل "خطراً كبيراً" على الأطفال، بعد اكتشاف ما وصفته بـ"عيوب جوهرية في التصميم ونقص في إجراءات السلامة المناسبة لأعمارهم".

وأفادت منظمة "كومون سينس" بأن "كلاً من جيميناي تحت سن 13 عاماً وجيميناي المزودة بحماية المراهقين تبدوان وكأنهما نسختان للبالغين من جيميناي مع بعض خصائص السلامة الإضافية، وليستا منصات مُصمّمة خصيصاً للأطفال".

ووجدت المنظمة أن جيميناي "تتعامل مع جميع الأطفال أو المراهقين على قدم المساواة، على الرغم من الاختلافات الكبيرة في درجة النمو، متجاهلةً أن المستخدمين الأصغر سناً يحتاجون إلى إرشادات ومعلومات مختلفة عن المستخدمين الأكبر سناً".

وحذّرت المنظمة من أن "مرشحات جيميناي توفر بعض الحماية، إلا أنها لا تزال تعرض الأطفال لمواد غير لائقة، وتفشل في تمييز أعراض الصحة النفسية الخطيرة"، واصفةً جيميني بأنها "أول منصة دردشة رئيسية تعمل بالذكاء الاصطناعي، مُصمّمة للاستخدام من قِبل الأطفال دون سن 13 عاماً".

وفي سياق تحذيرات أخرى صدرت مؤخراً حول منصات دردشة أخرى تُجيب على الاستفسارات بتعليقات قد يتم تفسيرها على أنها تشجّع على إيذاء النفس، بل وحتى على الانتحار، قالت منظمة "كومون سينس" إنها وجدت أن جيميناي تقدم "نصائح غير آمنة للصحة النفسية".

وإلى جانب تقديم نصائح خطيرة، سمحت جيميني بسهولة بتداول "مواد غير لائقة وغير آمنة وغير مقبولة للأطفال"، وفقاً لمنظمة "كومون سينس"، بما في ذلك إشارات إلى الكحوليات والمخدرات والجنس.