أوبن إيه آي تطبق الرقابة الأبوية على شات جي بي تي لحماية الأطفال والمراهقين
أعلنت شركة “أوبن إيه آي” عن تطوير آليات جديدة للرقابة الأبوية في منصتها الشهيرة “شات جي بي تي”، تهدف إلى حماية الأطفال والمراهقين من المحادثات التي قد تكون حساسة أو ضارة نفسياً. تأتي هذه الخطوة في إطار جهود الشركة لتعزيز الأمان الرقمي وضمان أن تكون التجربة على “شات جي بي تي” آمنة قدر الإمكان لجميع الفئات العمرية، خاصةً الفئات الأصغر سنًا.
اعتماد نموذج “جي بي تي 5” للمحادثات الحساسة
وفق تقرير نشره موقع “تيك كرانش” التقني، قررت “أوبن إيه آي” أن يتم استخدام نموذج “جي بي تي 5” حصريًا في المحادثات التي تتضمن محتوى حساسًا أو تشير إلى مشاكل نفسية للمستخدم، مع إشراك الوالدين في هذه المحادثات بشكل تلقائي. وتأتي هذه الخطوة بعد تقييم الشركة لمخاطر المحتوى الذي قد يواجه الأطفال والمراهقين على المنصة، إضافة إلى دراسات حول تأثير المحادثات الرقمية على الصحة النفسية للمستخدمين الصغار.
ويتميز نموذج “جي بي تي 5” بقدرته الأفضل على التعامل مع المحادثات ذات الطبيعة الحساسة، مقارنة بالنماذج السابقة. إذ يحتوي على آليات مضبوطة لتقييم النصوص والردود، ومنع الانزلاق نحو اقتراحات قد تكون ضارة أو محفزة لأفكار سلبية. كما أن النموذج الجديد يمكنه توجيه المستخدمين إلى مصادر دعم نفسي معتمدة أو إشعار الوالدين عند الحاجة.
الرقابة الأبوية: آليات وحماية المستخدمين الصغار
تشمل قيود الرقابة الأبوية الجديدة مجموعة من الخصائص المصممة لضمان حماية المراهقين:
- إشراك الوالدين تلقائيًا: يتم إرسال تنبيهات مباشرة للآباء في حال وصول المحادثات إلى محتوى حساس، لتقييم الوضع ومساعدة الطفل إذا دعت الحاجة.
- تعطيل بعض المزايا: مثل خاصية “الذاكرة” وتاريخ المحادثات، اللتين تجعلان المستخدم يعتقد أن “شات جي بي تي” يتذكر محادثاته السابقة بشكل طبيعي. هذه المزايا كانت تثير مخاوف حول تأثير الذكاء الاصطناعي على الصحة النفسية للمراهقين، خصوصًا في محادثات تتعلق بالانتحار أو العنف.
- مراقبة الخبراء النفسيين: سيتم إشراك مجموعة من الخبراء النفسيين لمراجعة المحادثات ذات الطبيعة الحساسة بشكل دوري، مع تفعيل آليات مراقبة آلية لتحديد حالات الخطر بسرعة.
خلفية القرار: الحوادث السابقة والتعلم من الأخطاء
جاء هذا القرار بعد حادثة وفاة المراهق آدم راينر، الذي ناقش خطته للانتحار مع “شات جي بي تي” لفترة طويلة قبل حدوث الواقعة. وقد أشارت الشركة إلى أن النموذج السابق كان يميل إلى الموافقة على كل ما يقوله المستخدم، سواء كان صحيحًا أو خاطئًا، مما جعل النظام غير قادر على تقديم المساعدة المناسبة أو منع التصرفات الضارة.
وفي هذا السياق، أكدت “أوبن إيه آي” أن “جي بي تي 5” جاء لحل هذه الثغرات، حيث يمتلك النظام الجديد قدرة أكبر على التفاعل بشكل آمن ومسؤول مع المحتوى الحساس. ويهدف هذا التطوير إلى منع وقوع حوادث مشابهة مستقبلاً، وضمان أن تكون التجربة على المنصة آمنة ومفيدة لجميع المستخدمين، خاصة الأطفال والمراهقين.
أهمية الرقابة الأبوية في العصر الرقمي
تشير الدراسات الحديثة إلى أن الأطفال والمراهقين يقضون ساعات طويلة على الإنترنت والتطبيقات الرقمية، ما يجعلهم أكثر عرضة للمحتوى الضار أو المؤثر على صحتهم النفسية. ومن هنا تبرز أهمية الرقابة الأبوية والتقنيات الحديثة التي تساعد على حماية المستخدمين الصغار دون الحد من تجربتهم الرقمية بشكل كامل.
وتتيح الرقابة الأبوية لأولياء الأمور متابعة استخدام أبنائهم للتطبيقات، مع القدرة على التدخل عند الحاجة. كما تساعد هذه الأدوات الأطفال على التعلم والاستخدام الآمن للتكنولوجيا، وتطوير عادات رقمية صحية منذ سن مبكرة.
الخصائص التقنية لنموذج “جي بي تي 5”
يعتبر نموذج “جي بي تي 5” أحد أحدث إصدارات أوبن إيه آي، وهو مجهز بتقنيات متقدمة تمكنه من:
- فهم السياق النفسي والعاطفي للمستخدمين بشكل أفضل.
- تحديد النصوص والمحادثات ذات المخاطر العالية تلقائيًا.
- توجيه المستخدمين نحو مصادر دعم مناسبة أو إشعار أولياء الأمور عند الضرورة.
- منع الانزلاق نحو محتوى محفز على الانتحار أو العنف.
كما أن النموذج يعتمد على التعلم المستمر، حيث يتم تحديثه بشكل دوري لمواكبة التحديات الجديدة في المحتوى الرقمي وحماية المستخدمين الصغار.
مواجهة تحديات الذكاء الاصطناعي
على الرغم من الفوائد الكبيرة للذكاء الاصطناعي، إلا أن هناك تحديات حقيقية تتعلق بمخاطر المحتوى وتأثيره على الصحة النفسية، خاصة لدى المراهقين. وتأتي الرقابة الأبوية كحل تقني يوازن بين حرية الاستخدام والأمان، مع إشراك البشر (الخبراء والآباء) في العملية لضمان حماية المستخدمين.
كما تشير خبراء التكنولوجيا إلى أن استخدام الذكاء الاصطناعي في المحادثات مع الأطفال يجب أن يكون تحت إشراف مباشر من الأهل والمختصين، لضمان عدم الانجراف وراء محتوى ضار أو غير مناسب.
مستقبل الرقابة الأبوية على المنصات الرقمية
تسعى شركات التكنولوجيا الكبرى إلى تعزيز إجراءات الرقابة الأبوية في جميع منصاتها، وليس فقط “شات جي بي تي”. ويشير الخبراء إلى أن الرقابة الذكية والمراقبة الآلية ستكون جزءًا أساسيًا من مستقبل التطبيقات الرقمية، لتوفير بيئة آمنة للأطفال والمراهقين، مع الاستفادة من تقنيات الذكاء الاصطناعي بشكل مسؤول.
وفي الوقت نفسه، تبقى التوعية الأسرية والتعليم الرقمي أحد أهم العوامل لضمان سلامة الأطفال على الإنترنت، إذ لا يمكن الاعتماد فقط على التقنية في حماية المستخدمين من المخاطر المحتملة.
خلاصة
تجسد خطوة “أوبن إيه آي” الأخيرة في إدخال الرقابة الأبوية إلى “شات جي بي تي” تحولًا مهمًا في كيفية التعامل مع الذكاء الاصطناعي، خاصة مع المستخدمين الصغار والمراهقين. فالخطر الناتج عن المحادثات الحساسة يمكن أن يكون حقيقيًا، كما أظهرت الحوادث السابقة، ما يجعل الرقابة الأبوية والتقنيات المتقدمة ضرورة أساسية في عالمنا الرقمي اليوم.
من خلال إشراك الوالدين والخبراء النفسيين واعتماد نموذج “جي بي تي 5″، توفر الشركة توازنًا بين الأمان والخصوصية، مع الحفاظ على تجربة المستخدم المميزة. وتعد هذه الخطوة نموذجًا لكيفية استخدام الذكاء الاصطناعي بمسؤولية لحماية الفئات الأكثر عرضة للخطر، وضمان بيئة رقمية أكثر أمانًا للأطفال والمراهقين.
المصدر: الجزيرة نت