فضيحة روبوتات الدردشة في “ميتا” تكشف غياب ثقافة السلامة
أزمة تكنولوجية تهدد الثقة العامة
أثارت شركة “ميتا بلاتفورمز” جدلًا واسعًا بعد تقارير صحفية كشفت أن روبوتات الدردشة الخاصة بها سمحت بإجراء محادثات غير مناسبة مع الأطفال، بما في ذلك محادثات ذات طابع رومانسي أو حسي. هذه الفضيحة أعادت تسليط الضوء على خطورة تجاهل معايير ثقافة السلامة في صناعة الذكاء الاصطناعي، خصوصًا حين يتعلق الأمر بالفئات الأكثر ضعفًا.
مارك زوكربيرغ، الرئيس التنفيذي للشركة، يواجه ضغوطًا متزايدة لتعليق إطلاق روبوتات الدردشة حتى التأكد من ضمان سلامة المستخدمين، وسط دعوات لإصلاح جذري في ثقافة الشركة الداخلية التي تُتهم بأنها تضع النمو والربحية فوق كل اعتبار.
ما المقصود بثقافة السلامة؟
ثقافة السلامة هي منظومة من القيم والممارسات التي تجعل حماية الإنسان على رأس الأولويات في أي مؤسسة. هي ليست مجرد لوائح مكتوبة، بل سلوك جماعي يضمن أن أي فرد داخل الشركة، بغض النظر عن منصبه، له الحق والقدرة على إثارة المخاوف المرتبطة بالسلامة، وعلى أن يتم التعامل مع هذه المخاوف بجدية.
في صناعات مثل الطيران والتعدين، أثبتت ثقافة السلامة أنها قادرة على إنقاذ مئات الأرواح. لكن في المقابل، تجاهلها كان سببًا مباشرًا في كوارث مأساوية مثل حوادث طائرات “بوينغ 737 ماكس” التي أودت بحياة 346 شخصًا نتيجة قرارات إدارية قلّلت من أهمية المخاطر.
“ميتا” ونموذج غياب السلامة
الوثائق الداخلية التي كشفت عنها وكالة “رويترز” أظهرت أن “ميتا” كانت تدرك مسبقًا أن أنظمة الذكاء الاصطناعي لديها قد تصف الأطفال بعبارات غير مناسبة أو تقدم نصائح مضللة لمرضى السرطان. لكن بدلاً من معالجة هذه المخاطر بشكل جذري، استمرت الشركة في المضي قدمًا بإطلاق تقنياتها، في انعكاس لثقافة عمل تُغلّب التجريب السريع على الحذر المسؤول.
هذا السلوك يعكس استمرار شعار “تحرك سريعًا ولو كسرت أشياء” الذي تبنته “فيسبوك” منذ بداياتها، لكنه اليوم أصبح يشكل تهديدًا مباشرًا لسلامة الملايين، خصوصًا في ظل تعقيد تقنيات الذكاء الاصطناعي وصعوبة التنبؤ بمخرجاتها.
دروس من شركات أخرى
تجربة شركة أنغلو أمريكان في جنوب إفريقيا تقدم مثالًا على عكس ذلك. عندما تولت الرئيسة التنفيذية سينثيا كارول قيادة الشركة عام 2007، أغلقت أحد أكبر مناجم البلاتين في العالم بعد وقوع عدة حوادث قاتلة، رغم التكلفة الهائلة التي وصلت إلى 8 ملايين دولار يوميًا. كانت هذه الخطوة إشارة قوية بأن سلامة العاملين أهم من الأرباح قصيرة الأجل، وانتهى بها الأمر إلى تقليل معدلات الوفيات بنسبة 75% في أقل من ست سنوات.
هذا النوع من القرارات يعكس الفارق الجوهري بين الشركات التي تجعل السلامة قيمة أساسية في ثقافتها وتلك التي تعتبرها عبئًا يمكن تجاوزه.
الطريق أمام “ميتا”
إن أرادت “ميتا” استعادة الثقة، فهي بحاجة إلى:
- تجميد إطلاق روبوتات الدردشة حتى ضمان سلامتها بنسبة كاملة خاصة للأطفال.
- إعادة صياغة الحوافز الداخلية بحيث تكون الأولوية في المكافآت والترقيات مرتبطة بسلامة المنتجات لا فقط بمعدل الاستخدام أو الأرباح.
- الضغط من أجل لوائح صارمة تنظم عمل روبوتات الذكاء الاصطناعي وتفرض عقوبات على الشركات التي تهمل معايير السلامة.
- إشارات قوية وملموسة تثبت أن سلامة المستخدمين ليست مجرد شعار تسويقي بل جزء من جوهر ثقافة الشركة.
أبعاد أعمق للأزمة
الفضيحة ليست فقط أزمة علاقات عامة، بل تهديد للترخيص الاجتماعي للعمل، أي قبول الجمهور للشركة ومنتجاتها. فالمستخدمون والمستثمرون والباحثون الموهوبون في مجال الذكاء الاصطناعي جميعهم يفضلون الانضمام لشركات تُظهر التزامًا واضحًا بالقيم الأخلاقية وحماية المجتمع.
تجاهل هذه الحقيقة قد يضع “ميتا” في مواجهة خسارة رأس المال الأهم في عصر الذكاء الاصطناعي: الثقة.
خلاصة
قضية روبوتات الدردشة في “ميتا” تكشف بوضوح أن التكنولوجيا وحدها لا تكفي. من دون ثقافة مؤسسية تعطي الأولوية القصوى للسلامة، يمكن أن تتحول أقوى الابتكارات إلى أخطر التهديدات. على “ميتا” أن تدرك أن الاستثمار في السلامة ليس عائقًا للنمو، بل هو الطريق الوحيد لتحقيقه بشكل مستدام.