حراس الذكاء الاصطناعي من Meta: دفاع فوري ضد المخاطر الرقمية للمراهقين

أطلقت Meta مجموعة جديدة من التدابير الوقائية المدعومة بالذكاء الاصطناعي، صُممت خصيصًا لتعزيز أمان المراهقين الذين يستخدمون منصاتها، بما في ذلك WhatsApp وInstagram وFacebook. أعلنت الشركة أن روبوتات الدردشة المتقدمة بالذكاء الاصطناعي ستراقب وتصفّي المحتوى الضار، وتحدد التفاعلات المشبوهة، وتنبه المستخدمين أو المسؤولين عند اكتشاف سلوكيات قد تكون خطيرة. تتماشى هذه المبادرة مع تزايد الضغوط التنظيمية والمطالب العامة بتعزيز الحماية الرقمية للقُصّر.

ستستخدم أنظمة الذكاء الاصطناعي معالجة اللغة الطبيعية (NLP) وتحليلات السلوك لاكتشاف المخاطر مثل التنمر الإلكتروني، والاستدراج، والتعرض لمواد غير لائقة. تشير أبحاث Meta الداخلية إلى أن التفاعلات الضارة على وسائل التواصل الاجتماعي أكثر شيوعًا بين المستخدمين الذين تتراوح أعمارهم بين 13 و18 عامًا مما كان يُعتقد سابقًا، مما استدعى الحاجة إلى تدخل استباقي. وأكدت الشركة أن هذه الأنظمة لن تراقب المحادثات الخاصة بطريقة تنتهك خصوصية المستخدمين، بل ستركز على اكتشاف الأنماط والسلوكيات الضارة.

من الميزات الرئيسية لروبوتات الدردشة بالذكاء الاصطناعي قدرتها على اكتشاف المحادثات التي قد تكون خطيرة والإبلاغ عنها في الوقت الفعلي. على سبيل المثال، يمكن للنظام التعرف على الأنماط التي تشير إلى محاولة مفترس استدراج قاصر وتنبيه المستخدم تلقائيًا أو، في بعض الحالات، إخطار السلطات المحلية إذا تم استيفاء معايير معينة. كما نفذت Meta آليات تحكم للمستخدمين تتيح للمراهقين تخصيص إعدادات الخصوصية الخاصة بهم واختيار عدم المشاركة في بعض ميزات المراقبة، لضمان تحقيق التوازن بين الأمان والاستقلالية.

تعد التدابير الوقائية الجديدة جزءًا من مبادرة Meta الأوسع للذكاء الاصطناعي المسؤول، والتي تهدف إلى تطوير أنظمة ذكاء اصطناعي شفافة وعادلة وفعالة في الحد من المخاطر عبر الإنترنت. وقد تعاونت الشركة مع منظمات حماية الأطفال لتدريب نماذج الذكاء الاصطناعي على مجموعات بيانات تعكس مجموعة واسعة من السلوكيات الضارة عبر الإنترنت. تهدف هذه الشراكات إلى تحسين دقة وتوافق تدخلات الذكاء الاصطناعي مع الثقافات المختلفة، خاصة عبر المناطق واللغات المتنوعة.

كما التزمت Meta بنشر تقارير شفافية بشكل منتظم توضح أداء روبوتات الدردشة بالذكاء الاصطناعي وعدد الحوادث التي تم تحديدها ومعالجتها. وتقر الشركة بأن أنظمة الذكاء الاصطناعي ليست معصومة من الخطأ وأن التحسين المستمر ضروري لتقليل الإيجابيات الكاذبة وضمان ألا يؤثر النظام بشكل مفرط على تجربة المستخدم. ووفقًا لمقاييسها الداخلية، فقد قامت روبوتات الدردشة بالفعل بالإبلاغ عن آلاف التفاعلات المشبوهة خلال مراحل الاختبار المبكرة، مع تزايد نسبة الحالات التي تم التحقق من كونها ضارة.

أشاد محللو الصناعة بهذه الخطوة باعتبارها تقدمًا مهمًا في مجال أمان الأطفال الرقمي، رغم أن بعضهم حذر من أن الذكاء الاصطناعي وحده لا يمكنه حل جميع المخاطر عبر الإنترنت. ووفقًا لأحد الخبراء، فإن نجاح هذه المبادرة سيعتمد إلى حد كبير على مدى فعالية تدريب نماذج الذكاء الاصطناعي ومدى سرعة آليات الاستجابة عند تحديد خطر ما. ومع بدء Meta في طرح روبوتات الدردشة بالذكاء الاصطناعي عبر منصاتها، ستواصل جمع الملاحظات من المستخدمين والجهات التنظيمية لتحسين النظام ومعالجة أي مخاوف جديدة تظهر.

Source: