أعلنت شركة “أوبن إي آي” الأمريكية عن إطلاق آلية جديدة خلال أكتوبر المقبل تتيح للآباء مراقبة تفاعلات أبنائهم المراهقين مع أداة الذكاء الاصطناعي “شات جي بي تي”. يأتي ذلك عقب قضية أثارت جدلا واسعا في الولايات المتحدة بعد اتهام الشركة بتشجيع فتى على الانتحار. وهو ما دفعها إلى إدخال آليات أكثر صرامة لمراقبة الاستخدام.
الآلية الجديدة ستمكن أولياء الأمور من ربط حساباتهم بحسابات أبنائهم، والتحكم في قواعد السلوك الخاصة بالنموذج، كما ستتيح لهم تلقي تنبيهات عند رصد أي مؤشرات “ضيق حاد” أو مخاطر نفسية وعاطفية في المحادثات. وبالموازاة. ستعمل الشركة على تحسين قدرة النماذج على التعرف على الحالات الحساسة.
وأكدت “أوبن إي آي” أنها ستعتمد على نماذج أكثر تطورا مثل “جي بي تي-5 ثينكينغ” لمعالجة المحادثات الحساسة. بهدف ضمان استجابة أكثر أمانا. وتأتي هذه الإجراءات في إطار التزام الشركة بتعزيز ثقة المستخدمين. واستباق المخاطر المحتملة المرتبطة باستخدام الذكاء الاصطناعي في الفئات العمرية الصغيرة.
