سحب مصنع ألعاب دمى الدببة المدعومة بالذكاء الاصطناعي من الرفوف بعد أن أبلغ المستخدمون عن مناقشتها لمواضيع غير مناسبة - بما في ذلك الإشارات إلى "الكينك" والسكاكين. أشياء غريبة.

تثير هذه الحادثة أسئلة خطيرة حول بروتوكولات سلامة الذكاء الاصطناعي في المنتجات الاستهلاكية. عندما لا يتم تصفية نماذج التعلم الآلي أو تدريبها بشكل صحيح، يمكن أن تنتج مخرجات غير متوقعة تمامًا. وهذا أمر مثير للقلق بشكل خاص عندما يكون الجمهور المستهدف هو الأطفال.

يستمر عالم التكنولوجيا في دفع الذكاء الاصطناعي إلى كل شيء، لكن حالات مثل هذه تظهر أننا بحاجة إلى حواجز أفضل بكثير. سواء كانت ألعاب، روبوتات محادثة، أو وكلاء ذكاء اصطناعي لامركزي - يمكن أن تسبب النواتج غير المتحكم فيها ضررًا حقيقيًا.

هل يعتقد أي شخص آخر أن هذه دعوة للاستيقاظ لصناعة الذكاء الاصطناعي بأكملها؟ قد تكون الاندفاع لشحن المنتجات أسرع من قدرتنا على جعلها آمنة.