تعرض العشرات من قنوات YouTube محتوى الكرتون والقرن الذي تم إنشاؤه من الذكاء الاصطناعى

في مكان ما في نيويورك المتحركة ، تنزلق العميل وتسقط مجاري الصرف الصحي. وبينما يلفه موجة من الوحل الأخضر المشع ، يبدأ جسمه في التحول – يطولون ، صفوفًا من الأنياب الدموية الناشئة – شكله كروي ، يشبه الدودة ، يتجولون في الشاشة.

“احذر من العميل في الليل ، وروح الظل لا نهاية في الأفق” ، يغني الراوي الذي يصعب الذكاء ، حيث أن المخلوق الوحشي ، الذي يتربص الآن في حمام سباحة ، يتسلل خلف طفل يصرخ قبل أن يصطدم بهم ، بلا رحمة ، بين أسنانه.

عند النقر على صاحب الفيديو ، إنها قصة مختلفة. “مرحبًا بك في Go Cat – قناة YouTube ممتعة ومثيرة للأطفال!” يعلن وصف القناة إلى 24،500 مشترك وأكثر من 7 ملايين مشاهد. “تمتلئ كل حلقة بالخيال ، والرسوم المتحركة الملونة ، وقصة مفاجئة من التحول في انتظار أن تتكشف. سواء كان هذا حادثًا مضحكًا أو خللًا عصبيًا ، يجلب كل مقطع فيديو قصة جديدة من التحول للاستمتاع بها!”

إن محتوى Go Cat الذي يُزعم أنه صديق للطفل ، وسريالي ، على حافة على رعب الجسم. تشعر موضوعاتها بأنها تذكرنا بشكل مخيف بما أصبح معروفًا في عام 2017 باسم Elsagate ، حيث ظهرت مئات الآلاف من مقاطع الفيديو على YouTube التي تصور شخصيات الأطفال مثل Elsa من المجمدةو Spider-Man و Peppa Pig المشاركين في المواقف المحفوفة بالمخاطر والجنسية والمسيئة. من خلال معالجة خوارزميات المنصة ، تمكنت مقاطع الفيديو هذه من الظهور على تطبيق الأطفال المتفانين من YouTube – وهو الانفتاح على فضول الأطفال لزراعة آلاف النقرات مقابل النقود. في محاولات القضاء على المشكلة ، قام YouTube بإزالة الإعلانات على أكثر من مليوني مقطع فيديو ، وحذف أكثر من 150،000 ، وتم إنهاء 270 حسابًا. على الرغم من أن التحقيقات اللاحقة التي أجراها Wired كشفت أن قنوات مماثلة – بعضها تحتوي ماين كرافت الصورة الرمزية – التي تم التخلص منها على صفحة موضوع YouTube ، كان الوصول إلى Elsagate قد تم إخماده بشكل ملحوظ.

ثم جاء منظمة العفو الدولية. تعني القدرة على إدخال (والتحايل) من AI ، المقترنة بتدفق البرامج التعليمية حول كيفية تحقيق محتوى الأطفال ، أن إنشاء مقاطع فيديو غريبة و macabre لم يصبح سهلاً بل مربح. Go Cat هو مجرد واحد من العديد من الذين ظهروا عندما بحثت Wired عن مصطلحات غير ضارة مثل “Minions” و “Thomas the Tank Engine” و “Cute Cats”. يتضمن الكثيرون المواد الغذائية الأساسية مثل الإصدارات الحوامل والملابس الداخلية من Elsa و Anna ، ولكن التوابع ضاربة كبيرة أخرى ، وكذلك القطط المتحركة والقطط.

استجابةً لطلب Wired للتعليق ، تقول YouTube إنها “أنهت قناتين تم وضع علامة عليها لانتهاك شروط الخدمة” وتعليق تسييل ثلاث قنوات أخرى.

يقول متحدث باسم YouTube: “تمت إزالة عدد من مقاطع الفيديو لانتهاك سياسة سلامة الطفل الخاصة بنا”. “كما هو الحال دائمًا ، يخضع جميع المحتويات التي تم تحميلها على YouTube لإرشادات مجتمعنا ومبادئ الجودة للأطفال – غير محظوظ من كيفية توليدها.”

عندما سئل عن السياسات الموجودة لمنع المستخدمين المحظورين من فتح قناة جديدة ، ذكر YouTube أن القيام بذلك سيكون مقابل شروط الخدمة وأن هذه السياسات تم فرضها بشكل صارم “باستخدام مزيج من كل من الأشخاص والتكنولوجيا”.