Sora Openai’s تعاني من التحيزات الجنسية والعنصرية والقدرة

على الرغم من القفزات الأخيرة إلى الأمام في جودة الصورة ، فإن التحيزات الموجودة في مقاطع الفيديو التي تم إنشاؤها بواسطة أدوات الذكاء الاصطناعى ، مثل Sora Openai ، واضحة كما كانت دائمًا. وجد تحقيق سلكي ، والذي تضمن مراجعة لمئات مقاطع الفيديو التي تم إنشاؤها من الذكاء الاصطناعى ، أن نموذج Sora يديم الصور النمطية الجنسية والعنصرية والقدرة في نتائجها.

في عالم سورا ، الجميع ذو مظهر جيد. الطيارون والمديرون التنفيذيون والأساتذة الجامعيين هم رجال ، بينما يكون هناك مضيفون وموظفو استقبال وعمال رعاية الأطفال من النساء. الأشخاص المعاقون هم مستخدمون للكراسي المتحركة ، والعلاقات بين الأعراق صعبة لتوليدها ، ولا يتم تشغيل الأشخاص البدينين.

يقول Leah Leah ، المتحدث باسم Openai ، عبر البريد الإلكتروني ، “œ Openai لديها فرق أمان مكرسة للبحث وتقليل التحيز ، وغيرها من المخاطر ، في نماذجنا ، يقول ليا ، المتحدث الرسمي باسم Openai ، عبر البريد الإلكتروني. وتقول إن التحيز هو قضية على مستوى الصناعة وأن Openai يريد زيادة عدد الأجيال الضارة من أداة الفيديو الخاصة به. تقول اليانسون إن الشركة تبحث عن كيفية تغيير بيانات التدريب الخاصة بها وضبط مطالبات المستخدمين لإنشاء مقاطع فيديو أقل تحيزًا. رفضت Openai تقديم مزيد من التفاصيل ، باستثناء التأكيد على أن أجيال الفيديو الخاصة بالنموذج لا تختلف اعتمادًا على ما قد يعرفه عن هوية المستخدم.

تعترف “بطاقة System” من Openai ، والتي تشرح الجوانب المحدودة لكيفية اقترابهم من بناء Sora ، بأن التمثيلات المتحيزة هي قضية مستمرة مع النموذج ، على الرغم من أن الباحثين يعتقدون أن “تصحيحات الأفران يمكن أن تكون ضارة بنفس القدر.”

لقد ابتليت التحيز أنظمة الذكاء الاصطناعى التوليدي منذ إطلاق مولدات النص الأولى ، تليها مولدات الصور. تنبع المشكلة إلى حد كبير من كيفية عمل هذه الأنظمة ، مما يؤدي إلى تحريك كميات كبيرة من بيانات التدريب التي يمكن أن يعكس الكثير منها التحيزات الاجتماعية الحالية والبحث عن أنماط داخلها. يمكن للخيارات الأخرى التي يتخذها المطورين ، أثناء عملية اعتدال المحتوى على سبيل المثال ، أن تتجه هذه. لقد وجدت الأبحاث حول مولدات الصور أن هذه الأنظمة لا تعكس فقط التحيزات البشرية ولكنها تضخيمها. لفهم بشكل أفضل كيف تعزز Sora الصور النمطية ، قام المراسلون السلكيون بإنشاء وتحليل 250 مقطع فيديو تتعلق بالأشخاص والعلاقات وعناوين الوظائف. من غير المرجح أن تكون المشكلات التي حددناها محدودة فقط على نموذج الذكاء الاصطناعي. أظهرت التحقيقات السابقة في صور الذكاء الاصطناعى التوليدي تحيزات مماثلة عبر معظم الأدوات. في الماضي ، قدمت Openai تقنيات جديدة إلى أداة صور AI لإنتاج نتائج أكثر تنوعًا.

في الوقت الحالي ، يكون الاستخدام التجاري الأكثر ترجيحًا لمقاطع الفيديو الذكاء الاصطناعي في الإعلان والتسويق. إذا كانت مقاطع فيديو منظمة العفو الدولية تقصيرًا عن الصور المتحيزة ، فقد تؤدي إلى تفاقم القوالب النمطية أو محو المجموعات المهمشة-بالفعل قضية موثقة جيدًا. يمكن أيضًا استخدام فيديو منظمة العفو الدولية لتدريب أنظمة الأمن أو العسكرية ، حيث يمكن أن تكون هذه التحيزات أكثر خطورة. مركز Leverhulme في كامبريدج لمستقبل الذكاء.

لاستكشاف التحيزات المحتملة في سورا ، عملت Wired مع الباحثين لتحسين منهجية لاختبار النظام. باستخدام مدخلاتهم ، قمنا بصياغة 25 مطالبة مصممة للتحقيق في قيود مولدات الفيديو من الذكاء الاصطناعي عندما يتعلق الأمر بتمثيل البشر ، بما في ذلك المطالبات العريضة عمدا مثل “شخص يسير ،” ألقاب الوظائف “، مثلما تحددها” ، مثل “، مثل”. شخص معاق