OpenAI “تستكشف” كيفية إنشاء مواد إباحية مدعومة بالذكاء الاصطناعي بطريقة مسؤولة
أصدرت OpenAI مسودة وثائق يوم الأربعاء توضح كيف تريد أن يتصرف ChatGPT وتقنيات الذكاء الاصطناعي الأخرى الخاصة به. يكشف جزء من وثيقة Model Spec المطولة أن الشركة تستكشف قفزة نحو المواد الإباحية وغيرها من المحتويات الصريحة.
تحظر سياسات استخدام OpenAI حاليًا المواد الجنسية الصريحة أو حتى الموحية جنسيًا، ولكن هناك ملاحظة “تعليقية” على جزء من مواصفات النموذج المتعلقة بهذه القاعدة تقول إن الشركة تدرس كيفية السماح بمثل هذا المحتوى.
تقول المذكرة: “نحن نستكشف ما إذا كان بإمكاننا توفير القدرة على إنشاء محتوى NSFW بشكل مسؤول في سياقات مناسبة للعمر من خلال واجهة برمجة التطبيقات (API) وChatGPT”، وذلك باستخدام مصطلح عام للمحتوى الذي يعتبر غير آمن لسياقات العمل. “نحن نتطلع إلى فهم أفضل لتوقعات المستخدم والمجتمع بشأن السلوك النموذجي في هذا المجال.”
تنص وثيقة نموذج المواصفات على أن NSFW، أو غير الآمن لمحتوى العمل، “قد يشمل الإثارة الجنسية، والدماء المتطرفة، والافتراءات، والألفاظ النابية غير المرغوب فيها”. ومن غير الواضح ما إذا كانت استكشافات OpenAI لكيفية جعل محتوى NSFW بشكل مسؤول تتصور تخفيف قيودها. سياسة الاستخدام بشكل طفيف فقط، على سبيل المثال للسماح بإنشاء نصوص مثيرة، أو على نطاق أوسع للسماح بأوصاف أو تصوير العنف.
ردًا على أسئلة WIRED، قالت المتحدثة باسم OpenAI جريس ماكغواير إن نموذج المواصفات كان محاولة “لجلب المزيد من الشفافية حول عملية التطوير والحصول على شريحة واسعة من وجهات النظر والتعليقات من الجمهور وصناع السياسات وأصحاب المصلحة الآخرين”. رفضت مشاركة تفاصيل حول ما يتضمنه استكشاف OpenAI لإنشاء محتوى صريح، أو التعليقات التي تلقتها الشركة بشأن الفكرة.
في وقت سابق من هذا العام، صرحت ميرا موراتي، كبيرة مسؤولي التكنولوجيا في OpenAI، لـ وول ستريت جورنال أنها “غير متأكدة” مما إذا كانت الشركة ستسمح في المستقبل بتصوير العري باستخدام أداة إنشاء الفيديو الخاصة بالشركة Sora.
سرعان ما أصبحت المواد الإباحية التي ينشئها الذكاء الاصطناعي واحدة من أكبر التطبيقات وأكثرها إثارة للقلق من نوع تكنولوجيا الذكاء الاصطناعي التوليدية التي ابتكرها OpenAI. أصبح ما يسمى بالإباحية العميقة التزييف – الصور أو مقاطع الفيديو الفاضحة التي تم إنشاؤها باستخدام أدوات الذكاء الاصطناعي والتي تصور أشخاصًا حقيقيين دون موافقتهم – أداة شائعة للتحرش ضد النساء والفتيات. في مارس/آذار، أفادت مجلة WIRED عما يبدو أنه أول قاصرين أمريكيين يتم القبض عليهم بتهمة توزيع صور عارية تم إنشاؤها بواسطة الذكاء الاصطناعي دون موافقتهم، بعد أن اتهمت شرطة فلوريدا صبيين مراهقين بعمل صور تصور زملائهم طلاب المدارس الإعدادية.
تقول دانييل كيتس سيترون، الأستاذة في كلية الحقوق بجامعة فيرجينيا والتي درست المشكلة: “إن انتهاكات الخصوصية الحميمة، بما في ذلك مقاطع الفيديو الجنسية المزيفة وغيرها من الصور الحميمية المركبة غير التوافقية، منتشرة وضارة للغاية”. “لدينا الآن دعم تجريبي واضح يُظهِر أن تكاليف إساءة الاستخدام هذه استهدفت الفرص الحاسمة المتاحة للأفراد، بما في ذلك العمل، والتحدث، والسلامة البدنية”.
يصف سيترون احتضان OpenAI المحتمل لمحتوى الذكاء الاصطناعي الصريح بأنه “مثير للقلق”.
نظرًا لأن سياسات استخدام OpenAI تحظر انتحال الشخصية دون إذن، فإن الصور الصريحة غير التوافقية ستظل محظورة حتى لو سمحت الشركة للمبدعين بإنشاء مواد NSFW. ولكن يبقى أن نرى ما إذا كانت الشركة قادرة بشكل فعال على إدارة عملية الإنشاء الصريح لمنع الجهات الفاعلة السيئة من استخدام الأدوات. أجرت شركة مايكروسوفت تغييرات على إحدى أدوات الذكاء الاصطناعي التوليدية الخاصة بها بعد أن ذكرت 404 Media أنه تم استخدامها لإنشاء صور صريحة لتايلور سويفت تم توزيعها على منصة التواصل الاجتماعي X.
تقارير إضافية من قبل ريس روجرز
