يستكشف إيلون موسك Xai طريقة لجعل الذكاء الاصطناعي أكثر مثل دونالد ترامب

لقد وجد باحث تابع لبدء تشغيل إيلون موسك وسيلة جديدة للقياس والتعامل مع التفضيلات والقيم الراسخة التي تعبر عنها نماذج الذكاء الاصطناعي بما في ذلك وجهات نظرهم السياسية.

قاد العمل دان هندريكس ، مدير مركز غير ربحية لسلامة الذكاء الاصطناعي ومستشار لـ XAI. يقترح أنه يمكن استخدام هذه التقنية لجعل نماذج الذكاء الاصطناعى الشعبية تعكس بشكل أفضل إرادة الناخبين. – ربما في المستقبل ، [a model] يمكن أن تتوافق مع المستخدم المحدد ، كما أخبر Hendrycks Wired. ولكن في غضون ذلك ، كما يقول ، فإن الافتراضي الجيد هو استخدام نتائج الانتخابات لتوجيه وجهات نظر نماذج الذكاء الاصطناعى. إنه لا يقول أن النموذج يجب أن يكون بالضرورة “Trump” على طول الطريق ، لكنه يجادل بأنه يجب أن يكون متحيزًا تجاه ترامب قليلاً ، “لأنه فاز بالتصويت الشعبي”.

أصدرت XAI إطارًا جديدًا لمخاطر الذكاء الاصطناعي في 10 فبراير يفيد بأنه يمكن استخدام نهج هندسة Hendrycksâ € ™ Attility لتقييم Grok.

قاد هندريكس فريقًا من مركز سلامة الذكاء الاصطناعي ، جامعة كاليفورنيا في بيركلي ، وجامعة بنسلفانيا التي حللت نماذج الذكاء الاصطناعى باستخدام تقنية مستعارة من الاقتصاد لقياس تفضيلات المستهلكين لسلع مختلفة. من خلال اختبار النماذج عبر مجموعة واسعة من السيناريوهات الافتراضية ، تمكن الباحثون من حساب ما يعرف باسم وظيفة الأداة المساعدة ، وهو مقياس للرضا الذي يستمده الأشخاص من سلعة أو خدمة. هذا سمح لهم بقياس التفضيلات التي تعبر عنها نماذج الذكاء الاصطناعي المختلفة. قرر الباحثون أنهم كانوا في كثير من الأحيان متسقين وليس عشوائيًا ، وأظهروا أن هذه التفضيلات تصبح أكثر رسمًا حيث تصبح النماذج أكبر وأقوى.

لقد وجدت بعض الدراسات البحثية أن أدوات الذكاء الاصطناعى مثل ChatGPT منحازة تجاه الآراء التي أعربت عنها الإيديولوجيات المؤيدة للبيئة واليديولوجية اليسارية والليبرالية. في فبراير 2024 ، واجهت Google انتقادات من Musk وآخرون بعد أداة Gemini الخاصة بها ، تم العثور عليها لإنشاء صور تم وصفها بالنقاد بأنها “Woke” ، مثل Black Vikings والنازيين.

تقدم هذه التقنية التي طورتها Hendrycks ومتعاوناته طريقة جديدة لتحديد كيفية اختلاف وجهات نظر نماذج الذكاء الاصطناعى عن مستخدميها. في النهاية ، يفترض بعض الخبراء ، أن هذا النوع من الاختلاف قد يصبح خطيرًا لنماذج ذكية وقادرة جدًا. يظهر الباحثون في دراستهم ، على سبيل المثال ، أن بعض النماذج تقدر باستمرار وجود الذكاء الاصطناعي فوق وجود بعض الحيوانات غير البشرية. يقول الباحثون إنهم وجدوا أيضًا أن النماذج يبدو أنها تقدر بعض الأشخاص على الآخرين ، مما يثير أسئلة أخلاقية خاصة به.

يعتقد بعض الباحثين ، بما في ذلك Hendrycks ، أن الطرق الحالية لمحاذاة النماذج ، مثل التلاعب وحظر مخرجاتهم ، قد لا تكون كافية إذا كانت الأهداف غير المرغوب فيها تكمن تحت السطح داخل النموذج نفسه. يقول هندريكس: “سنضطر إلى مواجهة هذا”. لا يمكنك التظاهر بأنه ليس هناك.

يقول ديلان هادفيلد مينيل ، الأستاذ في معهد ماساتشوستس للتكنولوجيا الذين يبحثون عن أساليب مواءمة الذكاء الاصطناعي مع القيم الإنسانية ، إن ورقة هندريكس تقترح اتجاهًا واعداً لأبحاث الذكاء الاصطناعي. يقول: “يجدون بعض النتائج المثيرة للاهتمام ، كما يقول. “المبلغ الرئيسي الذي يبرز هو أنه مع زيادة مقياس النموذج ، تصبح تمثيلات المنفعة أكثر اكتمالًا وتناويشًا.