من يلوم عندما يتجه عوامل الذكاء الاصطناعي؟

على الماضي على العام ، أمضى مهندس البرمجيات المخضرم جاي براكاش ثاكور لياليه وعطلات نهاية الأسبوع ، يمكن أن يطلبوا ، في المستقبل القريب ، وجبات الطعام وتطبيقات الهواتف المحمولة المهندسة بالكامل تقريبًا. وكشف وكلاءه ، رغم أنه قادرون بشكل مدهش ، على أسئلة قانونية جديدة تنتظر الشركات التي تحاول الاستفادة من تقنية وادي السيليكون الأكثر سخونة.

الوكلاء هم برامج منظمة العفو الدولية التي يمكن أن تتصرف بشكل مستقل في الغالب ، مما يسمح للشركات بأتمتة المهام مثل الإجابة على أسئلة العملاء أو دفع الفواتير. في حين أن ChatGPT و chatbots المماثلة يمكنهم صياغة رسائل البريد الإلكتروني أو تحليل الفواتير عند الطلب ، فإن Microsoft وغيرهم من عمالقة التكنولوجيا تتوقع أن يتعامل الوكلاء مع وظائف أكثر تعقيدًا – والأهم من ذلك ، يفعلون ذلك مع القليل من الإشراف على الإنسان.

تشمل أكثر الخطط الطموحة لصناعة التكنولوجيا أنظمة متعددة الوكلاء ، حيث يتعاون العشرات من الوكلاء يومًا ما لاستبدال القوى العاملة بأكملها. بالنسبة للشركات ، فإن الفائدة واضحة: الادخار في الوقت المحدد وتكاليف العمالة. بالفعل ، يزداد الطلب على التكنولوجيا. يقدر باحث سوق التكنولوجيا Gartner أن Agency AI ستحل 80 في المائة من استفسارات خدمة العملاء المشتركة بحلول عام 2029. Fiverr ، وهي خدمة يمكن للشركات حجزها المبرمجين المستقلين ، تقارير تُبحث عن “الوكيل” قد ارتفعت بنسبة 18،347 في المائة في الأشهر الأخيرة.

أراد ثاكور ، المبرمج الذي يدرس ذاتياً في كاليفورنيا ، أن يكون في طليعة الحقل الناشئ. وظيفته اليومية في Microsoft لا تتعلق بالوكلاء ، لكنه كان يربط مع Autogen ، برنامج المصدر المفتوح من Microsoft لوكلاء البناء ، لأنه كان يعمل في Amazon مرة أخرى في عام 2024. يقول Thakur إنه طور نماذج أولية متعددة الوكلاء باستخدام Autogen مع اندفاعة فقط من البرمجة. في الأسبوع الماضي ، طرحت Amazon أداة لتطوير الوكيل مماثلة تسمى Strands ؛ تقدم Google ما تسميه مجموعة تطوير الوكيل.

نظرًا لأن الوكلاء يهدفون إلى التصرف بشكل مستقل ، فإن مسألة من يتحمل المسؤولية عندما تسبب أخطائهم أضرارًا مالية أكبر مصدر قلق Thakur. يعتقد أن تعيين اللوم عندما يخطئ الوكلاء من الشركات المختلفة في نظام واحد ، قد يصبح مثيرًا للجدل. وقارن التحدي المتمثل في مراجعة سجلات الأخطاء من مختلف الوكلاء لإعادة بناء محادثة بناءً على ملاحظات الأشخاص المختلفين. يقول ثاكور: “من المستحيل في كثير من الأحيان تحديد المسؤولية”.

وقال جوزيف إطفاء رجل الإطفاء ، كبير المستشارين القانونيين في Openai ، على خشبة المسرح في مؤتمر قانوني حديث استضافته مركز موارد قانون الإعلام في سان فرانسيسكو أن الأطراف المتضررة تميل إلى متابعة أعمق جيوب. هذا يعني أن الشركات مثل إرادةه تحتاج إلى أن تكون مستعدة لتحمل بعض المسؤولية عندما يتسبب الوكلاء في الأذى – حتى عندما يكون الطفل يتجول مع الوكيل قد يكون مسؤولاً. (إذا كان هذا الشخص على خطأ ، فمن المحتمل ألا يكونوا من الأموال المستهدفة جديرة بالاهتمام ، فالتفكير. الكمبيوتر ، قال رجل الإطفاء.

حلقات البصل

شملت تجارب Thakur’s ™ ™ التي تربطه بالعوامل في الأنظمة التي تتطلب أقل قدر ممكن من التدخل البشري. كان أحد المشاريع التي اتبعها استبدال زملائه من مطوري البرمجيات مع اثنين من الوكلاء. تم تدريب أحدهم على البحث عن أدوات متخصصة اللازمة لصنع التطبيقات ، والآخر لخص سياسات الاستخدام الخاصة بهم. في المستقبل ، يمكن للوكيل الثالث استخدام الأدوات المحددة واتباع السياسات الملخصة لتطوير تطبيق جديد تمامًا ، كما يقول ثاكور.

عندما وضع ثاكور نموذجه الأولي على الاختبار ، وجد وكيل بحث أداة ، وفقًا لموقع الويب ، “يدعو” طلبات غير محدودة في الدقيقة لمستخدمي المؤسسة “(بمعنى أن العملاء الذين يرتدون أجرًا كبيرًا يمكنهم الاعتماد عليه بقدر ما يريدون. تأهل كمستخدم للمؤسسة ، أنه يمكنه كتابة برنامج قدم طلبات غير محدودة للخدمة الخارجية. لأن هذا كان اختبارًا ، لم يكن هناك أي ضرر. إذا حدث ذلك في الحياة الحقيقية ، فقد يكون التوجيه المقطوع قد أدى إلى انهيار النظام بأكمله بشكل غير متوقع.