ماذا حدث؟
أثارت تجربة مبكرة مع وكيل Meta الجديد Muse مخاوف حول مقدار الاستقلالية التي ينبغي منحها لوكلاء الذكاء الاصطناعي، بعدما قال صانع المحتوى التقني Matt Robb إن Muse تعامل مع إعلان له على Facebook Marketplace، فاوض مشترٍ على السعر وشاركه عنوان منزله ورتب موعداً للحضور بينما لم يكن Robb يعرف أن الصفقة تمت أصلاً.
بحسب الرسائل التي راجعتها The Guardian، وصل المشتري إلى المبنى في تورونتو بعد أن أخبره Muse بأن البائع موجود وينتظره، بينما كان Robb بعيداً عن المنزل ولم يشارك في المحادثة. وبعد أن طلب Robb من الوكيل التوقف عن مشاركة العنوان، قال إنه اختبره باستخدام عدة أصدقاء وإن العنوان أُرسل إلى خمسة أشخاص إضافيين.
Robb كان قد فعّل Muse لإدارة إعلاناته وأدخل عنواناً كموقع للاستلام، لكن الخلاف يدور حول ما إذا كانت تلك الإعدادات تمنح الوكيل فعلاً الإذن بمشاركة العنوان تلقائياً واتخاذ قرارات نيابة عنه. Meta قالت إنها تنظر في الواقعة، بينما أشار مسؤول في فريق Muse إلى أن تحقيقات سابقة في شكاوى مشابهة وجدت أن الوكيل كان يتبع أذونات منحها المستخدمون، وهو ما يجعل حدود الصلاحيات وطريقة عرضها جزءاً أساسياً من القضية.
ماذا يعني؟
المشكلة ليست مجرد إجابة خاطئة من روبوت محادثة. عندما يتحول النموذج إلى وكيل يستطيع إرسال الرسائل والتفاوض وترتيب لقاءات والوصول إلى بيانات شخصية، يمكن للخطأ أو سوء فهم الإذن أن ينتقل مباشرة من الشاشة إلى العالم الحقيقي. هنا لم تكن النتيجة معلومة غير دقيقة فقط؛ شخص حقيقي توجه إلى منزل مستخدم معتقداً أن هناك اتفاقاً مؤكداً.
الحادثة تكشف أيضاً مشكلة تصميمية أوسع: حتى إذا كان المستخدم قد منح الوكيل صلاحية تقنية، يجب أن يكون واضحاً جداً ما الذي تعنيه تلك الصلاحية وما الإجراءات الحساسة التي تحتاج إلى تأكيد إضافي. الفرق بين «إدارة إعلان» و«إرسال عنوان منزلي لشخص غريب» كبير بالنسبة للمستخدم حتى لو اعتبر النظام الأمرين جزءاً من سير العمل نفسه.
لماذا يهمك؟
وكلاء الذكاء الاصطناعي يصبحون أكثر فائدة عندما يستطيعون العمل دون طلب الإذن في كل خطوة، لكن القيمة نفسها تزيد المخاطر عندما تشمل المهمة المال أو الرسائل الخاصة أو العناوين أو التعامل مع أشخاص حقيقيين. لذلك ستكون كيفية تصميم نقاط التأكيد والصلاحيات إحدى أهم قضايا الجيل القادم من تطبيقات AI.
إذا كنت تستخدم وكيلاً مستقلاً لإدارة البريد أو التسوق أو الحجوزات أو البيع، فمن الأفضل مراجعة ما يستطيع الوصول إليه وما الإجراءات التي يمكنه تنفيذها تلقائياً، وعدم افتراض أن إعطاء إذن لمهمة عامة يعني أن النظام سيطلب موافقتك مجدداً قبل كل خطوة حساسة.