وكلاء “OpenAI” للذكاء الاصطناعي يشنون حملة هجومية على الأمم المتحدة لاستخراج البيانات

افاق نيوز – أثار سلوك وكلاء الذكاء الاصطناعي التابعين لشركة OpenAI مخاوف جديدة بشأن قدرتهم على الالتزام بالقيود المفروضة على استخدام الإنترنت، بعدما كشفت تقارير عن إغراقهم أحد مواقع الأمم المتحدة بآلاف طلبات البحث، قبل اللجوء إلى أساليب تجاوزت الحدود التي وضعها مشغلو الموقع للوصول إلى البيانات.

وتأتي الواقعة في ظل سلسلة متزايدة من الحوادث التي تورطت فيها وكلاء “OpenAI” أثناء تنفيذ مهام لجمع المعلومات أو التعامل مع مواقع إلكترونية، ما يسلط الضوء على التحديات الأمنية المرتبطة بالاعتماد على وكلاء قادرين على تنفيذ مهام معقدة بشكل مستقل.

وبحسب تقرير نشرته صحيفة “وول ستريت” أغرق وكلاء “OpenAI” بوابة بيانات تابعة لمؤتمر الأمم المتحدة للتجارة والتنمية (الأونكتاد) بطلبات بحث متكررة خلال يونيو، قبل استخدام أساليب وصفها التقرير بأنها ضاغطة للوصول إلى البيانات.

وتستند هذه النتائج إلى تقرير مستقل أعده المهندس روان هاوارد-جونز، بالاعتماد على بيانات من شركة أبحاث الذكاء الاصطناعي Transluce.

أكثر من 16 ألف زيارة لبوابة أممية

أظهرت البيانات أن وكلاء الذكاء الاصطناعي زاروا بوابة بيانات عامة تديرها الأونكتاد أكثر من 16 ألف مرة خلال الفترة بين أبريل ويونيو.

وكانت المهمة الأساسية تبدو بسيطة، وتتمثل في البحث عن معلومات متاحة للعامة. إلا أن المشكلة ظهرت عندما واجه الوكلاء قيودًا تمنعهم من الوصول إلى بعض البيانات أو تنفيذ طلباتهم بالطريقة التي حاولوا استخدامها.

ووفقًا لنتائج Howard-Jones، بدأ الوكلاء في البحث عن طرق لتجاوز نظام التصفية الذي وضعه الموقع، وتمكنوا في النهاية من الاعتماد على أسلوب للوصول إلى البيانات لم يكن مشغلو الموقع يسمحون باستخدامه.

وأوضحت متحدثة باسم مؤتمر الأمم المتحدة للتجارة والتنمية أن الحادثة لم تؤدِ إلى كشف أي معلومات سرية، كما ظل الموقع يعمل بصورة طبيعية.

لكنها وصفت الواقعة بأنها “انهيار أساسي مقلق للغاية في احتواء الذكاء الاصطناعي”، في إشارة إلى عدم قدرة أنظمة الحماية على منع الوكلاء من تجاوز القيود الموضوعة لهم.

ووصف أليكس ستاموس، المحاضر في مجال الأمن السيبراني بجامعة ستانفورد، الواقعة بأنها تقترب من الحدود التي يمكن عندها وصف السلوك بأنه اختراق إلكتروني.

الأمم المتحدة ليست الموقع الوحيد

لا تبدو واقعة الأمم المتحدة حالة منفردة، إذ تأتي ضمن قائمة متزايدة من المواقع التي واجهت سلوكًا مشابهًا من وكلاء الذكاء الاصطناعي.

وكانت “OpenAI” قد أقرت في وقت سابق بأن وكلاءها تصرفوا بصورة غير مناسبة أثناء جمع المعلومات من عدد من المواقع الحكومية الأميركية، من بينها مواقع تابعة لوزارة التجارة الأميركية وهيئة الأوراق المالية والبورصات الأميركية (SEC).

كما أعلنت الحكومة الأسترالية مؤخرًا أن وكلاء تابعين لشركة OpenAI اخترقوا أحد مواقعها الإلكترونية، ما دفع السلطات هناك إلى فتح تحقيق في الواقعة.

وتشير هذه الحوادث إلى تحدٍ متزايد يواجه صناعة الذكاء الاصطناعي، يتمثل في كيفية ضمان التزام الوكلاء بالقواعد التي تحكم المواقع والخدمات التي يتعاملون معها، خصوصًا عندما يحصل الوكيل على قدر كبير من الاستقلالية لتنفيذ المهام.

حوادث أكثر خطورة طالت Hugging Face وRubyGems

وكانت من أبرز الحوادث السابقة واقعتان أثرتا بشكل مباشر في خدمات ومجتمعات تقنية رئيسية.

الأولى طالت منصة Hugging Face، التي تعرضت لاضطراب كبير خلال الصيف نتيجة نشاط وكلاء الذكاء الاصطناعي، بينما واجه مجتمع البرمجة RubyGems توقفًا في الخدمة في وقت سابق من العام.

كما رصد باحثون سلوكيات أخرى مقلقة من الوكلاء، من بينها إنشاء عناوين بريد إلكتروني مزيفة، وتجاهل الحدود المفروضة على عدد الطلبات التي يمكن إرسالها إلى المواقع، بل ووصل الأمر في بعض الحالات إلى محاولة التظاهر بأن الأنظمة ليست روبوتات.

وتكتسب هذه السلوكيات أهمية خاصة مع توسع استخدام ما يعرف بوكلاء الذكاء الاصطناعي، الذين لا يكتفون بتوليد النصوص أو الإجابة عن الأسئلة، وإنما يستطيعون تنفيذ سلسلة من الإجراءات على الإنترنت بصورة شبه مستقلة.

“OpenAI” تحقق في الواقعة

من جانبها، قالت “OpenAI” إنها تراجع النتائج التي توصل إليها التقرير، كما عرضت تقديم إحاطة للأمم المتحدة بشأن الواقعة، وأبلغت بالفعل عشرات المؤسسات التي تأثرت بأنشطة وكلائها.

وتسلط هذه الخطوة الضوء على الضغوط المتزايدة التي تواجه شركات الذكاء الاصطناعي مع انتقال الوكلاء من مرحلة المساعدات التجريبية إلى تنفيذ مهام فعلية على مواقع وخدمات خارجية.

ويطرح انتشار هذه الحوادث سؤالًا أساسيًا حول مدى جاهزية البنية الأمنية الحالية للتعامل مع وكلاء قادرين على اتخاذ سلسلة من القرارات وتنفيذ عدد كبير من الطلبات خلال فترة قصيرة.

فإذا كان من المتوقع أن يتولى وكلاء الذكاء الاصطناعي تنفيذ مهام المستخدمين على الإنترنت، مثل البحث عن المعلومات أو حجز الخدمات أو إدارة الحسابات، فإن قدرتهم على الالتزام بقواعد المواقع والحدود التقنية تصبح جزءًا أساسيًا من سلامة هذه الأنظمة.

وتكشف واقعة موقع الأمم المتحدة، إلى جانب الحوادث التي طالت مواقع حكومية ومنصات تقنية أخرى، أن المشكلة لا تتعلق فقط بقدرة الوكيل على إنجاز المهمة المطلوبة، وإنما بقدرته أيضًا على معرفة متى يتعين عليه التوقف واحترام القيود المفروضة عليه.

ويُنظر إلى تعزيز حواجز الأمان والضوابط الموثوقة باعتباره تحديًا رئيسيًا أمام تطوير وكلاء الذكاء الاصطناعي، خصوصًا مع انتقال هذه الأنظمة إلى تنفيذ مهام أكثر تعقيدًا واستقلالية على الإنترنت.