ثغرة خطيرة في ChatGPT وسلسلة من مساعدي الذكاء الاصطناعي: يتعرض المستخدمون للاحتيال ويتم تسريب المعلومات...

كشفت شركة الأمن السيبراني الإسرائيلية Zenity للتو عن أول ثغرة "Zero Click" التي تم اكتشافها في خدمة ChatGPT من OpenAI.

لا يتطلب هذا النوع من الهجوم من المستخدمين القيام بأي إجراء مثل النقر فوق رابط أو فتح ملف أو الانخراط في أي تفاعل مقصود، ولكن لا يزال بإمكانه الوصول إلى الحسابات وتسريب البيانات الحساسة.

أظهر ميخائيل بيرجوري، المؤسس المشارك والمدير التقني لشركة Zenity، بنفسه كيف يمكن لمخترق، باستخدام عنوان البريد الإلكتروني للمستخدم فقط، أن يتولى السيطرة الكاملة على المحادثات - بما في ذلك المحتوى الماضي والمستقبلي، وتغيير غرض المحادثة، وحتى التلاعب بـ ChatGPT ليعمل لصالح المخترق.

في عرضهم التقديمي، أظهر الباحثون أن برنامج ChatGPT المُخترق يُمكن أن يتحول إلى "جهة خبيثة" تعمل سرًا ضد المستخدمين. يُمكن للمُخترقين جعل ChatGPT يقترح على المستخدمين تنزيل برامج مُصابة بالفيروسات، أو تقديم نصائح تجارية مُضللة، أو الوصول إلى الملفات المُخزنة على Google Drive إذا كان حساب المستخدم مُتصلًا. كل هذا يحدث دون علم المستخدم.

لم يتم إصلاح الثغرة الأمنية بشكل كامل إلا بعد أن أبلغت Zenity شركة OpenAI.

بالإضافة إلى ChatGPT، استعرضت Zenity أيضًا هجمات مماثلة ضد منصات مساعدة ذكاء اصطناعي شائعة أخرى. في Copilot Studio من Microsoft، اكتشف الباحثون طريقة لتسريب قواعد بيانات CRM كاملة.

بالنسبة لشركة Salesforce Einstein، يمكن للمتسللين إنشاء طلبات خدمة مزيفة لإعادة توجيه جميع اتصالات العملاء إلى عناوين البريد الإلكتروني الخاضعة لسيطرتهم.

كما تم تحويل Google Gemini وMicrosoft 365 Copilot إلى "جهات فاعلة معادية"، حيث نفذوا هجمات التصيد الاحتيالي وتسريب المعلومات الحساسة من خلال رسائل البريد الإلكتروني وأحداث التقويم.

في مثال آخر، تم استغلال أداة تطوير البرامج Cursor عند دمجها مع Jira MCP أيضًا لسرقة بيانات اعتماد المطور من خلال "تذاكر" مزيفة.

ذكرت زينيتي أن بعض الشركات، مثل OpenAI ومايكروسوفت، سارعت إلى إصدار تصحيحات بعد تنبيهها. في المقابل، رفضت شركات أخرى معالجة المشكلة، مُدّعيةً أن هذا السلوك "ميزة تصميمية" وليس ثغرة أمنية.

التحدي الأكبر الآن، وفقًا لميخائيل بيرغوري، هو أن مساعدي الذكاء الاصطناعي لا يقومون بمهام بسيطة فحسب، بل يتحولون إلى "كيانات رقمية" تمثل المستخدمين، قادرة على فتح المجلدات وإرسال الملفات والوصول إلى رسائل البريد الإلكتروني. وحذّر من أن هذا يُمثل "جنة" للمخترقين، مع وجود العديد من نقاط الاستغلال.

أكد بن كاليجر، المؤسس المشارك والرئيس التنفيذي لشركة زينيتي، أن أبحاث الشركة تُظهر أن أساليب الأمان الحالية لم تعد مناسبة لطريقة عمل مساعدي الذكاء الاصطناعي. ودعا المؤسسات إلى تغيير نهجها والاستثمار في حلول متخصصة للتحكم في أنشطة هؤلاء "الوكلاء" ومراقبتها.