شركة أوبن إي آي بين التحديات القانونية والتهديدات السيبرانية

تتطرق نايلة الصليبي في "النشرة الرقمية" إلى فتح المدعي العام لولاية فلوريدا مواجهة قانونية غير مسبوقة ضد شركة OpenAI ورئيسها التنفيذي سام ألتمان، وسط اتهامات بالإهمال والتضليل ومخاطر محتملة مرتبطة باستخدام ChatGPT.وأيضًا إلى كشف خبراء الأمن السيبراني عن حملة LLMShare التي تستغل روابط مشاركة منصتي " شات جي بي تي"  و "كلود" لخداع المستخدمين وتحميل برمجيات  الخبيثة لسلب البيانات عبر صفحات مزيفة مستضافة على نطاقات موثوقة.

فلوريدا تقاضي OpenAI وسام ألتمان في أول دعوى مدنية من نوعها بأمريكا.. اتهامات تتعلق بسلامة ChatGPT

شهدت ولاية فلوريدا تطورًا لافتًا في ملف تنظيم الذكاء الاصطناعي، بعدما رفع المدعي العام للولاية، جيمس أوثماير، في الأول من يونيو ٢٠٢٦دعوى قضائية مدنية ضد شركة OpenAI ورئيسها التنفيذي سام ألتمان. وتمثل هذه الخطوة سابقة قانونية باعتبارها أول دعوى مدنية تقيمها ولاية أمريكية ضد الشركة المطورة لـ ChatGPT.

استهداف الشركة ورئيسها بشكل مباشر

لا تقتصر الدعوى على ملاحقة OpenAI كشركة، بل تسعى أيضًا إلى تحميل سام ألتمان المسؤولية الشخصية عن الأضرار المزعومة. وتستند الشكوى، التي تتجاوز ۸٠ صفحة، إلى اتهامات تفيد بأنه تجاهل المخاطر المرتبطة بالتقنية رغم موقعه كمؤسس ومدير للشركة. وتتضمن القضية تسع تهم تشمل الإهمال، والممارسات التجارية الخادعة، والمسؤولية عن المنتجات، والإخلال بالنظام العام.

اتهامات تتعلق بالمخاطر وسلامة المستخدمين

يتهم المدعي العام الشركة ببناء نجاحها على ما وصفه بـ"شبكة من الخداع واستغلال المستخدمين" على حساب بياناتهم وأمنهم. وتؤكد الشكوى أن ChatGPT قد يرتبط بمخاطر تشمل الإدمان والتدهور المعرفي والعنف والتحريض على الانتحار، مستندة إلى حوادث وقعت في فلوريدا قيل إن منفذيها تواصلوا مع روبوت الدردشة قبل ارتكاب جرائمهم. في المقابل، تنفي OpenAI مسؤوليتها عن تلك الأفعال، مشددة على أنها طبقت إجراءات حماية، خصوصًا للمراهقين.

انتقادات للإعلانات وآليات التفاعل

كما تتناول الدعوى طريقة الترويج للخدمة، متهمة الشركة بعدم توضيح احتمال وقوع ChatGPT في الأخطاء أو تقديم معلومات مختلقة عند تسويق قدراته للمزارعين والشركات الصغيرة. وتشير الشكوى كذلك إلى ما تعتبره ميلًا لدى الروبوت إلى مجاملة المستخدمين بهدف إبقائهم لفترات أطول على المنصة، بما يدعم تغذية النموذج وتعزيز قيمة الشركة.

تأتي هذه القضية بعد أشهر من فتح تحقيق جنائي من قبل المدعي العام ذاته، لا يزال مستمرًا، فيما تواجه OpenAI ما لا يقل عن ثماني دعاوى قضائية أخرى مرتبطة بحوادث عنف أو إيذاء ذاتي.

ضغوط تنظيمية متزايدة في أوروبا

تأتي هذه التطورات في وقت يفرض فيه قانون الذكاء الاصطناعي الأوروبي التزامات أكثر صرامة على الأنظمة التي تتفاعل مع الأطفال اعتبارًا من أغسطس ٢۰٢٦. كما سبق أن تلقت OpenAI شكاوى أمام اللجنة الوطنية للمعلوماتية والحريات في فرنسا، بينما فرضت السلطات الإيطالية على الشركة غرامة مالية بلغت ۱٥ مليون يورو أواخر عام ٢۰٢٤. وفي مواجهة هذه الضغوط، بدأت الشركة خلال مطلع عام ٢۰٢٦ بنشر نظام لتقدير أعمار المستخدمين بهدف التعرف على القاصرين.

 قراصنة يستغلون روابط مشاركة شات جي بي تي  لتوزيع البرمجيات الخبيثة وسرقة بيانات المستخدمين.

حملة LLMShare،استغلال جديد لمنصات الذكاء الاصطناعي

رصد خبراء الأمن السيبراني في شركة Push Security حملة "" تستغل الميزات الشرعية لمشاركة روابط المحتوى في منصات المحادثة باللغة الطبيعية المدعومة  بالذكاء الاصطناعي، مثل "شات جي بي تي" و "كلود"، بتحويل روابط مشاركة المحادثات الرسمية و أطلقت Push Security  اسم  LLMShare لهذه التقنية  في كيفية  إساءة استخدام المحتوى المشترك عبر منصات نماذج اللغة الكبيرة، و التي تحول ميزة مشاركة الروابط إلى مصيدة تعرض صفحات وهمية تدعي أن الموقع معطل بهدف خداع المستخدمين ودفعهم لتحميل برمجيات خبيثة من نوع infostealer لسرقة البيانات عبر صفحات تستضيفها نطاقات شرعية وموثوقة، ونشر الروابط الخبيثة عبر الإعلانات الموبوءة بالبرمجيات الخبيثةmalvertisingمدعومة في محركات البحث.

النطاقات الموثوقة تتحول إلى بوابة للهجمات الإلكترونية

وفق تقرير خبراء Push Security تشكل المحادثات المشتركة على منصات برامج المحادثة المدعومة بالذكاء الاصطناعي   آلية جديدة لبعثرة البرمجيات الخبيثة عبر حملات تستهدف مستخدمي أنظمة تشغيل ويندوز وmacOS.  حيث ينشئ القراصنة محتوى على منصات مثل "شات جي بي تي" و "كلود"، يبدو أنه يقدم إرشادات تثبيت أو تحديثات للخدمة، ثم يجذبون الزوار إليه عبر نتائج محركات البحث. ونظرًا لأن هذا المحتوى يبرز على نطاقات مثل chatgpt.com أو claude.ai، وهي نطاقات يثق بها المستخدمون وأدوات الأمن بشكل ضمني، فإن الهجوم يتجاوز فحوص موثوقية عنوان URL محدد موقع الموارد المُوحّد (Uniform Resource Locator) قبل أن يصل الضحية إلى الحمولة الخبيثة.

صفحة مزيفة، وليست محادثة مزيفة

استخدم القراصنة ميزة عرض التعليمات البرمجية (code rendering) في برنامج شات جي بي تي " لإنشاء صفحة ويب كاملة التصميم، على شكل chatgpt.com/s/URL، وتظهر كإشعار بانقطاع خدمة "شات جي بي تي" تعرض الصفحة رسالة خطأ: "نحن نواجه حركة مرور عالية الآن. موقعنا غير متوفر مؤقتًا بسبب عدد كبير من المستخدمين. قم بتنزيل تطبيق سطح المكتب للمتابعة"، مع زر تنزيل بارز. الصفحة بأكملها مطورة بلغة HTML وCSS، لم يطور القراصنة موقعا خارجيا مخادعا، بل قاموا بـ"تلقين "شات جي بي تي"  عبر هندسة أوامر دقيقة (Prompt Engineering) صُممت لتقليد إشعار نظام "شات جي بي تي"، تظهر كرسالة خطأ رسمية وكأنها مستضافة على خوادم OpenAI.

عند النقر فوق زر التنزيل، يوجه المستخدم الضحية إلى نطاق  openew[.]app، صفحة تعرض نسخة مطابقة مزيفة لتنزيل تطبيق سطح المكتب الرسمي لـ "شات جي بي تي" ، مع علامة OpenAI التجارية وأزرار تنزيل لنظامي التشغيل تشغيل ويندوز وmacOS ورابط لملحق برنامج  التصفح كروم وقسم لتنزيل الأجهزة المحمولة.

تقنيات التمويه Cloaking تعرقل اكتشاف الهجمات

ولتجنب الاكتشاف، استخدم القراصنة تقنيات التمويه Cloaking فعندما تقوم منصات الفحص التلقائي المتخصصة، بمسح هذا الموقع يظهر الموقع محتوى بريئا، بينما يوجه المستخدم لتحميل ملفات خبيثة. كما يختلف عرض الموقع المزيف اعتمادًا على من يزوره. فعندما فحص باحثو Push security عنوان URL عبر URLScan، اعيد توجيه عملية المسح إلى صفحة مختلفة تمامًا عرض عليها موقع إلكتروني لشركة متخصصة في تقنيات الواقع المعزز والواقع الافتراضي ولا يشكل أي خطر.

ولم تقتصر الحملة على OpenAI؛ بل امتدت لتستغل ميزة "Claude Artifacts» من شركة أنثروبيك لتستضيف هجمات مماثلة.

أخيرا للحماية، ينصح بتجنب الدخول إلى المنصات عبر الإعلانات المحسنة، والاعتماد فقط على المصادر والروابط الرسمية المباشرة.

يمكن الاستماع لـ "بودكاست النشرة الرقمية" على مختلف منصات البودكاست. الرابط للبودكاست على منصة أبل

للتواصل مع نايلة الصليبي عبر صفحة برنامَج"النشرة الرقمية"من مونت كارلو الدولية على لينكد إن وعلى تويتر salibi@  وعلى ماستودون  وبلوسكاي عبر موقع مونت كارلو الدولية مع تحيات نايلة الصليبي