شادو إيه آي: خطر أمن البيانات الذي لم تعالجه معظم الشركات

عندما يصبح المهندسون ناقل التهديد

في أبريل 2023، اكتشفت سامسونج أن مهندسين في قسم أشباه الموصلات لديها قاموا بلصق كود مصدر مملوك مباشرة في ChatGPT لتصحيح برنامج، ورفعوا ملاحظات اجتماعات داخلية لتلخيصها، وأدخلوا مواصفات رقائق سرية للتحقق من الأخطاء. أصبحت البيانات فورًا جزءًا من خط أنابيب تدريب OpenAI. ردت سامسونج بحظر ChatGPT على أجهزة الشركة - لكن الضرر وقع. ثلاث حوادث منفصلة في شهر واحد كشفت أسرارًا تجارية استغرق تطويرها سنوات ومئات الملايين من الدولارات.

لم يكن هذا هجومًا إلكترونيًا متطورًا. لم تُستخدم أي ثغرات يوم الصفر. لم تُسرق أي بيانات اعتماد. ببساطة، لجأ الموظفون إلى أكثر الأدوات إنتاجية المتاحة لهم - وتلك الأداة صادفت أنها تعيش خارج محيط الأمان المؤسسي.

تعريف شادو إيه آي

شادو إيه آي يشير إلى استخدام الموظفين لأدوات ومنصات وخدمات الذكاء الاصطناعي دون علم أو موافقة أو إشراف فريق تكنولوجيا المعلومات أو الأمن. إنه تطور عصر الذكاء الاصطناعي لـ شادو آي تي - الاستخدام غير المصرح به للبرامج وخدمات السحابة الذي ابتليت به المؤسسات لأكثر من عقد. الفرق هو السرعة والعواقب: شادو آي تي قد يعني استخدام موظف لـ Dropbox بدلاً من SharePoint. شادو إيه آي يعني أن موظفًا يغذي بيانات سرية في نظام بسياسات احتفاظ بالبيانات غير شفافة، واتفاقيات تدريب نموذج طرف ثالث، ولا يوجد أي أثر تدقيق على الإطلاق.

تشمل أدوات شادو إيه آي روبوتات المحادثة LLM الموجهة للمستهلكين (ChatGPT، Claude، Gemini)، ومساعدي البرمجة بالذكاء الاصطناعي (GitHub Copilot المستخدم خارج اتفاقيات المؤسسة، Cursor، Tabnine على حسابات شخصية)، ومدوني الملاحظات والملخصين بالذكاء الاصطناعي (Otter.ai، Fireflies.ai)، ومولدات الصور، وإضافات المتصفح ذات الميزات المضمنة للذكاء الاصطناعي. العديد من هذه الأدوات مجانية أو رخيصة، وقادرة جدًا، ولا تتطلب سوى عنوان بريد إلكتروني للوصول إليها.

حجم المشكلة

البيانات حول تبني شادو إيه آي مذهلة. وجد تحليل Cyberhaven لعام 2023 لتدفقات البيانات من 1.6 مليون عامل أن 11% من البيانات التي يلصقها الموظفون في ChatGPT مصنفة على أنها سرية. في أسبوع واحد، تتبع Cyberhaven 4.2% من العاملين في شركات العملاء وهم يدخلون بيانات مؤسسية في ChatGPT - وكانت غالبية هذا النشاط يحدث على حسابات شخصية خارج أي اتفاقية مؤسسية. وجد استطلاع Salesforce أن 55% من الموظفين يستخدمون أدوات ذكاء اصطناعي غير معتمدة من قبل أرباب عملهم، ومن بين هؤلاء، قال 40% إنهم لا يخبرون مديريهم أبدًا. وجد بحث IBM لعام 2024 أن 96% من المديرين التنفيذيين حددوا الذكاء الاصطناعي كأولوية حاسمة، ومع ذلك أقل من الثلث نشروا سياسات رسمية لحوكمة الذكاء الاصطناعي. الفجوة بين التبني والحوكمة هي الأوسع تحديدًا حيث يكون الخطر الأعلى: في المؤسسات التي تتعامل مع بيانات حساسة ومنظمة.

ما هي البيانات التي تتسرب بالفعل

حوادث شادو إيه آي لا تقتصر على الكود المصدري. وثق باحثو الأمن وبائعو DLP الفئات التالية من البيانات التي يتم إدخالها في أدوات الذكاء الاصطناعي غير المصرح بها:

الكود المصدري والملكية الفكرية: يلصق المطورون خوارزميات مملوكة، وكود منتج غير منشور، وتفاصيل بنية النظام للحصول على مساعدة في التصحيح أو مراجعات الكود.
معلومات التعريف الشخصية للعملاء (PII): يلصق موظفو المبيعات والدعم أسماء العملاء وعناوين البريد الإلكتروني وأرقام الهواتف وتفاصيل الحسابات في أدوات الذكاء الاصطناعي لصياغة رسائل البريد الإلكتروني أو تلخيص سجلات الحالات.
التوقعات المالية وبيانات الاندماج والاستحواذ: تستخدم فرق المالية الذكاء الاصطناعي لتحليل جداول البيانات أو صياغة عروض تقديمية لمجلس الإدارة، مما يؤدي إلى تحميل بيانات الأرباح غير المنشورة وشروط الصفقات.
المستندات القانونية: يستخدم المستشارون القانونيون الداخليون الذكاء الاصطناعي لتلخيص العقود ومستندات التقاضي والإيداعات التنظيمية - غالبًا ما تتضمن اتصالات محمية بامتياز.
سجلات الموارد البشرية: تستخدم فرق الموارد البشرية الذكاء الاصطناعي لصياغة مراجعات الأداء ورسائل الفصل، ولصق بيانات رواتب الموظفين وسجلات التأديب ومعلومات التكييف الطبي.
مستندات الاستراتيجية الداخلية: يستخدم المسؤولون التنفيذيون مساعدي الكتابة بالذكاء الاصطناعي لتحسين مذكرات الاستراتيجية وخرائط طريق المنتج والتحليلات التنافسية قبل الموافقة على إصدارها خارجيًا.

لماذا يتجاهل الموظفون القواعد

إلقاء اللوم على الموظفين يخطئ الهدف. الفارق في الإنتاجية بين أدوات المؤسسة المعتمدة والذكاء الاصطناعي الاستهلاكي غالبًا ما يكون هائلاً. الموظف الذي يستخدم GPT-4o للمهام المعقدة في التفكير أو Claude لتحليل المستندات الطويلة قد يكون أكثر إنتاجية بمقدار 2-3 مرات من زميل مقيد بأداة مؤسسية أساسية مع تأخير شراء لمدة ستة أشهر. عندما تستغرق الشركات 18 شهرًا للموافقة على أداة ذكاء اصطناعي، يتخذ الموظفون قراراتهم بأنفسهم. تصبح قائمة الأدوات المعتمدة غير ذات صلة بمجرد أن تتوقف عن مطابقة ما يعمل بالفعل.

هناك أيضًا تأثير التطبيع. عندما يرى الموظف مديره يستخدم ChatGPT في مكالمة عمل، أو عندما تشير مدونة الشركة إلى محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي، فإن الإشارة الضمنية هي أن استخدام أداة الذكاء الاصطناعي مقبول. بدون سياسات واضحة وتنفيذ متسق، سيعقلن معظم الموظفين أن ما يفعلونه جيد - لأنه ليس لديهم طريقة لمعرفة خلاف ذلك.

نواقل التهديد الأربعة

يخلق شادو إيه آي أربعة نواقل تهديد أمنية متميزة لا تستطيع أدوات DLP التقليدية وأمن نقاط النهاية معالجتها بشكل جيد:

استيعاب بيانات التدريب: العديد من منصات الذكاء الاصطناعي الاستهلاكية، خاصة تلك التي تعمل بموجب شروط خدمة الطبقة المجانية، تحتفظ صراحةً بالحق في استخدام مدخلات المستخدم لتدريب أو تحسين نماذجها. البيانات التي يتم إدخالها اليوم قد تؤثر على مخرجات النموذج لآلاف المستخدمين المستقبليين - بما في ذلك المنافسين.
تخزين بيانات الطرف الثالث: حتى المنصات التي لا تتدرب على بيانات المستخدم لا تزال تخزن سجلات المحادثة على خوادم خارج سيطرة المؤسسة. تخضع هذه السجلات لوضع الأمان الخاص بالبائع، وتاريخ الاختراق، والولاية القضائية القانونية.
هجمات حقن المطالبات: يمكن للجهات الخبيثة تضمين تعليمات في المستندات أو صفحات الويب التي، عند تلخيصها بواسطة أداة ذكاء اصطناعي، تتسبب في تسريب الأداة للبيانات أو تغيير السلوك أو إنشاء مخرجات مضللة. موظف يستخدم الذكاء الاصطناعي لتلخيص بريد إلكتروني تصيدي قد يؤدي إلى حقن مطالبة يتسبب في إرسال الذكاء الاصطناعي لسياق حساس إلى نقطة نهاية يتحكم فيها المهاجم.
حفظ النموذج: أظهرت الأبحاث أن LLMs يمكنها حفظ وإعادة إنتاج نص حرفي من بيانات التدريب الخاصة بها، بما في ذلك المعلومات الحساسة. البيانات التي يتم إدخالها في نموذج يتدرب على مدخلات المستخدم قد تكون قابلة للاسترداد عن طريق المطالبات العدائية في المستقبل.

التعرض التنظيمي ملموس وليس نظريًا

شادو إيه آي ليس مجرد خطر أمني - إنه مسؤولية امتثال ذات أسنان تنظيمية محددة. بموجب GDPR، يشكل نقل البيانات الشخصية للمقيمين في الاتحاد الأوروبي إلى بائع ذكاء اصطناعي أمريكي دون حماية تعاقدية كافية (الشروط التعاقدية القياسية أو القواعد المؤسسية الملزمة) نقل بيانات غير قانوني. تصل الغرامات إلى 4% من إجمالي المبيعات السنوية العالمية. بموجب HIPAA، لصق معلومات صحة المريض في أداة ذكاء اصطناعي غير مغطاة باتفاقية شريك تجاري هو انتهاك مباشر لـ HIPAA - الكيان المشمول، وليس بائع الذكاء الاصطناعي، يتحمل المسؤولية. يسأل مدققو SOC 2 بشكل متزايد عن حوكمة أدوات الذكاء الاصطناعي كجزء من معايير خدمة الثقة للتوفر والسرية. أضاف ISO 27001:2022 صراحةً ضوابط حول علاقات الموردين وخدمات السحابة التي تمتد إلى تقييمات بائعي الذكاء الاصطناعي. يضيف قانون الذكاء الاصطناعي للاتحاد الأوروبي، الذي دخل حيز التنفيذ الآن، متطلبات إضافية حول توثيق أنظمة الذكاء الاصطناعي عالية المخاطر والإشراف البشري الذي لا يمكن للنشر الخفي تلبيته بحكم التعريف.

ما يجب على فرق الأمن فعله الآن

لقد ثبت أن حظر الذكاء الاصطناعي بشكل صريح غير فعال - دفع حظر سامسونج الاستخدام إلى الخفاء بدلاً من القضاء عليه. تتطلب حوكمة شادو إيه آي الفعالة مزيجًا من الضوابط التقنية والبدائل المعتمدة والتغيير السلوكي:

نشر DLP مدرك للذكاء الاصطناعي: يمكن لحلول DLP من الجيل التالي من بائعين بما في ذلك Nightfall وCyberhaven وMicrosoft Purview الآن اكتشاف تدفقات البيانات المحددة إلى نقاط نهاية الذكاء الاصطناعي. قم بتكوين السياسات للتنبيه أو منع تحميل الكود المصدري وPII والبيانات المالية إلى خدمات الذكاء الاصطناعي غير المعتمدة.
تنفيذ ضوابط SSE/CASB: توفر منصات Security Service Edge من Netskope وPalo Alto Prisma Access وZscaler رؤية لاستخدام تطبيقات السحابة ويمكنها فرض سياسات دقيقة على الوصول إلى أدوات الذكاء الاصطناعي - حظر ChatGPT الاستهلاكي مع السماح باتفاقية OpenAI مؤسسية، على سبيل المثال.
نشر منصات ذكاء اصطناعي مؤسسية مع ضمانات إقامة البيانات: يقدم كل من Microsoft 365 Copilot وGoogle Workspace Duet AI وAWS Bedrock اتفاقيات مؤسسية مع عزل بيانات صريح، وعدم التدريب على بيانات العملاء، وتسجيل التدقيق. إن إعطاء الموظفين إمكانية الوصول إلى الذكاء الاصطناعي القادر داخل بيئة محكومة يقلل بشكل مباشر من الدافع للاستخدام الخفي.
إجراء تدريب للموظفين خاص بالذكاء الاصطناعي: يجب أن تتضمن برامج التوعية الأمنية الآن سيناريوهات خاصة بالذكاء الاصطناعي - ما هي البيانات التي لا يمكن إدخالها في أدوات الذكاء الاصطناعي، وكيفية تحديد خدمات الذكاء الاصطناعي غير المصرح بها، وكيفية الإبلاغ عن الحوادث المتعلقة بالذكاء الاصطناعي. التدريب العام على الأمن السيبراني غير كافٍ.
بناء جرد لأصول الذكاء الاصطناعي: قبل أن تتمكن من حوكمة استخدام الذكاء الاصطناعي، تحتاج إلى معرفة ما هو قيد الاستخدام. يمكن لأدوات CASB الكشف عن هذا بشكل سلبي؛ يمكن للاستطلاعات النشطة وعمليات تدقيق الذكاء الاصطناعي على مستوى الأقسام أن تكمل الاكتشاف الآلي.

إطار الحوكمة الذي يحتاجه مدراء أمن المعلومات

الضوابط التقنية وحدها غير كافية بدون هيكل حوكمة. يجب على مدراء أمن المعلومات دفع ثلاثة مخرجات حوكمة محددة في الـ 90 يومًا القادمة:

سياسة الاستخدام المقبول للذكاء الاصطناعي: وثيقة سياسة مستقلة - متميزة عن سياسة الاستخدام المقبول العامة لتكنولوجيا المعلومات - تحدد أدوات الذكاء الاصطناعي المعتمدة، وحالات الاستخدام المحظورة (إدخال PII، الكود المصدري، المحتوى المحمي بامتياز المحامي-الموكل)، وقواعد الأجهزة الشخصية، والعواقب التأديبية للانتهاكات. يجب توقيع هذه السياسة والاعتراف بها، وليس مجرد نشرها.
قائمة أدوات الذكاء الاصطناعي المعتمدة: سجل يتم صيانته بانتظام لأدوات الذكاء الاصطناعي المعتمدة للاستخدام المؤسسي، مع إرشادات معالجة البيانات المرتبطة بكل منها. يجب أن تميز القائمة بين الأدوات المعتمدة للاستخدام العام، والأدوات المعتمدة فقط للبيانات غير الحساسة، والأدوات المحظورة صراحةً.
دمج تصنيف البيانات: لا يمكن لحوكمة الذكاء الاصطناعي أن تعمل بدون تصنيف البيانات. إذا كان الموظفون لا يعرفون ما هي البيانات السرية، فلا يمكنهم اتخاذ قرارات جيدة حول ما يجب إدخاله في أدوات الذكاء الاصطناعي. ادمج قيود استخدام الذكاء الاصطناعي مباشرة في التدريب على تصنيف البيانات وسياسات DLP القائمة على التصنيف.

إجراءات فورية لمدراء أمن المعلومات

وقع حادث سامسونج في عام 2023. لقد أصبحت الأدوات منذ ذلك الحين أكثر قدرة، وأكثر سهولة في الوصول، وأكثر اندماجًا في سير عمل الموظفين. مدراء أمن المعلومات الذين لم يتصرفوا بعد بشأن شادو إيه آي يجب أن يعطوا الأولوية لما يلي: قم بتشغيل استعلام CASB أو SSE هذا الأسبوع لتحديد خدمات الذكاء الاصطناعي التي يستخدمها موظفوك بالفعل. قم بجرد تلك القائمة مقابل سجل أدواتك المعتمدة. لكل خدمة غير معتمدة ذات استخدام كبير، حدد ما إذا كان يمكن استبدالها ببديل مؤسسي معتمد - وإذا كان الأمر كذلك، قم بتسريع عملية الشراء تلك. أصدر توجيهًا مؤقتًا يعترف باستخدام أدوات الذكاء الاصطناعي، ويضع توقعات واضحة، ويفتح قناة للموظفين لطلب الموافقات على الأدوات بدلاً من تجاوز العملية. الهدف ليس القضاء على استخدام الذكاء الاصطناعي. الهدف هو ضمان أنه عندما يلجأ الموظفون إلى الذكاء الاصطناعي - وسيفعلون - فإنهم يلجأون إلى أدوات لا تعرض بيانات الشركة لمخاطر غير مقبولة.