حذّر حسن النون، خبير برنامج خبراء الإمارات في قطاع التكنولوجيا والابتكار، من مخاطر تسرب البيانات الحساسة مع التوسع السريع في استخدام أدوات الذكاء الاصطناعي داخل المؤسسات، خصوصاً عندما يلجأ الموظفون إلى منصات عامة أو أدوات غير معتمدة لا تخضع لإشراف فرق التقنية والأمن.
وأوضح النون أن استخدام الذكاء الاصطناعي داخل المؤسسات بدأ يتجاوز التجارب المحدودة. فالموظفون يستخدمون المساعدات الذكية، والمطورون يبنون تطبيقات جديدة، وفي غياب إدارة مركزية، قد تفقد المؤسسة رؤيتها حول الأدوات المستخدمة، والبيانات التي تمر عبرها، والصلاحيات الممنوحة لها، والتكاليف المترتبة عليها.
وقال: «قد يستخدم الموظف أداة ذكاء اصطناعي لإنجاز مهمة بسيطة، لكنه يشارك خلالها تقريراً داخلياً أو بيانات عميل أو معلومات مالية أو صحية حساسة. المشكلة هنا أن المؤسسة قد لا تعرف أين انتقلت هذه البيانات، وكيف عولجت، وما إذا كان بالإمكان تتبعها لاحقاً».
ومن هذا التحدي انطلقت فكرة «غشاء»، الشركة الإماراتية الناشئة، التي أسسها ويترأسها حسن النون، لبناء طبقة آمنة ومنظمة حول استخدام الذكاء الاصطناعي داخل المؤسسات. ويحمل الاسم دلالة مباشرة؛ فالغشاء في اللغة العربية هو طبقة تحيط بالشيء، وهو ما يعكس دور المنصة في حماية بيانات المؤسسة وربط نماذج الذكاء الاصطناعي ومستخدميه وتطبيقاته ووكلائه ضمن بيئة واحدة خاضعة للرقابة.
ويضيف النون: «المؤسسات تريد الاستفادة من الذكاء الاصطناعي والتوسع في استخدامه، لكنها تحتاج في الوقت نفسه إلى معرفة من يستخدمه، وأي النماذج يعتمد، وما البيانات التي يصل إليها، وكم تبلغ تكلفة تشغيله. هذه هي الطبقة التي نبنيها في غشاء».
يقول حسن النون: «تختلف طبيعة المخاطر باختلاف القطاع. ففي الجهات الحكومية، قد تتعلق البيانات بمعلومات المواطنين أو الوثائق الداخلية. وفي البنوك، تشمل بيانات العملاء والحسابات والمعاملات المالية. أما في القطاع الصحي، فقد تمتد إلى السجلات الطبية، بينما تصبح المسألة أكثر حساسية في قطاعات الطاقة والنقل والاتصالات عندما يبدأ وكيل ذكي بالتفاعل مع أنظمة تشغيلية حيوية».
وتعالج منصة «غشاء» هذه التحديات من خلال مساحة عمل موحدة تتيح للموظفين استخدام النماذج التي تعتمدها المؤسسة، وتمنح فرق الأمن والامتثال القدرة على تحديد الصلاحيات، وتطبيق السياسات، ومراقبة الاستخدام والتكاليف، والاحتفاظ بسجل لكل عملية. كما توفر للمطورين بيئة محمية لبناء التطبيقات الداخلية، وتتيح تشغيل الوكلاء الأذكياء وربطهم بالأنظمة المؤسسية وفق مهام وصلاحيات محددة.
وبدأت «غشاء» كفكرة ضمن منظومة CyberE71، قبل أن تنتقل خلال أقل من ستة أشهر إلى منصة تعمل مع مجموعة متنامية من المؤسسات في المنطقة، وتحصل على أول استثمار استراتيجي من البرنامج.
ويرى النون أن المرحلة المقبلة ستتطلب من المؤسسات التعامل مع الذكاء الاصطناعي باعتباره بنية تشغيلية متكاملة تحتاج إلى قواعد واضحة وإدارة مستمرة، تماماً مثل أي نظام حيوي آخر داخل المؤسسة.