النمذجة الآمنة والتعلم الذكي في مختبر النظم الهندسية

المدير والباحث الرئيسي: خالد مالك، مدير برامج الأمن السيبراني، أستاذ قسم الحوسبة، تكنولوجيا المعلومات والاتصالات

يعد مختبر النمذجة الآمنة والتعلم الذكي في الأنظمة الهندسية (SMILES) مجموعة متعددة التخصصات ذات تفكير تقدمي من أعضاء هيئة التدريس والطلاب الباحثين الذين يتبنون التفكير خارج الصندوق لتطوير حلول متطورة قائمة على الذكاء الاصطناعي لبعض المشاكل الأكثر إلحاحًا من وقتنا. إن البحث الترجمي الذي قدمه فريق SMILES له تأثير يمتد إلى ما هو أبعد من مجتمعنا من خلال حلول قابلة للتسويق في مجال الأمن السيبراني والرعاية الصحية والتي ستفيدنا جميعًا.

لقد حددت الرؤية الجريئة لمختبر SMILES الاحتياجات الملحة وركزت بشكل ثابت على بناء وتحسين أدوات الذكاء الاصطناعي لحلها. لقد نشر مالك وفريقه العديد من المقالات في المجلات والمؤتمرات، وهم يبنون باستمرار على هذا الأساس. ومن خلال العلاقات الغنية مع خبراء الصناعة والطب، تمكن الفريق من تلبية احتياجات محددة للغاية من خلال الحلول ذات الصلة. 

بالإضافة إلى التأثير الخارجي لأبحاث سمايلز، يكتسب الطلاب الذين يعملون في مشاريع سمايلز ثروة من التجارب الفريدة. إنهم يتعرضون لأحدث أدوات الذكاء الاصطناعي والأمن السيبراني، بينما يتم دعمهم باستمرار لممارسة التفكير الذكي والنقدي الذي يفتح الباب للنمو الذي يغير الحياة. ومن خلال الإرشاد المدروس من مالك، يتم تمكين الطلاب من ممارسة المثابرة نحو تحقيق أهداف ملموسة مهمة. ستكون هذه المهارات والعلاقات التي تشكلها مدى الحياة وتهيئهم لعالم يحتاج بشدة إلى أفراد مبدعين يعرفون كيفية سد الفجوة بين البحث والممارسة.


بتمويل من المؤسسة الوطنية للعلوم و ميشيغان للبحوث التحويلية والتسويق

قناع مزيف عميق يشير إلى المبادلة

كاشف التزوير العميق (DFD)


كشف الحقيقة. ابحث عن العدالة

شعار ديماسك

تعد المعلومات المضللة مصدر قلق متزايد للمجتمع ويغذيها سلاح جديد: الوسائط المتعددة المزيفة. لقد قيل لنا طوال حياتنا أن نصدق ما نراه بأعيننا، وللمرة الأولى، لم يعد بإمكاننا أن نثق بهم. لقد خرجت تقنية Deepfakes الناتجة عن الذكاء الاصطناعي من عالم الخيال العلمي، وهي حقيقة مقلقة تتطلب اهتمامنا الفوري.

Deepfake هو في الأساس جزء من الوسائط التي تم التلاعب بها أو إنشاؤها بالكامل بواسطة الذكاء الاصطناعي لتظهر كما لو أنها قطعة أثرية أصلية. ومع التطورات الأخيرة في أدوات الذكاء الاصطناعي التوليدي، نمت القدرات إلى درجة لم يعد بإمكان البشر اكتشاف الفرق فيها دون مساعدة.

تمثل الوسائط المتعددة المزيفة تهديدًا متزايدًا على المسرح العالمي. إن المعلومات الخاطئة ليست تكتيكًا جديدًا، لكن الأدوات اليوم أكثر تقدمًا بكثير. يمكن لفيديو الذكاء الاصطناعي جيد الصنع لزعيم سياسي أو صناعي أن ينشر روايات كاذبة حول السياسة العامة أو سياسة الشركة ويكون له تأثير عام مدمر. تخيل مقطع فيديو انتشر على نطاق واسع حيث هدد أحد رؤساء الدول الأجنبية بهجوم وشيك على الولايات المتحدة ــ ولكن هذا الفيديو لا يمكن تمييزه عن الفيديو الحقيقي.

أصبح استخدام الصوت والفيديو المزيفين في عمليات الاحتيال أمرًا ممكنًا بشكل متزايد. في 4 فبراير 2024، تم خداع موظف مالي في شركة متعددة الجنسيات من خلال مكالمة فيديو Deepfake "المدير المالي" ودفع له المال. 25 مليون دولار للمحتال.

إذا كان من الممكن أن تقع المؤسسات المالية الكبيرة فريسة لهذه الأشياء، ففكر في مدى ضعف المواطن العادي. وفقا ل 2022 المسح من بين 16,000 شخص في ثماني دول، قال 71% من الأشخاص أنهم لا يعرفون حتى ما هو التزييف العميق.

بينما نناقش تهديد التزييف العميق للأمن العالمي والمؤسسات الديمقراطية وعمليات الاحتيال على المستوى الدولي، من المهم ملاحظة أن القطع الصوتية والمرئية التي تم التحقق منها أصبحت الآن هي القاعدة كدليل في نظامنا القضائي. تشكل تقنية Deepfakes تهديدًا كبيرًا لسلامة تلك العملية.

يعد استيفاء معايير الأدلة القضائية مهمة صعبة، خاصة في غياب البيانات الوصفية الأساسية، مثل العلامات المائية الرقمية، أو إذا تمت معالجة الوسائط لاحقًا بهدف مكافحة الطب الشرعي. في أوائل فبراير 2024، أعلنت منصات التواصل الاجتماعي مثل Meta أنها ستتطلب تصنيف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي على هذا النحو، ولكن هذا يندرج ضمن فئة "الأقفال تمنع الصادقين فقط". أولئك الذين يعتزمون استخدام هذه الأدوات المتقدمة للخداع لن يضعوا عليها علامات.

ومع تزايد القدرة على إنشاء مقاطع فيديو مزيفة ومقنعة بشكل كبير، فقد زادت أيضًا حاجتنا إلى التحقق من منتجات الوسائط الرقمية المشروعة. أبعد من ذلك، فإن الأدوات اللازمة للتحقق من مصداقية هذه الوسائط تحتاج إلى تقديم التقييمات بطريقة يسهل الوصول إليها. نظامنا القضائي، على سبيل المثال، مصمم حول "هيئة محلفين من الأقران" الذين ليس لديهم معرفة عميقة بالذكاء الاصطناعي وأنظمة الأمن السيبراني.

ولتلبية هذا الطلب الأساسي، قمنا بتطوير كاشف التزوير العميق. استمر هذا البحث لأكثر من 6 سنوات، مدعومًا بما يقرب من مليون دولار من المنح المقدمة من وكالات مثل مؤسسة العلوم الوطنية وMTRAC. لقد مكننا هذا التمويل من تطوير DFD MVP بالأدوات والمعرفة المناسبة ونحن نعمل على تطويرها بشكل أكبر لتصبح منتجًا يمكن استخدامه من قبل الشركات والأفراد الذين ليس لديهم خلفية كبيرة في الأمن السيبراني.

سيحصل الطلاب الباحثون المرتبطون بهذا المشروع على فرصة تعلم كيفية استخدام التعلم العميق والذكاء الاصطناعي العصبي والذكاء الاصطناعي المتعدد الوسائط لتطوير أدوات لمصادقة الوسائط المتعددة الرقمية. سوف يتعلم الطلاب أيضًا كيفية حماية أجهزة الكشف من الهجمات المضادة للطب الشرعي واكتساب الخبرة في تصميم أجهزة الكشف القائمة على الذكاء الاصطناعي لتكون شفافة وقابلة للتفسير مع مخرجات يمكن الوصول إليها. ستتاح لهم الفرصة للعمل في فرق متعددة التخصصات وحل المشكلات التي تتجاوز ما قد يواجهونه في الفصول الدراسية.

تسعى شراكة NSF للابتكار (NSF-PFI) والمشروع الممول من MTRAC إلى زيادة تحسين تقنية كاشف التزوير العميق (DFD) المبنية على جائزة نسب NSF رقم 1815724: SaTC: CORE: ForensicExaminer: اختبار لقياس خوارزميات الطب الشرعي الصوتي الرقمي ومشروع MTRAC بعنوان "جهاز كشف التزوير العميق". يكتشف DFD عمليات التزوير الصوتية والمرئية، بما في ذلك أنواع مختلفة من Deepfakes، التي يتم استخدامها في معالجة الوسائط المتعددة الرقمية، ولكن أنواعًا جديدة تظهر باستمرار. ستساعد التحسينات التي تم إدخالها على DFD MVP في جعله أكثر قوة ضد مكافحة الطب الشرعي، كما ستجعله أكثر سهولة وقابلية للتفسير.

للحصول على التفاصيل ، راجع:


بتمويل من مؤسسة تمدد الأوعية الدموية في الدماغ

تعد الحوادث الدماغية الوعائية، أو السكتة الدماغية، السبب الرئيسي للإعاقة في جميع أنحاء العالم والسبب الرئيسي الثاني للوفاة. بالإضافة إلى ذلك، السكتة الدماغية هي السبب الرئيسي الخامس للوفاة لجميع الأميركيين والسبب الرئيسي للإعاقة الخطيرة على المدى الطويل. يصاب سنويا 15 مليون شخص بالسكتة الدماغية في جميع أنحاء العالم، يموت منهم 5 ملايين ويصاب 5 ملايين آخرين بإعاقة دائمة.

ومن أجل منع هذه الوفيات والإعاقات، يجب أن يكون أطباء الأعصاب وجراحو الأعصاب قادرين على تشخيص الأسباب الجذرية مبكرًا وتحسين إدارتها السريرية. كما يحتاجون أيضًا إلى تحديد المخاطر الإجمالية للفرد عبر اعتبارات معقدة متعددة، بما في ذلك تمدد الأوعية الدموية الدماغية، والتشوهات الشريانية الوريدية (AVM)، ومرض الانسداد الدماغي (COD).

تعتبر الإدارة السريرية للأمراض المسببة للسكتة الدماغية معقدة للغاية. لتوضيح مدى التعقيد، خذ عامل تمدد الأوعية الدموية داخل الجمجمة غير المتمزق في حد ذاته. إن علاجها هو عملية صنع قرار معقدة لأن خطر التمزق لا يتم تحديده فقط بحجم تمدد الأوعية الدموية. الموقع/الشريان له أهمية كبيرة؛ قد تتمزق تمددات الأوعية الدموية الصغيرة في شرايين معينة، بينما قد لا تتمزق الأوعية الدموية الكبيرة في شرايين أخرى.

وبعيدًا عن الحالة المعزولة لتمدد الأوعية الدموية نفسها، فإن درجات مختلفة من التشوهات الشريانية الوريدية وتراكم اللويحات داخل الشرايين السباتية يمكن أن تضيف عوامل خطر أخرى إلى خطر الإصابة بالسكتة الدماغية بشكل عام. تقييماتنا الحالية ليست كافية لمواجهة هذا التعقيد.

وكثيراً ما يؤدي الافتقار إلى البيانات الصحيحة إلى عملية صنع القرار التي يمكن وصفها على نحو ملائم بأنها "آمنة أفضل من الأسف". ومن المؤكد أن التدخل الجراحي هو وسيلة ناجحة للقضاء على خطر الإصابة بالسكتة الدماغية. ومع ذلك، فإن هذه العمليات الجراحية جائرة وقد تؤدي إلى مضاعفات علاجية شديدة أو عجز عصبي، لذا فإن علاج جميع تمدد الأوعية الدموية/التشوهات الشريانية الوريدية/مرض الشريان التاجي لا يستحق دائمًا هذه المخاطرة.

من ناحية أخرى، فإن التدخل المتأخر عند الجمع بين العوامل يزيد من خطر الإصابة بالسكتة الدماغية، ويمكن أن تكون النتيجة الوفاة أو الإعاقة الدائمة. عندما يكون الخطر الإجمالي مرتفعا، فمن الضروري إجراء العلاج الصحيح على الفور.

بدون توفر درجة خطورة/شدة سريرية يمكن الاعتماد عليها، يجب على جراحي الأعصاب الاعتماد على الاستدلال الذي تم تجميعه من بيانات غير موثوقة وخبراتهم السابقة.

وبين هذين النقيضين هناك العديد من الحالات التي يتطلب فيها الخطر المراقبة مع مرور الوقت، وليس اتخاذ إجراء. يواجه الأطباء صعوبة في اتخاذ قرار بشأن متى يجب العلاج ومتى يجب المراقبة، وفي كل عام يتم إجراء الآلاف من الإجراءات غير الضرورية لأنها ليست كذلك. بالتأكيد. إن تحديد مخاطر السكتة الدماغية بشكل عام بناءً على مجموعة من عوامل الخطر لدى مرضى مماثلين يمكن أن يساعد في جعل هذا القرار الحاسم أسهل بكثير لجراحي الأعصاب.

وهذا يعني أن الأداة يجب أن تكون أداة موثوقة يمكن للأطباء استخدامها لشرح الحالة الفردية. يتخيل المريض والأسرة أسوأ النتائج. إنهم قلقون بشأن السكتة الدماغية المدمرة والعبء المالي للعلاج. إن القدرة على التوضيح بوضوح لماذا الخيار الأفضل هو الانتظار والمراقبة سيكون بمثابة فائدة رائعة لتلك العائلات.

ولتلبية هذه الحاجة، قمنا بتطوير أدوات ذات نهج لامركزي وقابل للتفسير يعتمد على الذكاء الاصطناعي. تستخدم هذه الأدوات مجموعة واسعة من التقنيات: الذكاء الاصطناعي متعدد الوسائط في تصوير الأوعية بالطرح الرقمي، وتصوير الأوعية بالرنين المغناطيسي، والتصوير المقطعي المحوسب، وطرائق تصوير الأوعية جنبًا إلى جنب مع النص السريري، والتعلم الموحد، والذكاء الاصطناعي الرمزي العصبي القائم على RAG، وديناميكيات السوائل الحسابية، والذكاء الاصطناعي القابل للتفسير متعدد الوسائط. .

في نهاية المطاف، سيقدم هذا المشروع الأدوات التي من شأنها تقليل الوفيات والإعاقات طويلة الأمد، وتحمل التكاليف المرتفعة للمرضى ونظام الرعاية الصحية لدينا، وتخفيف الكثير من الضغط النفسي للمرضى. وسوف يساعد أيضًا في تطوير ومشاركة بيانات أكثر قوة مع باحثين آخرين لتعزيز فهمنا لتمدد الأوعية الدموية في الدماغ في المستقبل.

للحصول على التفاصيل ، راجع: مؤسسة تمدد الأوعية الدموية في الدماغ: تعرف على متلقي المنحة البحثية: خالد مالك، دكتوراه


برعاية شركة نتستار

شعار مختبر سمايلز

رموز عصبية متعددة الوسائط قابلة للتفسير
نماذج Edge AI لتصفية الويب


تعد حلول تصفية الويب عنصرًا حيويًا في الأمن السيبراني. فهي تمنع الوصول إلى مواقع الويب الضارة، وتمنع البرامج الضارة من إصابة أجهزتنا، وتحمي البيانات الحساسة من الخروج من المؤسسات. إنها توفر تجربة آمنة وفعالة وخاضعة للرقابة عبر الإنترنت عبر مختلف القطاعات، وتعالج المخاوف المتعلقة بالأمان والإنتاجية وملاءمة المحتوى. إن الاتجاهات المتزايدة في استخدام الإنترنت لتبادل البيانات والمعرفة تدعو إلى تصنيف ديناميكي لمحتويات الويب، وخاصة على حافة الإنترنت.

تحتاج الشركات اليوم إلى هذه الحلول لتتمتع بقدرات متعددة اللغات وتحمي خصوصية بيانات موظفيها. تتطلب مواجهة هذه التحديات حلاً موثوقًا يمكنه تصنيف عناوين URL بشكل فعال إلى فئات صحيحة.

ولتلبية هذه الاحتياجات، عقدت UM-Flint شراكة مع الشركة اليابانية الرائدة في مجال تصفية عناوين URL، Netstar Inc.، لتطوير حل قائم على التعلم الآلي. يتكون الفريق من العديد من طلاب الدكتوراه وطلاب ما بعد الدكتوراه في مختبر النمذجة الآمنة والتعلم الذكي في الأنظمة الهندسية (SMILES) وموظفي Netstar.

سيتعلم الطلاب المشاركون في هذا المشروع تقنيات متقدمة لمعالجة اللغات الطبيعية، ومعالجة المحتوى متعدد اللغات، وتطوير الرسوم البيانية المعرفية. سوف يكتسبون خبرة في الذكاء الاصطناعي الرمزي العصبي ومتعدد الوسائط الذي يمكن تفسيره ويقدم المنطق. سيكون لديهم أيضًا فرص لاكتساب العديد من المهارات الشخصية المطلوبة للتعاون مع شركة عالمية.


لتطوير أنظمة الذكاء الاصطناعي العصبي الرمزي، من الضروري أن يكون لديك رسوم بيانية معرفية تمثل جميع كيانات المجالات والعلاقات بينها.

كان النمو السريع للرسوم البيانية المعرفية (KG) في السنوات الأخيرة مؤشرا على عودة ظهور هندسة المعرفة. يعد استخدام رياض الأطفال في الأدبيات المنشورة لاستخلاص المعلومات القابلة للاستخدام والتي يمكن أن تستخدمها النماذج الرمزية العصبية والأنظمة القائمة على الخبراء أحد أكثر الأساليب الواعدة لمشكلة استهلاك البيانات؛ كما أنه يوفر المزيد من التوضيحات لتقنيات الذكاء الاصطناعي مثل التعلم الآلي والتعلم العميق

تدرك معظم الشركات اليوم أن البيانات هي أثمن أصولها، ولكنها يمكن أن تأتي في أشكال وأشكال عديدة مختلفة. إن جعل هذه البيانات قابلة للاستخدام في أدوات التعلم الآلي والذكاء الاصطناعي أمر صعب. حاليًا، يتم إنشاء الرسم البياني المعرفي ومعالجته يدويًا أو شبه آلي إلى حد ما، وبالتالي فهي عملية كثيفة العمالة. في كثير من الحالات، تأخذ هذه العملية اليدوية الشخص الذي يتمتع بمستوى عالٍ من الخبرة بعيدًا عن استثمار ذلك الوقت في المنتج الأساسي أو العمل العلمي الذي يمكنه القيام به.

يمكن للمعالجة الآلية للرسوم البيانية المعرفية من البيانات الضخمة غير المنظمة استخلاص معلومات قابلة للتنفيذ يمكن قراءتها آليًا ويمكن أن تساعد في اكتشاف المعرفة من البيانات الضخمة. للحصول على معلومات قابلة للتنفيذ، من الضروري تحديد المصادر والمعاني والعلاقات بين الكيانات في المجالات المحددة.

علاوة على ذلك، فإن استخلاص المعرفة الموثوقة والمتسقة تلقائيًا، خاصة من المصادر المنظمة وغير المنظمة على نطاق واسع، يمثل تحديًا هائلاً. تم إجراء محاولات قليلة جدًا للإنشاء الآلي للرسوم البيانية للمعرفة الصحية. تلك التي تمت تجربتها حصرت تركيزها على إنشاء ثلاثة توائم من خلال وجود نوع واحد فقط من العلاقات.

لا تأخذ النماذج التقليدية في الاعتبار العلاقات الدلالية والمترابطة والسببية بين مفاهيم المجال في الرسوم البيانية المعرفية. لم تركز أي من الأساليب الحالية على بناء علاقات هرمية بين المفاهيم المستخرجة. بالإضافة إلى ذلك، فإن استخراج المفهوم باستخدام تضمين الكلمات، أو استخراج المعلومات المستندة إلى علم الوجود لا يعطي دقة موثوقة، وهذا يؤثر أيضًا على دقة استخراج العلاقة. وأخيرًا، لم يتم بذل الجهود لتطوير المعرفة التنبؤية التي ينبغي أن تكون قابلة للتفسير لكل من الآلات والبشر لتمكين التفاعلات التكافلية الحقيقية بين الإنسان والآلة.

يحاول هذا المشروع حل التحديات المذكورة أعلاه من خلال اقتراح إنشاء رسم بياني معرفي آلي خاص بالمجال من خلال الاستفادة من البيانات المنظمة وغير المنظمة. يتم تكرار هذه العملية عبر العديد من الصناعات في ال كاشف Deepfake MVP, مساعدة عصبيةAIو تصفية الويب المستندة إلى Netstar AI المشاريع.


شعار مختبر سمايلز

التحقق من سلامة أجهزة الاستشعار في السيارة
باستخدام التوأم الرقمي والذكاء الاصطناعي متعدد الوسائط


يعد تدريب وتوظيف الأمن السيبراني أحد أكثر القضايا إلحاحًا في تنمية القوى العاملة اليوم. العالمية مؤسسة الهندسة والتكنولوجيا أصدرت الأمن السيبراني للسيارات، مراجعة القيادة الفكرية لوجهات نظر المخاطر المتعلقة بالمركبات المتصلة، والتي توضح أن مسارنا نحو المزيد من المركبات المتصلة قد زاد بشكل كبير من الحاجة إلى متخصصين في مجال الأمن السيبراني في صناعة السيارات.

ومع ذلك، فإن ملء هذه الأدوار ينطوي على تحدي: منحنى التعلم. يمكن أن يكون تعليم الأمن السيبراني كما يتم اليوم جافًا ونظريًا بعض الشيء، مما يجعله يبدو أكثر صعوبة مما هو عليه في الواقع، ولكن لا يجب أن يكون الأمر على هذا النحو.

تعمل مجموعتنا البحثية على تطوير أدوات متنوعة مثل "التوائم الرقمية" الافتراضية ونظام الأسئلة والأجوبة المرئي لتدريس المواد المعقدة متعددة التخصصات مثل الأمن السيبراني في السيارات. ستمكن هذه العملية الطلاب من الحصول على تجربة الواقع الافتراضي للطرق المعقدة التي تتفاعل بها أجهزة استشعار إنترنت الأشياء وأنظمة القيادة وشبكات الأنظمة والبرامج داخل وخارج السيارة في مركبة فعلية.

باختصار، باستخدام المنطق الرمزي العصبي والذكاء الاصطناعي والفصول الدراسية المعكوسة، نعمل على إعادة تصميم الفصول الدراسية من الألف إلى الياء، بدءًا بعرض جديد في مجال الأمن السيبراني للسيارات. سيتضمن الفصل تدريبات عملية على التوأم الرقمي لنظام سيارة حقيقي وسيقدم أيضًا مساعدة على مدار الساعة طوال أيام الأسبوع باستخدام برنامج chatbot يعتمد على نموذج لغة كبير مثل chatGPT.