网络安全研究中心

实验室和中心


微笑实验室
导演:哈立德·马利克
这款 工程系统实验室的安全建模和智能学习 是一个由教师和学生研究人员组成的具有前瞻性思维的跨学科团队,他们采用跳出框框的思维来开发尖端艺术以官方情报为基础的解决方案可以解决我们这个时代最紧迫的问题。SMILES 团队提出的转化研究影响深远,不仅局限于我们的社区,还在网络安全和医疗保健领域提供了可销售的解决方案,让我们所有人都能从中受益。
普适个性化智能中心
导演:马鲁万·凯森蒂尼
这款 PPI中心 是一个由多所大学联合成立、以行业为重点的研究中心 由美国国家科学基金会监督。我们的运作遵循 NSF IUCCRC 模型。我们开展的竞争前(即许多公司感兴趣的)和行业应用研究项目由行业成员、我们的大学和 美国国家科学基金会。
当前项目
使用人工智能开发可解释且稳健的伪造多媒体和网络威胁检测器
由国家科学基金会和密歇根转化研究和商业化资助
我们网络安全中心的团队正在应对深度伪造多媒体带来的日益严重的威胁,这种发展损害了我们对数字内容的信任能力。在美国国家科学基金会和密歇根转化研究与商业化中心的资助下,我们的研究工作专注于创造尖端解决方案来检测和打击这种形式的网络威胁。我们研究的核心是深度伪造检测器,这是一种旨在识别视听伪造品(包括复杂的深度伪造品)的工具。经过六年多的广泛研究并获得近 1 万美元的资助,DFD MVP 的开发旨在对抗威胁全球安全、民主制度和人身安全的恶意使用人工智能生成的媒体的行为。
我们的跨学科团队致力于增强 DFD,以抵御反取证措施,并确保其提供透明、可解释且用户友好的评估。这对于各个领域的应用至关重要,包括法律系统,其中对可验证证据的需求至关重要。此外,我们参与该项目为学生提供了利用深度学习和神经符号人工智能等先进人工智能技术的宝贵实践经验。他们还学会应对反取证攻击,为非专家可用的系统的开发做出贡献。该项目是对之前奖项和努力的扩展,旨在完善和加强 DFD 的能力,以保持领先于不断发展的数字伪造技术的能力。通过这样做,我们的目标是为数字内容的完整性和网络安全做出重大贡献。
有关更多详细信息,请参见:
AI模型训练数据捐赠 |道格拉斯·齐特科
风险检测人工智能的有效运作取决于高质量的数据,而高质量的数据通常很难大规模获取。与此同时,人工智能的现代实施通常是在用户不知情或不同意的情况下收集的数据进行训练,这也带来了一系列网络安全问题。该项目旨在实现一种数据捐赠范式,通过该范式,最容易受到网络安全和其他风险影响的最终用户有意识地捐赠个人数据,以 1) 提高个人数据的自主权,2) 提高风险检测人工智能的质量。该项目已从美国国家科学基金会吸引了 600,000 万美元。
软件安全问题带来的隐藏技术债务来源杰弗里·J·亚克利
目前,人们对技术债务如何影响软件安全性知之甚少。技术债务是一个抽象概念,用于描述在软件开发过程中选择权宜之计的解决方案而不是更谨慎或更彻底的问题解决方案所带来的成本。该项目的目的是在理解技术债务和软件安全之间关系背后的基本原理方面取得进展。这些知识将作为开发与安全相关的新类别技术债务和软件质量问题的科学基础,并将在 PI 未来的研究中使用机器学习来预测和解决软件安全和软件质量问题。
分析静态分析在检测安全违规方面的有效性|穆罕默德·维姆·姆考尔
Linting 是使用静态分析工具扫描源代码并检测被认为是不良编程实践的编码模式的过程。除了编译器错误之外,这些模式还可能导致未来的错误和风格异常。鉴于它们的重要性,我们在课堂上引入了 linter,以教育学生检测并可能避免这些代码反模式。然而,人们对这些静态分析工具在多大程度上有助于检测和纠正代码中常见漏洞的贡献却知之甚少。因此,该项目旨在了解流行的静态分析工具被从业者采用的程度。此类分析将有助于了解开发人员通常会检测和纠正哪些类型的漏洞,以及哪些其他类型被忽略或仍未修补。结果将帮助研究更好地提供修复此类漏洞的基本原理,并提醒教育工作者需要提供支持纠正此类漏洞的方法。在这个项目中,学生将学习如何运行静态分析工具,然后学习如何识别流行开源项目中与漏洞相关的问题,然后提取有关其纠正的见解。
非技术性网络攻击和国际网络安全:社会工程案例 |阿迈勒·阿尔霍斯班
该项目的工作包括概述社会工程攻击及其对网络安全(包括国家和国际安全)的影响,以及开发检测技术和主要对策方法。社会工程攻击如何影响国家和国际安全?为什么对付他们这么难?
Netstar, Inc 赞助的基于神经符号人工智能的网页过滤 |哈立德·马利克
网络过滤解决方案是网络安全的重要组成部分。它们阻止对恶意网站的访问,防止恶意软件感染我们的机器,并保护敏感数据不被泄露到组织之外。它们在各个领域提供安全、高效和受控的在线体验,解决与安全、生产力和内容适当性相关的问题。互联网数据和知识共享使用的不断增长趋势要求对网络内容进行动态分类,特别是在互联网边缘。
如今的公司需要这些解决方案具有多语言功能并保护员工的数据隐私。为了应对这些挑战,需要一种可靠的解决方案,能够有效地将 URL 分类到正确的类别中。

为了满足这些需求,密歇根大学弗林特分校与日本领先的 URL 过滤公司 Netstar Inc. 合作开发基于机器学习的解决方案。该团队由工程系统实验室安全建模和智能学习的多名博士生和博士后以及 Netstar 的员工组成。
参与该项目的学生将学习自然语言处理、多语言内容处理和知识图开发的先进技术。他们将获得神经符号和多模式人工智能方面的经验,这些人工智能是可解释的并提供推理。他们还将有机会获得与跨国公司合作所需的许多软技能。
使用数字孪生和多模态人工智能验证车辆传感器的完整性 |哈立德·马利克
培训和招聘网络安全是当今劳动力发展中最紧迫的问题之一。全球 工程及科技学会的 发布了汽车网络安全,这是对联网车辆风险观点的思想领导力审查。这解释了我们对更多互联汽车的发展轨迹极大地增加了汽车行业对网络安全专业人员的需求。
不过,填补这些角色面临着挑战:学习曲线。正如今天所做的那样,网络安全教育可能有点枯燥和理论化,使其看起来比实际情况更难以理解,但事实并非必须如此。

我们的研究小组正在开发各种工具,例如虚拟“数字双胞胎”和视觉问答系统,以教授汽车网络安全等跨学科主题的复杂性。这一过程将使学生能够通过 VR 体验物联网传感器、驾驶系统以及车辆内外的系统和软件网络在物理车辆中交互的复杂方式。
总而言之,利用神经符号逻辑、人工智能和翻转课堂,我们正在从头开始重新设计课程,首先是汽车网络安全方面的新课程。该课程将以真实汽车系统的数字孪生为基础进行动手练习,还将通过基于大型语言模型(如 ChatGPT)的聊天机器人提供全天候协助。
检测 Android 应用程序中的恶意行为 | 哈利尔·比斯金
移动应用程序是每个人日常生活的中心,用户允许它们访问自己的个人数据。因此,开发方法来确定应用程序可以从用户那里检测和收集多少信息,以及该访问是否符合他们对隐私的期望非常重要。人们设计了几种方法来确定应用程序的侵入性,包括分析其描述以及与其编程行为的一致性。大多数现有方法都依赖于静态分析,这在移动过程中并不容易完成。为此,我们的目标是开发机器学习解决方案和人工智能解决方案,根据应用程序的功能(从源代码到描述)来确定应用程序是否具有侵入性,从而允许用户在下载之前做出决定。
将研究与人工智能解决方案结合到模块化和安全的教育网络安全实验室| 哈利尔·比斯金
根据美国劳工统计局的数据,对网络安全专业人员的需求正在激增,预计未来十年就业岗位将增加 35% 以上。与此同时,人工智能、数据科学和机器学习的进步正在重塑行业并带来挑战,尤其是技能不足的人员失业。该项目旨在解决将 AI/DS/ML 融入网络安全教育以满足这些不断变化的需求的迫切需求。我们正在开发一种方法,使教师和研究人员能够将他们的工作转变为实用、安全和互动的教学实验室,从而增强学生对各种网络安全主题的学习。我们的计划旨在将 AI、DS 和 ML 技术融入互动实验室,以有效应对当前的网络安全挑战。