사이버보안 연구센터

연구실 및 센터

스마일스랩
감독: 칼리드 말릭

The 엔지니어링 시스템 연구실의 보안 모델링 및 지능형 학습 최첨단 예술을 개발하기 위해 틀에서 벗어난 사고를 수용하는 미래 지향적인 학제간 교수 및 학생 연구원 그룹입니다.우리 시대의 가장 시급한 문제에 대한 가상 지능 기반 솔루션입니다. SMILES 팀이 진행하는 중개 연구는 우리 모두에게 도움이 될 사이버 보안 및 의료 분야의 시장성 있는 솔루션을 통해 커뮤니티를 넘어 확장되는 영향을 미칩니다.

퍼베이시브 개인화 지능 센터
감독: 마루앙 케센티니

The PPI 센터 여러 대학의 산업 중심 연구 센터입니다. 미국 국립과학재단이 감독합니다. 우리는 다음과 같이 운영합니다. NSF IUCRC 모델. 우리가 진행하고 있는 경쟁 전(즉, 많은 기업의 관심 대상) 및 산업 응용 연구 프로젝트는 업계 구성원, 대학 및 NSF.

현재 프로젝트

인공지능을 활용한 설명 가능하고 강력한 위조 멀티미디어 및 사이버 위협 탐지기 개발
국립 과학 재단과 미시간 중개 연구 및 상업화의 자금 지원

사이버 보안 센터의 우리 팀은 디지털 콘텐츠에 대한 신뢰 능력을 손상시키는 개발인 딥페이크 멀티미디어로 인해 증가하는 위협에 대처하고 있습니다. 국립과학재단(National Science Foundation)과 미시간 중개 연구 및 상업화(Michigan Translational Research and Commercialization)의 자금 지원을 받는 당사의 연구 노력은 이러한 형태의 사이버 위협을 탐지하고 이에 맞서기 위한 최첨단 솔루션을 만드는 데 중점을 두고 있습니다. 우리 연구의 중심은 정교한 딥페이크를 포함한 시청각 위조를 식별하도록 설계된 도구인 Deep Forgery Detector입니다. 1년에 걸친 광범위한 연구와 약 XNUMX만 달러의 보조금 지원을 통해 DFD MVP는 글로벌 보안, 민주주의 제도 및 개인 안전을 위협하는 AI 생성 미디어의 악의적인 사용에 대응하기 위해 개발되었습니다.

우리의 학제간 팀은 안티 포렌식 조치를 견딜 수 있도록 DFD를 강화하고 투명하고 설명 가능하며 사용자 친화적인 평가를 제공하기 위해 노력해 왔습니다. 이는 검증 가능한 증거의 필요성이 가장 중요한 법률 시스템을 포함한 다양한 분야의 적용에 매우 중요합니다. 또한 이 프로젝트에 참여함으로써 학생들은 딥 러닝 및 신경기호 AI와 같은 고급 AI 기술을 활용하는 귀중한 실무 경험을 얻을 수 있습니다. 또한 안티 포렌식 공격에 대처하는 방법을 배워 비전문가도 사용할 수 있는 시스템 개발에 기여합니다. 이 프로젝트는 진화하는 디지털 위조 기술보다 앞서 나갈 수 있도록 DFD의 역량을 개선하고 강화하는 것을 목표로 이전의 수상 및 노력을 확장한 것입니다. 이를 통해 우리는 디지털 콘텐츠의 무결성과 사이버 보안에 크게 기여하는 것을 목표로 합니다.

자세한 내용은 다음을 참조하십시오.

AI 모델 훈련을 위한 데이터 기부 | 더글라스 지트코

위험 감지 AI의 효과적인 기능은 고품질 데이터에 달려 있는데, 이는 대규모로 획득하기 어려운 경우가 많습니다. 동시에 현대적인 AI 구현은 사용자의 인식이나 동의 없이 사용자로부터 수집된 데이터에 대해 훈련되는 경우가 많으며, 이는 자체적인 사이버 보안 문제를 야기합니다. 본 프로젝트는 사이버 보안 및 기타 위험에 가장 취약한 최종 사용자가 1) 개인 데이터에 대한 자율성을 향상하고 2) 위험 탐지 AI의 품질을 향상시키기 위해 의식적으로 개인 데이터를 기부하는 데이터 기부 패러다임을 실현하고자 합니다. 이 프로젝트는 국립과학재단(National Science Foundation)으로부터 600,000달러를 유치했습니다.

소프트웨어 보안 문제로 인한 기술 부채의 숨겨진 소스 | 제프리 J. 야클리

현재 기술 부채가 소프트웨어 보안에 어떤 영향을 미치는지는 잘 알려져 있지 않습니다. 기술 부채는 소프트웨어 개발 중 문제에 대한 보다 신중하거나 철저한 접근 방식보다 편리한 솔루션을 선택하는 데 드는 비용을 설명하는 데 사용되는 추상화입니다. 이 프로젝트의 목적은 기술 부채와 소프트웨어 보안 간의 관계 뒤에 있는 기본 사항을 이해하는 데 진전을 이루는 것입니다. 이 지식은 소프트웨어 보안 및 소프트웨어 품질 문제를 예측하고 해결하기 위해 기계 학습을 사용하는 PI의 향후 연구에 사용될 보안과 관련된 새로운 범주의 기술적 부채 및 소프트웨어 품질 문제 개발을 위한 과학적 기반이 될 것입니다.

보안 위반 탐지에 대한 정적 분석의 효율성 분석 | 모하메드 위엠 음카우어

Linting은 정적 분석 도구를 사용하여 소스 코드를 스캔하고 잘못된 프로그래밍 관행으로 간주되는 코딩 패턴을 감지하는 프로세스입니다. 이러한 패턴은 컴파일러 오류를 넘어서 향후 버그와 문체 이상 현상을 일으킬 수 있습니다. 그 중요성을 고려하여 학생들에게 이러한 코드 안티 패턴을 감지하고 잠재적으로 피하는 방법을 교육하기 위해 교실에 린터가 도입되었습니다. 그러나 이러한 정적 분석 도구가 코드의 일반적인 취약점을 감지하고 수정하는 데 어느 정도 기여하는지에 대해서는 알려진 바가 거의 없습니다. 따라서 이 프로젝트의 목표는 실무자가 널리 사용되는 정적 분석 도구를 어느 정도 채택하고 있는지 이해하는 것입니다. 이러한 분석을 통해 개발자가 일반적으로 감지하고 수정하는 취약점 유형이 무엇인지, 무시되거나 패치가 적용되지 않은 다른 유형은 무엇인지 이해할 수 있습니다. 결과는 이러한 취약점의 수정을 지원하기 위한 수단을 제공해야 할 필요성에 대해 교육자에게 알리는 것과 함께 이러한 취약성을 수정하기 위한 이론적 근거를 더 잘 제공하는 연구에 도움이 될 것입니다. 이 프로젝트에서 학생들은 정적 분석 도구를 실행하는 방법을 배우고, 인기 있는 오픈 소스 프로젝트에서 취약점 관련 문제를 식별한 후 수정에 대한 통찰력을 추출하는 방법을 배웁니다.

비기술적 사이버 공격 및 국제 사이버 보안: 사회 공학 사례 | 아말 알호스반

이 프로젝트의 작업에는 사회 공학 공격에 대한 개요와 국가 및 국제 보안을 포함한 사이버 보안에 대한 영향 제공, 탐지 기술 및 주요 대응 방법 개발이 포함됩니다. 사회 공학 공격은 국가 및 국제 보안에 어떤 영향을 미칩니까? 그리고 그러한 문제에 대처하는 것이 왜 그렇게 어려운가요?

Netstar, Inc가 후원하는 신경 상징적 AI 기반 웹 필터링 | 칼리드 말리크

웹 필터링 솔루션은 사이버 보안의 핵심 구성 요소입니다. 악성 웹 사이트에 대한 액세스를 차단하고, 악성 코드가 우리 시스템을 감염시키는 것을 방지하고, 중요한 데이터가 조직 외부로 유출되지 않도록 보호합니다. 다양한 부문에 걸쳐 안전하고 효율적이며 통제된 온라인 경험을 제공하여 보안, 생산성 및 콘텐츠 적합성과 관련된 문제를 해결합니다. 데이터 및 지식 공유를 위한 인터넷 사용이 증가하는 추세에 따라 특히 인터넷 경계에서 웹 콘텐츠의 동적 분류가 필요합니다.

오늘날 기업에서는 다국어 기능을 갖추고 직원의 데이터 개인 정보를 보호하기 위해 이러한 솔루션이 필요합니다. 이러한 과제를 해결하려면 URL을 올바른 클래스로 효과적으로 분류할 수 있는 안정적인 솔루션이 필요합니다.

이러한 요구 사항을 충족하기 위해 UM-Flint는 일본의 선도적인 URL 필터링 회사인 Netstar Inc.와 제휴하여 기계 학습 기반 솔루션을 개발했습니다. 팀은 엔지니어링 시스템 연구실의 보안 모델링 및 지능형 학습 분야의 여러 박사 및 박사후 과정 학생과 Netstar 직원으로 구성됩니다.

이 프로젝트에 참여하는 학생들은 자연어 처리, 다국어 콘텐츠 처리 및 지식 그래프 개발의 고급 기술을 배우게 됩니다. 그들은 설명 가능하고 추론을 제공하는 신경 기호 및 다중 모드 AI에 대한 경험을 얻게 될 것입니다. 또한 글로벌 기업과의 협업에 필요한 다양한 소프트 스킬을 습득할 수 있는 기회도 갖게 됩니다.

디지털 트윈과 멀티모달 AI를 활용한 차량 센서의 무결성 검증 | 칼리드 말리크

사이버 보안 교육 및 채용은 오늘날 인력 개발에서 가장 시급한 문제 중 하나입니다. 글로벌 공학 및 기술 연구소 커넥티드 차량의 위험 관점에 대한 사고 리더십 검토인 자동차 사이버 보안(Automotive Cyber Security)을 출시했습니다. 이는 더 많은 연결된 차량을 향한 우리의 궤적이 자동차 산업에서 사이버 보안 전문가의 필요성을 크게 증가시켰다는 것을 설명합니다.

하지만 이러한 역할을 수행하는 데에는 학습 곡선이 필요합니다. 오늘날 진행되는 사이버 보안 교육은 다소 건조하고 이론적이어서 실제보다 접근하기 어려운 것처럼 보일 수 있지만 반드시 그럴 필요는 없습니다.

우리 연구 그룹은 자동차의 사이버 보안과 같은 학제간 과목의 복잡성을 가르치기 위해 가상 '디지털 트윈' 및 시각적 질문 답변 시스템과 같은 다양한 도구를 개발하고 있습니다. 이 과정을 통해 학생들은 IoT 센서, 운전 시스템, 차량 안팎의 시스템 및 소프트웨어 네트워크가 실제 차량에서 상호 작용하는 복잡한 방식에 대한 VR 경험을 할 수 있습니다.

요약하자면, 신경 기호 논리, AI 및 거꾸로 교실을 사용하여 자동차 사이버 보안의 새로운 제품을 시작으로 수업을 처음부터 다시 설계하는 작업을 진행하고 있습니다. 이 수업에서는 실제 자동차 시스템의 디지털 트윈에 대한 실습을 제공하고 ChatGPT와 같은 대규모 언어 모델을 기반으로 하는 챗봇을 통해 연중무휴 지원도 제공합니다.

Android 앱의 악의적인 행위 탐지 | 할릴 비긴

모바일 앱은 모든 사람의 일상생활의 중심에 있으며, 사용자는 모바일 앱에 자신의 개인 데이터에 대한 액세스 권한을 부여합니다. 따라서 앱이 사용자로부터 얼마나 많은 것을 감지하고 수집할 수 있는지, 그리고 해당 액세스가 개인 정보 보호에 대한 기대치에 부합하는지 파악하는 방법을 개발하는 것이 중요합니다. 설명 분석 및 프로그래밍된 동작과의 일치성을 포함하여 앱 침입성을 확인하기 위해 여러 가지 방법이 고안되었습니다. 기존 접근 방식의 대부분은 정적 분석에 의존하기 때문에 이동 중에 쉽게 수행할 수 없습니다. 이를 위해 우리는 소스 코드부터 설명까지 앱 기능을 기반으로 앱이 침해적인지 여부를 판단하는 기계 학습 솔루션과 인공 지능 솔루션을 개발하여 사용자가 다운로드하기 전에 결정을 내릴 수 있도록 하는 것을 목표로 합니다.

AI 솔루션을 통해 모듈식의 안전한 교육 사이버 보안 연구실에 대한 연구 통합 | 할릴 비긴

미국 노동부 BLS에 따르면 사이버 보안 전문가에 대한 수요가 급증하고 있으며 향후 35년 동안 일자리가 XNUMX% 이상 증가할 것으로 예상됩니다. 동시에 인공 지능, 데이터 과학, 기계 학습의 발전은 산업을 재편하고 특히 기술이 부족한 사람들을 위한 일자리 대체 문제를 야기하고 있습니다. 이 프로젝트는 이러한 진화하는 요구 사항을 충족하기 위해 AI/DS/ML을 사이버 보안 교육에 통합해야 하는 중요한 요구 사항을 해결하는 것을 목표로 합니다. 우리는 강사와 연구원이 자신의 작업을 실용적이고 안전하며 대화형 교육 랩으로 전환하여 다양한 사이버 보안 주제에 대한 학생 학습을 향상시킬 수 있는 방법론을 개발하고 있습니다. 우리의 이니셔티브는 AI, DS 및 ML 기술을 대화형 랩에 통합하여 현재의 사이버 보안 문제를 효과적으로 해결하는 것을 목표로 합니다.