印第安纳大学获 118 万美元资助,研究科研用开源 AI 工具的安全风险
项目将识别常用模型及漏洞,开发风险评估和修补工具,并在 Jetstream2 科研云测试。
印第安纳大学于 2026 年 9 月 22 日报道,数据科学与人工智能实验室获得美国国家科学基金会 118 万美元资助,研究科学研究中开源 AI 软件的安全性。项目由凯利商学院教师、实验室主任 Sagar Samtani 牵头,9 月 18 日举行启动会议。
研究团队包括凯利商学院、Luddy 信息计算与工程学院、大学信息技术服务部门、奥本大学及校内安全运营中心人员,两名印第安纳大学博士生担任研究助理。研究涉及数据泄露、知识产权保护、模型后门及恶意提示注入等问题。
团队将先识别科研人员常用的开源模型并评估漏洞,再开发 AI 辅助工具,帮助用户评估风险、选择更安全的替代方案及生成安全补丁。工具计划与印第安纳大学管理的 Jetstream2 科研云合作测试。该报道为科研立项消息,未发布面向公众的课程招生或博士助理招聘窗口。
新闻原文与来源
As AI transforms science and research, IU cybersecurity experts protect against hidden risks
- Indiana University News / Kevin Fryling · 官网原文 ↗https://news.iu.edu/live/news/53166-as-ai-transforms-science-and-research-iu