近日，2024年度上海市科学技术奖的获奖名单正式揭晓，上海交通大学与蚂蚁集团携手合作的项目《复杂对抗场景下的网络媒体内容安全检测关键技术与应用》荣获科技进步奖一等奖。这一殊荣标志着该项目在内容安全检测领域取得了国际先进水平，特别是AIGC检测等技术更是达到了国际领先。
在此次奖项的核心技术评审中，以中国工程院院士王耀南领衔的专家委员会给予了高度评价。他们认为，该技术整体表现卓越，尤其在复杂对抗场景下，展现出了强大的检测能力和创新性。
在颁奖现场，上海交通大学与蚂蚁集团的代表，蒋兴浩与王维强，共同见证了这一荣耀时刻。随着生成式人工智能和大模型的快速发展，虽然内容生成技术日益智能化，但也带来了诸多挑战，如价值观偏离、意识形态冲突以及道德规范问题等。这些问题对互联网信息的健康传播和网络有害信息的治理构成了严峻挑战。
面对这一挑战，上海交通大学与蚂蚁集团等团队共同研发了一系列关键技术，旨在应对大模型时代复杂对抗场景下的内容安全治理难题。这些技术包括多模理解、AI鉴真、异常推理和多模文档解析等，为内容安全治理提供了新的模式和思路。
上海交通大学副校长蒋兴浩表示，项目组的多家单位研发团队紧密合作，共同探索如何保护人工智能时代的信息内容安全。他们不仅解答了这一难题，还积极引领了生成式人工智能时代的内容安全治理新模式。
该项目在技术创新方面取得了显著成果，解决了传统检测模型泛化难题、异常样本采集挑战、隐晦内容检测以及多变博弈攻击等核心问题。具体而言，他们提出了基于思维链的多模态大模型幻觉缓解技术，研发了可控多模态数据智能生成方法，研制了网络媒体内容安全监测一体化解决方案，并提出了基于对抗与溯源的模型安全防护技术。
这些技术创新不仅显著提升了内容安全领域复杂攻击下的防控效果和效率，还为互联网上有害信息的治理带来了突破性进展。同时，这些技术也为AI技术在更广泛领域的应用提供了强有力的支撑。
据了解，该项目已经获得了41项发明专利、1项国标和1项地标、10项软件著作权以及118篇论文的发表。该项目已经应用于多个平台的内容安全业务防控中，取得了显著的成效。其中，AIGC安全检测等技术已经服务于支付宝的内容相关业务，实现了对不良内容的高效识别与拦截，确保了平台内容的健康与安全。
蚂蚁安全实验室首席科学家王维强表示，在国家网络安全战略的指引下，蚂蚁集团通过产学研合作，研发了包括隐晦推理、AIGC识别等核心技术，构建了互联网信息安全智能治理体系。这一体系不仅为海量创作者提供了安全可信的创作环境，还通过持续迭代的模型能力，筑牢了风险屏障。未来，蚂蚁集团将继续投入安全科技，深耕可信AI技术研发，推动网络安全智能化进程。
举报 0收藏 0打赏 0评论 0分享 0 更多>同类资讯
中国电信栾晓维：云网智融战略引领，赋能百业转型新篇章在主论坛上，中国电信集团有限公司副总经理栾晓维发表题为《云网智融，赋能百业》的主旨演讲，分享了中国电信在基础设施升级、智能云体系建设、AI普惠向善方面的实践成果。 在此次大会上，中国电信发布了人工智能算力优化…08-26
智慧农业云平台：以数据为翼，引领农业精准决策新时代智慧农业云平台能根据土壤实时墒情、未来天气预报和作物需水规律，自动计算出最佳灌溉时间与水量，实现按需供水，节水效率提升可达30%以上。云飞科技近年来在农业物联网与云平台研发方面持续投入，其推出的智能监测设备与…08-26
5G-A至6G跃迁：中国AI大模型引领全球通信新篇章啵特叮咚有限公司在 6G 技术预研上布局量子通信、太赫兹通信和空天地一体化网络架构，其 “通信认知大模型”具备多模态业务识别、网络自愈与优化、能耗动态调节等能力，在多地测试中效果显著。 啵特叮咚有限公司的 …08-26
王国栋院士：人工智能引领钢铁行业转型升级，迈向绿色未来王国栋举例说，铁前系统全面应用炼铁大数据与人工智能，面向“料场、烧结、球团、高炉、能源”等关键环节，建立实时监测与智能感知系统，开发高炉关键参数预测和多目标优化模型，实现全过程精细化调控，实现节能降碳、降本增…08-26
苹果推出RLCF技术：以大模型为导师，强化小模型复杂指令执行能力IT之家注：RLCF 的全称为 Reinforcement Learning from ChecklistFeedback，不同于传统的“人类反馈强化学习”（RLHF）依赖人工点赞 / 点踩，RLCF 为…08-26
钉钉十周年：AI钉钉1.0及首款硬件产品DingTalk A1重磅发布单看概念或许有点抽象，其实不难理解，在发布会现场，无招就用“奏折”来做比喻，AI钉钉就像是用户的专属秘书，将一切与工作相关的信息与任务进行分析和整理，然后根据重要性排序，最终像信息流一样呈现在用户的面前。 …08-26科大讯飞融资净买入超7千万，近三日融资买入额持续高企8月25日，沪深两融数据显示，科大讯飞获融资买入额6.80亿元，居两市第42位，当日融资偿还额6.07亿元，净买入7378.21万元。 最近三个交易日，21日-25日，科大讯飞分别获融资买入6.33亿元、7.…08-26科大讯飞半年报：AI红利助业务高增长，实控人定增彰显信心AI红利驱动各业务线健康成长 1）智慧教育业务25H1收入35.3亿元，同比+23.5%，其中AI学习机上半年收入继续保持翻番增长。4）企业AI解决方案25H1收入4.4亿元，同比+349.9%，公司正在加…08-26AI招聘工具信任危机：超六成科技人才担忧，呼吁人性化透明招聘08-26阿里国际Ovis2.5多模态大模型发布，提升视觉感知与深度推理能力08-26AI猫咪短片风靡社交媒体，奇幻剧情吸引数亿播放成新宠08-26
算力新纪元：太原市算力产业迈向规模化高端化融合化新征程作为全国首个全栈自主可控的煤炭行业智能算力中心，该平台建成包含盘古、文心、DeepSeek等大模型拼盘，完成了从技术可行到工程可靠、再到商业闭环的全链条验证，为各类开发需求提供了强有力的算力支撑。山西数据流量…08-26
高途武汉新设智成科技公司，涉足AI软件开发领域08-26英伟达发布新一代机器人计算机Jetson Thor，售价2.5万，宇树优必选等已采用08-26马斯克xAI正式起诉苹果与OpenAI，指控双方联手垄断AI市场08-26点击查看更多 +全站最新
京东七夕节新玩法：知名男团女团PK团播试水
智谱AI：从B端到C端，全力冲刺生成式AI第一股
智界R7与新S7新车上市首日，大定量火速破万
豆包App推出未成年人保护模式，视频展示等功能默认关闭保障安全热门内容王国栋院士：人工智能引领钢铁行业转型升级，迈向绿色未来苹果推出RLCF技术：以大模型为导师，强化小模型复杂指令执行能力钉钉十周年：AI钉钉1.0及首款硬件产品DingTalk A1重磅发布算力新纪元：太原市算力产业迈向规模化高端化融合化新征程高途武汉新设智成科技公司，涉足AI软件开发领域
移动云智算平台携手DeepSeek，共促AI大模型应用高效落地
本文链接：http://www.28at.com/showinfo-45-26930-0.html上海交通大学与蚂蚁集团联手，安全AI科技获上海市科技进步一等奖
声明：本网页内容旨在传播知识，不代表本站观点，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
