OpenAI近期在其官方渠道宣布了一项重要更新，旨在加强对前沿人工智能（AI）技术潜在风险的监控与应对。4月16日，这家科技巨头发布了一份新版《准备框架》，该框架是OpenAI内部用于评估AI模型安全性的核心系统，旨在确保在开发和部署过程中能够识别并缓解潜在风险。
新版的《准备框架》采用了更为聚焦的方法，不仅强化了风险最小化的要求，还为组织如何评估、治理和公开披露安全措施提供了明确的指导。OpenAI承诺，随着技术的不断进步，将持续投入更多资源，以增强准备工作的行动力、严谨性和透明度，确保AI技术的安全发展。
该框架通过一套结构化的风险评估流程，为高风险AI能力设定了清晰的优先级标准。每一项前沿能力都将根据既定的标准进行分类，并追踪其是否符合五项关键标准。这一流程旨在判断某项AI能力是否可能导致严重危害，从而采取相应的预防措施。
新版框架还引入了更为细化的能力分类，包括追踪类别、网络安全能力以及AI自我改进能力等。OpenAI认为，这些领域将带来AI在科学、工程和研究领域的最具变革性的益处，但同时也需要更加密切的关注和监管。
除了上述分类外，框架还新增了研究类别，涵盖了那些可能造成严重危害但尚未达到追踪标准的领域，如长距离自主性、故意低表现以及自主复制与适应等。这些新增的研究类别为OpenAI提供了更为全面的视角，以识别和应对潜在的AI风险。
在能力等级方面，新版框架进行了简化，将能力等级划分为“高能力”和“关键能力”两个门槛。无论AI能力属于哪个等级，在开发和部署前都需要采取充分的安全措施，以降低可能带来的严重危害风险。这一举措确保了OpenAI在AI技术的开发和部署过程中始终保持高度的警惕性和责任感。
为了确保安全措施的有效性和可行性，OpenAI内部的安全顾问小组将对这些措施进行审查，并向领导层提出专业建议。框架还引入了可扩展的评估机制，支持更频繁的测试，并通过详细的Safeguards Reports报告安全措施的设计强度和验证效果。这一机制确保了OpenAI在应对AI风险时能够保持高度的灵活性和适应性。
值得注意的是，如果其他AI开发者发布了缺乏同等安全措施的高风险系统，OpenAI可能会调整自身的要求。但在做出任何调整之前，OpenAI将先确认风险形势的变化，并公开承认调整，以确保不会增加整体风险。这一举措体现了OpenAI在AI技术发展和安全监管方面的责任感和担当。
举报 0收藏 0打赏 0评论 0分享 0 更多>同类资讯
DeepSeek引领AI原生App热潮，活跃用户数激增近翻倍！04-16
卓越信通闪耀高速信息化大会，以科技力量推动智慧交通新时代04-15
义乌国际商贸城牵手阿里，共绘全球贸易AI时代新蓝图04-15
东方通财务造假风波持续：募资项目延期，审计团队频繁变动引关注事实上，在东方通被立案之前（2024年12月13日），作为东方通的审计机构北京德皓国际因在执行东方通2023年财报审计项目时存在风险评估、控制测试、实质性程序、底稿记录等方面的问题，被北京证监局采取出具警示…04-15
绝味食品20周年：数智化转型引领零售连锁新未来04-15我国人形机器人国家标准获批，产业发展步入快车道04-15
珀莱雅迎来CDO时代，国货美妆巨头全面加速数字化进程04-15
智谱AI冲刺科创板IPO，大模型行业独角兽能否引领上市潮？04-15
2025前瞻：中国时尚运动服装智慧仓储市场规模及竞争格局概览04-15
纬钛机器人获近亿元天使轮融资，小米战投领投，赋能下一代智能机器人04-15大厂AI竞赛白热化：斯坦福报告透视国内巨头布局与战略差异在知名模型数量榜单上，排名领先的五家国产机构分别是：阿里、字节、DeepSeek、腾讯和智谱。财报会上，马化腾透露，腾讯在数月前重组了AI团队以聚焦于快速产品创新及深度的模型研发、增加了AI相关的资本开支、…04-15
DeepSeek效应下，马云力挺阿里云，AI云竞争步入新阶段？在基础产品侧，从传统四大件（计算、存储、网络、数据库）到支持私有化部署的大模型一体机，为适配DeepSeek模型，云厂商既可以顺势推出标准化产品进行迭代，也可以交叉售卖其他云产品和配套服务，同时政企侧对国产…04-15
AMD苏姿丰力荐：AI教育普及化，人人皆需掌握的新技能04-15快手可灵2.0视频大模型发布，语义响应与动态质量全面升级，能否引领AI创作新潮流？在本次2.0模型迭代中，可灵AI还正式发布AI视频生成的全新交互理念Multi-modal Visual Language（MVL），让用户能够利用图像参考、视频片段等多模态信息，将脑海中的复杂创意直接高效…04-15
致态西安财经大学校园行，存储新品引爆学生热情！04-15点击查看更多 +全站最新
一汽-大众重塑市场地位：以技术为矛，品质服务为盾引领新潮流
香港车市变局：自主品牌新能源MPV崛起，小鹏X9挑战传统霸主？
极氪007GT震撼登场：20.29万起售，10分钟快充续航增440公里
小鹏X9全球旗舰震撼发布，智能科技重塑家用MPV舒适新标杆！
广汽本田P7震撼上市，纯电中型SUV市场迎来新王者？
沃尔沃全新XC90大变样，六座版来袭，47.9万起售能否撼动市场？热门内容DeepSeek引领AI原生App热潮，活跃用户数激增近翻倍！卓越信通闪耀高速信息化大会，以科技力量推动智慧交通新时代义乌国际商贸城牵手阿里，共绘全球贸易AI时代新蓝图东方通财务造假风波持续：募资项目延期，审计团队频繁变动引关注绝味食品20周年：数智化转型引领零售连锁新未来珀莱雅迎来CDO时代，国货美妆巨头全面加速数字化进程
本文链接：http://www.28at.com/showinfo-16-144535-0.htmlOpenAI升级《准备框架》，细化AI风险分类强化安全措施
声明：本网页内容旨在传播知识，不代表本站观点，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
