OpenAI宣布组建新团队 以控制“超级智能”人工智能

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

7月6日消息，美国当地时间周三，人工智能初创公司OpenAI宣布其正组建一个新的团队，以开发引导和控制“超级智能”（“superintelligent”）人工智能系统的方法。这个团队由OpenAI首席科学家、联合创始人伊利亚·苏斯克维尔(Ilya Sutskever)领导。

在博客文章中，苏斯克维尔和OpenAI协调团队的负责人简·莱克（Jan Leike）预测，智能超过人类的人工智能将在十年内出现。他们警告称，这种人工智能不一定对人类抱有仁慈之心，因此有必要研究控制和限制它的方法。

苏斯克维尔和莱克写道：“目前，我们还没有任何解决方案可以用来操纵或控制潜在的超级智能人工智能，并防止它失控。我们目前调整人工智能的技术，比如从人类反馈中强化学习，依赖于人类监督人工智能的能力。但人类将无法可靠地监督比我们聪明得多的人工智能系统。”

为了在“超级智能对齐”（Superintelligence Alignment）领域取得进展，OpenAI正在创建新的超级对齐团队，由苏斯克维尔和莱克共同领导，该团队将有权使用OpenAI高达20%的算力资源。这个团队将与OpenAI之前的对齐部门科学家和工程师以及公司其他机构的研究人员一起，致力于在未来四年解决控制超智能人工智能的核心技术挑战。

那么，我们如何确保比人类聪明得多的人工智能系统遵循人类的意图? 这需要苏斯克维尔和莱克所描述的“人类级别的自动对齐研究员”帮助。高级目标是使用人类反馈来训练人工智能系统，训练人工智能协助评估其他人工智能系统，并最终构建可以进行对齐研究的人工智能。这里的“对齐研究”指的是确保人工智能系统达到预期的结果，或者不会偏离研究轨道。

OpenAI的假设是，人工智能可以比人类更快、更好地进行对齐研究。

“随着我们在这方面取得进展，我们的人工智能系统可以接管越来越多的对齐工作，并最终构思、实施、研究和开发比我们现在更好的对齐技术，”莱克和他的同事约翰·舒尔曼（John Schulman）、杰弗里·吴（Jeffrey Wu）在之前的一篇博客文章中假设。“它们将与人类共同努力，以确保它们自己的继任者与人类始终保持一致。人类研究人员将越来越多地把精力集中在审查人工智能系统完成的对齐研究上，而不是自己进行这类研究。”

当然，没有任何方法是万无一失的，莱克、舒尔曼以及杰弗里·吴在他们的文章中承认，OpenAI的方法存在许多局限性。他们说，使用人工智能进行评估有可能扩大人工智能中的不一致、偏见或漏洞。结果可能是，对齐问题中最困难的部分可能根本与工程无关。

但苏斯克维尔和莱克认为值得一试。他们写道：“从根本上说，超级智能对齐是一个机器学习问题，我们认为优秀的机器学习专家（即使他们还没有开始研究对齐）对解决这个问题也至关重要。我们计划广泛分享这一努力的成果，并将促进非OpenAI模型的一致性和安全性视为我们工作的重要组成部分。”

以上就是OpenAI宣布组建新团队 以控制“超级智能”人工智能的详细内容，更多请关注其它相关文章！

# 将与  # 南庄seo优化技术  # seo暴富  # 西城网站建设免费咨询热线  # 西湖区营销推广商家  # 项目营销推广结语  # 宜宾全网营销推广定做  # 涟源农业机械网站推广  # seo工作技能  # 襄阳seo优化推广价格  # 盐城网站优化设计  # 人工智能  # 到你  # 得多  # 腾讯  # 太多  # 丰田  # 本田  # 斯克  # 莱克  # 维尔  # OpenAI 

相关栏目： 【 行业新闻62819 】 【 科技资讯67470 】

相关推荐： 人工智能在重症监护室的未来  阿里云全面支持Llama2训练部署，助力企业快速构建自有大型模型  人工智能如何与智能家居集成  基于信息论的校准技术，CML让多模态机器学习更可靠  七大主流AI企业包括OpenAI、谷歌等联合承诺：引入水印技术，并允许第三方审核AI内容  五款 AI 网站构建器，任何人都能快速构建网站  亚太地区 70% 的企业高管正探索生成式 AI 应用或已经进行投资  标小智LOGO推出AI公司起名生成器“Name.GPT”  AYANEO AIR 1S 掌机发布：R7 7840U，预订价 4699 元起  “电碳”技术提升碳排放监测精度  J*a与人工智能结合：构建智能云服务  长宁这家企业在世界人工智能大会上荣获“蓝鼎奖”  水路两栖艇、消防灭火机器人……这个展览“黑科技”抢眼  静安大宁功能区企业云天励飞亮相2025世界人工智能大会，秀出AI硬实力！  【|直播|预告】人工智能高峰论坛将于7月2日13:30准时开播！  智能公司为何纷纷投身机器人领域？  可按用户语气自动回复消息，Zoom 推出基于生成式 AI 的新功能  自动驾驶汽车避障、路径规划和控制技术详解  华为将于 7 月发布面向 AI 大模型的新款存储产品  Xbox游戏工作室负责人：VR/AR领域的用户规模还不足够  央视报道！星纪魅族集团车载人机交互技术成世界移动通信大会焦点  国宝级文物“铜兽驮跪坐人顶尊铜像”完成模拟拼接，腾讯AI立功  常见的五个人工智能误解  发布最新版本的 PICO OS 5.7.0：支持VR头盔录屏并跨平台分享至微信  剧透！蜜小豆@2025世界人工智能大会多个亮点曝光  独家视角：首次展示有人与无人协同打击的7000米高空察打一体无人机  如何利用物联网技术提高企业生产线智能化水平，提升生产效率  构建AI绘画网站的方法：使用API接口和调用步骤  Moka AI产品后观察：HR SaaS迈进AGI时代  数据显示：人工智能相关专业热度上升最快 考古、美术、生物医学工程等小众专业火了  AI技术加速迭代：周鸿祎视角下的大模型战略  腾讯企点客服接待与营销分析能力升级！企业操作更高效、人机交互更智能  从GOXR到PartyOn，XRSPACE致力打造多元共赢的元宇宙世界  腾讯机器狗进化：通过深度学习掌握自主决策能力  此「错」并非真的错：从四篇经典论文入手，理解Transformer架构图「错」在何处  机构研选 | 虚拟电厂是电力物联网升级版 智能电网望迎来高速发展  天翼云在国际AI顶会大模型挑战赛中获得冠军  新华三集团总裁兼首席执行官于英涛：人工智能时代需要想象力，更需要精耕务实  爱设计 AI 一键生成 PPT 工具上线：输入标题即可生成 PPT  海南省公安机关警用无人机培训班结业并举行警航比武演练  Adobe旗下Illustrator引入生成式AI工具Firefly  AI创作广告文案等同2.47年工作经验，且消费者无法区分｜AI营销前沿  OpenAI 引入个性化指令功能，消除对话中的重复偏好与信息  谷歌StyleDrop在可控性上卷翻MidJourney，前GitHub CTO用AI颠覆编程  为AI而服务设计：构建以人为本的AI创新方法  第四范式「式说」大模型入选《2025年通用人工智能创新应用案例集》  鸿蒙生态带来了哪些新的流量可能性，包括AI、服务分发和原生智能等方面？  最大助力35公斤 外骨骼机器人或在养老、医疗领域“大展身手”  生活垃圾智能分类机器人社区展“才能”，征求居民意见  抖音在Android平台获得VR|直播|软件著作权