OpenAI宣布组建新团队 以控制“超级智能”人工智能

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

7月6日消息，美国当地时间周三，人工智能初创公司OpenAI宣布其正组建一个新的团队，以开发引导和控制“超级智能”（“superintelligent”）人工智能系统的方法。这个团队由OpenAI首席科学家、联合创始人伊利亚·苏斯克维尔(Ilya Sutskever)领导。

在博客文章中，苏斯克维尔和OpenAI协调团队的负责人简·莱克（Jan Leike）预测，智能超过人类的人工智能将在十年内出现。他们警告称，这种人工智能不一定对人类抱有仁慈之心，因此有必要研究控制和限制它的方法。

苏斯克维尔和莱克写道：“目前，我们还没有任何解决方案可以用来操纵或控制潜在的超级智能人工智能，并防止它失控。我们目前调整人工智能的技术，比如从人类反馈中强化学习，依赖于人类监督人工智能的能力。但人类将无法可靠地监督比我们聪明得多的人工智能系统。”

为了在“超级智能对齐”（Superintelligence Alignment）领域取得进展，OpenAI正在创建新的超级对齐团队，由苏斯克维尔和莱克共同领导，该团队将有权使用OpenAI高达20%的算力资源。这个团队将与OpenAI之前的对齐部门科学家和工程师以及公司其他机构的研究人员一起，致力于在未来四年解决控制超智能人工智能的核心技术挑战。

那么，我们如何确保比人类聪明得多的人工智能系统遵循人类的意图? 这需要苏斯克维尔和莱克所描述的“人类级别的自动对齐研究员”帮助。高级目标是使用人类反馈来训练人工智能系统，训练人工智能协助评估其他人工智能系统，并最终构建可以进行对齐研究的人工智能。这里的“对齐研究”指的是确保人工智能系统达到预期的结果，或者不会偏离研究轨道。

OpenAI的假设是，人工智能可以比人类更快、更好地进行对齐研究。

“随着我们在这方面取得进展，我们的人工智能系统可以接管越来越多的对齐工作，并最终构思、实施、研究和开发比我们现在更好的对齐技术，”莱克和他的同事约翰·舒尔曼（John Schulman）、杰弗里·吴（Jeffrey Wu）在之前的一篇博客文章中假设。“它们将与人类共同努力，以确保它们自己的继任者与人类始终保持一致。人类研究人员将越来越多地把精力集中在审查人工智能系统完成的对齐研究上，而不是自己进行这类研究。”

当然，没有任何方法是万无一失的，莱克、舒尔曼以及杰弗里·吴在他们的文章中承认，OpenAI的方法存在许多局限性。他们说，使用人工智能进行评估有可能扩大人工智能中的不一致、偏见或漏洞。结果可能是，对齐问题中最困难的部分可能根本与工程无关。

但苏斯克维尔和莱克认为值得一试。他们写道：“从根本上说，超级智能对齐是一个机器学习问题，我们认为优秀的机器学习专家（即使他们还没有开始研究对齐）对解决这个问题也至关重要。我们计划广泛分享这一努力的成果，并将促进非OpenAI模型的一致性和安全性视为我们工作的重要组成部分。”

以上就是OpenAI宣布组建新团队 以控制“超级智能”人工智能的详细内容，更多请关注其它相关文章！

# 将与  # 南庄seo优化技术  # seo暴富  # 西城网站建设免费咨询热线  # 西湖区营销推广商家  # 项目营销推广结语  # 宜宾全网营销推广定做  # 涟源农业机械网站推广  # seo工作技能  # 襄阳seo优化推广价格  # 盐城网站优化设计  # 人工智能  # 到你  # 得多  # 腾讯  # 太多  # 丰田  # 本田  # 斯克  # 莱克  # 维尔  # OpenAI 

相关栏目： 【 行业新闻62819 】 【 科技资讯67470 】

相关推荐： 官宣！爱康AI未来之夜三大亮点提前剧透！  微软推出 LLaVA-Med AI 模型，可对医学病理案例进行分析  “可用”“有用”的讯飞星火认知大模型将亮相世界人工智能大会  NTU、上海AI Lab整理300+论文：基于Transformer的视觉分割最新综述出炉  小米发布CyberDog2 - 他们的第二代仿生四足机器人展示  能走、能飞、能游泳，科学家打造全能 M4 机器人  如何利用物联网技术提高企业生产线智能化水平，提升生产效率  “智能体动作生成技术”现身WAIC：游戏AI技术为机器人科创注入新动力  微软向美国政府提供GPT的大模型，安全性如何保证？  史玉柱谈AI：国内最缺是计算数学人才，曾给浙大数学系捐五千万  刊·见 | 捕捉人工智能领域最新动态？收藏Applied Artificial Intelligence  图像生成过程中遭「截胡」：稳定扩散的失败案例受四大因素影响  值得买科技入选“北京市通用人工智能产业创新伙伴计划”应用伙伴  IBM和NASA合作发布可追踪碳排放的开源AI基础模型  比尔盖茨：AI确实存在风险，但可控  英特尔张宇：边缘计算在整个AI生态系统中扮演重要角色  OpenAI首席执行官引用《道德经》 呼吁就AI安全问题合作  ChatGPT只讲这25个笑话！实验上千次有90%重复，网友：幽默是人类最后的尊严  WHEE网页地址入口  B站内测 AI 搜索功能，输入“？”即可体验  深度学习模型综述：用于3D MRI和CT扫描的应用  谷歌借AI打破十年排序算法封印，每天被执行数万亿次，网友却说是最不切实际的研究？  联想浏览器引入小乐 AI 助手，成功接入百度文心一言大模型，经过实测证实  微幼科技晨检机器人与人工晨检相比，有何优势  BLIP-2、InstructBLIP稳居前三！十二大模型，十六份榜单，全面测评「多模态大语言模型」  斑马推出全新升级版思维机：以人工智能为核心的交互式学习体验  对艺术家拒绝置若罔闻，Stability AI 将推出适应多种画风的开源模型  苹果公司迅速拓展AR/VR团队，Vision Pro发布后7月份增设近100份工作机会  Meta将VR头显最低年龄限制从13岁降至10岁  “图壤·阅读元宇宙”亮相北京国际图书博览会  改变城市交通：智慧城市中的智能交通  支持跨语言、人声狗吠互换，仅利用最近邻的简单语音转换模型有多神奇  马斯克讽刺人工智能炒作：什么“机器学习”，其实就是统计  乐天派桌面机器人加入小米米家生态系统，实现与其他智能设备的互联  套娃不可取：研究人员证实用AI生成的结果训练AI将导致模型退化  OpenAI 已全面开放 GPT-3.5 Turbo、DALL-E 及 Whisper API  MIT开发“PhotoGuard”技术保护图像免遭恶意AI编辑  陈根：AI冥想教练为用户提供个性化指导  张勇对话多位诺奖得主 人工智能将无处不在  XREAL Beam 投屏盒子正式发布：支持“可悬停 AR 空间屏”  美图影像节演讲实录：191次提及AI，发布7款影像生产力工具  谷歌推出新 AI 工具 Imagen Editor，一句话对图片二次创作  类GPT模型训练提速26.5%，清华朱军等人用INT4算法加速神经网络训练  中国电信AI能力通过国家级金融领域权威认证并荣膺AI国际头部竞赛冠军  编程已死，AI 当立？教授公开“唱反调”：AI 还帮不了程序员  绿联发布笑脸屏幕显示充电状态的30W/65W Q湃机器人充电器  自然语言生成在智能家居设备中的应用  对话式论文阅读工具PaperMate上线，综述细节AI告诉你  学而思推出AI第一课：基于自研大模型的AIGC课程  国内通用人形机器人将发布、产业加速突破