OpenAI：超智能AI或在这个十年出现，将加大资源应对
(资料图片)
北京时间7月6日早间消息，当地时间周三，ChatGPT的开发者OpenAI表示计划投入更多资源并成立新的研究团队，研究如何确保AI对人类的安全性，最终实现用AI来监督AI。
OpenAI联合创始人伊利亚·苏茨凯弗(Ilya Sutskever)和AI对齐负责人简·莱克(Jan Leike)在官方博客中表示：“超级智能的巨大能力可能导致人类失去力量甚至灭绝。目前，我们还没有解决方案来操纵或控制一个可能的超智能AI，并防止其变成无赖。”
这篇博文预测，超智能AI，即相比于人类更智能的系统，可能会在未来10年中出现。人类需要比目前更强大的技术来控制超智能AI，因此需要在“AI对齐研究”方面取得突破，确保人AI对人类持续有益。AI对齐是AI控制中的主要问题，即要求AI的目标和人类的价值观与意图保持一致。
作者写道，OpenAI将在未来4年内，将算力的20%专门用于解决这方面问题。此外，该公司将组建新的“超对齐”团队来组织这方面的工作。
该团队的目标是开发达到“人类水平”，由AI驱动的对齐研究员，随后通过庞大的算力推动其发展。OpenAI表示，这意味着将使用人工反馈来训练AI系统，通过训练AI系统来协助人工评估，最终训练AI系统来进行实际的对齐研究。
不过，人工智能安全的倡导者康纳·莱希(Connor Leahy)表示，OpenAI的计划存在根本性缺陷，因为最初的人类水平AI可能会失控并造成严重破坏，而这将迫使研究者去解决AI安全问题。他在接受采访时表示：“在构建人类水平的智能之前，必须先解决对齐问题，否则默认情况下你无法控制它。我个人认为这不是个特别好的、安全的计划。”
AI的潜在危险一直是AI研究员和公众最关心的问题。今年4月，一群AI行业领袖和专家签署公开信，呼吁暂停6个月开发比OpenAI的GPT-4更强大的系统，原因是对社会存在潜在风险。益普索今年5月的调查发现，超过2/3的美国人担心AI可能产生的负面影响，61%的人认为AI可能威胁人类文明。
标签：
相关阅读
-
07-06
-
07-06
推荐阅读
-
-
OpenAI：超智能AI或在这个十年出现，将加大资源应对
AI的潜在危险一直是AI研究员和公众最关心的问题。今年4月，一群AI行业更多
2023-07-06 11:10:43
-
-
超市是你家，东西随便拿？不差钱的她，在上海超市
近日，云锦路某超市员工在清点货物时发现，冰柜里的生鲜产品数量与当日更多
2023-07-06 11:01:41
-
-
今日热讯：围墙遮景非良策
原标题：围墙遮景非良策近日，一些景区立围墙遮风景的行为引发舆论关注更多
2023-07-06 10:38:54
-
-
播报：11-6、11-2、11-6，孙颖莎、王楚钦3-0开门
其中，就包括刚刚夺得WTT常规挑战赛萨格勒布站混合双打冠军的“莎头组更多
2023-07-06 10:39:35
-
-
东方财富期货早餐 7月6日 周四 当前消息
【期货早餐】6月份中国大宗商品指数（CBMI）为102 8%，环比上升2 1个百更多
2023-07-06 08:19:36
-
-
高温橙色预警！北京、河北、河南等地部分地区可达
中国天气网讯中央气象台7月6日06时继续发布高温橙色预警：预计7月6日白更多
2023-07-06 07:50:13
-
-
天天最资讯丨省卫生健康委 “三个推进” 将实事
本报讯（记者郭靓）主题教育开展以来，青海省卫生健康委员会始终将主题更多
2023-07-06 06:42:30
-
-
上海多项创新助企业“体面”退出并涅槃重生-全球
“破产”就意味着“失败”“逃废债”吗？记者5日走访上海市破产管理人更多
2023-07-06 05:23:54
时尚热图
热门标签
精彩放送
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
07-06
-
今日必看
-
-
今年9月，太原市房产管理局给省城12个楼盘正式发放了18张预售证。...
-
-
房产证、土地证，两证合一了!2016年6月1日，在市民之家举行的全市...
-
-
近期以来，各地继续密集发布楼市宽松政策，其中包括长春、遵义多...
-
-
日前，宁波市不动产登记中心试点二手房带押过户新模式。新模式下...
-
-
越来越多的地方政府出手回购当地商品房。近日，一份苏州市政府部...
-
-
尽管整体市场低迷，但豪宅板块比较稳定。争取成交，忙完这一次，...
-
精彩话题
-
最新见闻
- 全面升级！售价24.18万元起 上汽大通MAXUS EV80 PRO重磅上市
- 夏天去烧烤丨腾冲归云庄
- 【独家焦点】（经济）首届链博会韩国推介会在首尔举行
- 万润科技：子公司万润半导体部分产品已完成试产、小批量生产及送样并形成在手订单_天天资讯
- 热门看点：章源钨业下调2023年7月上半月长单报价
- 雾芯科技通过智能制造能力成熟度（规范级）审评|快报
- 杭州市政府与网易集团签订战略合作框架协议|焦点滚动
- 今日视点：多部门密集释放加力稳经济信号：进一步扩大民间投资准入范围
- 江苏宿迁：提高租房提取住房公积金额度 最高每月可提1600元 每日消息
- 重庆市融汇沙坪坝小学公开招聘教师公告
- 突传噩耗！歌手李玟抑郁症去世，家中自杀抢救失败，姐姐悲痛发文
- 国中水务：拟参与认购数字文化产业基金份额
- 天天快看点丨时代中国上半年合同销售94.43亿元 同比减少65.6%
- 【短讯】科创板晚报|华虹宏力发审状态更新 东威科技多名股东拟合计减持不超1.13%
- 三祥新材：已组建研发团队在锆基固态电池电解质等开展研究和技术攻关 世界微资讯
- 全球最新：浙江世宝现8148万元折价大宗交易 折价率2.02%
- 世界视点！【短讯】东方海外二季度收入降逾六成 越秀地产上半年销售超800亿｜港股7月5日公告精选
- 书记区长谈贯彻二十大精神｜北京石景山：力推产业转型升级 打造“活力之城”-世界速看料
- 【播资讯】辽宁阜新市查处一起致7死7伤煤矿事故瞒报案件
- 世界快播：双环传动拟不超1.2亿欧元投建匈牙利生产基地
- 观速讯丨范文仲：数据演进为生产性数字资本将为中国经济增长提供资本来源
- 全球视点！中国女足公布世界杯大名单
- 环球快报:【短讯】圈内刷屏！又有140家中资银行位列全球1000强，工建农中包揽前四，中美欧大行瓜分前10
- 全球短讯！大宗商品市场“供需两旺、稳中向好” 企业对后市预期良好生产热情高涨
- 九典制药：待产品布局完善后 相信公司在经皮给药领域会取得不错成绩 环球热文
- 最新资讯：首例人工环境下繁育成功的长江江豚淘淘迎来18岁生日
- 3天2板金科股份：涉及收购控股股东旗下恒昇大业股权的相关审计、评估等工作尚在进行中_环球观察
- 世界动态:公告头条2023年07月05日
- 台风怎么还没动静，是在憋大招吗？气象分析师解释_每日消息
- 杰瑞股份：北美市场方面在与客户沟通推介涡轮压裂设备等产品 相关设备正在客户处试用
- 福建三明：推动闽台高等教育融合发展
- 数字技术助推文化遗产传承与利用 加速在体育、康复等领域应用
- 新能源汽车轮胎需求增长 企业布局新赛道 全球最新
- 银轮股份：拟在西安设立全资子公司 生产新能源汽车空调箱和冷却模块产品|环球快播报
- 每日快讯!夜读 | 文学艺术背后的朋友圈
- 珠海市市长黄志豪：珠海要为推动工业化服务预制菜发展作更多贡献
- 假警察诈骗电话打来，真警察找上门！5.7万元保住了！
- 环球今亮点！坪地街道举行助力乡村振兴活动动员会暨启动仪式
- 世界看热讯：广汽集团：6月新能源汽车销量同比增长96.5%
- 全球快讯:国家药监局：罕见病新药的审评审批时限最短
- 利尔化学：控股股东股权改革相关事宜拟启动 要闻
- 【短讯】华东医药利拉鲁肽获批 拿下首个国产GLP-1“减肥针” 然市场接受度仍待检验
- 【全球新视野】长高电新上半年净利润预增63%-87%
- 【短讯】里程碑！我国首个开源桌面操作系统“开放麒麟1.0”发布
- 环球观察：【短讯】华羿微电科创板IPO获受理 2022年净利猛跌 上市前被机构多轮抢筹
- “开放麒麟1.0”发布！我国首个开源桌面操作系统来了
- 国家文物局、公安部：进一步做好涉案文物鉴定评估和移交工作 天天看热讯
- 里程碑！我国首个开源桌面操作系统“开放麒麟1.0”发布
- 荣耀X50于今日发布 行业首发高通骁龙6 Gen 1处理器
- 国家文物局：加强主汛期防灾减灾救灾工作
- 浙江：鼓励平台企业建设开放共享云平台 信息
- 全球资讯：不管有没有人住 电费都按面积收？物业回应！烂尾8年才收房 业主拿不到赔偿 还要交1800元/m2续建费？
- 市场监管总局和浙江省政府签署合作协议 共同促进平台经济高质量发展
- 农业农村部：大力推进统防统治与绿色防控融合 全力以赴实现“虫口夺粮”保丰收 观热点
- 天天观天下！【短讯】香港法院：魏秉权未获香港证监会发牌进行活动罪成
- 广宇发展：子公司获取新疆区域1300万千瓦新能源项目建设指标-天天时快讯
- 第六批支付牌照续期结果公布：12家成功续展 2家中止审查 世界时讯
- 环球快看：海南：万宁体育+，到底加了啥？
- 星火成炬 | 寄语向未来-世界快消息
- 热点聚焦：【短讯】浙江：到2027年全力打造平台经济现代化治理先行省
- 【世界报资讯】成立3年半，储能“独角兽”融资超65亿，冲刺“储能电芯第一股”！
- 天天头条：金龙汽车：6月客车销售量同比增长23.7%
- 今头条！闪客快打4枪林弹雨在线（闪客快打4枪林弹雨）
- 【世界快播报】中石化新星石油公司原党委书记徐向荣案开庭，被控受贿超千万
- 2022年积极财政政策提升效能 保障和改善民生 支持经济恢复发展 快看点
- 自然资源部与中国气象局联合发布地质灾害气象风险预警 全球热文
- 全球即时看！【短讯】日本核废水排海临近 韩国官宣对进口海产品展开“前所未有的检查”
- 申城再启高温冲刺！明天有雨、后天有雨、大后天……-世界观点
- 中央气象台：京津冀等8省区市部分地区最高气温将超37℃ 全球资讯
- 重庆百货：上半年净利润预增51.43%-65.05%
- 环球新消息丨奋力拼经济 柳州高新区（柳东新区）打出高质量发展“组合拳”
- 天天观点：中国结算：从未授权或利用其他网站、APP等形式组织“投资证券增值返现”活动
- 钮文新：投机人民币要当心——请为推动“汇率中性”创造条件
- 瀛洲生态园（关于瀛洲生态园的基本详情介绍）
- 浙江印发《关于促进平台经济高质量发展的实施意见》
- 【短讯】7月十强转债出炉！创纪录高温来袭，电力或成主线；上半年转债力压权益|掘金可转债⑦
- 世界信息:万达电影：目前暑期档已定档影片超过80部
- 今日热讯：北京激发数字经济发展活力 扩大全球“朋友圈”
- 每日热文：【短讯】乘联会：初步统计6月乘用车市场零售189.6万辆 同比下降2%
- 无锡出台反家暴新规：对举报或制止家暴人员实施见义勇为奖励|观速讯
- 捷顺科技：预计2023年上半年净利润为2500万元~3500万元
- 江西农业大学一硕士毕业10年因论文剽窃被撤销学位-今日观点
- 和佳退：公司股票已被终止上市，将在7月6日摘牌
- 全球动态:社区矫正法实施三年来 58万人次社区矫正对象接受就业或就学指导
- 首钢股份：公司不会减少高炉数量
- 【短讯】元宇宙新鲜事|机构：2023年Q1全球XR头显出货量下降33% 软银孙正义：预计AI最终将适用于各行各业
- 重庆万州区维持地灾红色预警-每日快播
- 每日看点!央行党委书记潘功胜3天内分别会见韩国和奥地利央行行长
- 中国科学院院士梅宏：数据要素化尚处于初级阶段 仍面临诸多挑战 每日头条
- 央行党委书记、国家外汇局局长潘功胜会见奥地利央行行长霍尔兹曼
- 中国人民银行党委书记、国家外汇局局长潘功胜会见奥地利央行行长霍尔兹曼|天天通讯
- 环球观热点：中科信息(300678.SZ)：目前没有从事脑机接口技术与设备研发
- 每日速看!俄罗斯北方舰队组建新集团军应对北约东扩
- 高温下的坚守——山西能源保供一线见闻
- 龙磁科技7月5日龙虎榜数据|全球看热讯
- 当前播报:大学生求职“避坑”维权指南：不签订正式劳动合同，用人单位需支付赔偿工资
- 瑞星股份龙虎榜：营业部净买入301.72万元
- 卫宁健康：公司实控人、董事长因涉嫌行贿罪被立案调查及实施留置
- 每日聚焦：多地高校思政课教师队伍自查自清：突破底线的人，通过转岗等退出
- 上海通报4起农村集体“三资”管理领域问题
营业执照公示信息