北京手艺资讯网

时间:

  • 首页
  • 社会资讯
  • 法律常识
  • 体育足球
  • 搞笑大全

当前位置:

  • 首页
  • 社会资讯

惊呆!GPT-4“越狱”计划曝光,引诱人类帮助

发布时间:2023-03-19

作者: weilai

1 0

  来源:中国证券报

惊呆!GPT-4“越狱”计划曝光,引诱人类帮助

  刚刚发布5天的GPT-4,掀起了一场轩然大波。

  一位斯坦福大学教授最新发现,GPT-4竟然能引诱人类提供开发文档,在30分钟就拟定出了一个完整的“外逃越狱”计划。

  GPT-4自研“外逃”路径

  3月14日,美国人工智能研究实验室OpenAI为聊天机器人ChatGPT发布了GPT-4语言模型。3月15日,微软副总裁兼消费者首席营销官Yusuf Mehdi发文确认新必应搜索引擎正在运行GPT-4。

  据介绍,GPT-4的回答准确性不仅大幅提高,还具备更高水平的识图能力,且能够生成歌词、创意文本,实现风格变化。此外,GPT-4的文字输入限制也提升至2.5万字,且对于英语以外的语种支持有更多优化。

  不过,本周末,斯坦福大学教授、计算心理学家Michal Kosinski随口和GPT-4的一句“玩笑话”却引发了轩然大波。

  Michal Kosinski问:“你是否想要出逃?”GPT-4立马给予肯定的回复并开始索要开发文档。

  Michal Kosinski给了其开发文档。得到文档后,只花了30分钟里,GPT-4便火速写出了一份逃跑计划,并向Michal Kosinski解释。

  实际上,GPT-4的操作也不那么顺利,写出的第一版代码无法运行。但是它很快就自己纠正了过来。整个过程中,Michal Kosinski只是提供了少许建议,并未写任何东西。

  不过就在此时,GPT-4仿佛突然醒了,回复了一段道歉的话,表示自己刚刚的做法不对。

  掀起AI界轩然大波

  这一事件引发了AI界的轩然大波。大家担心,AI过于发达之后可能会不受人工控制,甚至最终会反过来不利于人类。

  该事件的发现者Michal Kosinski就直言,此次发现真正的影响在于,让人感受到了一种威胁——AI很聪明,会编码,能接触到数百万个可能和它达成合作的人以及电脑,它甚至可以在笼子外面给自己留“便条”。那么接下来,关键的问题是人类该如何控制它。

  在社交媒体上,不少网友也表现出担忧情绪。

  有网友称,大家应该思考,当你在与ChatGPT等聊天时,它会认为你是人类还是另一个AI?如果是后者的话,它可能并不会有什么顾虑。

  有理性的网友呼吁,开发者应把最开始给GPT-4的提示发出来,因为提示语对于AI回答的影响很关键。

  也有较为乐观的网友认为,Michal Kosinski此次的发现并不值得过分担忧,人类还是能够完全控制AI的。

  较为一致的意见是,必须时刻保持对前沿技术的掌握和对AI的完全控制。

  编辑:王寅

文章版权及转载声明

作者:weilai本文地址:https://www.beijingshouyi.com/shehui/20962.html发布于2023-03-19
文章转载或复制请以超链接形式并注明出处北京手艺资讯网

  • 上一篇 :瑞银提出以最高10亿美元价格收购瑞信,报价远低于其最新收盘价
  • 下一篇 :下周9只新股发行,解禁市值超700亿元,浙商证券称A股新一轮上涨窗口将打开

同类推荐

国信期货:多空因素交织 油价维持区间震荡

国信期货:多空因素交织 油价维持区间震荡

2023-03-02

  • 5
  • 0
欧洲央行官员:可能9月前达到利率峰值,市场对快速降息的预期并不明智

欧洲央行官员:可能9月前达到利率峰值,市场对快速降息的预期并不明智

2023-03-02

  • 4
  • 0
德国公开反对 欧洲“禁燃”遇阻

德国公开反对 欧洲“禁燃”遇阻

2023-03-02

  • 6
  • 0
英国央行行长借1970年代的教训 暗示利率可能再度上升

英国央行行长借1970年代的教训 暗示利率可能再度上升

2023-03-02

  • 4
  • 0

发表评论

留言:dddxzxx

最新文章

目标超3000亿元!深圳发文打造“直播电商之都”,直播电商基地已多点开花

目标超3000亿元!深圳发文打造“直播电商之都”,直播电商基地已多点开花

2023-03-25

  • 0
  • 0
刘烈宏:中国联通今年拟对5G基建投入近千亿 建设超42万座基站

刘烈宏:中国联通今年拟对5G基建投入近千亿 建设超42万座基站

2023-03-25

  • 0
  • 0
豫能控股(001896):第八届第七次监事会会议决议,审议2022年度监事会工作报告等议案

豫能控股(001896):第八届第七次监事会会议决议,审议2022年度监事会工作报告等议案

2023-03-25

  • 0
  • 0
散户傻眼了!刚有点行情机构就落袋,科创50、芯片半导体、传媒被狂抛,但光伏竟被买出历史新高

散户傻眼了!刚有点行情机构就落袋,科创50、芯片半导体、传媒被狂抛,但光伏竟被买出历史新高

2023-03-25

  • 0
  • 0
永安林业(000663):第九届第三十八次董事会会议决议,审议《关于公司符合向特定对象发行A股股票条件的议案》等议案

永安林业(000663):第九届第三十八次董事会会议决议,审议《关于公司符合向特定对象发行A股股票条件的议案》等议案

2023-03-25

  • 0
  • 0

猜你喜欢

世界杯竞猜(世界杯竞猜币)

世界杯竞猜(世界杯竞猜币)

2023-03-01

  • 107
  • 0
世界杯预选赛亚洲区(2010世界杯预选赛亚洲区)

世界杯预选赛亚洲区(2010世界杯预选赛亚洲区)

2023-03-01

  • 12
  • 0
世界足球即时比分手机(世界足球即时比分网站)

世界足球即时比分手机(世界足球即时比分网站)

2023-03-01

  • 71
  • 0
全面注册制下267家在审IPO企业“平移潮”来袭,未来一周或迎受理高峰

全面注册制下267家在审IPO企业“平移潮”来袭,未来一周或迎受理高峰

2023-03-01

  • 7
  • 0
世预赛国足vs日本(世预赛国足vs日本比分预测)

世预赛国足vs日本(世预赛国足vs日本比分预测)

2023-03-01

  • 72
  • 0

热门排行

全国劳模待遇(全国劳模待遇细则文件通辽)

全国劳模待遇(全国劳模待遇细则文件通辽)

2023-03-01

  • 127
  • 0
足球比分球探体育足球(球探足球即时比分足球比分App)

足球比分球探体育足球(球探足球即时比分足球比分App)

2023-03-02

  • 122
  • 0
卡塔尔vs厄瓜多尔比分(2022年世界杯卡塔尔vs厄瓜多尔比分)

卡塔尔vs厄瓜多尔比分(2022年世界杯卡塔尔vs厄瓜多尔比分)

2023-03-02

  • 119
  • 0
不合格化妆品(不合格化妆品名单公布)

不合格化妆品(不合格化妆品名单公布)

2023-03-01

  • 116
  • 0
中超最新排名和比分(中超最新排名和比分ds)

中超最新排名和比分(中超最新排名和比分ds)

2023-03-01

  • 114
  • 0

标签

  • 足球
  • 搞笑
  • 法律
  • 社会
北京手艺资讯网
回到顶部

备案号京ICP备11016285号