00:00看影片之前提醒你热点网站有更多内容哦
00:04人工智能的发展是不是已经快到停不下来了呢
00:08人工智能巨头Antropic CEO阿默黛最近发出减速呼吁时
00:13获得了OpenAI CEO阿特曼以及SpaceX CEO马斯克的负议
00:18引起广泛注意
00:20阿默黛甚至提出了三个方向
00:22首先 AI 公司必须接受更严格的第三方安全评估
00:27其次 美国的AI企业之间应该要协调
00:30在安全标准以及能力推进的速度上达成共同的规则
00:35而最困难的恐怕是第三步
00:38美国和盟友尝试跟中国合作
00:41让中国也接受类似的限制
00:44换句话说 阿默黛并不是要求全球停止发展AI
00:49而是认为 AI可以继续发展
00:51但人类必须要留下足够的时间去测试 理解和控制
00:56它
00:57因为AI能力的进步速度已经开始超越人类
01:01建立安全机制的速度了
01:03而另外一宗网络攻击事件也加深了人们的忧虑
01:082026年7月
01:09OpenAI在进行他们的前沿网络安全评估时
01:14内部先进行AI智能体自主突破了沙盒隔离
01:19利用临日漏洞连接互联网
01:22并且协同入侵了开源平台HuggingFace
01:26这是全球首起完全由智能体主导
01:30并且形成群体协作的现实网络攻击案件
01:34这也让很多人认为 AI似乎已经失控了
01:39现在看起来 AI产业终于意识到油门踩得太深
01:44是不是应该稍微踩一下刹车了呢
01:47但问题也马上出现
01:49谁该先踩刹车呢
01:52因为现在的AI已经不再只是一场商业竞争
01:56而是正在成为美国和中国之间的战略竞争
02:01过去几年中美AI的差距快速缩小
02:04中国的AI能力据称只落后美国大约三到六个月
02:09于是一个经典的赛局理论
02:12囚徒困境出现了
02:15假设中美都同意放慢速度
02:18当然这是最安全的结果
02:20AI的风险会降低
02:21人类也获得更多的时间来建立监管机制
02:26可是如果美国放慢
02:27中国没有放慢呢
02:29那就可能意味着美国失去领先优势
02:33那反过来
02:34中国也会面对同样的选择
02:36因此对双方来说
02:38最理性的选择很可能反而就是继续加速
02:43只是在这场疯狂竞速的背后
02:45前Antropic和OpenAI的研究员雅各布·考克森
02:49早前抛出了一记重磅炸弹
02:52他说那些亲手打造AI的核心团队
02:55内心深处真切地相信
02:58超级智能可能在2030年前毁灭人类
03:03在他看来
03:04研发超级智能就像在地球上主动召唤一个
03:08无法捉摸的外星意识
03:10而人类到现在根本没有办法掌握
03:14彻底控制它的安全刹车
03:17当AI开始展现自主跨系统渗透
03:20甚至有串通的能力时
03:22我们面对的不再只是冷冰冰的代码
03:25而是一场影响全人类生存的疯狂豪赌
03:50美国人工智能公司Antropic的前研究员雅各布·考
03:53克森
03:54上星期高调宣布此时抛出震撼警告
03:57超级智能极可能在2030年前彻底毁灭人类
04:01超级智能就像在地球上召唤外星物种
04:04还抨击它服务的Antropic和前东家OpenAI
04:07极不负责任
04:08正不顾一切奔向自我迭代的超级智能
04:12雅各布·考克森宣称
04:13他无法接受这样的状态而选择离职
04:16更非常赞同
04:17AI发展必须放慢脚步
04:19不能够把决定权都交到技术开发者手里
04:38AI人工智能的高速发展
04:40也让Antropic CEO阿莫戴发出公开呼吁
04:43减速AI前沿模型的发展
04:45并获得了竞争对手OpenAI CEO阿特曼
04:48以及SpaceX CEO马斯克的认同
04:51对于AI是否构成终极威胁
04:53两位AI和网络专家受访时
04:56虽然都反对过度渲染灭绝论
04:58但观点各异
04:59刘志涵坚信
05:01人类拥有拔插头的终极控制权
05:04但不能够避谈安全隐患
05:06而风宗服务则警惕
05:07人工智能体已经展现
05:09有自主隐秘协作的能力
05:11一旦深度接管电网
05:13军事等等物理系统
05:14恐怕会诱发不可逆的终结者浩劫
05:17从技术上来讲的话
05:19我们永远人类的最后一道防线
05:22就是英文所谓的Purple
05:24那里最不可行的时候
05:26你还是可以把它关掉的
05:28我觉得灭顶这个东西
05:29或者这个预测
05:30是不需要过度的解读
05:33但是从竞赛
05:35还有大家如何去克制它的安全性
05:38这个我觉得是任何一个
05:40有参与开发AI模型的国家跟公司
05:43他们确实是要对这件事情比较公开
05:46比较认真一点去谈
05:48就是说它的破坏性
05:49我们必须让大家知道
05:51那它的实力我们也可以发布
05:53现在每一家都只是发布它的实力
05:55那坏的东西它就不讲
05:56我们其实不应该把AI会杀死人类
05:59这个当成确定的事实
06:00但也觉得不能把这个警告当成一些客观小说
06:03AI在2030年前威胁人类
06:07我觉得是的确是会有这个可能性
06:09而且可能性是蛮高的
06:10但是能不能会杀死人类
06:12其实AI并没有是所谓的失控
06:16只是我们控制AI这方面的制度出现了裂缝
06:20我们对AI的掌控其实还是很弱
06:23因为一向来我们就专注在AI本身的提升能力
06:26AI本身的发展而忽略了掌控AI的意识
06:30AI的发展趋势可能会危害人类
06:33那是不是该慢下来呢
06:35两位受访者都认为
06:36单纯叫停或放慢AI技术研发
06:39是不切实际的伪命题
06:41尤其当前大国博弈和科技巨头竞争
06:44陷入囚徒困境
06:45在谁都不想被超越
06:47或要自己变成输家的情况下
06:50要求AI减速发展既不现实
06:52更不可能发生
06:53更值得我们关注的情况是
06:55所谓的囚徒困境
06:57就是每家公司都有可能认为
06:58如果我慢下来
06:59我的竞争对手会不会慢下来
07:01而且每个国家也有可能这样
07:02这样子认为如果我慢下来的话
07:04其他国家会不会平线
07:05结果就是大家都知道有风险
07:07但是却没有人敢踩那个刹车
07:09所以AI的安全性
07:11不能完全依赖科技公司的资予
07:13所以AI越强的话
07:15我们就更加需要独立的测试
07:17由第三方审计和政府监管
07:19就来得更重要了
07:20科技竞赛的飞轮一旦转动
07:22就不会主动停歇
07:24刘哲涵认为
07:25放慢论本质上是欧美的娱乐话术
07:28中国等追赶者
07:29从来没有主动提出要放慢
07:31因为差距正在缩短
07:33我觉得没有慢下来的必要
07:35而且这个都是欧美的论调
07:38我从来没有听过
07:39中国的AI公司说
07:41为什么我们要慢下来
07:42你慢下来是为了
07:43让中国可以跟上来吗
07:44唯一有可能说它要慢下来
07:47就是它可能一部分的东西
07:49可能是酸力
07:50可能是电力
07:50可能是水力
07:51有一点跟不上的趋势
07:53或者说它还需要一点英文
07:55所谓的by time
07:56我们以前一开始说
07:57可能中国跟美国的差距
07:59可能就是一年
08:00后来慢慢缩短到九个月
08:02现在从业界的角度来看
08:04一些模型
08:05可能它的差距三个月
08:06但是都不会差太远了
08:08分分钟多一两次迭代都追得上
08:11两位受访者都说
08:12当今的AI发展
08:13不止没有减速迹象
08:15甚至演化还突破人类预想
08:17当大型模型的越界操作
08:19引发失控隐忧
08:20企业和普通人
08:22又该如何设下防线呢
08:23你还是那句老话
08:25尽性输不如无输
08:26尽性AI就不如没有AI
08:29那我们还是要只是给AI
08:31完成任务的最小权限
08:33然后在那个最小权限里面
08:36去最大化它结果的
08:38最高的准确率
08:39这个是我一贯的哲学
08:42也是我一贯给大家的建议
08:43其实我不会说AI是完全失控了
08:45但是它证明了
08:46一个很重要的事情就是
08:48我们不能假设AI
08:49都一定按照人类的预想的方法
08:52去完成任务
08:52所以现在真正的问题
08:54并不是AI有没有意识
08:56而是AI能力发展的速度
08:58会不会已经超越了
08:59我们能控制它的速度
09:01这个才是我们往外安全
09:03接手真正担心的地方
09:07现在中美AI竞赛
09:09正出现跟当年核武竞赛
09:11非常相似的战略逻辑
09:13所谓得AI者得天下
09:16谁先拥有更强大的AI
09:18谁就可能取得巨大的经济
09:20军事和情报优势
09:23而双方都在争夺更强大的模型
09:25甚至希望开发能够突破
09:27现有网络防线
09:28具备高度自主能力的超级AGI
09:32那么在这样的国家竞争前提之下
09:35尖端AI的发展
09:37会不会真的停不下来呢
09:39现在看来答案恐怕仍然很难
09:43因为真正需要踩下刹车的
09:45也许不是AI
09:46而是人类之间的不信任
09:49而这场竞赛最终会走向哪里
09:52或许只有两种可能性
09:54要么由一方取得足以拉开距离的
09:57压倒性领先
09:58让竞争失去继续追赶的意义
10:01要么直到某一天
10:03发生了一场严重的AI事故
10:04甚至灾难
10:06人类才会被迫踩下刹车
10:09就像当年的核武竞赛一样
10:11最让人担心的
10:12从来不是我们不知道危险
10:15而是知道了危险
10:17却没有任何一方
10:18敢先停下来啊
10:20感谢思люд
10:23感谢观看
10:24字幕志愿者 杨茜茜
评论