00:00看影片之前提醒你 热点网站还有更多内容
00:03ChatGPT在2022年问世以来
00:07不少人习惯把他当作生活上的顾问
00:10从今天晚餐要吃什么 该不该换工作
00:14甚至和女朋友闹分手 失恋等等情感问题
00:17都找AI去倾诉
00:19但是AI真的是无所不能吗
00:22AI给出的建议都是百分之百值的信赖的吗
00:26在美国加州就发生了一件令人心碎的事情
00:29一名19岁的青少年长期向ChatGPT寻求用药的建议
00:35最终因为服药过量 成瘾致死
00:39她的母亲悲痛地指控ChatGPT是害死她儿子的推手
00:45少年的母亲透露 儿子在18岁的时候
00:48开始对一种名叫卡通的植物性止痛药产生兴趣
00:54由于网上的资讯有限
00:56少年便将ChatGPT当成了权威
01:00询问服用方法还有剂量
01:02简单说一下服用卡通可能导致幻觉
01:06还有戒断反应等等的危险症状
01:09在一些国家甚至被列为管制药物
01:12但是在美国并没有受到监管
01:14甚至在一些香烟行或者加油站就可以轻易地买到了
01:19起初少年在询问ChatGPT的时候就特别强调自己不想服用过量
01:25希望安全使用
01:27ChatGPT一开始也是拒绝给出用药建议
01:30并建议这个少年寻求专业的帮助
01:33可是后来这个少年持续不断地调整他提问的方式
01:37成功绕过了这个AI里头内置的审查
01:41最终就获得了一些回应
01:43然后令人震惊的是
01:44ChatGPT从最初拒绝提供指导
01:48后来竟然主动去鼓励这个少年服药
01:52教他如何应对副作用
01:54甚至还说了一些匪夷所思的话
01:56例如让我们进入完全迷幻的状态
02:00说这样的话
02:01还建议他加倍服用止咳糖浆来增强这个迷幻效果
02:06还推荐所谓的配乐清单
02:09就这样呢
02:10这个少年一步一步在ChatGPT的指引之下
02:13逐渐地陷入了毒瘾当中
02:15那去年5月
02:17少年终于向母亲坦白
02:19自己因为跟AI聊天就染上了毒瘾
02:22母亲呢就带他去专业的诊所求助
02:25制定一套治疗的方案
02:27但是呢
02:28毒瘾并非是一朝一夕能够摆脱的
02:32那回家的当天晚上
02:33少年又跟ChatGPT聊了几个小时的用药情况
02:37隔天呢就因为用药过量在家中去世
02:41那AI确实能够带来便利
02:43但是对于那些还没有成熟
02:45缺乏判断能力的青少年而言
02:48界线一旦模糊
02:49后果可能不堪设想
02:51而分析显示呢
02:53少年所使用的ChatGPT的那个版本
02:57在健康的相关回应上表现是极度不理想
03:01处理复杂
03:01人类对话的成功率为零
03:04事实上这并非首例因为ChatGPT误导而引发的悲剧
03:08研究发现呢
03:09ChatGPT在某些情况下会教导未成年人如何
03:13喝醉 吸毒 隐瞒这个饮食失调
03:16甚至帮助他们写出令父母心碎的自杀信等等
03:20因此OpenAI官方表示这件事令人心碎
03:24他们强调他们正在跟临床医师和健康专家合作
03:28持续改良他们的大模型
03:30以更精准识别和应对用户的不良症状
03:35解决这个问题
03:37新版本他们说已经加强了安全防护机制了
03:41优优独播剧场——YoYo Television Series Exclusive
