00:00看影片之前提醒你热点网站有更多内容哦
00:04三个星期前2月10号
00:06加拿大发生了一起大规模枪击案
00:09造成9人死亡
00:1127人受伤
00:12震惊全球
00:13是加拿大史上伤亡第二严重的校园枪击事件
00:1718岁的枪手鲁特塞拉尔Russela在现场自杀身
00:22亡
00:22枪手在大开杀戒之前
00:25先在家里冷血的枪杀了自己的母亲
00:28和年仅11岁的基地
00:30那这一起血腥案件震惊了整个加拿大
00:34更令人吃惊的是
00:35枪手在杀人之前就曾经和ChatGPT讨论暴力的内
00:41容
00:41警方调查之后就发现
00:43这名凶手其实在干案之前
00:44就已经披露出了极度危险的迹象
00:48根据华尔街日报独家报道
00:50针对凶手与人工智能聊天机器人的互动细节
00:54其实早在去年6月
00:56OpenAI的自动审查系统就已经侦测到了18岁的枪手
01:01跟ChatGPT在聊天的过程当中
01:03对话充满了暴力色彩
01:06并标记了他的账号
01:07还不只是这样
01:09因为后来呢
01:10ChatGPT公司内部还特别讨论了他的行为
01:14那当时有十多名员工对这些对话感到非常不安
01:19认为这是暴力的征兆
01:21甚至请求主管向加拿大的执法单位通报
01:25只是OpenAI的高层经过讨论之后
01:28最终决定不联络警方
01:31因为他们认为鲁特塞拉尔的行为虽然违规
01:35但是还没有达到对他人构成迫在眉睫的人身伤害风险
01:41的门槛
01:41所以决定不通报
01:43那如果贸然报警可能会引发隐私争议
01:47所以当时呢
01:47只是封锁了他的账号而已
01:49在枪击惨案发生之后呢
01:52OpenAI公司发言人证实
01:54他们收到消息之后
01:55已经主动联系了加拿大皇家骑警
01:58并将枪手过网与TryGP的互动相关数据和资
02:02料
02:02全部交给警方以协助调查
02:05OpenAI在对外声明当中
02:07也对这起悲剧的受害者家属表示哀悼
02:10并承诺未来将会表达伤害意图的对话呢
02:14将这些对话转给人工来处理
02:17在暴力风险和隐私考量之间进行权衡
02:22那这起案件再次把人工智能
02:24聊天机器人的潜在风险
02:26推上了风口浪尖
02:28随着AI技术越来越普及
02:30很多人开始习惯向聊天机器人
02:33倾诉内心最阴暗最私密的想法
02:36甚至是犯罪意图
02:38让外界开始质疑
02:39科技公司在保护用户隐私的同时
02:42是否有足够的机制来防范公共安全危机
02:46尤其是当演算法已经侦测到明显的暴力倾向时
02:51到底要不要通报警方
02:53这中间的界限到底该怎么拿捏
02:55那要不然的话
02:56类似的悲剧恐怕还会重演
Comments