00:00看影片之前提醒你 热点网站还有更多内容
00:03近年来美国校园频频发生枪击事件
00:08为了保障师生的安全
00:09美国部分的学校就纷纷投入聚资
00:13引入了AI枪支监测系统
00:16希望透过人工智能影像
00:18能够及时检测出学生有没有携带枪支
00:21然而发展一日千里越来越聪明先进的AI
00:26也会有出错闯祸的时候
00:29这一次就因为系统误判
00:31引发了一场惊心动魄的乌龙警报
00:34出动警方大阵仗到场
00:36还命令学生下跪并且上靠
00:39只因为不小心把学生口袋里的薯片当成枪
00:43事件发生在上个星期一
00:45在美国巴尔地摩一所高中读书的男子身上
00:49他名叫艾伦
00:50这名男子心有余悸地回忆起
00:52当时他刚结束足球训练
00:55正与朋友们一边走一边聊天
00:57突然就有八辆警车将他团团包围
01:01警方是拿着枪走向艾伦
01:03还大喊让他马上跪下
01:05警方将他的双手反绑在背后
01:08并戴上手铐
01:09场面就像是美剧上演
01:11激拿凶手的行动一样
01:13警方随后就出示了AI影像照片
01:16指艾伦身上藏了一把枪
01:19但是离谱的是
01:21警方在调查之后就发现
01:23AI系统判定的枪
01:25竟然是艾伦口袋当中
01:27皱巴巴的一包薯片
01:29那艾伦当时心里是十分的恐惧
01:33脑海中不断地在想
01:35我会不会死
01:36我会不会被射杀
01:37那巴尔地摩警察局就表示
01:39系统当时是侦测到疑似枪支的影像
01:43虽然人工审查员已经更新为
01:46没有威胁
01:47但是校长并没有注意到这项资讯
01:50依然是通知警方出动
01:52虽然校长事后向家长就保证说
01:55将为相关的学生提供心理辅导
01:57然而艾伦表示
01:59至今是没有人向他道歉
02:01也没有校方主动联系他
02:03只说这是标准的程序SOP
02:05如今他每天上学也感到害怕
02:08担心如果他再吃一包薯片
02:10或者喝点什么
02:11感觉警方会再次出现
02:13显然是留下了心理阴影
02:15那事后提供学校监控系统的科技公司
02:19也有发布声明道歉
02:20承认这一次的误报
02:22但强调说
02:23系统是跟着设计来运作
02:25只是真实世界的枪支检测相当复杂
02:29难免会出现误报
02:30而这个AI系统是怎么样来运作的呢
02:34AI系统会扫描校园监视器的画面
02:37当侦测到认为是有武器的物体的时候
02:40就会自动报警
02:42然而艾伦就说
02:43他当时只是把薯片插在口袋里
02:47并露出了三根手指
02:49就这样被认为
02:50他就把枪支放进口袋里了
02:53那这一起事件在当地引发了轩然大波
02:56也让外界对AI监控系统的准确性
03:00和使用流程提出质疑
03:01当人工智能操作失误
03:04是可能会引起非常严重的后果
03:06但事实上有越来越多的机构开始实施人工智能的技术
03:12比如美国陆军威廉汉克少将就承认他们将使用ChatGPT来制定非常关键的军事决策
03:20与此同时英国也针对成人的内容
03:22推出了非常严格的年龄验证措施
03:25要求用户要通过脸部扫描
03:28来证明自己已经年满18岁
03:30但是却屡屡出错
03:32比如一名纹身的成年男子就说
03:35年龄的验证系统将他的纹身解读为是面具
03:39要求他移除脸部
03:41既荒谬又讽刺
03:43明镜需要您的支持 欢迎订阅明镜
Comments