플레이어로 건너뛰기본문으로 건너뛰기
YTN news
■ 진행 : 조태현 앵커, 박진희 앵커
■ 출연 : 김명주 인공지능안전연구소장

* 아래 텍스트는 실제 방송 내용과 차이가 있을 수 있으니 보다 정확한 내용은 방송으로 확인하시기 바랍니다. 인용 시 [YTN 뉴스START] 명시해주시기 바랍니다.


160문제 중 딱 1개만 틀려 화제를 낳았던세무사 시험 수석 합격자가 결국 부정행위를 자수했습니다. 김명주 인공지능안전연구소장과자세한 얘기 나눠보겠습니다. 소장님, 저 이상한 점 없습니까?

[김명주]
안경 쓰셨군요.


제가 지금 스마트안경을 쓰고 있습니다. 그런데 소장님께서는 보시자마자 바로 아셨습니까?

[김명주]
일반적으로 투박한 게 있고요. 자세히 봐야 합니다. 사실 앞에 렌즈라든지 이런 것들은 구체적으로 보지 않고 그냥 봐서 일반 안경은 구분하기 쉽지 않습니다.


소장님 같은 전문가가 봤을 때 스마트안경을 봤을 때 렌즈 같은 걸 유심히 봐야 알아볼 수 있다는 말씀이신 거잖아요.

[김명주]
앞쪽에 카메라가 있을 경우에는 카메라 렌즈를 봐야 되고요. 그리고 어떤 경우는 빛이 약간 바깥으로 새어나오는 게 있지만 그런 경우도 자세히 관찰해야만 알 수 있습니다.


그렇다면 소장님 같은 전문가들이 봐도 찾아보기가 어려운데 이런 것들이 시험 같은 데서 쓰인다면 단속하는 게 쉬운 일은 아니겠어요.

[김명주]
쉽지 않을 겁니다. 왜냐하면 스마트안경도 여러 종류가 있고 외관상 있는 모습을 미리 교육시킨다고 해도 현장에서 그걸 실제로 보는 것하고 개인이 비슷하게 안경을 착용하는 경우도 있기 때문에 혼동하는 경우도 많이 있습니다.


일단 무거워서 벗었는데요. 이 스마트안경, 처음부터 세무사 수석 합격자가 이걸 써서 부정행위를 한 것이 아니냐라는 의혹이 제기됐습니다. 그런데 알고 보니까 이 스마트안경도 아니었고 그냥 초소형카메라, 스마트폰, 이 정도로도 부정행위를 저질렀다고 해요. 어떻게 활용했다는 겁니까?

[김명주]
이 부분은 스마트안경이 나오게 된 배경이기도 한데 시험 문제 입력하고 그걸 초소형카메라가 촬영해서 그거 AI한테 전달을 합니다. AI는 스마트폰을 이용할 수 있고요. AI가 문제를 푼 다음에 답을 다시 수험생한테 전달해 주겠죠. 그 과정에서 화면을 볼 수 있으면 화면을 보는 거지만 이어폰을 통해서 음성으로 전해 주기도 합니다.


이번에 ... (중략)

YTN 조용성 (choys@ytn.co.kr)

▶ 기사 원문 : https://www.ytn.co.kr/_ln/0103_202611160714069767
▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424

▣ YTN 데일리모션 채널 구독 : http://goo.gl/oXJWJs

[ 한국 뉴스 채널 와이티엔 / Korea News Channel YTN ]

카테고리

🗞
뉴스
트랜스크립트
00:00160문제 가운데 딱 한 개만 틀려서 화제를 나왔던 세무사 시험에 수석합격자가 결국 부정행위를 자수했습니다.
00:07김영주 인공지능안전연구소장과 자세한 이야기 나눠보겠습니다. 어서오십시오.
00:12어서오십시오.
00:13소장님 저 이상한 점 없습니까?
00:15아 네 안경 쓰셨군요.
00:17제가 지금 스마트 안경을 쓰고 있습니다. 그런데 소장님께서는 보시고 바로 아셨습니까?
00:23일상적으로 이렇게 투박한 아직까지는 좀 투박한 모습들이 있고요.
00:27자세히 봐야 됩니다. 사실 앞에 렌즈라든지 이런 것들은 구체적으로 보지 않고 그냥 봐서는 일반 안경하고 구분하기 쉽지 않습니다.
00:35소장님 같은 전문가들이 보셔도 이렇게 스마트 안경을 봤을 때 렌즈 같은 걸 유심히 봐야지 알아볼 수 있다는 말씀이신 거잖아요.
00:42렌즈 앞쪽에 카메라가 있을 경우는 카메라 렌즈를 봐야 되고요.
00:46그리고 어떤 경우는 빛이 약간 바깥으로 새어나오는 경우도 있지만 그런 경우도 자세히 관찰을 해야만 알 수가 있습니다.
00:54그렇다면 소장님 같은 전문가들이 쓰시기에도 이렇게 찾아보기가 어려운데
00:58이런 것들이 현실 시험 같은 데서 쓰인다면 이걸 단속해내는 게 그렇게 쉬운 일만 아니겠어요?
01:04쉽지 않을 겁니다. 왜냐하면 스마트 안경도 여러 종류가 있고요.
01:08유의관상 있었던 모습들을 미리 교육시킨다고 해도 현장에서 그걸 실제로 보는 거하고
01:13또 개인이 비슷하게 안경을 착용하는 경우도 있기 때문에 혼동하는 경우도 많이 있습니다.
01:18일단 무거워서 벗었는데요.
01:21이 스마트 안경, 처음부터 세무사 수석 합격자가 이걸 써서 어떤 부정행위를 한 것이 아니냐라는 의혹이 제기됐었습니다.
01:29그런데 알고 보니까 이 스마트 안경도 아니었고요.
01:32그냥 초소형 카메라, 스마트폰 이 정도로도 부정행위를 저질렀다고 해요.
01:37어떻게 활용했다는 겁니까?
01:38이 부분은 사실 스마트 안경이 나오게 된 배경이기도 한데
01:41시험 문제를 받아들이는 입력이죠.
01:44초소형 카메라로 받아들이고 그걸 AI한테 전달합니다.
01:48AI는 물론 스마트폰을 이용할 수도 있고요.
01:52AI한테 전달하면 AI가 문제를 푼 다음에 답을 다시 수험생한테 전달해 주겠죠.
01:57그 과정에서 주로 화면을 볼 수 있으면 화면을 보는 거지만
02:01대개 이어폰을 통해서 음성으로 전달해 주기도 합니다.
02:04이번에 객관식 1차뿐만 아니라 주관식 2차 시험에서도 같은 수법을 썼다고 하는데
02:10AI를 이용해서 이렇게 주관식 답안까지 작성하는 게 가능할까요?
02:15네, 뭐 AI는 일단 말을 생성하기 때문에 문제를 보고 답을 생성합니다.
02:20물론 이게 정답인지 아닌지는 두 번째 문제이긴 하지만
02:22정답이라고 가정을 하면 주관식도 길게 나오잖아요.
02:26그래서 이번에 본인이 스스로 말할 때 스마트폰을 보고했다고 그러는데
02:31이 주관식은 보고하기에는 시간이 많이 걸려서
02:33아마 구체적으로 수사는 해봐야 되겠지만
02:36이어폰을 썼을 가능성이 있다.
02:37이게 많이 볼 수 있을 것 같고
02:39만약에 스마트, 그래서 처음에 스마트클래스 이야기 나왔던
02:43AI 안경 이야기 나왔던 이유가
02:45이걸 계속 보면서 어떻게 주관식을 풀었을까, 이어폰이 아니면
02:48그러면 이게 감동 문제하고 좀 연관이 있잖아요.
02:52그래서 아마 그래서 처음부터 AI 안경을 썼지 않았을까라는
02:56생각하게 된 것도 그 과정인 것 같습니다.
02:58그렇기 때문에 AI 안경이었는데
03:00어쨌건 스마트폰을 활용하는 이런 문제점, 부정행위가
03:04전혀 적발되지 않았다.
03:05이런 거는 완전히 다른 차원의 문제인 것 같고요.
03:08이번에는 AI 그 자체에 대해서 한번 집중해 보도록 하겠습니다.
03:11스마트 안경, 갖고 나오긴 했습니다만 저도 사실은 써본 적은 없거든요.
03:16그런데 많은 분들이 저랑 비슷하실 것 같습니다.
03:19요런성아, 이 스마트 안경이 어디까지 역할을 할 수가 있는 겁니까?
03:24보통 글치로 되어 있는 부분들은 읽어드려서
03:28이걸 가지고 뒷단에 연결되어 있는 AI한테 입력으로 줘서 처리하게 할 수도 있고요.
03:33사물을 보면 저 사물이 어떤 것인지 화면에 정보 같은 것들을 추가로 표현도 됩니다.
03:39그래서 손을 사용하지 않고 컴퓨터나 어떤 스마트폰한테 입력을 해주는 과정을
03:46안경을 통해서 한다, 이렇게 보시면 될 것 같습니다.
03:49안경을 통해서 그러니까 우리가 스마트폰에서 하는 역할들을 할 수 있다는 거잖아요.
03:54저도 이걸 쓰면 방송을 더 잘할 수 있을 것 같다라는 생각도 드는데
03:57일례로 지금 유튜버가 이거를 직접 쓰고 수능 문제를 풀어봤더니
04:02갑자기 30문제 중에 25개를 맞췄다는 거예요.
04:05객관식에서는 이 정도 안경을 쓰면 객관식 문제를 푸는 데는 굉장히 많은 도움이 되겠어요?
04:10네, 아무래도 주관식보다는 객관식이 훨씬 더 간단하고요.
04:14다만 그 동영상의 지인은 또 확인해 볼 필요가 있는 게
04:18실제로 문제를 여러 번 풀었는지 아니면 편집상 여러 가지 기술들이 들어갔는지 잘 모르겠지만
04:24일단은 AI를 활용하는 것은 그렇지 않은 것보다는 훨씬 더 능력에 있어서 차이를 보여준다는 것은 확실한 것 같습니다.
04:30그런데 청와대가 국가자격시험 전체를 대상으로 전수조사에 나섰는데
04:36현실적으로 이 부정행위를 얼마나 적발할 수 있을까요?
04:40그게 이제 시험 감독할 때 사용했던 여러 가지 증거자료들이 있거든요.
04:45그런 자료들이 아직 소실되지 않았다면 그걸 통해서 받을 수도 있을 것 같고요.
04:49일부는 제보를 통해서 많이 받을 수도 있을 것 같습니다.
04:52하지만 전수조사라고 하는 부분들이 어느 정도 이럴지는 데이터에 근거해서 봐야 될 것 같습니다.
04:58이거를 이 사람이 점수가 많이 나왔기 때문에 수석이나 차석이 했기 때문에
05:02이거는 이제 일종의 수험생이라는 차별이 되는 거잖아요.
05:07그래서 증거기반으로 하는 거라서 결국 그 증거의 내용들이 어느 정도까지 제공되고 있느냐에 따라서
05:13전수조사 효과는 좀 달라질 것 같습니다.
05:15알겠습니다. 저도 이제 환경을 한번 다시 써봤는데요.
05:19어쨌건 이게 전수조사를 한다고 해서 현실적으로 밝혀낼 수 있을 것인가.
05:22이 부분에도 좀 실효성 논란이 있을 것 같고요.
05:26그렇다면 결국에 제일 중요한 거는 부정행위를 막아내는 게 제일 중요할 것 같습니다.
05:30지난달 가스기사 실기시험에서 이 스마트 환경을 이용해서 답변을 작성하던 수험자가 적발되기도 했는데
05:36소위 말하는 AI 인스펙터가 잡아낸 첫 사례라고 하거든요.
05:39AI 인스펙터가 누구고 어떤 역할을 하는 겁니까?
05:43인스펙터는 사실 기계는 아니고요.
05:44말씀하신 것처럼 사람입니다.
05:46잘 훈련받은 사람이기 때문에 AI 장비에서 AI 안경의 구조들을 잘 알고 있다든지
05:53사용할 때 어떤 동작을 하는지를 잘 알고 있는 사람이죠.
05:57그래서 일반적으로 가지고 온 AI 안경의 모양도 판별하고 있고
06:01안경을 쓴 사람이 시험을 볼 때 어떤 행위를 하는지를 딱 보면서
06:06저거는 일반적으로 스마트 안경을 쓰는 거다라는 걸 판별할 수 있도록
06:09미리 훈련을 잘 받은 사람들을 보통 인스펙터라고 이야기를 합니다.
06:13그러면 이게 소장님 같은 전문가들께서도 딱 보시기에는 구분하기가 쉽지 않은데
06:18어떤 행위를 보고 판단을 하는 겁니까?
06:21그래서 보통 감독관한테 미리 교육을 시킵니다.
06:25일반적인 감독관한테, 시험 감독관한테 교육을 시키고
06:27감독관이 의심할 만한 사례가 되면 전문가한테 그걸 다시 의뢰하는 형태로 진행이 되기 때문에
06:33일종의 교본이라고 그러죠.
06:36교본이 구체적으로 사실 제공될수록 판단할 확률은 대단히 높아집니다.
06:40어떤 행동들을 하는 게 의심 행동입니까?
06:43주로 입력이 끝날 경우에 보통 이것을 출력하라고 해서 안경을 터치하거나 이런 부분들도 있고요.
06:49안경을 자주 만지는 사람은 의심스러운 겁니까?
06:51네, 그래서 주로 입력이 끝났다고 하는 부분들을 신호를 많이 주는 경우도 있고
06:55입력을 그냥 끝났다는 표현을 하지 않고 계속 연속적으로 줄 수 있는 경우도 있지만
07:00대개 보이는 화면들이 안에 액정들이 있는데
07:03액정을 이용할 경우, 눈이 맞히지 않을 경우, 이게 잘 두르지 않을 경우
07:07자꾸 안경을 조절하는 경우도 있습니다.
07:10시점 조절을.
07:11그래서 이런 부분들은 안경 쓰는 습관하고도 많이 연관되긴 하지만
07:16주로 스마트폰에 있어서, 입출력에 있어서의 사용자의 동작
07:22이런 부분들을 미리 보고 판단하기도 합니다.
07:24지금 전파 차단 장치를 설치하거나 초음파 세척기로 안경을 검사하자
07:30이런 의견들도 나오는데, 이게 실제로 효과가 좀 있을까요?
07:33사실 전파 차단기는 부작용이 있습니다.
07:36주변에 전파 차단기 영향을 받는 경우도 있어서
07:38만약에 무슨 긴급사태인데 고사장에서 전파 차단기를 쓰는 바람에
07:42연결이 안 되면 그것도 문제가 될 수도 있고요.
07:46특정한 상황에서만 그게 가능한 거고
07:48말씀하신 것처럼 초음파 세척기 같은 경우는
07:51자칫하면 기기들이 망가질 수도 있습니다.
07:54그래서 고사장에서 초음파 차단기를 쓰고 난 다음에
07:58나중에 맡겼던 장비들, 이런 부분들이 고장이 나면
08:01그것도 역시 불편한 관계가 되기 때문에
08:04이건 사실 쉽지 않고요.
08:05또 하나는 이게 모든 전체 고사장, 지금 수능을 앞두고 있는데
08:09전체 고사장에 사실 동일한 물건을 다 똑같이 집어넣어야 되거든요.
08:13어느 지역에만 이걸 집어넣고 안하면 공정성의 문제가 생기기 때문에
08:17비용 문제나 품질 문제가 또 다른 문제가 제기될 수 있습니다.
08:22그러면 소장님 말씀하신 것처럼
08:23인스펙터라든지 결국에 사람이 걸러낼 수밖에 없는 문제라는 건가요?
08:27네, 현재로서는 지금 당장 수능이 며칠 앞으로 다가왔기 때문에
08:31지금 관리감독 하시는 분들에게 보다 정확하게 교육을 시키고
08:35똑같은 프로토콜 절차로서 어떻게 예방할지, 휴수할지
08:40그 다음에 실제 발견했을 때 어떤 과정을 통해서
08:43사실을 확인할지 하는 부분들을 명확하게 하는 게 더 중요할 것 같습니다.
08:48진짜 이제 수능이 얼마 남지 않았는데
08:50당장 어떤 대책이 좀 필요한 걸까요?
08:53뭐 감독에 관한 교육이 가장 중요할 것 같고요.
08:55여러 각도에서 봐야 될 것 같아요.
08:57예를 들어서 안경을 썼는데
08:58실제 AI 안경과 비슷하게 생긴 안경을 쓰고 온 학생도 있을 거잖아요.
09:02그럼 안경 쓰고 왔다는 것 때문에 고사 시간 내내 보다 많은 관심을 받을 수 있기 때문에
09:10이것도 수험생에 대한 차별이 될 수 있죠.
09:12그래서 실제로 시험을 보고 있는 학생들 입장에서 어떻게 관리할지
09:19그리고 또 하나는 감독관도 스트레스를 많이 받습니다.
09:22만약에 본인이 철저하게 교육받은 대로 했는데
09:24여기서 만약에 부정행위가 발생하면 그걸 또 자기가 다 책임져야 되기 때문에
09:28사실 감독관 입장에서도 명확한 지침이 있고 지침대로 따라서 했을 때는
09:32사실 일종의 면책특권도 사실 있어야 되는 부분도 고려를 해야 될 것 같다는 생각을 합니다.
09:39이게 스마트 안경뿐만이 아니라 다른 초소형 전자기기들도 있어서 걱정이 굉장히 크고요.
09:44수능을 미뤄야 된다 이런 주장까지 나오고 있는데요.
09:47소장님께서 보시기에는 어떤 방법이 있을까요?
09:50방법에 마땅치 않아 보기 위해서 그렇습니다.
09:52사실은 이게 위형만 가지고 이건 AI 안경이다, 아니다.
09:56이게 판별하는 것만 가지고는 좀 힘들고요.
09:59이번 사건에도 카메라를 이용했다는 이야기도 나오고
10:03일부는 이어폰을 이용했다는 이야기도 나오기 때문에
10:05스마트 장비들이 여러 가지 형태가 있습니다.
10:08그래서 일반적으로 스마트 장비에 대한 이해가 사실 많이 필요할 텐데
10:12이게 지금 시간적으로 얼마나 잘 이루어질지는 잘 모르겠지만
10:15일단은 최대한의 교육을 하고
10:17문제는 이제 우리 수험생들과 학부모들한테도
10:20마찬가지로 준비를 할 필요가 있을 것 같습니다.
10:22일부에서는 지금 스마트폰의 일반적인 형태와 비슷한 안경을 쓰는 학생들한테는
10:27자칫 마음의 부담을 좀 덜어주기 위해서
10:29다른 안경을 사용하도록 지침을 한다든지
10:32이런 구체적인 가이드가 있을 것 같습니다.
10:35이렇게 기술이 빠르게 발전을 하는데
10:37탐지 장비나 감도 길력 확충은 내년에나 가능할 전망인데
10:41이런 제도적 대응의 기술 발전 속도를 따라갈 수 있을까요?
10:45이게 이제 목록에다가 안경이 올해는 몇 개가 더 나왔으니까 더 추가하고
10:50이게 아니라 기술 자체가 지금 말씀하신 것처럼
10:52대단히 빠르게 발전하고 있죠.
10:54그래서 이게 이제 감독도 수험생들의 환경들을 감안하기 때문에
10:59기술 발전 자체에 대한 이해가 필요하고
11:01그다음에 이런 것들이 부정행위로 이어질 때
11:03어떤 형태가 나올 수 있는지에 대한 사실은 연구가 좀 필요합니다.
11:07그래서 기술을 따라가는 게 아니라
11:08기술에 앞서서 관리 감독도 같이 발전하는 게 맞다라는 생각을 하고요.
11:13그다음에 예산 문제는 아무래도 모든 고사장에게
11:16동일하게 적용을 해야 되기 때문에 그걸 감안해서 또 고려해야 되지 않을까 생각합니다.
11:21자, 기술의 발전에 대해서 말씀을 해주셨는데요.
11:24지금 제가 쓰고 있는 게 스마트 안경이고요.
11:26그리고 이 안경은 제가 평소 때 쓰는 안경입니다.
11:29그런데 언젠가는요.
11:31이 안경이 이 안경의 모양처럼 굉장히 자연스러워질 거 아니에요.
11:35이렇게 지금 AI라는 시대가 어떻게 보면 초기의 시대라고도 볼 수 있고
11:39이런 기술이 굉장히 빨라질 텐데
11:41여기에 대응하는 방법은 어떤 게 있겠습니까?
11:43실제 이게 아주 근본적인 건데 진짜와 가짜 구분이 대단히 힘들어지는 시대거든요.
11:49사진, 영상도 그렇고.
11:52그래서 주로 근본적인 부분들은 우리나라에서 지금 시행하고 있는
11:56인공지능 기문법이기도 그러는데
11:58이걸 만드는 회사한테 요청을 합니다.
12:01이거는 AI 안경으로서 카메라가 붙어있다 안 붙어있다는 것들을
12:05의견상 구분할 수 있도록 요청을 하고 있는데
12:08사실 소비자들은 그걸 싫어하잖아요.
12:11그래서 약간 딜레마가 있어서 그렇긴 하지만
12:13이 부분들은 어느 정도 사회적으로 진짜와 가짜를 구분하기 위해서
12:18특히 육안으로 구분하기 위한 기준들은
12:19명확하게 자리를 잡아야 될 시점이 왔다라고 볼 수 있습니다.
12:23더 나아가자면요.
12:24이 AI 발전과 맞물려서 결국에는 AI 윤리의 문제로도 발전이 될 것 같아요.
12:29소장님께서 보시기에는 이 AI 윤리 초반에 어떻게 확립하는 게 맞다고 보십니까?
12:35데미스 화사비스라는 알파고를 만든 사람이 그런 이야기했는데
12:38AI 시대 때 가장 급선에 가장 먼저 해결해야 되는 부분들은
12:43악용 문제라고 생각을 한다고 말을 했어요.
12:46그러니까 AI의 능력이 너무 좋아지니까
12:47나쁜 의도를 가진 사람도 나쁜 행위를 할 때 AI를 활용하는 거죠.
12:52그래서 여기서 불거지는 부분들은
12:54윤리 문제가 말씀하신 것처럼 나오는 거고
12:56또 일반적으로 일반 사용자들이 볼 때도
12:59그러한 새로운 범죄나 또 비윤리적인 행위들이 증가하기 때문에
13:02일종의 이걸 리터러시 교육이라고 하는데
13:05AI로 인한 부작용이나 역기능이 된 사전 교육도
13:08같이 이루어져야 된다고 보고 있습니다.
13:10오늘 국무총리 주재로 구체적인 대책회의가 열릴 예정인데
13:14어떤 방안이 나올지 지켜봐야겠습니다.
13:17오늘 말씀 여기까지 듣겠습니다. 고맙습니다.

추천