관련기사 : https://www.dt.co.kr/article/12096011
-----------------------------------------------------------------------------------------------------------------------------------------------------------

디따 유튜브 구독하기 https://www.youtube.com/channel/UCxdgnFyzm3WcalaBn2Ya6hg

네이버TV https://tv.naver.com/ditta

데일리모션 https://www.dailymotion.com/dtwithcom

디지털타임스 홈페이지 http://www.dt.co.kr/

디지털타임스 페이스북 https://www.facebook.com/Digitaltimesnews

☏ 제보하기 photo@dt.co.kr

-----------------------------------------------------------------------------------------------------------------------------------------------------------
#디지털타임스 #미래포럼 #ESG #ai #포럼 @ditta ​

카테고리

🗞
뉴스
트랜스크립트
00:00안녕하세요. 아이치이스트 경영공학부 이재환 교수입니다.
00:04제가 사실 오늘 발표의 주제를 큰 키워드로 말씀을 드리면
00:10사실 AI 거버넌스라는 겁니다.
00:13그리고 제가 광범하게 보면 경영학자지만
00:17그동안 소위 논문을 많이 쓴 연구를 가장 많이 한 분야가
00:21기업 지배구조 쪽이고요.
00:24기업 지배구조 쪽에서도 특히 이사회에 관련된 연구를 많이 했었습니다.
00:29그러다가 환경이나 사회에 관련된 내용도 좀 알게 되면서
00:37ESG에 관심을 광범하게 갖게 됐는데
00:41제가 사실 기후라든지 사회문제 이런 것보다는
00:45기업 내부에서 경영 의사결정을 어떻게 하고
00:48또 이사회에서는 감시 견제 조언을 어떻게 할 것이냐에
00:53관심을 많이 가졌던 그런 사람이라는 배경을 먼저 말씀을 드리고요.
00:57그런 취지에서 지금 AI 혁신, AI 전환이라고 하는 것은
01:05기업들한테 상당한 기회와 위협을 동시에 안겨주고 있다.
01:09이런 것들에 대해서 아마 여기 계신 많은 분들이 동의를 하고 계실 겁니다.
01:13소위 혼돈의 시대라고 생각을 합니다.
01:17사실 제가 지금 살면서 거의 한 10년마다 엄청난 혼돈의 시대가 왔었던 것 같아요.
01:24민주화운동 80년대 중반에 그리고 90년대 후반에 외환위기
01:29그리고 2000년대 초반에 인터넷 혁명 또 2008년쯤에 글로벌 금융위기
01:36그러다가 최근에는 2020년 무렵에 팬데믹이라고 하는 혼돈의 시대가 있었는데
01:41지금 자금의 AI 혁명 내지는 AI 전환은 아마도 과거일을 제가 잊어버려서 그런지 모르겠습니다만
01:51아마 제 인생에서 가장 큰 혼돈의 요소가 아닐까 싶습니다.
01:57소위 인생의 저도 만년으로 치달아가는 입장에서
02:01이러한 혼돈의 시대가 앞으로의 세상을 어떻게 변하게 할 것인가에 대한 상당한 궁금증
02:08그리고 불안 또 기대 이런 것들이 교차하는 그런 상황이고요.
02:14그런 혼돈의 시대가 사실은 또 영웅을 낳죠.
02:19우리가 항상 난세가 영웅을 낳기 때문에 그런 측면에서 많은 기업들이
02:23AI 혁명에서 어떻게 주도권을 잡고 한 단계 더 레벨업 할 것인가에 대한 관심을
02:30많이 갖고 계실 거라고 생각이 듭니다.
02:32그래서 AI 중에서도 저는 주로 기업의 맥락에서 기회와 위협을 말씀을 드리려고 하고요.
02:41첫 번째 장표는 저희가 AI 거버넌스에 대한 말씀을 드리려고 하는데
02:47사실은 우리가 아주 오랫동안 IT 거버넌스라는 말을 했었습니다.
02:52IT 거버넌스는 IT 혁명에 따른 여러 가지 의사결정 그리고 책임의 문제
02:58이런 것들을 다루는 그런 거버넌스의 영역이죠.
03:01이제 코퍼리 거버넌스의 영역에서 한 부분이라고 할 수도 있고
03:05또 하나의 어떤 별도의 독립적인 영역이라고 할 수도 있는데요.
03:09불과 몇 년 전까지만 해도 우리나라 모든 기업들은
03:12디지털 트랜스포메이션 여기에 혈안이 되어 있었습니다.
03:15그런데 지금은 그 얘기를 거의 하지 않습니다.
03:18DX라는 얘기는 거의 하지 않고 AX로 넘어갔는데
03:21이 두 가지의 가장 큰 차이는 여러 가지 관점에서 볼 수 있겠습니다만
03:26이 AI라고 하는 것은 지금까지 우리가 디지털 기술, IT 기술을 갖고
03:32효율성과 효과성을 극대화하던 것과 큰 차이가 하나 있는데
03:37오른쪽에 글자에도 나와 있습니다만 아래쪽에 보시면
03:42이 AI라고 하는 게 기존의 우리의 디지털 기술과 달리
03:47인간의 인지 능력을 증가하고 또 제한된 자율성을 바탕으로 해서
03:52예측과 판단의 영역에 개입을 한다라는 것이
03:56제가 볼 때는 이 AI 혁명이 지금까지 우리가 생각했던
04:00디지털 혁명, 디지털 라이제이션과 큰 차이가 있는 것이다.
04:05이렇게 생각을 합니다.
04:07예를 들어서 지금 기업들이 많이 AI를 도입하고 있습니다만
04:12최근에 K-뷰티 때문에 올리브영이라는 회사가 사업을 잘하고 있는데
04:18사실 이 회사가 지금까지 그런 어떤 고객 만족도를 증진시켜온
04:24그런 과정을 보면 그 자체가 참으로 놀라웠습니다.
04:28예를 들어 올리브영, 아마 여기 계신 분들은
04:30올리브영에서 그렇게 소비를 많이 안 하실 수도 있는데
04:34오늘 드림 서비스 이런 게 있습니다.
04:36그래서 우리가 온라인으로 주문을 하면 거대한 물류센터에서 물품이 오는 것이 아니라
04:43주문자의 집에서 가장 가까운 매장에서 배송이 됩니다.
04:49그러니까 얼마나 신속하겠어요.
04:51그러한 어떤 효율성을 우리가 극대화하는 것이 과거의 디지털 트랜스포메이션이었다고 한다면
04:57최근에 이제 AX에서는 이제는 예를 들어 오늘 날씨가 어떻고
05:02지금 외국 관광객들이 몇 명이 입국을 했으니까
05:06올리브영 명동점에는 오늘 어떤 제품을 얼마를 갖다가 쌓아놓으면 되겠다라는 것을
05:13AI가 가르쳐주고 주문까지 하죠. 물류센터에도 주문까지 합니다.
05:18그리고 고객들이 지금까지 소비했던 그런 경험이라든지
05:23또 리뷰했던 것을 바탕으로 해서
05:24당신은 뭐 피부 스타일이라든지 또 라이프 스타일에 따라서
05:29이러한 것을 소비하면 되겠습니다. 라고 아주 적극적으로 추천을 해줍니다.
05:34중간에 사람이 개입하지 않고
05:35너무나 사람이 해야 되는 그런 어떤 주문, 재고 처리라든지
05:42아니면 소위 뷰티 컨설턴트가 전통적으로 해왔던 것들을
05:45AI가 다 해주는 거죠.
05:48그러다 보니까 기업들 입장에서 보면은
05:50당연히 어떤 그러한 기술적인 발전을 활용을 해서
05:53사업을 하고 고객 가치를 증진시킬 생각을 하지 않을 이유가 없는 겁니다.
05:59그래서 이제 오늘 이 포럼의 주제도 AI 공존 시대인데
06:03결국 이제 AI와 사람이 어떻게 공존하느냐의 문제고
06:06그러면 이렇게 AI가 고도로 발달하는데
06:09그럼 사람은 과연 뭘 할 것이냐
06:11여전히 사람이 할 영역은 있습니다.
06:13어떤 것에다가 AI를 적용할 건지
06:16어떠한 가치를 창출할 건지
06:18이런 것들에 대한 어떤 부분에 있어서는
06:21저는 여전히 인간의 개입이 필요하고요.
06:24그리고 또 어떤 거를 안 할 건지에 대한 부분에 있어서
06:27인간의 개입이 대단히 중요합니다.
06:29그래서 이제 그런 내용들을 중심으로 오늘 말씀을 드리겠고
06:33대부분의 이제 제가 말씀드릴 내용들은
06:35제가 좀 글자가 많아 보이긴 합니다만
06:37장표에다가 다 집어넣어 놨기 때문에
06:39제 생각에 나름 이 짧은 시간 동안에
06:43제가 강조드리고 싶은 내용 중심으로
06:44시간 내에 발표를 마치도록 하겠습니다.
06:49여기 2015년에 세계경제포럼에서
06:52참가자들을 대상으로 서베이를 한 게 있는데요.
06:56향후 10년 후 2025년이죠.
06:58지난 겁니다. 벌써
06:592025년에 세상이 어떻게 바뀔 건가에 대한
07:02서베이를 한 거 보면
07:04맨 위에 나와 있는 것이
07:0710% 이상의 사람들이
07:10인터넷에 연결된 의류를 입고 있을 거다.
07:13뭐 이런 얘기가 있습니다.
07:14이제 거기에 대해서 참가자들 가운데 90% 이상이 아마 그렇게 될 것이라고
07:19낙관적으로 예상을 했죠.
07:20하지만 실제로 우리가 지금 그렇게까지
07:25인터넷에 연결된 의류를 막 입고 활용을 하고 그러지는 않습니다.
07:29전반적으로 보면 여기 나와 있는 내용들이 상당히 기술의 미래에 대해서
07:34낙관적인 시각을 갖고 있는 사람들의 답변이라고 볼 수가 있고요.
07:39심지어 밑에서 네 번째 거를 보시면
07:423D 프린팅으로 간을 만들어서
07:46사람한테 이식하는 것도 가능할 거다라고 한 분들이 76%에 달합니다.
07:51지금 3D 프린팅으로 간을 만드는 거는
07:53수술 설계를 위해서 시뮬레이션 하는 데는 쓰지만
07:57실제로 간하고 똑같은 거를 이식하지는 못하는데
08:00심지어 76%의 사람들이 11년 전에는 그런 기대감을 갖고 있었다라는 거죠.
08:07그리고 맨 마지막에 보면 오른쪽 그림에 제가 그린 것처럼
08:11이 그림도 AI가 그려준 건데요.
08:14기업 이사회의 한 자리는 AI한테 맡겨도 되겠다.
08:17어려운 이사 결정이 있을 때 AI한테 네가 한번 보호팅을 해봐라.
08:21이렇게 하는 경우도 생기겠다라고 한 분이 한 45% 정도 됩니다.
08:27전반적으로 기술의 미래에 대해서 대단히 낙관적인데
08:30여기 나와 있는 그런 응답률에 비해서는
08:32실제로 그렇게 대단히 빨리 바뀌지 않았습니다.
08:36그거는 예를 들어 인터넷에 연결된 의류 같은 거는
08:39과연 연결해가지고 뭘 할 건가에 관한 어떤 용도의 문제
08:42그리고 3D 프린팅으로 간을 만들어서 이식하는 이슈는
08:48아직까지 기술이 거기까지 오지 않았고요.
08:50맨 마지막에 기업 이사회에 AI가 들어가서 보호팅을 하는 거는
08:54사실은 제도적으로 지금 그게 쉽지 않습니다.
08:57어쨌든 자연인이 누군가가 들어가서 보호팅을 해야 되는
09:01그런 상황이라고 볼 수가 있겠죠.
09:03결국 이러한 어떤 기술적인 발달에도 불구하고
09:07우리가 빠르게 정말로 기술이 구현하는 모든 것을
09:11바탕으로 해서 사회가 변하지 못하게 되는 데는
09:15여러 가지 이유가 있는데
09:16이 AI 시대에는 예를 들어
09:19이러한 어떤 딜레마들이 티피컬하게 발생하는 것 같습니다.
09:23그래서 보시면 AI를 통해서 우리가 빠르게 혁신을 할 수 있다
09:28일의 효율성을 높일 수 있다는 거는 너무나 잘 알고 있는데
09:32뒤에 제가 사례도 썼습니다만
09:36통제받지 않는 AI가 유발할 수 있는 여러 가지 이슈들
09:40뭐 할루시네이션의 이슈도 있고
09:42그 다음에 이제 우리가 사실은 외부로 유출되지 말아야 되는
09:47그런 어떤 정보를 유출하는 그런 이슈들도 있기 때문에
09:50이러한 것들이 과연 어느 정도 선에서 밸런싱을 해야 될 것인가에 대한 이슈
09:55그리고 AI가 학습을 정말 빠르게 하기 때문에
09:58그 알고리즘의 효율성은 너무나 나날이 높아지고 있습니다.
10:02그러나 실제로 우리가 설명 가능한 수준에서 그게 일어나지 않기 때문에
10:07AI가 도출한 결과를 사람이 제대로 분석 이해를 하지 못하는 상황에서
10:13그 결과를 얼마나 믿고 활용할 수 있느냐에 관련된 문제 내지는 리스크가 있고요.
10:19AI가 분명히 기업들한테 많은 기회 요인이 됩니다만
10:23실제로 그 고위험 AI를 잘못 사용을 했을 때 미칠 수 있는 영향 때문에
10:27많은 글로벌 규제가 일어나고 있습니다.
10:30그래서 맨 아래쪽에 보시면 EU의 AI법이 나름 그 분야에서 법체계로
10:37권고하는 규준 수준이 아니라 법체계로 그거를 다루고자 하는
10:42가장 전격적인 조치였다고 저는 생각을 하는데
10:46그것도 고위험 AI에 대해서 의무를 부여하고
10:51또 위반 시에 벌금을 부과하는 이런 계획들이 당초 생각했던 것보다는
10:58조금씩 늦춰지고 있습니다.
11:00그거는 여러 가지 이게 처벌에 관련된 거기 때문에
11:04처벌 조항을 어떻게 할 거냐에 관련된 것도 있고
11:07그 다음에 실제로 AI 기술이 유발하는 어떤 위험 요소가 무엇인지에 대한
11:12이해도 사람들마다 다 다르기 때문에
11:14이거를 법제화하는 것은 당초의 계획보다는 늦어지고 있습니다만
11:19그러나 어쨌든 그러한 규제가 AI를 활용하는 기업들한테는
11:24추가적으로 계속 부과될 가능성이 높습니다.
11:30그리고 이거는 잠깐 제가 이제 거버넌스를 하는 입장에서
11:33우리가 ESG라는 것을 결국에 병렬적으로 이렇게 쓰고
11:37G가 제일 마지막에 들어가 있습니다만
11:39사실은 인바러먼트든 소셜이든 사실 이 분야에 관련된 기업의 의사결정과 행위가
11:45제대로 이루어지려면 탑 레벨에서 의사결정을 하는 과정에서
11:49그게 뒷받침이 되지 않으면 안 되겠죠.
11:51그래서 저는 거버넌스라는 게 ES를 밑에서 떠받치는
11:57가장 핵심적인 이슈라고 생각을 하고
12:00그래서 이제 AI 거버넌스가 결국은 AI를 우리가 인류가 현명하게 활용하느냐 못하느냐에
12:06가장 핵심적인 관건 가운데 하나다.
12:09이런 차원에서 잠깐 하나의 페이지를 넣었습니다.
12:13여기 보면은 두 가지 케이스인데요.
12:16이 두 가지 케이스밖에 없겠냐만은 예를 들어 섀도우 AI,
12:20이 섀도우 IT라는 걸 여러분도 잘 아실 겁니다.
12:22기업에 있는 많은 개발자나 이런 분들이 실제로 회사에서 허용하지 않은
12:30그런 수준으로 IT 기술을 활용을 하는 거죠.
12:35그러면은 실제로 그게 디텍트가 되지 않으면
12:39일의 성과는 상당히 난 것처럼 볼 수는 있으나
12:42결국은 회사한테 데미지를 입힐 수 있게 됩니다.
12:46AI도 동일하게 그런 현상이 나타납니다.
12:49그래서 여기에 나와 있는 사례는 R&D 팀에서 연구개발을 했는데
12:54실제로 거기에 많은 회사 내부에
12:57그런 어떤 지금까지 실험 데이터 같은 것을 제공을 해서
13:01결국은 결과적으로 빠르게 연구개발 기간을 단축할 수 있었지만
13:06우리가 이제 그런 데이터가 외부로 찾아 나가는 과정에
13:10결국은 그 동일한 모델을 사용한 외부 기업, 경쟁 기업이 되겠죠.
13:17경쟁 기업도 그 혜택을 누릴 수 있고
13:19시장에서 결국은 싸움을 하게 되는
13:22뭐 이런 일이 생기는 게 섀도우 AI의 위험이고
13:26최근에는 거기에 관련된 논의가 많이 일어나고 있습니다.
13:30이때 문제가 과연 그러면은 이제 그런 어떤 규정을 어긴
13:35개발자나 아니면은 총괄 R&D 부서장에 있는 거냐
13:39아니면 그러한 리스크를 감지하거나 사전에 통제하지 못한
13:43최고경영진이나 이사회에 있느냐라고 하는 이슈가 대단히 중요합니다.
13:48결국은 이제 그 책임을 누가 지느냐에 따라서
13:51향후에 개선 방향이 어떻게 갈 것인가가 달라지기 때문에
13:54결국 뭐 우리가 이제 자체가 터진 다음에
13:58책임 소재를 논하는 것이 부지럽긴 합니다만
14:00그러나 어쨌든 당사자들한테는 대단히 중요한 이슈잖아요.
14:03그래서 이제 이런 것들이 하나의 이제 대표적인 사례라고 볼 수 있고요.
14:09아까도 얼핏 말씀드렸지만 AI가 어떠한 알고리즘에 의해서
14:12이러한 결과를 도출하고 심지어는 제한된 자율성을 가지고
14:16권고를 하는지 모르는 그런 블랙박스 알고리즘의 이슈 때문에
14:21어떤 기업이 모 기업이 야심차게 도입한 그런 자율적인 프라이싱 메커니즘이
14:29오류를 일으켜서 갑자기 어떤 클라이언트 기업이 판매하는 제품의 단가가 낮게 책정이 되고
14:37그 틈에 소비를 한 고객들은 당연히 헐값에 구매를 했기 때문에
14:42혜택을 받습니다만 당사자 기업한테는 큰 손해를 입힌 것이고요.
14:47그러면 그 손해를 입힌 책임이 그러한 솔루션을 제공한
14:52AI 기반 솔루션을 제공한 벤더한테 있는 것이냐
14:56아니면 그러한 솔루션을 채택을 해서 고객들이 이용할 수 있게 한
15:01기업한테 있는 것이냐라는 이러한 이슈도 앞으로는 계속 발생할 수 있습니다.
15:06사실 이러한 것들이 예를 들어 우리가 라디오 프로그램에 나오는
15:09라디오 프로그램에 보면 무슨 법률상담 프로그램 이런 거 있잖아요.
15:13그런데 나와 있는 여러 가지 사기라든지 가정에서의 이혼 소송이라든지
15:20이런 이슈들은 판례가 워낙 많기 때문에
15:22이 사례와 동일한 어떤 아니면 유사한 사례가 과거에 어떻게 판결이 났기 때문에
15:28아마도 이 건은 이렇게 될 거다라고 거기 라디오 프로그램에 출연하는
15:34변호사분들이 나름의 의견을 제시할 수 있죠.
15:37하지만 이런 AI와 관련된 것들은 저희가 지금까지 가보지 않은 길이기 때문에
15:41이러한 일이 생겼을 때 과연 이걸 법적으로 다투었을 때
15:46어디에서 지금 어느 쪽에 더 과실이 있는 거로 볼 건지
15:51어느 쪽에서 얼마의 손해배상을 해야 될지에 대해서는 사실은 잘 모르는 거죠.
15:55판사들도 힘들고 당사자들도 상당히 불확실한 이런 일들이
16:00한동안은 대단히 많이 발생할 거라고 생각이 듭니다.
16:05그래서 AI 거버넌스라는 거를 우리가 궁극적으로 어떠한 축에서 볼 것이냐
16:11이건 제가 편의상 분류를 한 건데 한 네 가지 정도의 축이 있는 것 같습니다.
16:16기본적으로 보면 이 알고리즘의 설명 가능성
16:20방금 전에 블랙박스 알고리즘에서 말씀드렸다시피
16:24이걸 우리가 어떠한 알고리즘의 내부의 메커니즘을
16:31우리가 잘 모르는 상황에서 도출한 결과를 가지고
16:34대단히 중요한 하이스테이크 디스이전 메이킹을 내렸을 때
16:38그 판단이 나중에 문제가 됐을 때
16:43왜 그러한 어떤 AI의 판단을 믿었는지에 대해서
16:47이 사람이나 경영진이 소명을 할 수 없다고 한다면
16:51그건 상당히 무책임한 거죠. 내가 모르는 과정을 거쳐서 했기 때문에
16:55나는 알 수가 없다. 이렇게 넘어갈 생각을 하는 게 대단히 위험한 겁니다.
17:01그거를 모르는 당신들이 이해할 수 없는 과정을 거쳐서
17:06그러한 어떤 결과가 나타날 수 있다는 것도 인지를 해야 되고
17:12그걸 나중에 그러한 과정을 설명할 수 없을 수도 있겠다라는 걸
17:16사전에 안다라고 한다면 거기에 대한 대비책도 미리 갖고 있어야
17:21아마도 상대적으로 좀 세이프한 그런 어떤 판결을 얻을 수 있을 거라고 생각이 듭니다.
17:27제가 이제 거버넌스 얘기를 하다 보니까 자꾸 이제 최고경영자나
17:30이사들이 문제가 생겼을 때 이거를 피해나갈 방법을 어떻게 찾을 거냐
17:36이런 쪽의 뉘앙스로 말씀을 드릴 수도 있을 것 같은데
17:40그렇게 들으시기보다는 결국은 최대한의 어떤 안전한 방식으로
17:47기업에 관련된 의사결정을 하기 위해서
17:49경영진과 이사회의 탑 레벨에서 어떠한 준비를 해야 되는지를
17:53대단히 보수적으로 보는 그런 관점에서 이러한 스탠스가 필요하다
17:58이런 취지로 말씀을 드린다고 보시면 되겠습니다.
18:02그 다음 이제 두 번째가 데이터 자산권 및 보안입니다.
18:05뭐 이거는 지금 뭐 아까도 제가 말씀드렸다시피
18:09뭐 쉐도우 AI나 이런 거를 통해서 기업들의 어떤 상위 레벨에 있는 분들이
18:15모르는 사이에 훨씬 더 사실은 요즘에 보면은 뭐 저희 학생들도 그렇지만
18:21사실 교수들보다도 그 연구 실험실에 있는 랩에 있는 학생들이 훨씬 AI를 잘 쓰죠.
18:28그리고 어떻게 하면은 자기네들이 원하는 결과를
18:30뭐 쉽게 말하는 실험 결과라든지 논문을 빠르게 쓸 수 있는지
18:34잘 쓸 수 있는지 이런 걸 너무나 잘 압니다.
18:37사실 이제 그러한 것들을 실제로 써보지 않은
18:40저 같은 사람 입장에서 보면 학생들이 뭘 어떤 과정을 거쳐서 해왔는지 모르기 때문에
18:46때로는 그걸 잘 모르면 엄청 감동하기도 하고
18:48아 이거를 어떻게 이렇게 짧은 시간에 해왔나 뭐 이렇게 감동하기도 하고
18:54때로는 아 이거를 믿을 수 있는지에 대한 의구심은 있는데
18:58그걸 실제로 제가 이렇게 규명할 수 있는
19:01어떠한 부분에서 오류가 있었을지를 규명할 자신은 없는
19:06뭐 이런 어떤 혼란스러운 상황에 빠지기도 하거든요.
19:09그래서 기업 입장에서 보면은 이러한 데이터라는 게 결국은
19:12AI 시대에 가장 기업의 중요한 경쟁의 원천 가운데 하나인데
19:16이 자산권을 우리가 어떻게 고유하게 보유하면서
19:20그러면서 역시 외부에서 개발된 어떤 생생형 AI 모델을
19:25잘 활용할 수 있을 것인가에 대한 정책적인 가드레일
19:29AI 거버넌스에서는 이제 가드레일이라는 말이 많이 나오는데
19:32그 가드레일을 잘 쳐줘서 그 안에서 구성원들이 효율적으로
19:38AI를 활용할 수 있게끔 해주는 그 노력이 대단히 중요합니다.
19:42실제로 그런 AI를 능숙하게 활용해 보지 않은 사람들이
19:48그러한 가드레일을 마련해야 되는 거니까 사실은 난제라고 볼 수는 있죠.
19:53하지만 우리가 기업이 제공하는 재무제표 감사 같은 걸
19:58또 재무제표 승인 같은 걸 이사회에서 하잖아요.
20:01그럴 때 재무전문가 한 분 두 분 모셔놓고 또 외부 감사인의 도움을 받아서
20:06여러 이사들이 같이 검토를 하는 그런 방식으로 AI에 관련된
20:12거버넌스도 진화를 한다고 한다면 반드시 그런 AI나
20:17테크놀로지의 최고의 전문가들로만 이사회를 구성을 해야
20:22이거를 가드레일을 잘 마련할 수 있다.
20:24이거는 또 아닌 것 같습니다.
20:28그리고 아까도 얼핏 말씀드렸지만 글로벌 규제 환경에 대응을 해야 되고
20:32그 규제 환경 관련돼서 그 두 번째 보시면
20:3996년에 케어마크 판례가 케어마크라고 하는 미국의 유통회사의 직원들이
20:47거액의 리베이트를 제공을 했다가 클라이언트를 한다는 거액의 리베이트를 제공을 했다가
20:55그게 문제가 돼서 회사가 엄청난 손해배상 소송에 휘말렸습니다.
21:00거기에 대한 책임을 이사지들한테 물은 거죠.
21:04그럼 이사가 아마 그 당시에 많은 기업들은 우리 직원들이 열심히 일을 하다가
21:10그런 리베이트를 줘가지고 실적을 올렸는데
21:13그거를 이사, 특히 독립이사들, 사회의 이사들이 어떻게 그거를 차단을 하냐라고 얘기를 했을 수도 있는데
21:21이 업의 속성상, 제약업이나 의료업의 속성상 그러한 리베이트가 상시적으로 일어날 수 있다는 것을
21:29당연히 그 회사의 독립이사들은 알고 있었어야 하는 건데
21:32그거에 대해서 우리가 사전에 주의를 기울이지 않았다는 것은 당신들의 책임이다라고 해서
21:38케어마크 판례에서는 그 당시에 이사회 멤버들한테 수백여 개다라는 거액의 배상 판결을 내렸습니다.
21:46그리고 2019년쯤에는 또 블루벨 크리미너리드라고 하는 아이스크림 회사에서
21:58아이스크림을 먹고 식중독균 때문에 돌아가신 분들이 발생을 했을 때
22:04거기에 대한 책임을 또 독립이사들한테 지은 그런 사례도 있습니다.
22:09그러니까 앞으로 이사회나 경영진이 실제로 회사가 어떤 일으키는 문제에 대해서
22:16개인적으로도 손해배상 책임을 져야 되는 이런 일들이 점점점 더 많이 늘어난다.
22:23그러니까 겁을 먹고 정신을 차리라 이런 차원이 아니라
22:26그런 데 대해서 사전적으로 대응을 하고
22:29또 그러한 것들을 사회이사, 독립이사나 경영진이
22:33자신을 완벽하게 할 수 없다고 한다면
22:35그런 걸 할 수 있는 인재를 잘 리크루팅을 해야 되겠죠.
22:40그래서 AI 시대에 공교롭게 개발자나 이런 사람들은 오히려 할 일이 없어진다.
22:46그러나 AI 거버넌스 인재들은 엄청나게 많이 필요해졌습니다.
22:51AI를 알면서 AI가 어떤 리스크를 유발하는지를 알고 차단할 수 있는
22:57그리고 그걸 바탕으로 해서 경영진과 이사를 도와줄 수 있는 인재들은
23:00대단히 많이 필요해졌고
23:02그래서 오히려 저희 카이스트의 미래가 창창한 그런 학생들한테도
23:09제가 개발자로서 성공하는 것과 동시에
23:13그런 AI 거버넌스 인재로서 또 커리어를 펼쳐나갈 수 있다는 이야기를 제가 종종합니다.
23:21그리고 마지막으로 조직 윤리와 인력 전환과 관련된 건데
23:24이건 사실은 양날의 컵입니다. 검과 같은 겁니다.
23:27그래서 조직에서 많은 구성원들이
23:31지금 AI 때문에 내 일자리가 대체될 거라고 하는 불안에 휩싸여 있죠.
23:37그리고 동시에 또 AI를 잘못 사용을 했다가 문제가 됐을 때
23:40내가 책임을 져야 되는 게 아닌가라는 그런 불안 이런 게 있습니다.
23:47그러다 보니까 이런 게 겹쳐가지고
23:50아 그럼 AI 안 쓰고 말지 이렇게 가는 경우도 있습니다.
23:53AI를 써가지고 열심히 일을 했는데 나중에 문제가 되니까 나한테 책임을 지라고 하니까
23:58아 그럼 안 쓰고 말지?
23:59열심히 일해봤자 어차피 일자리만 줄어들고
24:02나한테 그걸로 세이브한 시간에 더 다른 일을 시키는데
24:05내가 왜 AI를 열심히 써야 되지?
24:07그렇게 되면 기업은 사실은 지금 AI 전환 시대, AI 혁명 시대에
24:11누릴 수 있는 많은 어떤 개선 효과 또 혁신 효과를 구현할 수 없는 것이기 때문에
24:17이제 그런 면에서도 어떻게 심리적인 안정감을 주고
24:21동시에 그걸 윤리적으로 쓰게 할 것이냐라는 이슈가 대단히 중요하다 이렇게 볼 수가 있겠습니다.
24:28AI는 기본적으로 IT 부서의 과제가 아닌 C 레벨의 과제다라는 것
24:34이제는 과거만 해도 DX, 디지털 트랜스포메이션 때까지만 해도
24:40그 정점에 CIO가 있다, IT 부서 총괄 책임자 이런 분들이 있다 이 생각을 했는데
24:45지금은 CEO는 말할 것도 없고 이제 보드 멤버들이 있어야 되는 거고요.
24:53그러나 이제 그런 어떤 CEO나 보드 멤버들이 실제로 AI가 어떻게 돌아가는지
24:58어떠한 리스크가 있는지를 잘 모르는 경우에
25:02이걸 내가 알 수 있는 전문성의 영역이 아니기 때문에
25:06내 전문성과 다르기 때문에 그래서 나는 이렇게밖에 의사결정을 못했다라고
25:11핑계를 댈 수 없는 그런 상황이 됐습니다.
25:13그리고 사실은 지금 AI 시대에는 나이 불문하고
25:17우리가 AI를 얼마든지 잘 활용할 수 있는 능력을 습득할 수 있는 그런 시대가 됐습니다.
25:24그러니까 이거는 젊은 사람들이 할 일이야.
25:25뭐 이렇게 치부하고 넘어갈 게 아니라요.
25:28저희 학교 AI 대학원에 저희가 초빈 교수로 모신 모 교수님이 계신데
25:33이분이 지금 연세가 70세세요.
25:35글로벌 기업에 계속 근무를 하시다가
25:38카이스트 김재철 AI 대학원에 초빈 교수로 오셨는데
25:43저희 교수들이 65세에 은퇴를 하지 않습니까?
25:47근데 초빈 교수로 오셨는데 70세에 초빈 교수로 오셨어요.
25:50그리고 이분이 바이브 코딩 같은 거 다 하시고요.
25:53뭐 피클이라는 이런 AI 어시스턴트 서비스
25:55뭐 이런 것도 본인이 막 해보십니다.
25:57하다보면 얼마든지 할 수 있어요.
25:59그만큼 AI는 사용하기 쉽게 개발되고 있기 때문에
26:02지금 결국은 AI를 활용을 해가지고 뭔가를 하는 거는
26:06결국은 우리 구성원들이 하는 거라고 생각을 할 게 아니라
26:11많은 경영지나 이사회들
26:12또 여기 박해경 대표님을 비롯한 높으신 분들이
26:17많이 그런 걸 해보시면 생각했던 것보다 재밌고
26:20또 이렇기 때문에 이런 문제가 생길 수 있겠다라는 거를
26:24우리가 이해를 할 수 있게 됩니다.
26:28이제 결론으로 넘어가면 결국 이제 이 사회에서는
26:31우리가 사실은 데이터 우리가 갖고 있는 데이터라는 게 중요한
26:37우리의 경쟁 우위의 원천인데
26:38이러한 것들을 어떻게 잘 보존하면서 잘 보호하면서
26:45또 외부에서 활용되는 그런 어떤 모델을 잘 활용할 것이냐라는 것들이 필요하고요.
26:51그 다음에 이제 투명성과 통제 관련된 부분만 잠깐 말씀드리면
26:55여기 이제 모델 카드, 저 모델 카드라는 게 AI 모델에 관련된 카드입니다.
26:59우리가 사용하는 이 AI 모델은 어떤 특성을 갖고 있다.
27:03그러니까 일반적인 제품의 스펙 같은 겁니다.
27:06그런 거를 우리가 알고 있고 그거를 보고 하게끔 해야 됩니다.
27:10아 그래서 이 AI 모델은 이런 특성이겠구나
27:13이런 어떤 위험이 있겠구나라는 걸 알아야 되는 거고
27:16데이터 시트는 이 AI 모델에 대한 어떤 데이터가 어떤 것들인지
27:21어떻게 이걸 수집을 했는지
27:23이거를 또 축적을 해서 나중에라도
27:27사고적으로라도 보고를 할 수 있게 해야 되는 거죠.
27:30그렇게 되면 최소한 그 AI 모델에서 뭐가 어떻게 돌아가는지는
27:34그게 블록박스 같더라도
27:36아 여기에다가 이런 거를 넣었구나
27:38이 모델은 이런 특성이 있겠구나라는 걸 이해할 수 있잖아요.
27:42그걸 바탕으로 해서 우리가 최후경영진이나 이사회 멤버들이
27:45리뷰를 하고 그 필요한 전문성은 또 사내외의 어떤 전문가 집단을
27:51구성을 해서 보완을 하면 된다고 생각이 듭니다.
27:55그리고 오른쪽에 있는 내용들은 궁극적으로
27:59최고경영진의 KPI에 그런 AI 거버넌스 관련된 것들
28:03AI를 활용을 해서 얼마나 ROI를 뽑았느냐
28:06그걸 요즘에는 ROAI라고 하는데
28:09AI에 들인 돈 대비 얼마를 뽑았느냐
28:11그것도 중요하지만 그 과정에서 얼마나 우리가 발생할 수 있는 리스크를
28:16사전에 차단했는지 이런 것들을 경영진의 KPI에 같이 넣는
28:22이런 노력들이 소위 독립이사들이 포함된 이사회에서 빠르게 해야 될 일이라고 생각이 듭니다.
28:28여기 뭐 구글이나 마이크로소프트 등등의 어떤 CEO들이 이야기한 것처럼
28:35AI는 결국 리더가 어떻게 활용을 하느냐에 따라서
28:40그 조직 내에서의 어떤 성과가 크게 달라질 수 있는 거고요.
28:46우리가 기후전환 이야기하면서 기후변화에 따라서 산업전환 할 때
28:50우리가 정의로운 전환 이런 이야기가 많이 나오는데
28:53산업전환에 따라서 오히려 일자리를 잃거나 소득이 감소되는 이런 사람들이 많다.
28:59그러니까 전환을 하되 정의롭게 돼야 된다.
29:02이런 이야기를 하는데 저는 AAX도 마찬가지로 상당히 정의로운 전환이 돼야 된다.
29:07이러한 AI 기술의 매력도 또 이런 어떤 가치 때문에
29:14우리가 중간중간에 발생할 수 있는 리스크를 너무 쉽게 생각을 하고
29:22속도전에만 집착하게 되면 누군가한테는
29:26그 누군가가 소비자가 될 수도 있고 주주가 될 수도 있고 지역사회가 될 수도 있는데요.
29:31누군가한테는 정의롭지 않은 AI 전환이 될 것이고
29:34그러한 것들을 방지하는 데 있어서 최구용진과 이사회가 진력을 다할 시점이다.
29:40이런 취지로 발표 말씀을 드렸습니다.
29:43경청해 주셔서 감사합니다.

추천