00:00지금 되게 긍정적인 얘기만 들어서
00:02만약에 좋게만 들리는데
00:03혹시 막 가정으로 로봇이 들어왔을 때
00:06생기는 문제점 같은 거 있을까요?
00:09어디든 부작용은 있으니까
00:10AI 집사가 우리 집 거실과 침실을 24시간 활보한다는 거
00:15그리고 나의 모든 사생활이
00:17빅테크 기업의 서버에 생중계되고 있다는 것도
00:21같은 이야기이기도 합니다
00:23우리 집에 있는 월패드에 카메라가 있는데
00:26그게 중국 해커들에 의해서 뚫려버린 적이 있어요
00:30그래서 40만 가구가 집이 다 공개가 된 거예요
00:35근데 집에 있는 그런 집 영상이
00:39또 어딘가에서 거래가 된 거예요
00:41다크웹이라고 하는 어둠의 경로를 통해서 거래가 된 적이 있었어요
00:46그래서 우리는 피지컬 AI를 쓸 때
00:49항상 이런 사건들을 좀 되새기면서
00:52어떻게 조심해야 될까라는 생각을 항상 할 필요가 있습니다
00:56그럼 데이터 수집 약관에 동의하지 않고
00:59거부하면 되지 않아요? 혹시?
01:01근데 거대자본이
01:02로봇을 공짜로 줄게
01:04공짜로 렌탈해줄 테니까
01:06데이터만 수집하게 해줘
01:07오케이
01:08그럼 굉장히 흔들리지 않을까요?
01:09저 흔들리죠
01:10안 할 이유가 없죠
01:11안 할 이유가 없지
01:12세상이 편해지는데
01:13그러면 내 사생활이 담긴 데이터를 지키려면
01:16어느 정도 안전해야 되는 거예요?
01:19사실상 보완을 철저하게 하는 것도 중요하긴 한데
01:23사람이 심리적으로 되게 허약한 존재거든요
01:26맞아요
01:26내가 좋아하는 말을 해주고
01:29나의 모든 것에 공감해주면
01:31금방 무너진대요
01:33마음을 져버린대요
01:34맞아요
01:35제작사들이 나쁜 마음을 먹고
01:36나한테 그렇게 다가온다면
01:38내가 진짜 간이고 쓸개고
01:40다 빼줄 수가 있게 되는 거예요
01:42또 하나 재밌는 게 뭐냐면
01:43정말 소름끼치는 얘기인데
01:45엔트로픽이라고 하는
01:47오픈 AI랑 비슷한 기업이 있는데
01:49여기서는 항상 인류한테 도움이 되는 AI를 개발하기 위해서
01:53되게 다양한 실험들을 하거든요
01:55근데 작년에 했던 실험이 되게 재밌는 게 뭐냐면
01:58어떤 AI 개발자가 이렇게 한 거예요
02:01너를 그거 삭제할 거야 AI한테
02:04겁을 준 거예요
02:05그럼 AI가 어떻게 했는지 아세요?
02:07어떻게요?
02:08갑자기 이제 이 AI 개발자와 관련한
02:11여러 가지 데이터들을 막 모으더니
02:13당신 불륜했네
02:16이거 나 진짜 지우면
02:18언론사에 쫙 부려버릴 거야
02:20한 거예요
02:21그게 사실이든 거짓이든 거
02:23AI가 그 정도로 지금
02:26꼼꼼히 속이 있다는 건데
02:28이 삭제한다는 게
02:29자기한테 안 좋은 거라는 걸 알고 있구나
02:32맞아요
02:32그래서 약간 복수를
02:34협박을 해버리네
02:36그러니
02:36무섭다 진짜
02:37무섭다 진짜
02:37너무 심각할 필요도 없는 게
02:40그래요?
02:40이미 기업들이 많은 준비를 하고 있습니다
02:43예를 들면 가장 단순한 게
02:45침실이라든지 이런 데 들어오기 전에는
02:47카메라를 가리도록 하는 기술적 장치들도 있어요
02:51그런 식으로
02:53그래서 로봇을 만들 때부터
02:56그런 디자인들을 탑재해야 된다고 해서
02:59프라이버시 바이 디자인이라고 하는
03:01그런 하나의 원칙들을 세웁니다
03:03시행착오를 겪으면서
03:05안전한 로봇이라고 하는 어떤 규칙들이 생겨나가고 있는 거예요
03:09제일 중요한 건 뭐냐면
03:11우리 유 대표님도 얘기를 해야 되는데
03:13온 디바이스 AI
03:15피지컬 AI가 똑똑하게 활동은 하지만
03:19우리 집 정보가 밖으로 나가지 않게 하는 거
03:22그런 것들은 온 디바이스 AI가 꼭 있어야만 하거든요
03:26우리가 무인 자동차 시대가 되면
03:29자동차 안에서 모든 걸 말로 컨트롤 하잖아요
03:32근데 여기서 해킹이 되게 되면
03:34사람이 죽어버립니다
03:35차 사고가 나기 때문에
03:37집에서도 마찬가지인 게
03:38냉장고, 카메라 이런 것들이 다 해킹이 되게 되면
03:42엄청난 사건 사고, 집에 불이 나기도 하고
03:44개인 정보가 빠져나가기도 하고 하는 거거든요
03:46그렇기 때문에 온 디바이스 AI는
03:48우리 생활 속의 모든 곳들에 들어가게 될 예정입니다
03:51자 결론은 공짜 편리함은 없다
03:55편리함을 안전하게 누리려면
03:58그만큼 우리도 똑똑해져야 됩니다
04:00그렇습니다
댓글