00:00인공지능 환각이란 사실과 다르거나 존재하지 않는 정보를 마치 진짜인 것처럼 그럴듯하게 답변하는 오류현상입니다.
00:09국내 연구팀이 시각과 청각 등 감각정보에 대한 환각현상을 해결하기 위한 기술을 개발했습니다.
00:16김은별 기자입니다.
00:24오리 모양의 표적이 총알에 맞아 쓰러지는 영상을 보고 AI 모델은 오리들이 꽥꽥거리고 있다고 설명합니다.
00:33청각정보보다 시각정보를 우선시하면서 나타난 환각현상 때문입니다.
00:39국내 연구진이 이처럼 여러 감각정보가 뒤섞이면서 발생하는 AI의 환각현상을 줄이는 기술을 개발했습니다.
00:47AI에게 영상을 분석할 때 청각과 시각 중 어떤 것이 더 중요한지 감각정보에 가중치를 두도록 설계한 추론제어 기술을 적용한 겁니다.
00:57어떤 모델리티를 먼저 쓰면 좋을까라고 생각한 다음에 그거에 맞게 모델리티를 사용한다.
01:02어떤 센서를 지금 사용하는 게 가장 좋을지를 생각한 다음에 사용해서 그 테스크를 수행하는 것이 아마 미래에 많이 기술에 도움이 되지
01:12않을까 생각하고 있습니다.
01:13더 나아가 연구팀은 AI에게 일반적인 가시광선 사진뿐 아니라 특수 센서로 촬영한 사진도 분석할 수 있도록 학습시켰습니다.
01:22AI의 모범 답안과 자주 나오는 노답까지 학습시켜 열화상 및 엑스레이 영상까지 제대로 분석할 수 있도록 설계했습니다.
01:34이런 학습방법으로 연구팀은 기존 60%에 미쳤던 센서의 정확도를 80%까지 향상할 수 있었다고 설명했습니다.
01:43국방 감시 정찰 분야라든지 의료 영상 그리고 재난 구조 영역과 같은 영역에서 센서의 물리적인 의미를 실제로 AI 모델이 이해하고
01:54좀 더 신뢰성 있는 의사결정을 하는 데 활용될 수 있을 거라고 생각합니다.
02:00이번 기술은 국제 컴퓨터 비전 및 패턴 인식 학술 대회에서 발표됐습니다.
02:05YTN 사이언스 김은별입니다.
02:06김은별입니다.
댓글