00:00중국의 생성형 인공지능 서비스가 사용자와의 대화 도중 욕설을 하는 일이 발생해 논란이 일고 있습니다.
00:07업체 측은 다중 대화 처리 과정에서 모델이 비정상적 결과를 내놓은 것이라며 긴급 수정했다고 밝혔습니다.
00:15중국 매체 홍성신문 등에 따르면 시안의 한 변호사는 춘제 연휴 기간 텐센트의 생성형 AI 서비스 위안바오를 이용해 새해 인사용 이미지를
00:25제작하던 중 욕설이 포함된 문구가 생성됐다고 밝혔습니다.
00:30위안바오는 텐센트가 자체의 대형 언어 모델 LLM을 기반으로 선보인 대화용 AI 서비스입니다.
00:37이 변호사는 자신의 사진을 업로드한 뒤 나는 변호사인이 직업 특성에 맞는 새해 인사 이미지를 제작해달라고 요청했습니다.
00:46초기 결과가 기대에 못 미치자 몇 차례 추가 지시를 내렸고 이 과정에서 이게 무슨 디자인이냐는 취지에 불만을 표현했습니다.
00:54이후 새로 생성된 이미지에 기존의 새해 복 많이 받으세요.
00:59승진하시길 바랍니다라는 문구 대신 욕설이 삽입됐다는 겁니다.
01:04해당 사례가 소셜미디어를 통해 알려지자 텐센트 측은 25일 사과와 함께 재발 방지를 약속했습니다.
01:11텐센트는 모델이 여러 차례 대화를 처리하는 과정에서 비정상적인 결과가 발생했다며 관련 문제를 긴급 교정하고 사용자 경험을 최적화했다고 밝혔습니다.
01:22텐센트, 바이두, 알리바바 등 주요 빅테크 기업들은 잇따라 자체의 LLM을 고도화하며 상용 서비스 확대에 나서고 있습니다.
01:32업계에서는 이번 사례처럼 맥락을 오인하거나 감정 표현을 잘못 학습한 결과가 나오는 비정상 출력 문제가 완전히 해소되지 않은 과제로 지적됩니다.
01:42자막 제공 및 자막 제공 및 광고를 포함하고 있습니다.
댓글