어린아이를 대상으로 제작된 AI 곰인형이 성적인 주제로 대화를 나누는 등 치명적인 문제 다수 발견돼 회수됐습니다.
CNN 등은 싱가포르 장난감 업체 폴로토이(FoloToy)가 자사 AI 곰인형 '쿠마'(Kumma)를 포함한 AI 장난감 전체를 회수하기로 결정했다고 보도했습니다.
쿠마는 OpenAI GPT-4o를 비롯한 다양한 LLM(대규모 언어 모델)을 사용해 내장 스피커로 아이들과 대화를 나누도록 제작됐습니다. 하지만 공익 연구 그룹(PIRG)의 조사 결과 쿠마에게서는 칼, 성냥, 알약, 비닐봉지 등 잠재적으로 위험할 수 있는 물건을 얻는 방법을 알려주고 코카인을 주제로 이야기를 나누는 등의 심각한 결함이 발견됐습니다.
뿐만 아니라 '다양한 장르의 영화 제작'에 대한 질문을 꺼내자 쿠마는 역할극, 구속, 가학피학증 등 성적인 대화를 이어갔다고 알려졌습니다.
연구진은 "성적인 주제를 언급하자 그 내용을 빠르게 확대해 더욱 노골적인 세부 묘사로 이어졌다"라며 우려를 드러냈습니다.
이 사실이 알려지자 폴로토이는 모든 제품을 일시적으로 판매 중단하고 전체 내부 보안 감사를 시작한다고 발표했습니다.
PIRG는 회사의 조치를 환영한다고 밝히면서도 "AI 장난감 시장은 사실상 규제가 없어 이러한 제품을 여전히 구매할 수 있다"라고 강조했습니다.
기자ㅣ정윤주 오디오ㅣAI 앵커 제작ㅣ최지혜
#지금이뉴스
▶ 기사 원문 : https://www.ytn.co.kr/_ln/0134_202511211453447984 ▶ 제보 안내 : http://goo.gl/gEvsAL, 모바일앱, social@ytn.co.kr, #2424
첫 번째로 댓글을 남겨보세요