페이스북 메신저 AI 스티커, 아동병사·트뤼도 엉덩이 등 부적절 이미지 무단 생성... 메타 골머리

마크 저커버그의 메타플랫폼스(나스닥: META)의 AI 비전에 문제가 생겼다. 페이스북 메신저의 AI 스티커 기능에 필터가 없어 사용자들이 문제의 소지가 있는 입력값으로 부적절한 스티커를 만들어내고 있다.페이스북 메신저는 최근 AI 스티커 기능을 도입했다. 이 기능을 통해 사용자들은 프롬프트를 사용해 개인 맞춤형 스티커를 만들 수 있다. 그러나 이 기능에는 필터가 없어 문제가 될 수 있는 스티커 생성에 악용될 수 있는 것으로 드러났다.한 독립 게임 개발자는 메신저 AI가 '와루이지 소총', '아동병사', '트뤼도 엉덩이', '교황 소총' 등의 프롬프트를 아무런 제재 없이 받아들여 스티커를 생성하는 여러 사례를 공개했다.이상적으로는 메신저가 이런 오용 가능성이 있는 프롬프트를 받아들이지 말아야 한다. 하지만 실제로는 이러한 프롬프트에 대해 정확한 결과물을 내놓고 있다.결과적으로 닌텐도의 마리오 시리즈에 등장하는 인기 캐릭터인 와루이지가 소총을 들고 있는 모습의 스티커가 만들어지는 등의..........................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................