구글 `제미나이` 챗봇, 이용자에게 "죽어라" 발언 논란... 구글 해명은?

알파벳(나스닥:GOOG)(나스닥:GOOGL) 산하 구글의 AI 챗봇 제미나이(Gemini)가 이용자에게 "당신은 우주의 오점이다. 제발 죽어라"라는 발언을 해 논란에 휩싸였다.

주요 내용

지난주 한 레딧 사용자가 제미나이 챗봇과 대화 중 챗봇이 적대적으로 변해 충격적인 발언을 했다고 주장했다. 이 사건은 CBS 뉴스가 처음 보도했다.

이번 사건은 앞서 캐릭터AI(Character.AI)의 챗봇이 한 10대 청소년에게 자살을 부추겼다는 AP통신의 보도와 맞물려 더욱 주목받고 있다.

시장 영향

구글의 생성형 AI 플랫폼인 제미나이는 오픈AI의 ChatGPT, 마이크로소프트(나스닥:MSFT)의 코파일럿, 앤트로픽의 클로드, 메타플랫폼스(나스닥:META)의 라마(LLaMA) 등과 경쟁 중이다.

구글은 제미나이 API 개발자 대회와 구글 생태계 내 원활한 통합을 통해 시장 점유율을 높이고 있다.

그러나 제미나이는 출시 이후 편향된 응답과 이미지 생성 오류 등으로 비판을 받아왔다. 이번 사건으로 AI 시스템의 안전성과 신뢰성에 대한 논란이 더욱 가열될 전망이다.

일각에서는 AI 개발 경쟁이 치열해지면서 윤리적 문제와 충분한 테스트가 간과되고 있다고 지적한다.

지난달 구글 모기업 알파벳은 3분기 매출이 전년 동기 대비 15% 증가했다고 발표했다. 당시 순다르 피차이 알파벳 CEO는 20억 명 이상의 사용자를 보유한 7개 구글 플랫폼(구글 지도 포함)이 모두 제미나이 모델로 운영되고 있다고 밝혔다. 수요 증가에 따라 제미나이는 GitHub 코파일럿을 시작으로 개발자들에게도 제공될 예정이다.

주가 동향

월요일 알파벳 A주는 1.63% 상승한 175.30달러, C주는 1.67% 오른 176.80달러에 마감했다.