오픈AI 챗GPT, 갑자기 웨일스어로 응답해 사용자들 당혹... 버그인가, 의도된 기능인가, 아니면 AI의 `환각`인가

영국의 챗GPT 사용자들이 오픈AI의 챗봇이 갑자기 영어 질문에 웨일스어로 응답하기 시작하면서 당혹감을 감추지 못했다.

파이낸셜타임스(FT)는 목요일 보도를 통해 챗GPT의 새로운 음성 인터페이스를 사용하던 이용자들이 영어로 한 질문이 웨일스어로 번역되고, 봇이 같은 언어로 응답하는 현상에 놀랐다고 전했다.

이러한 오류는 웨일스어를 이해하지 못하거나 웨일스 인근에 살지 않는 사용자들을 포함해 여러 사용자들에 의해 보고됐다.

FT에 따르면 2월에도 일부 사용자들이 봇이 텍스트 질문에 스페인어와 영어를 혼용해 답변하는 버그를 보고한 바 있다.

오픈AI는 FT에 보낸 성명을 통해 웨일스어 오류를 겪는 사용자들에게 '음성' 설정을 '자동 감지' 대신 영어로 설정할 것을 제안했지만, 이것이 문제를 해결할 수 있다고 보장하지는 않았다.

FT는 웨일스어 버그가 대규모 언어 모델의 '환각' 현상이라는 공통된 문제의 새로운 형태라고 지적했다. 이 문제는 수년간의 개발과 상당한 투자에도 불구하고 생성형 AI 시스템을 계속해서 괴롭히고 있다고 보도했다.

벤징가가 오픈AI에 즉각적인 논평을 요청했지만 아직 응답을 받지 못했다.

이번 사건의 중요성

이번 사건은 오픈AI를 둘러싼 일련의 논란에 뒤이어 발생했다.

지난달 오픈AI의 전직 안전 담당 직원은 회사의 인공일반지능(AGI) 접근 방식에 대해 우려를 표명했다. 그는 안전 조치보다 제품 출시에 초점을 맞추는 회사의 태도를 운명의 타이타닉호에 비유했다.

또한 오픈AI 내부 고발자들은 증권거래위원회(SEC)에 회사가 AI 기술과 관련된 잠재적 위험을 규제 당국에 보고하는 것을 방해하고 있다고 주장하는 고발장을 제출했다.

이미지 출처: Shutterstock