학교 측 AI 생성 학술 작업 식별 기술 출시 연기... OpenAI, 공정성 우려로

OpenAI가 ChatGPT 텍스트용 워터마킹 시스템 출시를 연기했다고 보도됐다. 이 기술은 1년 이상 배포 준비가 되어 있었던 것으로 알려졌다.

월스트리트저널(WSJ)은 지난주 관계자들의 말을 인용해 OpenAI가 잠재적 수익 영향을 고려해 출시 여부를 놓고 내부적으로 의견이 엇갈렸다고 전했다.

워터마킹의 잠재적 이점에도 불구하고, OpenAI가 실시한 설문조사에서 ChatGPT 사용자의 약 30%가 워터마킹이 도입될 경우 소프트웨어 사용을 줄이겠다고 답했다.

WSJ 보도 이후 OpenAI는 일요일 업데이트된 블로그 게시물을 통해 텍스트 워터마킹 기술을 개발해왔다고 확인했다.

이 회사는 자사의 방식이 매우 정확하고 변조에 강하지만, 악의적 행위자들이 다른 모델을 사용해 문구를 바꾸는 등의 기법으로 우회할 수 있는 취약점이 있다고 밝혔다.

이 AI 스타트업은 또한 "텍스트 워터마킹 방식이 일부 그룹에 불균형적인 영향을 미칠 가능성이 있다"며 AI 도구의 잠재적 낙인 우려를 표명했다.

AI 도구를 학업 부정에 사용하는 문제는 계속해서 논의되어 왔다. 현대 언어학의 아버지로 알려진 노엄 촘스키는 작년 ChatGPT를 "기본적으로 하이테크 표절"이라고 맹비난한 바 있다.

그러나 딥워터의 진 먼스터는 이전에 학생들이 이러한 AI 도구를 사용하는 것이 올바른 방향이라고 말했다.

먼스터는 당시 "앞으로 취업 시장에서 자리를 차지하려면 이런 도구들을 받아들여야 한다. 정보 근로자뿐만 아니라 숙련 노동자들도 경쟁력을 유지하기 위해 AI를 활용해야 할 것"이라고 밝혔다.

한편 OpenAI는 올해 5월 초 DALL-E AI 이미지 생성기를 사용해 이미지가 생성되었는지 탐지할 수 있는 새로운 AI 도구를 공개하고, 자사가 생성한 콘텐츠를 더 잘 식별할 수 있는 고급 워터마킹 기술을 도입했다.