퍼플렉시티 CEO "AI 도구로 시험 치르지 마라" 경고

AI 스타트업 퍼플렉시티(Perplexity)가 다시 주목을 받고 있다. 이번에는 31세의 아라빈드 스리니바스 CEO가 AI 도구의 오남용에 대해 경고하고 나섰다.

이번 주 한 X(옛 트위터) 사용자가 퍼플렉시티의 브라우저 '코멧(Comet)'이 코세라(Coursera) 과제를 단 몇 초 만에 완료하는 영상을 게시했다. 이 게시물에 스리니바스를 포함한 여러 사용자들이 반응을 보였다.

스리니바스는 "절대로 이렇게 하지 말라"고 경고했다.

코멧, 디자인 과제 순식간에 해결

16초짜리 영상에서 코멧은 45분 분량의 웹 디자인 과제를 '과제를 완료하라'는 명령어 하나로 순식간에 해결했다. 해당 사용자는 퍼플렉시티와 스리니바스를 태그하며 "코세라 과정을 방금 완료했다"고 자랑했다.

앞서 다른 사용자도 코멧이 100문항짜리 자격증 시험을 13분 만에 완료하고 96점을 받았다고 공유했다. 당시에도 스리니바스는 "이렇게 하지 말라"고 응답했다.

에이전틱 브라우저의 취약점 드러나

퍼플렉시티는 코멧을 지시를 이해하고, 행동을 취하며, 양식을 작성하고, 복잡한 작업 흐름을 처리할 수 있는 '에이전틱' AI 브라우저로 개발했다. 이러한 높은 수준의 자율성으로 인해 코멧은 과제를 단 몇 초 만에 완료할 수 있다.

하지만 브레이브와 가디오 같은 플랫폼의 보안 감사에서 코멧의 취약점이 드러났다.

보고서에 따르면, 이 브라우저는 웹 콘텐츠에 내장된 숨겨진 지시를 실행할 수 있어 의도된 동작을 무력화하는 '프롬프트 인젝션' 공격에 취약하다.

교육용 AI 시장 급성장

스리니바스의 이번 발언은 AI가 교실에 더 깊이 침투하고 기술 기업들이 '학습 지원'이라는 명목으로 학생들에게 적극적으로 제품을 마케팅하는 시점에 나왔다.

지난 9월 스리니바스는 200달러짜리 코멧 브라우저를 학생들에게 무료로 제공한다고 발표했다. 이는 학생들이 더 빠르고 효율적으로 답을 찾을 수 있도록 돕는 학습 도구로 소개됐다.

퍼플렉시티의 학생 대상 제공은 알파벳(NASDAQ:GOOG)(NASDAQ:GOOGL), 마이크로소프트(NASDAQ:MSFT), 앤트로픽 등이 AI 도구를 과외 교사와 학습 보조 도구로 홍보하는 광범위한 움직임의 일부다. 하지만 교육자들은 학생들이 점점 더 AI를 사용해 에세이를 작성하고, 퀴즈를 풀고, 전체 과정을 자동화하고 있다고 보고하고 있다.