오픈AI, 온라인 안전을 위한 새로운 AI 모델 공개

마이크로소프트(MSFT)가 지원하는 AI 기업 오픈AI(PC:OPAIQ)가 개발자들이 온라인 안전 문제를 탐지할 수 있도록 돕는 두 가지 새로운 AI 모델(gpt-oss-safeguard-120b 및 gpt-oss-safeguard-20b)을 출시했다. 이들은 오픈AI가 지난 8월 공개한 초기 gpt-oss 모델의 개선 버전이다. 모델명의 숫자는 모델의 크기를 나타낸다. 또한 오픈AI는 이들을 오픈 웨이트 모델로 제공하고 있는데, 이는 훈련 과정에서 사용된 내부 설정값이 공개적으로 이용 가능하다는 의미다. 이를 통해 개발자들은 더 높은 투명성과 통제력을 확보할 수 있다. 다만 오픈소스 모델과 달리 전체 코드를 변경하거나 맞춤 설정할 수는 없다.

흥미롭게도 이들 모델은 다양한 안전 정책에 맞춰 구축되었으며, 추론 과정을 보여주도록 설계되어 개발자들이 각 결정이 어떻게 내려졌는지 이해할 수 있다. 예를 들어 제품 리뷰를 호스팅하는 웹사이트는 이 모델을 사용해 가짜 리뷰를 표시할 수 있다.......................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................................


..................