美 상원의원들, 오픈AI에 안전성·투명성 촉구... "AI의 취약점은 용납 불가"

오픈AI의 챗GPT 개발사 전·현직 직원들이 이제 영리 조직이 된 오픈AI에서 안전성이 충분히 심각하게 다뤄지지 않고 있다는 우려를 제기했다. 이러한 불신은 정부 최고위층까지 퍼져나갔다.

무슨 일이 있었나: 브라이언 샤츠(Brian Schatz, 민주당-하와이), 피터 웰치(Peter Welch, 민주당-버몬트), 벤 레이 루한(Ben Ray Lujan, 민주당-뉴멕시코), 마크 워너(Mark Warner, 민주당-버지니아), 앵거스 킹(Angus King, 무소속-메인) 등 5명의 상원의원이 월요일 오픈AI 공동창업자이자 CEO인 샘 알트만(Sam Altman)에게 서한을 보냈다.

워싱턴포스트가 입수한 이 서한에서 의원들은 알트만에게 AI 안전성을 심각하게 다룰 것을 촉구하고 오픈AI의 안전 계획에 대한 추가 정보를 요구했다.

상원의원들은 오픈AI의 고용 관행과 내부고발자에 대한 보복 조치에 대해 우려를 표명했다. 또한 오픈AI가 미국 정부와 협력하고 있다는 점을 고려할 때 안전성 확보가 필요하다고 강조했다.

서한은 "국가와 경제 안보는 미국 정부의 가장 중요한 책임 중 하나이며, 안전하지 않거나 취약한 AI 시스템은 용납될 수 없다"고 지적했다.

이어 "오픈AI가 선도적인 AI 기업인 만큼 대중이 그 시스템의 안전성과 보안성을 신뢰할 수 있어야 한다"고 덧붙였다.

서한은 몇 가지 오픈AI의 관행에 대한 정보를 요청했다.

상원의원들은 알트만에게 오픈AI가 이전에 약속한 대로 컴퓨팅 자원의 20%를 AI 안전 연구에 할당할 것인지 확인을 요구했다. 또한 영구적인 고용 비방금지 계약을 강제하지 말 것과 직원들이 안전 문제에 대해 우려를 제기할 수 있는 절차를 마련할 것을 요청했다.

왜 중요한가: 공동 창업자 일론 머스크(Elon Musk)를 포함한 많은 전문가들이 AI 안전성과 인류에 미칠 궁극적인 영향에 대해 우려를 표명해 왔다. 머스크는 현재 오픈AI와 관계가 없다.

2023년 알트만의 해임과 복귀는 안전성 문제와 관련이 없었지만, 조직 내에서는 이익과 안전성의 균형을 놓고 직원들 사이에 의견 차이가 존재한다. 수석 과학자 일리야 서츠케버(Ilya Sutskever)는 5월에 오픈AI를 떠났다.