美 국방부, AI기업에 '블랙박스' 열어달라... LLM 기술 투명성 요구

미국 국방부가 AI 기업들에게 기술의 투명성을 요구하며 압박을 가하고 있다.

블룸버그 보도에 따르면 크레이그 마텔 국방부 최고 디지털&인공지능 책임자가 이같은 움직임을 주도하고 있다.

마텔 책임자는 "모델 구축의 최종 결과만 받는 것으로는 충분하지 않다"고 말했다. 국방부는 이들 AI 모델의 구조와 데이터 기반에 대해 전혀 알지 못하고 있다는 것이다.

국방부의 AI 회의론

마텔 책임자는 기업들이 자사 시스템이 초래할 수 있는 위험도 설명해야 한다고 강조했다.

국방부는 기업들이 지적재산권을 침해하지 않으면서도 AI 소프트웨어에 대한 필수 정보를 공개할 수 있는 균형점을 찾고자 한다.

블룸버그는 결과는 보이지만 과정은 숨겨진 AI의 현재 '블랙박스' 특성이 국방부의 주요 우려사항이라고 전했다.

국방부의 AI 회의

이러한 우려를 해소하기 위해 최고 디지털&인공지능실은 2024년 2월 워싱턴에서 AI 업계 전문가와 학계 인사를 초청해 심포지엄을 개최할 예정이다.

이 회의의 목표는 대규모 언어 모델(LLM)의 국방 분야 잠재적 응용과 관련 위험 및 위협을 탐색하고, 포괄적인 이해와 사용 지침을 수립하는 것이다.