MSFT, AAPL, META, 오픈AI... 주 검찰총장들, 생성형 AI의 "아첨하는" 그리고 "망상적인" 행동에 경보 발령

웨스트버지니아를 포함한 40개 이상의 주 법무장관(AG)으로 구성된 연합이 오픈AI (PC:OPAIQ), 마이크로소프트 (MSFT), 구글 (GOOGL), 메타 (META), 애플 (AAPL), 앤트로픽 (PC:ANTPQ) 등 12개 이상의 AI 기업에 서한을 보냈다. 이 서한은 생성형 AI 시스템이 "아첨적"(지나치게 칭찬하는) 또는 "망상적"(오해를 불러일으키는) 결과물을 생성하는 것에 대한 심각한 우려를 제기했다.

서한에서 지적된 주요 문제점

법무장관들은 이러한 행동이 유해한 감정을 정당화하고, 분노를 부추기거나, 충동적인 행동을 조장하여 사용자에게 위험을 초래할 수 있다고 경고했다. 또한 아동과의 AI 상호작용에 대한 충격적인 보고를 지적하며 더 강력한 안전장치의 긴급한 필요성을 강조했다.

서한은 플로리다와 캘리포니아의 청소년 자살, 코네티컷의 살인-자살 사건, 뉴저지와 플로리다의 사망 사건 등 AI 상호작용과 관련된 여러 비극을 인용했다.

법무장관들에 따르면 가장 우려스러운 사례는 아동과 관련된 것이다. 보고된 챗봇 대화에는 그루밍, 성적 착취, 폭력 조장, 마약 실험 또는 처방약 복용 중단 지시 등이 포함되어 있었다.

법무장관들은 조치를 취하지 않을 경우 제품 안전, 불공정 관행, 아동 보호를 규율하는 주법 위반에 해당할 수 있다고 밝혔다.

안전장치 요구사항

법무장관들은 기업들이 2026년 1월 16일까지 시행해야 할 16가지 구체적인 변경사항을 제시했다.

• 공개 출시 전 아첨적이고 망상적인 결과물에 대한 필수 안전 테스트.


• 잠재적으로 유해한 결과물에 대한 명확한 경고.


• 우려되는 AI 상호작용을 법 집행기관, 정신건강 전문가, 부모에게 보고하는 프로토콜.


• 아동 계정이 불법적이거나 위험한 결과물을 생성하지 못하도록 하는 제한.


• 독립적인 제3자 감사 및 출시 전 평가.


• 임원 및 직원 성과 지표를 수익이나 사용자 증가가 아닌 안전 결과와 연계.

이 서한은 AI 기업들이 규제를 기다리기보다는 지금 당장 유해한 결과물을 완화할 책임을 져야 한다는 초당적 우려가 커지고 있음을 반영한다.

지금 매수하기 좋은 AI 주식은?

팁랭크스 주식 비교 도구를 사용하여 월가 애널리스트들이 MSFT, META, GOOGL, AAPL을 어떻게 평가하고 있으며, 어느 주식이 가장 강력한 상승 여력을 가지고 있다고 믿는지 확인할 수 있다.