군사 목적의 AI 활용이 어디까지 허용될 수 있을까, 실리콘밸리 전체로 번진 논쟁

안녕하세요. 디지털에이전시 이앤아이입니다.

미국 국방부가 인공지능 기업 앤스로픽(Anthropic)을 ‘공급망 위험 기업’으로 공식 지정했다는 소식이 업계를 크게 흔들고 있습니다. ‘공급망 위험’은 원래 적대국 기업이나 특정 부품·기술이 안보에 위협이 될 때 동원되는 강한 조치입니다. 그런데 미국 기업이자 대표적인 LLM(대규모 언어모델) 개발사인 앤스로픽이 이 목록에 올랐다는 점이 이례적이죠.

핵심은 기술 자체가 아니라 “어떤 방식으로 쓰이느냐”입니다. 앤스로픽은 완전 자율 살상무기(사람의 최종 통제 없이 표적을 선택·공격하는 체계)와 미국 내 대규모 감시에 자사 AI가 쓰이는 것을 명시적으로 반대해왔고, 국방부는 ‘합법적인 목적’이라면 활용에 제한을 두지 말아야 한다며 해당 조항 삭제를 요구한 것으로 알려졌습니다. 협의가 틀어지자 연방기관 전반에 앤스로픽 기술 사용 중단 명령까지 내려갔다는 흐름입니다.



이번 논란을 이해하려면, LLM이 전장에서 어떤 역할을 맡기 시작했는지부터 봐야 합니다. 최근 미군이 추진하는 ‘프로젝트 메이븐(Project Maven)’과 ‘CJADC2(전군 통합 지휘통제)’ 같은 체계는 위성·드론·감청·인간 첩보처럼 서로 다른 데이터를 한 네트워크로 묶고, AI로 분석해 의사결정 속도를 극단적으로 끌어올리는 방향으로 움직입니다. 과거엔 정보 취합과 판독, 타격 판단까지 몇 시간이 걸리던 과정이 점점 실시간에 가까워지는 셈이죠. 팔란티어의 분석 플랫폼(AIP, Gotham 등)에 GPT나 클로드 같은 LLM이 결합해 방대한 보고서를 요약하고 패턴을 찾고, 작전 옵션을 ‘제안’하는 시나리오도 이미 공개적으로 거론돼 왔습니다.

문제는 여기서 한 발만 더 나가면, ‘제안’이 ‘결정’이 되고, 결정이 ‘자동 실행’으로 이어질 수 있다는 불안입니다. 그래서 앤스로픽과 오픈AI 모두 “대규모 국내 감시에는 쓰지 말 것, 자율무기 제어에는 쓰지 말 것” 같은 원칙을 내세우고 있습니다. 다만 보도 흐름을 보면, 오픈AI는 제한된 범위의 합의가 이뤄진 반면 앤스로픽은 원칙을 더 강하게 고수하며 충돌한 모양새입니다.

이 사건은 실리콘밸리의 한 기업만의 이슈로 끝나기 어렵습니다. 국방 수요는 AI 산업의 큰 시장이고, 각국 정부는 AI를 ‘전략자산’으로 보고 규제와 조달을 함께 강화하는 중입니다. 미국의 이번 조치가 선례가 되면, 향후 특정 AI 모델이나 클라우드, 데이터 처리 체계가 ‘안보’를 이유로 갑자기 막히는 일이 다른 나라·다른 산업에서도 반복될 수 있습니다. 기업 입장에선 거버넌스와 계약 조항, 기술 제공 범위를 처음부터 더 촘촘히 설계해야 하고, 공공기관 입장에선 특정 벤더 의존을 줄이는 ‘멀티모델·멀티클라우드’ 전략이 더 중요해질 가능성이 큽니다.

우리에게도 남의 나라 이야기만은 아닙니다. AI를 공공 서비스와 보안, 국방, 재난 대응에 적용하려는 흐름은 전 세계 공통이기 때문입니다. 결국 질문은 하나로 모입니다. AI가 더 빠르고 똑똑한 조언을 할수록, 인간의 책임선과 통제 장치는 어디에 고정돼야 할까. 이번 논쟁이 기술 발전을 막기 위한 싸움이 아니라, 신뢰 가능한 사용 경계를 사회가 함께 합의해가는 과정이길 기대해봅니다.

메타 설명: 미국 국방부가 앤스로픽을 공급망 위험 기업으로 지정하며 연방기관 사용 중단이 거론됐다. LLM의 군사 활용(프로젝트 메이븐, CJADC2)과 자율무기·국내 감시 윤리를 둘러싼 충돌이 AI 산업 전반의 거버넌스와 조달 전략에 어떤 영향을 주는지 정리한다.

#공급망위험 #앤스로픽 #미국국방부 #AI윤리 #대규모언어모델 #프로젝트메이븐 #CJADC2 #AI거버넌스 #국가안보 #연방조달 #이앤아이 #디지털에이전시 #대학교홈페이지 #병원홈페이지 #AI전문기업