유용원, "군 자체 개발 AI, 기본 안보관 질문 회피"

(서울=국제뉴스) 고정화 기자 = 우리 군이 자체 개발해 운용 중인 국방 생성형 AI 서비스가 '대한민국의 주적은 누구인가'라는 기본적인 안보 질문에 제대로 답하지 못한 사실이 확인되면서 논란이 일고 있다.

해당 AI는 질문에 대해 "답변할 수 없습니다"라는 응답을 내놓거나 시스템 오류 메시지를 출력한 것으로 드러났다.

국회 국방위원회 소속 유용원 의원이 밝힌 국방부자료에 따르면, 국방부는 2024년부터 국방 생성형 AI 'GeDAI'를 군 자체 인력을 활용해 개발·운용하고 있으며, 육군은 'Arvis', 공군은 'AiRWARDS'를 각각 운영 중이다.

이들 AI는 국방망 내부 포털을 통해 사용 가능하며, 국방부와 각 군의 훈령·규정, 교리·교범 등 군사 전문자료를 검색·활용할 수 있도록 RAG(검색증강생성) 기술이 적용됐다.

또한 사용자가 직접 데이터를 업로드해 학습에 반영할 수 있는 기능도 제공된다.

문제는 장병들이 안보관 관련 질의를 입력했을 때 AI가 이를 정치적 사안으로 분류해 답변을 회피하거나 오류를 출력했다는 점이다.

최근 군은 AI를 활용한 정신전력·안보 교육을 확대하고 있어, 이러한 상황은 장병들의 대적관 형성에 혼선을 줄 수 있다는 지적이 제기된다.

국방부는 "군 생성형 AI는 아직 완성형이 아니며, 북한 정권과 북한군은 우리의 적이라는 입장에는 변함이 없다"고 밝혔다.

그러나 유용원 의원은 "군 내부 시스템으로 실제 장병들이 사용하는 만큼, 기본적인 안보관과 대적관을 정확히 반영해야 한다"며 "북한을 적으로 규정하는 공식 입장이 있음에도 AI가 이를 회피하거나 오류를 출력하는 것은 납득하기 어렵다"고 지적했다.

이어 그는 "AI 활용 범위가 앞으로 더욱 확대될 가능성이 큰 만큼, 장병들에게 혼선을 주지 않도록 학습 데이터와 체계를 전면적으로 점검하고 올바른 대적관에 부합하는 답변을 제공할 수 있도록 즉각 개선해야 한다"고 강조했다.