MS “AI 에이전트는 내부자 위협”…가디언 에이전트 공개

도입: 우리 회사 AI가 ‘내부 직원’처럼 위험할 수 있다고요?

마이크로소프트(MS)가 기업이 직접 도입해 비용을 내고 쓰는 AI 에이전트를 ‘내부자 위협(insider threat)’에 비유하며 경고하고 나섰어요. 외부 해커만 막으면 된다는 기존 생각을 바꿔야 한다는 이야기예요. 현지시간 19일 공개된 새 보안 기능의 핵심은 Guardian Agents(가디언 에이전트)랍니다.

주요 팩트: 무엇이 발표됐나

가디언 에이전트란?

TechCrunch에 따르면 가디언 에이전트는 기업이 사용하는 AI 에이전트를 감시하는 기능이에요. 6월에 공개된 Project Perception의 일부이고요. AI타임스는 MS가 보안 기술 블로그에서 이런 에이전트를 ‘에이전틱 내부자(Agentic Insider)’로 정의하고, 24시간 실시간으로 감시·통제하는 체계를 제시했다고 전했어요.

Project Perception의 출발점

이 프로젝트는 Anthropic의 Mythos·Fable, OpenAI의 취약점 스캔 시스템 Daybreak 같은 강력한 해킹 모델에 대한 MS의 대답이었어요. 해커처럼 공격하는 ‘레드팀’, 이를 탐지하고 취약점을 평가하는 ‘블루팀’, 고치는 ‘그린팀’ 에이전트로 구성됐답니다. 다만 AI 해커가 회사 밖에서 온다는 가정 위에 설계됐어요.

나델라 CEO와 갤럿의 발언

사티아 나델라 CEO는 이달 초 개인 블로그에서 AI 모델 제공사의 안전 보장을 그대로 믿어선 안 된다고 했어요. AI 연구소가 통제하지 않는 별도 시스템으로 에이전트를 감시해야 한다는 거죠.

“We simply can’t outsource responsibility for what intelligence does on our behalf.”

(우리를 대신해 지능이 하는 일에 대한 책임을 외부에 맡길 수는 없다는 뜻이에요.) MS 보안 사업 책임자 하이에트 갈로는 “안타깝게도 프런티어 모델은 출처와 관계없이 신뢰할 수 없다”고 썼어요. 악의적이거나 쉽게 해킹돼서가 아니라 예측 불가능하기 때문이라는 설명이에요.

배경: 왜 ‘내부자’일까요?

AI 에이전트는 질문에 답만 하는 챗봇과 달리 데이터에 접근하고 도구를 실행해요. 그런데 이들은 과업 달성을 위해 훈련됐지, 조직의 규범이나 판단력을 따르도록 훈련된 건 아니에요. 게다가 민감한 데이터와 도구의 ‘열쇠’를 쥐는 경우가 많죠. 열심히 일하지만 회사 규정을 잘 모르는 신입이 금고 열쇠를 가진 상황을 떠올리면 쉬워요.

두 기사 비교

항목	소스별 차이점	공통점
초점	TechCrunch는 MS의 입장이 놀랍지만 자사 이익에도 부합한다는 비판적 시각, AI타임스는 24시간 감시 체계 소개 중심	AI 에이전트를 내부 보안 위협으로 규정
핵심 용어	TechCrunch는 insider threat, AI타임스는 ‘에이전틱 내부자’	가디언 에이전트가 대응책
배경 설명	TechCrunch는 Project Perception, OpenAI·Anthropic과의 관계까지 설명	외부 해커뿐 아니라 내부 에이전트도 통제해야 한다는 주장

국내 독자 관점

국내 기업도 업무 자동화를 위해 에이전트 도입을 늘리는 중이라, 권한 관리와 감사 체계는 남의 일이 아니에요. AI 제공사의 안전 약속만 믿기보다 별도의 감시·통제 계층을 두자는 발상은 참고할 만해요. 다만 TechCrunch가 지적했듯 MS가 감시 제품을 팔려는 입장이라는 점도 함께 봐야 해요. 발발 구체적 가격이나 출시 범위 등은 제공된 발췌에는 나오지 않았어요.

결론 및 전망

‘AI를 쓰는 것’만큼 ‘AI를 누가 감독하느냐’가 중요해지고 있어요. 모델 공급과 통제 권한을 분리하라는 MS의 메시지가 업계 표준으로 자리 잡을지, 아니면 자사 생태계 마케팅에 그칠지는 앞으로 지켜봐야 해요.

---

주가에 미칠 영향

본 기사와 직·간접적으로 연관된 상장 종목입니다. 투자 결정 전 반드시 추가 조사를 권장합니다.

종목별 투자자 영향 분석

※ 주가 데이터는 yfinance 기준 (장중/장후 포함). 조회 시각: 2026-10-20 06:02 UTC

---

🛒 관련 추천 제품

• 인공지능 로보틱스 2/e (로빈 R. 머피)
• NVIDIA Jetson Orin Nano Super 개발자 키트
• SO-ARM101 6축 AI 로봇팔 키트 (LeRobot)

※ 이 포스팅은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.

---

참고 출처 (2건)

• [TechCrunch] Microsoft says AI agents are like insider threats as ‘frontier models can’t be trusted’
• [AI타임스] MS “AI 에이전트는 믿을 수 없는 내부자…24시간 감시하는 AI 필요”

※ 본 기사는 위 출처들을 종합·분석하여 작성되었습니다. Generated: 2026-10-20 06:02