에이전틱 AI 이니셔티브, 스스로 실행하는 AI가 바꾸는 일과 책임

정부가 2026년 7월 23일 발표한 에이전틱 AI 이니셔티브는 질문에 답하는 챗봇을 넘어, 사용자가 정한 목표를 바탕으로 작업 순서를 계획하고 여러 도구를 이용해 실제 업무를 수행하는 AI 생태계를 만들겠다는 정책 방향입니다. 당장 모든 공공서비스와 회사 업무가 자율형 AI로 바뀐다는 뜻은 아니며, 실행 권한을 가진 AI의 안전·신뢰 기준과 기술 기반, 산업별 실증을 함께 준비하겠다는 단계로 이해해야 합니다.

에이전틱 AI의 핵심 쟁점은 답변이 얼마나 자연스러운지가 아니라, AI가 누구의 권한으로 어떤 행동을 실행했고 그 결과에 누가 책임지는지를 기록하고 통제하는 데 있습니다.

기존 생성형 AI는 사용자가 질문을 입력하면 문장, 이미지, 코드 같은 결과를 만들어 주는 방식이 중심입니다. 에이전틱 AI는 “다음 주 출장 준비” 같은 목표를 받으면 일정 확인, 교통편 비교, 예약 후보 정리, 결재 요청처럼 여러 단계를 스스로 나누고 필요한 시스템을 연결할 수 있습니다. 업무용으로는 재고 확인 후 발주안 작성, 고객문의 분류 후 담당자 배정, 장애 징후 감지 후 대응절차 실행 같은 형태가 가능합니다.

다만 자율적으로 보인다고 해서 사람과 같은 판단능력을 갖는 것은 아닙니다. 잘못된 데이터나 애매한 지시를 기반으로 실행 순서를 만들 수 있고, 연결된 시스템의 권한이 넓으면 작은 오류가 결제·삭제·전송 같은 실제 피해로 이어질 수 있습니다. 따라서 중요한 행위에는 사람의 승인 단계를 두고, 허용된 도구와 금액·시간·대상 범위를 제한해야 합니다.

과학기술정보통신부 등 관계부처가 7월 23일 공개한 자료는 에이전틱 AI 안전·신뢰 선도, 개방형 실행 기반 조성, 수요 중심 도입 촉진을 세 축으로 제시했습니다. 안전·신뢰 분야에서는 가이드와 성능·안전 검증 기반, 에이전트의 신원과 책임 문제를 검토합니다. 실행 기반은 여러 AI와 도구가 연결될 수 있는 기술·데이터·인프라를 마련하는 방향입니다. 도입 촉진은 공공과 산업 현장에서 실제 문제를 해결하는 서비스 개발과 실증, 기업 역량 강화를 뜻합니다.

이는 특정 기업의 AI 제품 하나를 국가표준으로 정한다는 의미와는 다릅니다. 여러 모델과 서비스가 상호연결될 수 있도록 개방성을 높이되, 보안과 책임 기준을 함께 설계하는 것이 정책의 과제입니다. 세부 사업의 지원대상, 예산, 시행 일정은 후속 공고마다 달라질 수 있으므로 발표 즉시 기업지원금을 신청할 수 있다고 단정해서는 안 됩니다.

첫째는 권한입니다. 에이전트가 읽을 수 있는 정보와 수정·전송·결제할 수 있는 범위를 분리해야 합니다. 둘째는 승인입니다. 고객에게 메시지를 보내거나 계약·금전과 관련된 행동을 할 때 사람의 확인을 거치도록 합니다. 셋째는 기록입니다. 어떤 입력과 데이터, 도구를 사용해 결론과 행동이 나왔는지 추적 가능한 로그를 남겨야 합니다. 넷째는 중단과 복구입니다. 이상행동이 발견되면 즉시 권한을 끊고 이전 상태로 되돌릴 수 있어야 합니다.

개인정보와 영업비밀을 다루는 부서는 외부 AI에 자료가 저장되거나 학습되는지 계약과 설정을 확인해야 합니다. 하나의 에이전트가 여러 시스템 계정을 공유하게 만들면 책임 추적이 어려워지므로 업무별 계정과 최소권한 원칙을 적용하는 편이 좋습니다. 시범도입 단계에서는 실제 고객이나 생산시스템에 바로 연결하기보다 복제된 데이터와 제한된 환경에서 오류 유형을 먼저 수집해야 합니다.

일부 반복업무의 방식은 빠르게 바뀔 수 있지만, 정책 발표만으로 특정 직업이 곧 사라진다고 볼 근거는 없습니다. 에이전틱 AI가 계획과 실행을 맡더라도 목표 설정, 예외 판단, 이해관계 조정, 결과 검증, 책임 있는 승인 역할은 사람에게 남습니다. 오히려 업무를 세부 단계로 분해하고 AI가 처리해도 되는 부분과 사람이 맡아야 하는 부분을 설계하는 역량이 중요해질 가능성이 큽니다.

근로자는 단순 사용법보다 결과 검증, 데이터 보안, 프롬프트 기록, 오류 보고와 복구 절차를 익히는 것이 좋습니다. 기업도 생산성 수치만 보지 말고 잘못된 실행으로 인한 비용, 고객 피해, 직원의 감시 부담을 함께 평가해야 합니다. 도입 효과는 작업시간 절감뿐 아니라 오류율, 재작업, 승인 지연, 보안사고 여부로 측정하는 편이 균형 잡힌 판단에 도움이 됩니다.

에이전틱 AI는 ‘대답하는 도구’에서 ‘행동하는 시스템’으로의 변화입니다. 편의성보다 권한과 책임을 먼저 설계해야 안전하게 활용할 수 있습니다.