앞에서 우리는 인간이 단계적으로 문제를 푸는 방식을 참고해 추론 모델이 만들어졌다는 이야기를 했습니다. 추론 모델은 다음 단어를 이어 붙이는 문장 생성기를 활용해서 문제를 쪼개고/중간 과정을 점검하고/더 나은 답을 찾기 위해 스스로 여러 가능성을 검토합니다. 그래서 이제 수능도 사람만큼 잘 풀고 논리적 해결 방법도 찾아낼 만큼 똑똑해졌습니다.

그러면 이렇게 똑똑해진 추론 모델이 실제 업무에서 사람을 대체할 수 있을까요?

아무리 똑똑한 추론 모델이라도, 모델 자체만으로는 인터넷을 검색할 수 없습니다. 회사 데이터베이스를 조회할 수도 없고, 파일을 열어 내용을 확인할 수도 없으며, 이메일을 보내거나 결제를 처리하는 일도 할 수 없습니다.

즉, 추론 모델은 생각은 할 수 있지만 행동은 할 수 없는 존재에 가깝습니다.

그렇다면 여기에 검색, 계산기, 파일, 데이터베이스, 이메일, 업무 시스템 같은 외부 도구를 연결하면 어떻게 될까요? 이제 AI는 사람을 대신해 실제 업무를 수행할 수 있는 가능성이 생겼습니다.

이것이 바로 AI 에이전트(AI Agent)입니다.

이 변화가 중요했던 이유는 여기서부터 AI를 단순한 소프트웨어가 아니라 업무를 맡길 수 있는 존재로 보기 시작했기 때문입니다. 사람에게 일을 시키듯이 AI에게도 일을 맡길 수 있다면, 기업은 자연스럽게 “이 업무를 사람에게 맡길 것인가, AI에게 맡길 것인가”를 비교하게 됩니다.

이 지점에서 AI는 생산성 도구를 넘어 전 세계 고용시장과 기업들의 조직 구조에 직접적인 충격을 주기 시작합니다.

오늘은 이 AI 에이전트에 대해서 이야기 해보겠습니다.

추론 모델과 AI 에이전트의 차이

AI 에이전트를 간단히 정의하면, 추론 모델이 가진 단계적으로 계획하는 능력에 외부 도구를 다루는 구조를 붙인 시스템이라고 볼 수 있습니다.

여기서 중요한 차이가 하나 있습니다. 추론 모델은 단계적으로 생각하는 능력을 모델 자체에 집어넣은 것입니다. 반면 AI 에이전트는 LLM모델 내부에서만 동작하는 구조가 아닙니다. LLM 바깥에 Tool Use, 실행 프로그램, API, 반복 제어 구조를 덧붙여서 만든 시스템에 가깝습니다. 여기에서는 이런 모델 외부 환경을 프레임워크(Framework)라고 부르겠습니다.

예를 들어 “제주도 2박 3일 여행 계획을 짜줘”라고 하면, 추론 모델은 꽤 그럴듯한 일정을 만들어낼 수 있습니다. 첫날은 어디를 가고, 둘째 날은 무엇을 먹고, 마지막 날은 공항까지 어떻게 이동하면 좋을지 단계적으로 정리해줄 수 있지요.

하지만 여기에는 한계가 있습니다. 항공권을 실제로 검색하고, 호텔 가격을 비교하고, 캘린더에 일정을 넣고, 예약 확인 메일을 보내지는 못합니다. 계획은 세울 수 있지만, 그 계획을 바깥 세상에서 직접 실행하지는 않는 것입니다.

AI 에이전트는 이 지점에서 달라집니다. 모델은 “지금은 항공권 검색이 필요하다”, “이 조건으로 호텔 가격을 비교해야 한다”, “완성된 일정을 캘린더에 넣어야 한다”처럼 다음 행동을 판단합니다. 그리고 그 판단을 모델 바깥의 프레임워크가 받아 검색, 계산, 파일 처리, 이메일 발송 같은 실제 작업을 수행합니다.

이처럼 AI가 외부 도구를 호출해 일을 진행하는 능력을 Tool Use라고 부릅니다. 중요한 점은 모델이 모든 일을 직접 하는 것이 아니라, 모델은 판단하고 프레임워크가 실행한다는 것입니다.

여기서 모델은 다음 행동을 판단합니다. 프레임워크는 그 판단을 받아 알맞은 도구를 호출합니다. 도구는 실제 검색, 캘린더 등록, 이메일 발송을 수행하고 결과를 다시 돌려줍니다.

이제 이 구조에서 실제로 어떤 도구들이 쓰이는지 살펴보겠습니다.

AI 에이전트가 사용하는 도구

사람도 일을 할 때 머리만 쓰지는 않습니다. 자료를 찾을 때는 브라우저를 열고, 계산할 때는 계산기를 쓰고, 글을 정리할 때는 문서 편집기를 씁니다. AI 에이전트도 마찬가지입니다. 모델이 머리라면, 도구는 손에 쥔 연장입니다.

에이전트의 도구는 AI가 외부 세계의 정보를 읽거나 상태를 바꿀 수 있게 해주는 실행 기능입니다. 엄밀히 말하면 모델이 도구 자체를 몸 안에 품고 있는 것이 아니라, 모델 바깥에 있는 도구를 호출할 수 있도록 연결되어 있는 것입니다.

먼저 실제 일을 수행하는 도구들은 예를 들면 다음과 같습니다.

이 표에 있는 것들이 실제 행동을 담당하는 Tool입니다. 모델이 호출할 수 있는 대상은 외부 API일 수도 있고, 로컬에서 파이썬 스크립트 실행, 파일 읽기 기능, 데이터베이스 조회 함수, 브라우저 조작 기능일 수도 있습니다.

Function Calling

도구 사용의 가장 기본적인 연결 방식은 Function Calling입니다. 모델 개발자가 “이메일 보내기”, “재고 조회하기”, “파이썬 스크립트 실행하기” 같은 함수를 미리 정의해두면, 모델은 필요한 순간에 “이 함수를 이런 입력값으로 실행해야겠다”고 요청합니다.

중요한 것은 모델이 이 함수를 실행하는게 아닙니다. 모델은 GPT잖아요. 그리고 GPT가 할 수 있는 것은 생성밖에 없다고 여러번 얘기했었죠.

그래서 Function Calling이 필요하다는 메시지를 생성해냅니다.. 그러면 모델 바깥의 프레임워크가 이 신호를 받아서 외부 도구를 실행해 줍니다. 실행 결과는 다시 프레임워크가 받아서 모델에게 전달 되지요.

MCP

MCP(Model Context Protocol)는 에이전트가 외부 도구와 데이터 소스를 일정한 방식으로 연결하기 위한 표준 규격입니다.

조금 쉽게 말하면, MCP는 에이전트가 여러 도구와 자료를 매번 제각각의 방식으로 배우지 않도록 도와주는 연결 규칙입니다. MCP 서버는 에이전트에게 사용할 수 있는 도구, 읽을 수 있는 자료, 필요한 입력 형식을 알려줍니다. 즉 MCP는 도구 그 자체라기보다 여러 도구를 표준적으로 연결하는 방법입니다.

따라서 이번 글에서는 개념의 층위를 다음처럼 구분하겠습니다.

* Tool Use         : AI가 모델 바깥의 기능을 사용하는 전체 능력

* Function Calling : 모델이 어떤 도구를 어떤 입력값으로 호출할지 표현하는 방식

* Tool             : 실제로 실행되는 기능

                     예: 검색, 파일 읽기, 

                        Python 스크립트 실행,

                        DB 조회, 이메일 발송,

                        외부 API 호출

* MCP              : 도구와 데이터를 표준 방식으로 연결하기 위한 규격

참고: ChatGPT와 Gemini의 진화

초기의 ChatGPT나 Gemini는 주로 모델과 대화하는 기능에 가까웠습니다. 사용자가 질문하면, 모델이 이미 알고 있는 지식과 입력된 문맥을 바탕으로 답변을 생성하는 방식이었습니다.

그 다음 단계는 앞에서 설명한 것처럼 추론 기능 가진 모델이 추가되었습니다. 필요에 따라 추론과정을 거쳐서 답을 생성하는 수준으로 업그레이드 되었습니다.

하지만 Perplexity처럼 검색을 해주는 Agent방식 서비스가 등장한 이후 ChatGPT와 Gemini 같은 기존 채팅형 AI 앱들도 검색 기능을 추가하기 시작했습니다. 이제는 모델이 “이 질문은 최신 정보가 필요하다”고 판단하면, 외부 검색을 통해 정보를 가져온 뒤 그 결과를 바탕으로 답변할 수 있습니다.

여러분이 Gemini나 ChatGPT에게 질문을 하면 "생각중..." 뿐만 아니라 "검색중..." 이라는 메시지도 볼 수 있는데 이게 바로 Tool Use의 한 형태입니다.

채팅 AI 앱들도 단순히 답변만 만드는 도구에서, 필요한 외부 기능을 호출해 일을 처리하는 에이전트형 서비스로 진화하고 있는 셈입니다.

ReAct: 생각과 행동을 반복하기

에이전트는 한 번에 모든 일을 끝내지 않습니다. 사람도 일을 하다 보면 “일단 검색해보자 → 결과가 부족하네 → 다른 자료를 보자 → 이제 계산해보자 → 다시 정리하자”처럼 움직이듯이 말이죠.

지금까지 AI 에이전트를 “추론에 실행을 더한 시스템”으로 설명했습니다. 이 흐름을 조금 더 정리해서 부르는 용어가 있습니다. 바로 ReAct입니다.

ReAct는 Reasoning and Acting을 결합한 이름입니다. 말 그대로 생각하고 행동하기라는 뜻이며 AI 에이전트의 대표적인 실행 방식중 하나 입니다.

여기서 Reasoning은 지금 무엇을 해야 할지 판단하고 계획하는 과정입니다. Acting은 그 판단을 바탕으로 외부 도구를 사용해 실제 행동을 하는 과정입니다.

하지만 ReAct에서 중요한 점은 이 둘이 한 번만 일어나는 것이 아니라는 점입니다. AI 에이전트는 먼저 생각하고, 필요한 도구를 사용해 행동하고, 그 결과를 관찰합니다. 그리고 관찰한 결과를 바탕으로 다시 생각하는 반복 루프를 시작합니다.

정확한 기본 흐름은 다음과 같습니다.

[Reasoning]

지금 무엇을 해야 할지 판단한다.

  ↓

[Action]

검색이나 계산 같은 도구를 실행한다.

  ↓

[Observation]

도구가 돌려준 결과를 읽는다.

  ↓

[Reasoning]

결과를 바탕으로 다음 행동을 정한다.

예를 들어 최신 환율을 이용해 여행 경비를 계산한다면 다음처럼 움직입니다.

[Reasoning]

현재 환율이 필요하다.

[Action]

환율 검색 도구를 호출한다.

[Observation]

1달러는 1,380원이라는 결과를 받았다.

[Reasoning]

이 환율로 500달러를 원화로 계산해야 한다.

[Action]

계산기를 실행한다.

[Observation]

690,000원이라는 결과를 받았다.

여기서 Observation은 단순한 검증과 완전히 같은 말은 아닙니다. 도구 실행 결과를 관찰하는 단계입니다. 에이전트는 그 결과가 목표에 충분한지 판단하고, 부족하거나 실패했다면 다음 행동을 수정합니다.

따라서 ReAct를 간단하게 정의하면 다음처럼 설명할 수 있습니다.

무엇을 할지 판단하고, 도구를 실행하고, 실행 결과를 확인한 뒤 다음 행동을 정하는 반복 방식

에이전트의 전체 반복 구조

Observation은 도구가 돌려준 결과를 읽는 단계입니다. 하지만 결과를 읽었다고 해서 그 결과가 맞는지는 아직 모릅니다. 검색 결과가 엉뚱할 수도 있고, 계산 입력이 잘못됐을 수도 있고, 파일이 원하는 형식으로 만들어지지 않았을 수도 있습니다.

그래서 실제 에이전트에는 보통 Observation 뒤에 검증이 붙습니다. 검증 결과가 괜찮으면 다음 단계로 넘어가고, 문제가 있으면 계획을 고쳐 다시 실행합니다.

목표 이해

  ↓

계획

  ↓

Reasoning

  ↓

Action

  ↓

Observation

  ↓

검증

  ↓

완료 또는 계획 수정 후 반복

모든 에이전트가 이 흐름을 똑같이 쓰는 것은 아닙니다. 간단한 일은 한두 번의 도구 호출로 끝날 수 있고, 복잡한 일은 계획, 실행, 확인을 여러 번 반복합니다. 중요한 것은 AI가 더 이상 한 번 답하고 멈추지 않는다는 점입니다. 목표를 달성할 때까지 행동을 고르고, 결과를 보고, 필요하면 다시 움직입니다.

한 줄 정리

AI 에이전트는 새로운 모델 하나를 가리키는 말이라기보다, LLM 바깥에 Tool Use, 외부 실행 도구, ReAct 같은 반복 구조를 덧붙여 실제 업무를 수행하게 만든 시스템입니다. 추론 모델이 모델 안에서 단계적으로 생각하는 능력을 강화한 것이라면, AI 에이전트는 그 생각을 모델 바깥의 도구로 실행하게 만든 구조입니다.