디지털서비스 이용지원시스템

자료실

[2024-12] 디지털서비스 이슈리포트 01 AI 에이전트를 지원하는 클라우드 서비스 게시글 정보입니다.
2024.12.30 (수정 : 2024.12.30)
[2024-12] 디지털서비스 이슈리포트 01 AI 에이전트를 지원하는 클라우드 서비스

01 AI 에이전트를 지원하는 클라우드 서비스

│한상기 테크프론티어 대표

AI 에이전트 기술을 2024년에 본격 태동해서 2025년과 2026년에 가장 큰 관심을 받을 기술이다. 대형 클라우드 서비스 사업자들은 고객이 에이전트를 선택하고 구현하고 배포할 수 있는 기능을 클라우드에서 지원하기 위한 서비스를 차례로 선보이고 있다. 이번 글에서는 글로벌 클라우드 서비스 사업자들이 제공하는 에이전트 서비스를 간략하게 살펴보기로 한다.

마이크로소프트의 애저 AI 에이전트 서비스

애저 AI 에이전트 서비스는 개발자가 모든 비즈니스 프로세스를 자동화하는 안전하고 상태 저장형 자율 AI 에이전트를 구축할 수 있도록 하는 관리 기능이다. 6만 개가 넘는 조직이 애저 AI 서비스를 사용하고 있지만 워크플로우를 처리하는 데는 여전히 어려움이 있다. 에이전트 서비스를 통해서 워크플로우를 자동화하는 데 도움을 주고자 하며, 자율 AI 에이전트의 잠재력을 완전히 실현하기 위해 조직에 에이전트 생성, 배포 및 모니터링을 위한 유연하고 안전한 플랫폼을 제공하려는 목적이 있다.

지난 이그나이트 2024에서 발표한 AI 에이전트 서비스는 모든 복잡도의 비즈니스 프로세스를 자동화하는 데 필요한 모든 모델, 데이터, 도구 및 서비스를 하나로 모은 풍부한 기능을 갖춘 관리형 기능 세트이다. 

우선 마이크로소프트, 오픈AI, 메타, 미스트랄, 코히어와 같은 업계를 선도하는 기업의 최신 모델, 도구 및 기술을 통합 제공한다. 또한 내부 지식이나 라이선스 데이터, 외부 정보를 원활하게 사용할 수 있도록 빙 검색, 셰어포인트, 패브릭, 애저 AI 서치, 애저 블롭(Blob) 등으로 에이전트를 확장하고, 애저 로직 앱스, 애저 함수, 오픈 API 3.0 지정 도구 및 코드 인터프리터 사용하여 마이크로소프트 및 타사 애플리케이션에서 작업을 수행할 수 있다. 

또한 애저 AI 파운드리를 통한 직관적인 에이전트 구축 환경과 BYO(Bring Your Own) 스토리지, BYO 가상 사설망, 대리 인증 및 오픈텔레메트리(OpenTelemetry) 기반 평가를 통한 향상된 에이전트 관찰 기능을 포함한 풍부한 엔터프라이즈 지원 기능을 제공한다. 

이를 이용해 이메일을 보내고 회의 일정을 잡는 개인 생산성 에이전트, 시장 동향을 지속해서 모니터링하고 보고서 생성을 자동화하는 연구 에이전트, 리드를 조사하고 리드를 자동으로 선별할 수 있는 영업 에이전트, 개인화된 메시지로 적극적으로 후속 조치를 취하는 고객 서비스 에이전트, 코드 기반을 업그레이드하거나 코드 리포지토리를 대화형으로 진화시킬 수 있는 개발자 에이전트 등을 만들 수 있다. 

그림 1 애저 AI 에이전트 서비스 구성 개념도 [출처: 마이크로소프트]

안전하고 신뢰할 수 있는 에이전트를 개발하기 위해서는 4가지 주요 요소가 있다.

  • 프로세스를 신속하게 개발하고 자동화

  • 광범위한 메모리 및 지식 커넥터와 통합

  • 유연한 모델 선택

  • 기업에 대한 준비성 구축

위에서 설명한 기능들이 바로 이 주요 요소를 채울 수 있다는 것이 마이크로소프트의 입장이다.

궁극적으로 AI 에이전트 서비스는 다중 에이전트 시스템으로 구성해야 한다. 다중 에이전트 시스템에서는 인간이든 AI이든 여러 컨텍스트 인식 자율 에이전트가 상호 작용하거나 함께 작업하여 개별 또는 집단 목표를 달성할 수 있다.

이를 위해서 마이크로소프트 연구소에서 만든 파이썬용 최첨단 연구 SDK인 오토젠(AugoGen)이나 파이썬, 닷넷, 자바용 엔터프라이즈 AI SDK인 시맨틱 커널(Semantic Kernel)과 같은 어시스턴트 API와 호환되는 다중 에이전트 오케스트레이션 프레임워크와 바로 사용할 수 있다고 한다. 

새로운 멀티 에이전트 솔루션을 구축할 때는 싱글톤 에이전트를 구축하여 가장 안정적이고 확장 가능하며 안전한 에이전트를 확보하는 것으로 시작한다. 그런 다음 이러한 에이전트를 함께 조율할 수 있다. 오토젠은 에이전트(및 인간)가 함께 작업할 수 있는 최상의 협업 패턴을 찾기 위해 진화하고 있으며, 프로덕션 지원과 중단되지 않는 변경 사항을 찾고 있다면 시맨틱 커널로 옮길 수 있다.

구글의 버텍스 AI 에이전트 빌더와 에이전트스페이스(AgentSpace)

버텍스 AI 에이전트 빌더는 자연어 또는 코드 중심 접근 방식을 사용해 AI 에이전트와 애플리케이션을 만들게 한다. 다양한 옵션을 사용하여 에이전트나 앱이 엔터프라이즈 데이터에 기반하도록 쉽게 설정할 수 있다. 버텍스 AI 에이전트 빌더는 개발자가 AI 에이전트 및 애플리케이션을 빌드하는 데 필요한 모든 플랫폼과 도구를 제공한다. 

주요 기능과 특징으로는 다음과 같은 것이 있다.

  • 코딩이 필요 없이 대화형 AI 에이전트를 간단히 구현

  • RAG 제품으로 구글 검색 및 기업 데이터에 그라운딩

  • 로우코드부터 하이코드 AI 애플리케이션까지 빠르게 생성

  • 실험 및 배포 가속화

  • 엔터프라이즈급 보안 및 규정 준수

주요 도구에는 버텍스 AI 에이전트, 버텍스 AI 검색, 벡터 검색 등이 있다.

에이전트스페이스는 제미나이의 고급 추론, 구글 품질 검색 및 엔터프라이즈 데이터를 호스팅 위치와 관계없이 통합하는 에이전트를 통해 직원에게 엔터프라이즈 전문 지식을 제공하는 서비스이다. 계획, 조사, 콘텐츠 생성 및 작업이 필요한 복잡한 작업을 단일 프롬프트로 완료하도록 지원하여 직원의 생산성을 높여주고자 한다.

에이전트스페이스가 기업 전문성을 제공하는 방식에는 세 가지가 있다.

  • 노트북 LM을 통해 엔터프라이즈 데이터와 상호 작용: 노트북 LM은 사용자가 복잡한 정보를 이해할 수 있도록 돕기 위해 구축되었으며, 에이전트스페이스를 통해 이 기능을 엔터프라이즈에 제공한다. 또한 노트북 LM에서 제미나이 2.0 플래시 실험 버전을 사용할 수 있다. 

  • 기업 전체에서 정보 발견: 단일 브랜드 멀티모달 검색 에이전트를 통해 기업 사실에 대한 중앙 소스 역할을 하고, 구글의 검색 기능으로 대화형 지원 제공, 복잡한 질문에 답하기, 사전 제안, 회사의 고유 정보를 통한 조치를 취할 수 있다. 또한 내장된 번역 기능을 통해 다른 언어로 작성된 정보를 모두 사용할 수 있다. 컨플루언스, 구글 드라이브, 지라(Jira), 마이크로소프트 셰어포인트, 서비스 나우 등과 같이 가장 일반적으로 사용되는 타사 애플리케이션에 대한 사전 구축된 커넥터를 통해 관련 데이터 소스에 쉽게 액세스하고 쿼리하고 더 나은 결정을 내릴 수 있다.

  • 비즈니스 기능을 자동화하는 전문가 에이전트: 에이전트스페이스는 생성형 AI를 상황에 맞게 적용하는 맞춤형 AI 에이전트의 시작점이다. 기업은 마케팅, 재무, 법률, 엔지니어링 등의 직원에게 더 나은 조사를 수행하고, 콘텐츠를 빠르게 초안하고, 여러 단계 워크플로우를 포함한 반복적인 작업을 자동화할 수 있는 권한을 부여할 수 있다. 

그림 2 에이전트스페이스로 만든 전문 에이전트로 경비 보고서 관리 [출처: 구글]

아마존 베드락(Bedrock) 에이전트

아마존 AWS의 생성형 AI 플랫폼은 베드락이다. 베드락 에이전트는 자연어를 이용해 다단계 비즈니스 과업을 수행하는 생성형 AI 애플리케이션을 가능하게 하는 서비스이다. LLM에게 자연어로 프롬프트를 입력하고 반응을 얻을 수 있으며, 과업을 나누어서 이의 실행을 오케스트레이션하고, 능동적으로 API를 호출해서 과업을 완료하며, 회사 데이터 접근을 안전하고 보안 하에 이루어지게 하고, 생각의 사슬(CoT) 과정을 추적할 수 있다. 

그림 3 베드락 에이전트가 과업을 수행하는 과정 [출처: 아마존]

베드락 에이전트는 개발자가 제공한 지침(예: 해결되지 않은 청구를 처리하도록 설계된 보험 에이전트’), 태스크 완료에 필요한 API 세부 정보 및 기술 자료의 회사 데이터 소스 세부 정보를 사용하여 프롬프트를 자동으로 생성할 수 있다. 

또한 검색 증강 생성을 위해 회사의 데이터 소스에 안전하게 연결하고 올바른 정보로 사용자 요청을 보강하여 정확한 응답을 생성한다. 예를 들어, 사용자가 청구 자격에 대해 문의하면 RAG 에이전트는 기술 자료에서 정보를 찾아 제출된 청구와 자격 정책 응답(예: “운전면허증, 손상된 차량 사진, 사고 보고서를 제출해야 합니다.”)을 조정한다.

다단계 작업 오케스트레이션 기능은 고객이 간단한 단계만으로 에이전트를 생성하여 생성형 AI 애플리케이션을 구축할 수 있다. 고객은 먼저 모델을 선택하고 자연어로 몇 가지 지침을 작성한다. 에이전트는 모델의 추론 기능을 사용하여 과업을 오케스트레이션 및 분석하고 올바른 논리적 순서로 분류할 수 있다. 

코드 해석 기능은 에이전트가 안전한 환경에서 코드를 동적으로 생성하고 실행하는 기능을 말한다. 이 기능을 통해 이전에는 모델 추론만으로는 답변하기 어려웠던 복잡한 분석 쿼리를 자동화할 수 있으며, 이 기능을 활용하여 데이터 분석, 데이터 시각화, 수학적 문제 해결과 같은 폭넓은 범위의 정교한 사용 사례를 처리할 수 있다.

베드락 에이전트는 상호 작용 전반에 걸쳐 메모리를 유지할 수 있어 더욱 개인화되고 원활한 사용자 경험을 제공한다. 이 기능을 통해 에이전트는 과거 상호 작용을 기억하고 다단계 작업의 정확도를 높일 수 있다. 

CoT 과정을 추적해서 다양한 오케스트레이션 문제를 해결하여 모델의 동작을 원하는 방식으로 조정함으로써 사용자 경험을 개선할 수 있다. 또한 애플리케이션을 반복하면서 단계를 검토하고 지침을 조정할 수 있고, 모델의 추론을 완벽하게 파악할 수 있으므로 차별화된 애플리케이션을 더 빠르게 만들 수 있다. 

지난 리인벤트 행사에서는 멀티 에이전트를 오케스트레이션 하는 기능을 발표했는데, 기업이 에이전트 워크플로우를 구성해 AI 에이전트를 구축하고 전체 에이전트 생태계를 구현할 수 있도록 했다.

고객은 베드락에서 전문 에이전트를 구축한 다음 다른 에이전트를 관리하는 데 도움이 되는 감독자 또는 오케스트레이터 에이전트를 만든다. 감독자 에이전트는 작업을 분할하고 적절한 에이전트에게 라우팅하는 것과 같은 조정을 처리하고, 특정 에이전트에게 작업을 완료하는 데 필요한 정보에 대한 액세스 권한을 제공하고, 어떤 작업을 병렬로 처리할 수 있는지 결정한다. 또한 다른 에이전트가 작업을 마치면 오케스트레이터 에이전트가 모든 정보를 모은다.

나가며

클라우드 사업자들이 에이전트 구축을 자동화하고 다중 에이전트를 지원하고 이들 간의 협업을 하게 만드는 기능을 제공하는 것은 자연스러운 접근이다. 대형 클라우드 기업뿐 아니라 서비스나우도 AI 에이전트 제품군을 제공하고 있고, 오픈AI도 스웜(Swarm) AI 에이전트 프레임워크를 실험적으로 공개했다. 

그러나 에이전트 기술은 이제 시작점이고 앞으로 매우 빠르게 발전할 것이다. 이제 컴퓨트와 모델 제공을 넘어서 AI 클라우드 기업은 모두 에이전트 기술을 보다 자연스럽고 효과적인 방식으로 제공하기 위한 노력을 할 것이다. 실제로 에이전트를 만들어 배포한다는 것이 아직은 시간이 필요하고 복잡성을 해결해야 하는 상황이기 때문에 이 분야에서 누가 더 자동화 기술과 데이터 접근 기술을 보다 더 의미 있게 제공할 것인가 하는 점과 과업을 여러 서브 과업으로 잘 분리하고 이에 대한 전문 에이전트를 활용해 문제를 효과적으로 풀어 나갈 도록 지원할 것인가 하는 경쟁은 내년 엔터프라이즈 마켓에서 가장 치열한 경쟁이 이루어질 분야라고 생각한다.


참고문헌

1) Microsoft Tech Community, “Introducing Azure AI Agent Service,” Nov 19, 2024

2) Google Cloud, “Introducing Google AgentSpace: Bringing AI agents and AI-powered search to enterprises,” Dec 13, 2024

3) VentureBeat, “AWS brings multi-agent orchestration to Bedrock,” Dec 3, 2024


프로세스가 진행중입니다. 잠시만 기다려주세요.