02 ​마이크로소프트 이그나이트 2023의 애저 클라우드 주요 발표 내용

│Senior Program Manager 김영욱

들어가며

2023년 11월에 있었던 마이크로소프트 이그나이트 2023의 주요 하이라이트는 IT 전문가를 위한 새로운 비전을 제시하면서 클라우드 플랫폼의 AI 서비스 강화에 초점을 맞추었다. 특히 애저 클라우드는 확장성, 유연성, 보안을 제공하는 기본 플랫폼으로서 자사의 생성형 AI 기술 브랜드인 코파일럿을 지원하기 위한 서비스 역량을 집중해서 보여주었고, AI 고급 기능을 활용하여 기술의 미래를 어떻게 혁신하는지를 시연하였다. 그 중심 메시지에는 기업은 이러한 기술을 활용하여 가치 있는 인사이트를 얻고, 프로세스를 자동화하고, 의사 결정을 개선할 수 있다는 데 초점이 있다. 

이번 글에서는 발표 내용 중에 가장 혁신적이라고 평가되는 인공 지능에 관련된 코파일럿 기술과 클라우드 애저 서비스를 중점으로 정리해 보고자 한다.

코파일럿의 전면적 확장

개인의 생산성을 뛰어넘어 일반 기업의 구성원과 개발자, IT 전문가에 이르기까지 모든 업무 역할에서 생산성과 비즈니스 프로세스를 혁신할 수 있도록 오피스와 백엔드 솔루션 전반에 걸쳐 코파일럿 제품을 확장하고 있다.

마이크로소프트 365

함께 발표한 업무 트렌드 지수는 코파일럿이 조직에 어떤 영향을 미치는지 보여준다. 조사에 따르면 코파일럿의 활용은 업무와 학습의 창의성을 높이고 시간을 절약함으로 생산성 향상으로 높여주고, 모든 직원이 글쓰기, 디자인, 코딩, 데이터 분석 등의 기술을 습득할 수 있는 새로운 기준을 제시해 준다.

그림 1 코파일럿 사용 결과 조사(출처: 마이크로소프트) 

마이크로소프트 365용 코파일럿은 웹 그라운딩 및 상업용 데이터 보호 기능을 제공하고 기존 마이크로소프트 365 보안, 개인 정보 보호, ID 및 규정 준수 정책을 모두 제공한다. 데이터는 365 테넌트 내에서 논리적으로 격리하고 보호되어, 코파일럿은 데이터 보존(residency) 또는 처리 약속(handling promises)을 변경하지 않는다. 또한 코파일럿은 개별 사용자를 대신하여 작동하므로 사용자가 볼 수 있는 권한이 없는 정보에는 접근할 수 없다. 마이크로소프트 그래프에는 접근할 수 있으며 365 앱에 통합되어 있다.

이번 발표에서는 개인화 기능 강화, 정교한 계산 및 분석 기능, 협업의 참여자가 되는 세 가지 주제의 업데이트를 발표했다. 개인화 기능을 통해 코파일럿에게 자신의 역할에 대한 정보와 중요한 사항에 대한 지침을 제공하면 서식, 스타일, 어조 등 고유한 역할과 선호도에 따라 맞춤형 응답을 받을 수 있다. 이 새로운 기능은 워드와 파워포인트에서 먼저 제공되며 다른 365 앱에도 곧 출시될 예정으로, 이메일 초안을 작성할 때 고유한 글쓰기 스타일과 목소리를 일치시키는 아웃룩의 '나처럼 하기(Sound like me)' 와 같은 개인화 기능을 사용할 수 있다.

그림 2 아웃룩에서 개인화된 스타일로 작성하는 기능

또한 엑셀에 포함된 코파일럿을 통해 자연어와 함께 파이썬 코드를 사용하면 정교한 수학적 분석을 수행할 수 있다.

그림 3 파이썬 코드를 코파일럿에서 사용

팀즈에서는 브레인스토밍의 메모를 디지털 화이트보드의 시각화 모드로 전환하고, 공동 작업하고 동기화 상태를 유지하는 데 도움이 되는 공유 작업 공간을 구축할 수 있도록 지원한다.

코파일럿 스튜디오

코파일럿 스튜디오는 마이크로소프트 365용 코파일럿을 커스터마이즈 하거나 독립 실행형 코파일럿을 생성할 수 있는 로우코드 도구이다. 이 도구는 365용 코파일럿을 기업에서 사용할 수 있도록, 독립 실행형 코파일럿과 커스텀 GPTs를 빌드, 테스트 및 배포하고 지정한 데이터에 접근하고, 사용자 제어 및 분석을 할 수 있도록 한다. 예를 들어 IT 지원 코파일럿 또는 영업팀의 RFP 작성을 지원하는 코파일럿과 같이 역할 및 기능에 따라 다양화될 수 있다. 코파일럿 스튜디오를 사용하면 사전 구축 또는 커스텀 플러그인 및 GPTs를 비롯한 다른 데이터 소스에 코파일럿을 연결하여 SAP, 워크데이(Workday), 서비스나우를 지원하는 1,100개 이상의 커넥터를 통해 비즈니스 데이터에 쉽게 연결할 수 있다.

이렇게 정제된 데이터 세트, 동적으로 연결된 플러그인, 커스텀 프롬프트 등을 사용하면 원하는 비즈니스 응답의 품질을 향상할 수 있다. 예를 들어 파일, 쉐어포인트 사이트, 웹사이트, 커스텀 백엔드 데이터 등 다양한 데이터 세트에 대한 주제를 바뀌어 가며 멀티턴 채팅이 가능하다. 이러한 기능을 통해 사용자에게 관련성이 높고 참여를 유도하는 답변과 대화를 동적으로 생성하여 선호도와 비즈니스 요구사항에 동적으로 대응하는 것이 가능하다. 로우코드 인터페이스 또는 자연어를 사용하여 구축할 수 있으며, 코파일럿 스튜디오는 공동 댓글, 그래픽 다중 작성, 나란히 배치된 코딩 보기의 협업 기능을 제공한다.

그림 4 코파일럿 스튜디오의 공동 댓글 협업 기능

애저용 코파일럿 (Microsoft Copilot for Azure)

일상적인 IT 관리를 간소화하는 위한 코파일럿이다. LLM(대규모 언어 모델)과 애저 리소스 모델을 결합하여 사용자의 역할과 목표를 이해하고 앱과 인프라를 설계, 운영 및 문제 해결 능력을 향상하는 통합 채팅 환경이다. 애저용 코파일럿은 IT 팀이 워크로드에 대한 새로운 인사이트를 얻고, 아직 개발되지 않은 애저 기능을 활용하고, 클라우드 및 에지에서 작업을 최적화하는 데 도움이 된다. 코파일럿은 사용자 환경에 대한 질문에 답하는 것 외에도 애저 리소스 그래프 내에서 사용하기 위한 KQL(Kusto Query Language)의 구성을 용이하게 한다. 이에 덧붙여 클라우드 사용에 대한 최적화 권장 사항, 예측 시나리오 또는 '가정' 분석을 지원한다. 코파일럿을 사용하면 클라우드 비용을 더 잘 분석, 예측 및 최적화할 수 있다. 예를 들어 "1월 15일에 비용이 급증한 이유는 무엇인가?" 또는 "비용이 가장 많이 드는 구독을 보여 달라"와 같은 질문을 하면 사용량, 청구서 및 비용 데이터를 기반으로 즉각적인 응답을 받을 수 있다.

그림 5 애저용 코파일럿을 이용하여 비용 최적화를 구성할 수 있다.

서비스용 코파일럿 (Microsoft Copilot for Service)

생성형 AI는 상담원의 생산성을 높이고 조직의 효율성을 높여 고객 서비스를 혁신할 수 있다. 마이크로소프트 고객 서비스 및 지원(CSS)팀은 지난 6개월 동안 고객 서비스에서 코파일럿 기능을 사용한 결과 평균 처리 시간은 12% 단축되고, 상담원이 독립적으로 사례를 해결하는 능력은 13% 향상되는 결과를 발표하면서, 코파일럿이 고객 참여의 효율성 및 전반적인 생산성에 미치는 긍정적인 영향에 관해 설명했다.

서비스용 코파일럿은 기업이 생성형 AI를 통해 조직의 신뢰할 수 있는 지식 소스에서 사용할 수 있는 방대한 양의 데이터를 검색하여 상담원에게 업무 흐름과 관련된 적절한 가이드를 적시에 제공한다. 이 서비스용 코파일럿은 다이나믹스 365, 세일즈포스, 서비스나우 등을 포함한 CRM 및 컨택 센터 솔루션과의 통합을 지원하여 생성형 AI의 이점을 빠르게 실현할 수 있는 유연성을 제공한다. 이메일 요약, 이메일 초안, 회의 요약을 CRM 데이터로 보강하여 상담원의 생산성을 높이고, 상담원은 업무 흐름에서 아웃룩 및 팀즈에서 바로 CRM 기록을 보고 업데이트할 수 있을 뿐만 아니라, 이메일, 지식 소스 및 이전 고객 커뮤니케이션의 컨텍스트를 기반으로 사례 정리, 회의 예약, 새 연락처 추가 및 작업 후속 조치와 같은 CRM 작업을 자동화할 수 있다. 또한 이메일 스레드, 사례, 팀즈 채팅 등에서 정보를 큐레이션 하여 새 지식 자산을 만들거나 기존 지식 자산을 업데이트한다. 이렇게 업데이트된 지식 기반은 고객 문제를 해결하려는 상담원뿐만 아니라 다른 역할의 지식 근로자에게도 제공할 수 있다.

그림 6 세일즈포스, 서비스나우의 지식 소스를 이용하는 서비스용 코파일럿

애저 AI

마이크로소프트 패브릭(Microsoft Fabric)

경쟁력 있는 AI 환경을 만들려면 많은 양의 데이터가 필요하다. 데이터는 AI가 구축되는 기반이며, AI는 기반이 되는 데이터만큼만 우수하다는 간단한 사실이 있다. 마이크로소프트 패브릭은 데이터 이동부터 데이터 사이언스, 실시간 분석, 비즈니스 인텔리전스까지 모든 것을 포괄하는 엔터프라이즈용 올인원 분석 솔루션이다. 데이터 레이크, 데이터 엔지니어링, 데이터 통합을 포함한 포괄적인 서비스 제품군을 한곳에서 모두 제공한다. 패브릭은 각각 목적에 맞게 구축된 핵심 워크로드를 갖춘 단일 통합 SaaS 플랫폼을 만든다. 이 통합 아키텍처는 모든 워크로드에 사용되는 단일 용량 및 스토리지 풀을 제공함으로써 과금을 간소화한다. 또한, 데이터 전반에서 작동하는 엔드투엔드 거버넌스 및 보안 기능을 통해 데이터를 더 효과적으로 관리하고 보호할 수 있다.

그림 7 마이크로소프트 패브릭 SaaS 구성 요소

MaaS(Model-as-a-Service)

애저 클라우드를 생성형 AI 애플리케이션 개발을 위한 최고의 플랫폼으로 만들기 위해, 모델 공급자가 애저에서 LLM을 직접 제공할 수 있도록 하는 서비스이다. 예를 들어 개발자는 메타의 라마2(Llama 2)와 미스트랄의 프리미엄 모델, G42의 자이스(Jais)와 같은 최신 AI 모델을 애플리케이션의 API 엔드포인트로 쉽게 통합할 수 있는 애저 서비스를 이용하면 된다. 이런 경우 기존에는 프론티어 LLM을 호스팅하기 위한 하이엔드 GPU가 탑재된 가상 머신을 사용할 수밖에 없어, 개발 테스트 주기에 엄청난 비용이 들었지만, 이번에 발표된 MaaS는 GPU 인프라를 설정하고 관리할 필요 없이 자체 데이터로 이러한 모델을 커스터마이즈할 수 있어 복잡성을 없애고 경제성도 챙길 수 있는 장점이 있다.

그림 8 MaaS를 이용해 특정 LLM을 지원

애저 AI 스튜디오(Azure AI Studio)

프롬프트 엔지니어링, 벡터 검색 엔진, 검색 증강 생성(RAG) 패턴, 애저 OpenAI 서비스를 활용하여 생성형 AI 애플리케이션 개발을 원스톱으로 할 수 있도록 설계된 플랫폼이다. 곧 출시될 GPT-4 터보 비전과 같은 최신 멀티모달 모델과 팔콘(Falcon), 스테이블 디퓨전(Stable Diffusion), 라마-2(Llama 2) 관리형 API와 같은 개방형 모델을 포함한 포괄적인 모델 카탈로그를 제공한다. 이 통합 플랫폼은 AI 개발자가 사전 빌드된 서비스 및 모델, 관리 및 평가, 콘텐츠 안전, 개인 정보 보호, 보안 및 규정 준수를 위한 책임 있는 AI 도구를 통합할 수 있도록 맞춤 제작되어 개발자가 생성형 AI의 복잡성을 최소화하게 해준다.

그림 9 원스톱서비스를 위한 애저 AI 스튜디오

애저 AI 스피치 (Azure AI Speech)

새롭게 공개한 서비스는 ‘TTS(text-to-speech) 아바타’이며, 비전 기능을 갖춘 텍스트 음성 변환 기능으로, 사용자가 2D 실사 아바타가 말하는 합성 동영상을 만들 수 있다. 신경망 텍스트 음성 변환 아바타 모델은 사람의 비디오 녹화 샘플을 기반으로 심층 신경망에 의해 학습되며, 아바타의 목소리는 텍스트 음성 변환 모델에 의해 제공된다. 이 서비스는 본질적으로 딥페이크에 해당하는 것을 만들 수 있는 도구이며, 사실적인 아바타를 생성하고 해당 아바타에 애니메이션을 적용한다.

마이크로소프트는 이 도구가 악용될 수 있는 명백한 방법에 주목하여 제한을 적용하고 있다. 현재 애저 구독자는 출시 시 미리 빌드된 아바타만 액세스 할 수 있고, 커스텀 아바타는 "특정 사용 사례에만" 사용할 수 있다.

그림 10 TTS 아바타 생성 워크플로우

마무리

마이크로소프트 이그나이트 2023에서는 빠르게 진화하는 오늘날의 디지털 환경에서 조직이 경쟁력을 유지할 수 있는 클라우드 플랫폼의 가치를 보여주었다. 본문에서 설명하지 않았지만, 마이크로소프트는 소프트웨어 스택뿐만 아니라 하드웨어 계층에서 최적화를 보장하기 위해 클라우드 인프라를 재고하고 있다. 

클라우드 기반 트레이닝 및 추론과 같은 AI 워크로드를 최적화하기 위해 설계된 AI 가속기 칩인 애저 마이어(Azure Maia)와 범용 워크로드를 위한 성능, 전력 효율성, 비용 효율성에 최적화된 암 아키텍처 기반의 클라우드 네이티브 칩인 애저 코발트(Azure Cobalt), 스토리지 및 네트워킹 프로세스를 호스트 서버에서 더 빠르게 하는 시스템인 애저 부스트(Azure Boost) 같은 발표가 흥미를 끄는 이유다.

코파일럿으로 대표되는 프론트엔드 인공지능기술과 백엔드의 애저 클라우드 AI 서비스는 기업이 디지털 트랜스포메이션을 수용함에 따라 기술의 미래를 형성하는 데 매우 매력적인 기능을 선보였다. 인공 지능이 기술의 영역을 넘어 디지털 시대에 조직이 성공할 수 있도록 지원하는 솔루션으로 느낄 수 있도록 해준 발표였다.

참고문헌

1) Microsoft, “Work Trend Index Special Report”, Nov 15, 2023

2) Microsoft, “From Microsoft to global brands, Dynamics 365 Copilot is helping transform customer experiences across service, sales, and marketing”, Sep 07, 2023