03 ​생성형 AI 서비스로 기업의 초자동화 혁신 꾀하는 삼성SDS

│테크수다 편집장 도안구 

CES 2024에서 생성형 AI 서비스 실시간 시연

삼성SDS는 CES 2024에서 ‘생성형 AI 서비스를 통한 기업의 초자동화(Hyperautomation : 하이퍼오토메이션) 혁신’을 주제로 삼성SDS의 생성형 AI 서비스인 패브릭스(FabriX)와 브리티 코파일럿(Brity Copilot)을 소개했다.

삼성SDS는 CES 2024에 단독 전시룸을 마련하고 ▲생성형 AI 서비스 플랫폼 패브릭스 ▲생성형 AI 협업 솔루션 브리티 코파일럿 ▲구매 공급망관리 솔루션 엑스알엠 사스(SRM SaaS) 등 다양한 기술 사례를 미디어에 공개했다. 

그림 1 황성우 삼성SDS 대표가 생성형 AI 서비스를 소개하고 있다.

황성우 삼성SDS 대표이사(사장)는 “CES 2024에서 선보인 삼성SDS의 생성형 AI 서비스를 통해 기업 고객의 초자동화 혁신을 돕겠습니다”라고 밝혔다.

기업들은 보통 3가지 큰 시스템을 가지고 있다. 메일, 결재, 메신저, 미팅, 드라이브로 전체 임직원이 사용하는 공동 업무 시스템과 전사적자원관리(ERP), 인적 자원관리(HCM), 고객관계관리(CRM), 공급망관리(SCM) 등 업무 담당자들이 사용하는 코어 업무 시스템, 마지막으로 고성능 스토리지, AI/MLOps, GPU 서버 등 IT 운영자가 사용하는 클라우드 인프라 AI가 그것이다.

생성형 AI로 회의록 작성 시간 75% 절약 ‘브리티 코파일럿’ 2월 출시

브리티 코파일럿은 전체 임직원이 사용하는 공동 업무 시스템을 지원하는 생성형 AI 서비스로 메일, 메신저, 영상 회의에 적용했다. 2월 중에 출시할 예정이다. 브리티 코파일럿을 활용하면 ▲영상 회의 중 실시간 자막과 회의록 작성 ▲회의 종료 후 회의록 및 실행 방안(Action Item)을 도출해 담당자에 메일 발송 ▲수신 메일과 메신저 실시간 요약 ▲메일 초안 작성 등 다양한 작업을 자동화할 수 있다.

그림 2 브리티 코파일럿으로 영상 회의 내용을 요약한 화면

브리티 코파일럿을 적용해 영상 회의 중 대화 내용을 인식하여 실시간 자막을 보여주고, 회의 내용을 요약하여 메신저로 공유할 수 있다. 또 메신저에서 사내 문서를 즉시 검색하여 문서 작성을 이어갈 수 있으며, 해당 문서를 회사가 정해둔 양식으로 자동 변환해 준다. 더불어 본문 텍스트 일부를 표로 생성해 주는 등의 문서 작성이 가능하며, 해당 문서를 첨부해 메일 발송까지 원클릭으로 가능해진다.

특히 실시간 한국어 자막의 경우, 94%가 넘는 높은 인식 정확도로 더욱 명확한 커뮤니케이션을 가능하게 한다.

삼성SDS는 자체적으로 적용해 본 결과, 회의 내용 요약 및 회의록 작성 시간은 75% 이상 줄고, 메일을 확인하고 작성하는 데 걸리는 시간 또한 66% 감소했으며, 메신저 대화 요약의 경우 약 50%의 시간 절감 효과를 거두었다. 이를 통해 개인별 월 4.9시간의 업무 시간을 단축할 수 있었다고 전했다.

기업의 데이터와 생성형 AI를 연결하는 플랫폼, ‘패브릭스’

패브릭스는 기업의 업무 시스템을 더욱 빠르고 편리하게 하는 인공 지능 서비스 플랫폼이다. 기업 내 보유한 공통 업무 시스템, 코어 업무 시스템, 시스템 개발과 운영시스템과 퍼블릭 혹은 프라이빗에 구축한 거대 언어모델(LLM) 사이에 위치해 이를 연동, 안전하고 정확도 높은 답변을 생성하고, 이를 회사 업무에 적용할 수 있는 역할을 한다.

그림 3 삼성SDS의 생성형 AI 서비스 요약도

가령 LLM 기반 언어 모델을 기반으로 한 챗봇 서비스들이 사실이 아닐 것도 사실인 것처럼 답변하는 일이 있다. 일명 환각(Hallucination)이라 불리는 데 이 문제를 해결하기 위해 파인 튜닝을 정교하게 하거나 RAG(Retrieval Augmented Generation)를 통해 사내 구축된 데이터를 기반으로 답변하도록 하는 방식이다. 

생성형 AI 도입을 원하는 기업은 패브릭스를 통해 외부 데이터뿐만 아니라 기업 내부 데이터까지 직접 활용할 수 있다. 또, 이 인프라는 삼성 클라우드 플랫폼(Samsung Cloud Platform)을 기반으로 서비스하며, 키워드 필터링, 데이터 및 사용자 권한 관리 등으로 내부정보 유출을 방지할 수 있다. 삼성SDS는 이미 패브릭스를 현재 사내에 적용해 업무에 활용하고 있다고 밝혔다. 

삼성SDS는 이 서비스를 사내뿐 아니라 삼성그룹, 외부 기업에도 제공하기 위해 고객과 접촉하고 있다고 밝혔다. 

AI 기반으로 구매공급망 전체 관리하는 ‘SRM SaaS’ 솔루션

CES 2024에서는 생성형 AI 서비스 이외에 국내 1위 구매공급망 관리(SRM) 솔루션 기업 엠로와 공동 개발한 AI 기반의 구매공급망 관리 솔루션 SRM SaaS도 선보였다. Auto-PO는 부서별로 빈번히 구매하는 품목 중 일괄 계약을 진행했을 때 효과가 있을 것으로 판단되는 품목에 대해 전사 차원에서 단가 계약을 진행해 구매 비용을 절감하고, 업무 생산성을 높이는 데 도움을 준다.

삼성SDS는 자체 테스트 결과, Auto-PO를 활용해 약 20%의 구매 비용 절감과 업무 생산성 향상 효과를 거두었다고 밝혔다.

다음은 황성우 대표와 가진 일문일답

1. 솔루션에 대한 고객사 반응은?

공통적인 반응은 실제 시스템을 구현해 놓고 작동하는 걸 보는 건 다들 처음이라고 했다. 이 시연은 한국에 있는 시스템과 미국 라스베이거스를 연결해 실시간으로 보여드리고 있다. 진짜 된다는 그런 반응이 많았다. 

2. LLM을 개발하는데 오픈 소스 엔진을 활용하고 있는지요.

오픈 소스 문제는 기업에 필요한 IT 시스템 또는 애플리케이션을 개발할 때 항상 있는 공통 문제다. 누구나 필요한 오픈 소스를 써서 개발하게 되고 그 오픈 소스를 활용하는 것에 대한 정당한 절차를 밟을 거고 저희도 다르지 않다고 생각하면 된다. 항상 새로운 게 나오고 또는 보안과 관련된 여러 패치가 나올 수도 있고 그런 것들을 항상 업데이트하는 게 이제 만드는 사람들의 의무다. 오픈 소스 관리 체계에 따른다고 말씀드릴 수 있을 것 같다.

3. 환각 현상 해결은 어떻게 하고 계시는지?

간혹 LLM이 잘못된 답을 줄 수 있다. 기업 업무 시스템에 그런 일이 생기면 안 되니까 그게 바로 이제 저희가 패브릭스에서 잡고 있는 기술 맥락 중의 하나다. 여러 가지 룰 셋을 만든다든지 DRM을 적용한다든지 이런 식으로 해서 그런 에러가 생겼을 때 다시 물어볼 수 있게 한다든지 또는 에러를 걸러낸다든지 이런 것들이 같이 포함돼서 개발되고 있다. 

4. 생성형 AI를 통한 클라우드 매출 증가 기대감은?

기술적으로 말씀드리면 모든 생성형 AI 서비스는 클라우드 서비스다. 그거는 제가 2023년 9월에도 한 번 강조에서 말씀을 드렸다. 저희가 개발한 모든 것들은 기본적으로 클라우드 위에서 다 서비스가 되게끔 했다. 생성형 AI 열풍은 제 개인적인 판단으로는 클라우드의 기업 클라우드 기술 자체를 많이 바꿀 것 같다. GPU가 훨씬 더 중요해지고 클라우드로 갈 것 같다. 그런 데서 저희 클라우드도 좀 기회를 찾을 수 있지 않을까? 이렇게 생각하고 있다.

하나 말씀드리고 싶은 건 이렇게 실제로 리얼타임에서 데모할 수 있는 수준의 온 기업은 전 세계적으로도 아마 많지 않다 이렇게 말씀드릴 수 있을 것 같다.