03 ​2024년 AI 현황 보고서 리뷰

​│정채상 인이지 연구소 기술 책임자

들어가며

스테이트 오브 에이아이(https://www.stateof.ai/)는 AI(인공지능) 분야의 최신 동향, 기술 발전, 연구 성과, 정책 변화 등을 분석하고 요약하는 연례 보고서이다. 이 보고서는 AI 연구, 산업 동향, 정책 및 규제, 그리고 안전과 윤리에 관련된 다양한 이슈들을 다루고 있으며, AI의 주요 발전 사항뿐만 아니라, 각 분야에서의 성과와 전망, 그리고 산업계 및 학계에서 주목할 만한 변화 등을 종합적으로 분석해 제공한다. 이 글에서는 2024년 10월 중순에 발간된 최신 보고서를 보고 현재와 미래를 둘러보도록 한다.

이 보고서는 AI 전문가인 Nathan Benaich 와 Ian Hogarth 가 2018년부터 작성해 왔는데, 보고서의 끝은 이후 1년간 있게 될 10가지 예측이 담겨 있고, 보고서의 시작은 지난해에 했던 예측에 대한 평가들이 담겨 있으며, 주요 섹션은 일반적으로 다음과 같은 내용을 포함한다.

• 연구 (Research): AI 연구에서 주목할 만한 논문, 기술적 혁신, 새로운 알고리듬 및 모델들.

• 산업 (Industry): AI 기술이 산업에 미치는 영향, 주요 기업의 전략 및 AI 도입 사례.

• 정치 (Politics): AI 정책, 규제, 국제적 협력 및 경쟁, 데이터 보호 관련 법안 등.

• 안전 (Safety): AI 안전성, 윤리적 문제, 사회적 영향, 책임 있는 AI 개발을 위한 노력.

2022년의 보고서는 114 페이지, 작년의 보고서는 163페이지였는데, 엄청난 변화를 반영하듯 올해는 213 페이지 분량의 보고서가 발간되었고, 그중 한 페이지는 보고서 발행 시점에 가장 최신 정보인 노벨상 물리학상과 화학상의 수상 소식을 “AI gets en-Nobel-ed”라는 제목으로 나타내고 있다.

이 글에서는 총평, 지난 예측에 대한 분석, 그리고 앞으로의 예측에 관한 내용들에 관해 이야기하도록 한다. 

그림 1 stateof.ai의 노벨상 언급

총평

작년까지의 보고서는 파운데이션 모델들에 대한 논의들로 가득했었지만, 올해는 기술의 중요도보다 파운데이션 모델과의 관계가 변화했다. 연구자들의 노력은 연구 속도를 얼마나 가속할 수 있을지, 그리고 단점을 어떻게 완화할 수 있는지에 노력을 기울였고, 기업들은 모델을 구축하는 것을 넘어 실제 제품을 만드는 데 노력을 기울여 왔다.

오픈AI와 같이 수십억 달러 규모의 매출을 올리는 등 사용자를 유지하는 성공적인 생성형 AI 제품들이 나타났지만, 엄격해진 규제와 지속 가능성에 있어 전력, 물, 토지 등의 컴퓨팅 인프라도 더 큰 도전으로 다가왔고, 탄소중립 목표는 위기에 처하게 되었다.

그 와중에 극단적인 사례이지만 엔비디아는 명확한 승자의 위치를 차지하고 있고, AI 개발을 선도하는 기업들은 높은 금리와 시장 침체기 속에서도 수조 달러의 기업 가치를 얻었다. AI 채택률이 증가함에 따라 더 다양한 인프라 구축, 원자력 발전소의 가동까지 결합하는 등 새로운 시대를 맞이하고 있는 것은 분명해 보인다.

2024 보고서의 주요 내용 요약

• 프론티어 연구소의 성과가 점차 수렴되며, 독점 모델의 우위가 줄어들고 있다. GPT-4와 다른 모델 간의 격차가 좁혀지고 있으며, 오픈AI의 o1 모델이 선두를 다시 차지했으나, 그 위치가 얼마나 오래 지속될지는 미지수이다.

• LLM 연구에서는 계획과 추론이 중요해지며, 기업들은 강화 학습, 진화 알고리듬, 자기 개선과의 결합을 통해 미래 지향적인 에이전트 응용 프로그램 개발을 모색하고 있다.

• 파운데이션 모델은 언어를 넘어 수학, 생물학, 유전체학, 물리학, 신경과학 등 다분야 연구에서 잠재력을 보여주고 있다.

• 미국의 제재는 중국 연구소의 모델 개발 능력에 큰 영향을 주지 못했다. 중국의 연구소들은 재고 비축, 승인된 하드웨어, 밀수, 클라우드 접근 등의 방법으로 고성능 모델을 개발하고 있다. 한편, 중국의 반도체 산업 구축 노력은 여전히 혼란스러운 상태이다.

• AI 기업들의 기업 가치는 9조 달러에 도달했으며, 상장 기업들은 AI 성장에 따른 강세장을 경험하고 있다. 민간 AI 기업들에 대한 투자도 증가했으나, 미국의 생성형 AI 거대 유치들에도 불구하고 규모는 훨씬 작았다.

• 파운데이션 모델 개발자와 영상 및 음성 생성 스타트업을 포함한 몇몇 AI 기업들이 본격적인 수익을 창출하기 시작했다. 그러나 모델이 저렴해지면서 장기적인 지속 가능성에 대한 의문은 여전히 남아 있다.

• 일부 AI 기업들은 수익 모델을 찾지 못해 '의사 인수(pseudo-acquisition)'를 선택하는 사례가 증가하고 있으며, 선도적인 위치를 유지하는 것이 부담스러운 상황이다.

• 오픈AI에서의 실패한 쿠데타 이후 특히 존재적 위험에 대한 논의는 줄어들었다. 그러나 연구자들은 잠재적인 모델 취약성과 오용에 대한 지식을 계속 심화시키면서 잠재적인 수정 및 보호 조치를 제안하고 있다.

지난 예측과 분석

1. 할리우드 영화 제작에 생성형 AI가 시각 효과 제작에 활용될 것이다.

시각 효과 작업에서는 오래전부터 컴퓨터가 쓰여 왔기에 자연스럽게 예상이 되는 주제지만, 생성형 AI 가 만들어 낸 것으로 추정되는 잘못된 그림들이 노출되면서 생성형 AI 가 쓰이고 있음을 알려 주는 간접적인 증거가 되었다. 그래서 이 예상은 맞는 것으로 해석했다.

그림 2 2023년 보고서의 향후 예측

그림 3 2023년 예측에 대한 분석

2. 생성형 AI를 활용하는 미디어 회사가 2024년 미국 대선에서 부정하게 이용되었다는 의혹으로 조사를 받을 것이다.

보고서 발행 시점 기준으로 미국 대선이 아직 끝나지 않아서 보류라는 의견에 동의한다. 새로운 미디어 회사가 아직 나타나진 않았고, 엑스(과거 트위터)에 다양한 형태의 계정들이 나타나고 있고, 그중 몇은 AI 가 생성하는 것으로 보이지만, 전체 판도에 영향을 줄 정도의 치명적인 가짜 뉴스 등의 사례들은 아직 보고되지 않고 있다. 

3. 스스로 학습하고 발전하는 AI 에이전트가 AAA 게임, 도구 사용, 과학 등 복잡한 환경에서 기존 최고 수준의 성능을 뛰어넘는 결과를 보여줄 것이다.

자가 학습에 관한 연구들과 더 복잡한 환경에서 AI를 에이전트로 쓰는 연구들이 있었고, 게임 세상에서 와 여러 연구자가 눈에 띄는 성과를 냈지만, 최고 수준의 성능을 내기에는 부족했다는 의견에 동의한다. 자가발전은 새로운 영역을 탐색하는 데 여러 방향으로 이용되고 있어서 조만간 SOTA를 넘어서는 결과가 나올 수도 있겠다.

4. 침체하였던 기술 기업 공개 시장이 다시 활기를 띠면서, 데이터브릭스와 같은 AI 중심 기업이 대규모 상장을 할 것이다.

비상장 기업 중 가장 규모가 큰 회사 중 하나의 데이터브릭스 혹은 AI 기업의 큰 규모의 기업 공개를 기대했으나, 7개 대기업(애플, 마이크로소프트, 알파벳(구글), 아마존, 엔비디아, 테슬라, 메타)의 건실한 성장세에도 불구하고 성사되지 않았다. 다만 AI 반도체 회사인 세레브라스(Cerebras)가 지난달 나스닥 상장 신청을 했기 때문에 보류라는 평가를 했는데, 개인적으로는 이 예측은 실패한 것이라는 의견이다.

5. 여러 기업이 단일 초거대 AI 모델을 학습시키기 위해 10억 달러 이상을 투자하는 등 초거대 AI 모델 개발 경쟁이 더욱 치열해질 것이다.

많은 기업이 모델의 크기에 집중하기보다는 다양한 추론과 그 연계 과정들에 집중하였고, 실질적인 영향을 주는 데 투자들이 집중되어 용량을 더 키우는 개발 경쟁이 실제로 일어나지 못해서 예측 실패의 의견이었고, 동의한다. 1년을 더 기다려 보자고 하지만, 이 부분에 대해서는 회의적인 의견이다. 

6. 미국 연방거래위원회(FTC)나 영국 경쟁청(CMA)이 마이크로소프트와 오픈AI의 합병에 대한 경쟁 시장 왜곡 가능성을 조사할 것이다.

오픈AI와 마이크로소프트, 엔트로픽 구글/아마존 간의 관계에 대한 감시가 강화되었고 , 기술 기업들이 경쟁사를 인수하거나 투자한 기업에 유리한 조건을 제공하여 불공정 경쟁을 유발할 수 있다는 우려도 제기되고 있다. 그리고 엔비디아가 생태계에 미치는 영향력도 커지면서 지난 7월에는 프랑스는 특별 규제도 검토하기로 하는 등 이 예측은 맞았다. 

7. 국가 간 자발적인 협약 수준을 넘어서는 실질적인 글로벌 AI 거버넌스는 아직 미흡할 것이다.

영국에서 2023년 11월에 블레츠리(Bletchley) 선언을 시작으로  여러 나라들이 AI 안전에 대한 표준화된 접근을 기대했고, 이어 2024년 서울에서 유사한 주제의 정상회담이 개최되었다. 이 회담에서 EU, 미국, 호주, 캐나다, 독일, 프랑스, 이탈리아, 일본, 한국, 싱가포르는 상호 운용할 수 있는 거버넌스 프레임워크를 개발하기로 합의하였지만, 모든 국가가 이 과정에 동등하게 참여하고 있지 않는 등 한계를 보였다는 분석과 해석에 동의한다.

8. 금융 기관들이 GPU 부채 펀드를 출시하여 AI 컴퓨팅 자금 조달에 있어 벤처 캐피탈 투자를 대체할 것이다.

GPU를 수급하는 데 여전히 문제들이 있고, 투자금들의 많은 부분이 GPU를 구하는 데 이용되지만, 이를 직접적인 펀드의 형태로 진행되는 부분에 대해서는 예측이 실패하였다. 엔비디아의 영향력이 높은 상태에서 이미 공급처가 정해진 채로 VC들의 영향이 아직 미치지 못한 부분도 있고, 이후 2025년의 예측으로는 엔비디아의 영향이 더 커질 것으로 보인다.

9. AI가 생성한 음악이 빌보드 핫 100 차트 10위 안에 들거나 스포티파이 톱 히트 2024에 진입하는 등 큰 인기를 얻을 것이다.

2023년 4월에 AI 가 만든 “Sleeve on My Sleeve” 노래가 인기를 끌다가 저작권 이슈로 사라졌고, 2024년 독일에서는 AI가 만든 패러디 음악이 인기차트에서 27등까지 올라왔다고 해서 보고서에서는 예측이 맞은 것으로 이야기하고 있다. 다만 개인적인 생각으로는 몇몇 작은 차트에서 성공적인 사례들이 있더라도 큰 규모의 성공까지는 아니기에 보류 의견이다. 

10. AI 추론 작업량과 비용이 많이 증가하면서 오픈AI와 같은 대형 AI 기업들이 추론에 특화된 AI 칩 회사를 인수하거나 자체적으로 개발할 것이다.

큰 회사들은 엔비디아의 의존도를 낮추려는 노력을 다방면으로 하고 있다. 구글은 구글I/O 때 TPU의 후속으로 Axion을 발표했고, 메타는 2세대 자체 AI 추론 가속기를 발표했다. 오픈AI도 자체 AI 칩을 개발하고 있는 것으로 알려졌고, 샘 알트먼은 수조 달러 규모의 조달 계획을 논의하고 있다. 기존에 자체 칩을 연구하던 회사들도 더 노력을 늘리는 등 이 예측은 맞았다는 점에 동의한다.

다음 12개월의 예측

이 리포트의 마지막에는 향후 12개월에 대한 예측이 담겨 있다. 예상보다 더 많은 일들이 일어날 2025년이겠지만, 내년의 리포트 역시 기대가 된다. 

그림 4 이후 12개월의 10가지 예측

• 1.한 주권 국가가 미국의 거대 AI 연구소에 100억 달러 이상을 투자하면서 국가 안보 심사가 진행될 것이다.

• 2.코딩 경험이 없는 사람이 만든 앱이나 웹사이트가 앱 스토어 상위 100위 안에 들며 바이럴하게 될 것이다.

• 3.데이터 수집과 관련된 소송이 늘어나면서 프론티어 AI 연구소의 데이터 수집 관행에 의미 있는 변화가 생길 것이다.

• 4.유럽 연합의 AI 법안이 입법자들이 과도하게 나갔다고 우려하면서 예상보다 완화된 형태로 진행된다.

• 5.오픈 소스 AI 모델이 다양한 추론 벤치마크에서 오픈AI의 o1을 뛰어넘을 것이다.

• 6.엔비디아의 시장 지배력을 흔들 만한 경쟁자가 등장하지 못할 것이다.

• 7.기업들이 시장에서 제대로 자리 잡지 못하기 때문에 휴머노이드 로봇 분야의 투자가 줄어들 것이다. 

• 8.애플의 온디바이스 연구 성과가 좋게 나오면서 개인용 온디바이스 AI에 관한 관심이 높아질 것이다.

• 9.AI가 작성한 연구 논문이 주요 머신러닝 학회에서 채택될 것이다.

• 10.생성형 AI 기반 요소와 상호작용을 중심으로 한 비디오 게임이 큰 인기를 얻을 것이다.

맺으며

올해의 보고서는 200페이지가 넘는 분량이지만, 종합적인 분석과 객관적인 시각이 담겨 있는 내용들이고, 최신 동향뿐 아니라 각국 정부의 정책 변화와 규제 동향 등을 파악할 수 있는 내용들이니 참조하시길 바라고, 지난 리포트들도 훑어보시기를 권한다. 아래의 마지막 그림들은 지난 “Attention is all you need.” 저자들이 업계에 미치는 영향에 대해 3년간의 다른 보고서에서 설명을 모은 예제이다. 

그림 5 2022년 보고서의 Attention is all you need.

그림 6 2023년 보고서의 Attention is all you need.

그림 7 2024년 보고서의 Attention is all you need.

참고문헌

1) https://futurism.com/the-byte/netflix-what-jennifer-did-true-crime-ai-photos

2) https://www.ftc.gov/news-events/news/press-releases/2024/01/ftc-launches-inquiry-generative-ai-investments-partnerships

3) https://www.reuters.com/technology/french-competition-authority-confirms-investigation-into-nvidia-2024-07-15/

4) https://www.ap.org/media-center/press-releases/2023/ap-open-ai-agree-to-share-select-news-content-and-technology-in-new-collaboration

5) https://www.hani.co.kr/arti/international/international_general/1090163.html 

6) https://musically.com/2024/08/13/ai-generated-song-charts-in-germany-amid-controversy/

7) https://cloud.google.com/blog/products/compute/introducing-googles-new-arm-based-cpu

8) https://about.fb.com/news/2024/04/introducing-our-next-generation-infrastructure-for-ai/