01 ​미국 관리예산실(OMB)이 발표한 AI 정책

│한상기 테크프론티어 대표

배경

지난 3월 28일에 미 행정부 관리예산실(OMB)은 AI 위험을 완화하고 그 혜택을 활용하기 위한 연방 정부 차원의 첫 번째 정책을 발표했다. 이는 2023년 10월 30일에 바이든 대통령이 발표한 AI 행정 명령 14110의 핵심 요소를 이행하기 위한 것이다. 행정 명령은 AI 안전 및 보안 강화, 미국인의 개인정보 보호, 공평과 시민권 증진, 소비자와 노동자 옹호, 혁신과 경쟁 촉진, 미국의 리더십 발전 등을 포함한 광범위한 조치를 지시했다. 이 각서가 나온 또 다른 법적 근거로는 2020년 정부 AI 법안(AI in Government Act of 2020), 미국 인공지능 발전법(Advancing American AI Act) 등이 있다.

연방 기관들은 이슈별로 일정 날짜 안에 필요한 조치를 하고 이를 보고하게 되어 있는데 이번에 행정 명령이 지시한 총 150일간의 조치를 모두 완료했다고 보고했다. 일부 조치는 180일(국방을 위한 AI 인재 격차 해결안)이나 270일(AI 표준을 홍보하고 개발하기 위한 글로벌 참여 계획 수립) 이내에 실행하게 되어 있다. 각서 안에는 행정 명령에 대응해 연방 기관이 완료한 활동에 대한 업데이트 요약이 나와 있다. 

OMB의 새로운 정책

이번에 발표한 OMB의 새로운 정책은 크게 다음과 같은 조치를 하도록 지시하고 있다.

AI 거버넌스 강화

AI 리스크를 관리하고 혁신을 증진하기 위해서는 효과적인 AI 거버넌스를 구현해야 한다. 행정 명령 14110에서 요구한 대로 각 기관은 AI 최고 책임자(CAIO)를 이 메모를 발행한 후 60일 이내에 지명해야 한다. 각서에는 CAIO의 역할, 책임, 서열, 지위, 보고 구조를 명시하고 있으며 각 기관의 AI 활용 사례를 저장해서 보고를 널리 알리도록 한다. 또한 AI는 광범위한 영역과 상호 연결되어 있으므로 기존의 책임자나 내부 조직과 긴밀한 조정을 하도록 CAIO가 노력해야 한다. 이미 12월부터 OMB와 과학기술정책실은 연방 정부 전체의 노력을 조정하고 OMB의 지침 이행을 준비하기 위해 새로운 AI 최고 책임자 협의회에 정기적으로 CAIO를 소집하고 있다. 

차관보 또는 이에 상응하는 인물이 의장을 맡는 ‘AI 거버넌스 위원회’를 설립해 기관 전체에서 AI 사용을 조정하고 관리하도록 한다. 현재 국방부, 재향군인회, 주택 및 도시 개발부, 국무부가 이러한 거버넌스 기구를 설립했으며, 모든 CFO법(31 USC 901) 적용 기관은 2024년 5월 27일까지 이를 구축해야 한다.

책임 있는 AI 혁신을 촉진

각 기관은 생성형 AI를 포함해 책임감 있게 AI를 도입할 수 있는 역량을 강화하며, AI 모델, 코드 및 데이터를 공유하고 재사용할 수 있는 조처를 해야 한다. 이 각서에서는 CFO법에 명시된 각 기관이 AI의 책임감 있는 사용을 발전시키기 위한 전략을 개발할 것을 요구한다. 추가 조치로 OMB는 정부의 책임 있는 AI 조달에 관한 RFI를 발행할 예정이며 이후 연방 계약에 따른 AI 사용을 관리하기 위한 조치를 알릴 예정이다. RFI는 별도로 29일에 발행했다.

또한 책임 있는 AI 사용을 가로막는 기관 사이의 장벽을 줄이는 방법에 대한 권장 사항을 제공하며, 여기에는 IT 인프라, 데이터, 사이버 보안, 인력 및 생성 AI에 대한 특정 과제와 관련한 장벽을 포함한다. 이러한 장벽을 제거하면 정부 기관이 사회가 요구하는 가장 시급한 과제를 해결할 엄청난 기회를 제공할 수 있는데 예를 들면 다음과 같은 것이다.

• 기후 위기 해결과 자연재해 대응 - 미국 연방재난관리청은 허리케인의 여파로 인한 구조적 피해를 신속하게 검토하고 평가하기 위해 AI를 사용하고 있으며, 미국 해양대기청은 극한 기상, 홍수, 산불에 대한 보다 정확한 예보를 수행하기 위해 AI를 개발하고 있다.

• 공중 보건 향상 - 미국 질병통제예방센터는 AI를 사용하여 질병의 확산을 예측하고 오피오이드의 불법 사용을 감지하고 있으며, 미국 메디케어 및 메디케이드 서비스 센터는 AI를 사용하여 낭비를 줄이고 약품 비용의 이상 징후를 파악하고 있다.

• 공공 안전 도모 - 미연방항공청은 AI를 사용하여 주요 대도시 지역의 항공 교통 혼잡을 완화하여 이동 시간을 개선하고, 연방 철도청은 안전하지 않은 철로 상태를 예측하는 데 도움을 주는 AI를 연구하고 있다.

생성형 AI의 발전으로 이런 기회가 늘어나고 있으며, OMB의 지침은 기관들이 적절한 안전장치를 마련한 상태에서 책임 있게 생성형 AI를 실험할 것을 권장하고 있다. 이미 많은 기관에서 고객 경험을 개선하기 위해 AI 챗봇을 사용하거나 기타 AI 파일럿을 사용하는 등 이러한 작업을 시작했다.

AI 사용으로 인한 위험 해결

이 가이던스는 사람과 커뮤니티를 정부 혁신 목표의 중심에 두고 있다. 연방 기관은 AI가 사회에서 수행하는 역할이 있으므로 AI 위험을 식별하고 관리할 명확한 책임이 있으며, 대중은 정부 기관이 자신의 권리와 안전을 보호할 것이라는 확신을 갖도록 한다.

2024년 12월 1일까지 연방 기관은 AI가 미국인의 권리나 안전에 영향을 미칠 때 구체적인 안전장치를 구현해야 한다. 이러한 보호 조치에는 AI가 대중에게 미치는 영향을 안정적으로 평가, 테스트 및 모니터링하고, 알고리듬 차별의 위험을 완화하며, 정부가 AI를 사용하는 방식에 대한 투명성을 대중에게 제공하기 위한 다양한 의무 조치를 포함한다. 또한 안전장치는 보건, 교육, 고용, 주택 등 광범위한 AI 애플리케이션에 적용해야 한다.

안전장치를 채택하며 연방 기관은 다음과 같은 사례를 보장할 수 있다.

• 공항에서 여행객은 TSA 안면 인식을 거부할 수 있으며, 이런 문제로 일정이 지연되거나 줄을 서는 데 지장을 받지 않아야 한다.

• 연방 의료 시스템에서 AI를 중요한 진단 결정을 지원하기 위해 사용할 때, 사람이 결과를 검증하는 과정을 감독하여 의료 접근성의 불균형을 방지한다.

• 정부 서비스에서 AI를 사기 탐지용으로 사용하면, 영향력 있는 결정을 사람이 감독해야 하고, 피해를 본 개인은 AI 피해에 대한 구제를 요청할 수 있다.

정부 기관이 이런 안전장치를 적용할 수 없게 되면 AI 시스템 사용을 중지해야 한다. 다만 기관 책임자 판단에 따라 시스템 중단이 안전이나 권리에 대한 전반적인 위험을 증가시키거나, 기관 운영에 매우 중대한 장애를 초래할 수 있다는 상황이 되는 경우는 예외이다.

또한 정부가 AI를 도입함에 따라 영향을 받는 연방 인력 보호를 위해 각 기관이 연방 직원 노조와 협의하고 직원에 대한 잠재적 피해를 완화하기 위해 노동부의 원칙을 채택하도록 권장하고 있다. 또한 노동부는 이러한 원칙 개발과 자체 거버넌스 및 AI 사용에 있어 연방 직원 및 노동조합과 협의하는 등 모범을 보인다고 평가한다.

AI 조달과 관련한 위험 관리도 필요하다고 조언하는데, 연방 정부의 AI 조달에는 고유한 과제가 있으며, 강력한 AI 시장을 위해서는 공정한 경쟁, 데이터 보호 및 투명성을 위한 안전장치가 필요하다는 것이다. 올해 하반기에는 정부 기관의 AI 계약이 OMB 정책에 부합하고 AI 관련 위험으로부터 국민의 권리와 안전을 보호할 수 있도록 조처할 것이라고 말한다. 이번에 발표한 RFI를 통해서 연방 정부를 지원하는 민간 부문 기업이 모범 사례와 요건을 준수하도록 보장하는 방안에 대해서도 대중의 의견을 수렴할 것이다.

AI 사용의 투명성 확대

이번에 발표한 정책에 따르면 연방 기관은 AI 사용에 대한 투명성을 높이기 위해 기관이 시민들에게 AI 활용 내용을 공개하도록 요구하고 있다. 이에는 권리와 안전에 영향을 미치는 사용 사례와 기관이 관련 위험을 어떻게 해결하는지 파악하는 것과 같은 내용에 대한 인벤토리를 연간으로 공개한다.

그러나 민감성 때문에 공개 인벤토리에서 보류된 사용 사례는 그에 관련한 지표를 보고한다. 또한 OMB 정책 준수에서 변제된 AI가 있으면 그 이유를 함께 대중에게 알린다. 정부 소유의 AI 코드, 모델 및 데이터를 공개하되, 이런 공개가 공공 또는 정부 운영에 위험을 초래하지 않을 때 공개한다는 원칙이다. 

추가로 발행한 세부 지침에는 AI에 대한 정의, AI 사용 사례에 대한 정의, 포함해야 하는 AI 사용 사례, 배제할 수 있는 사용 사례, 개별적으로 인벤토리화 할 필요가 없는 AI 사용 사례, 제출 방안과 양식, 개별적으로 인벤토리에 추가하지 않아도 되는 사용 사례 보고 양식 등을 정리하고 있다.

AI 인력 양성

OMB의 지침은 정부 기관이 AI 인재를 확충하고 숙련도를 높일 것을 요청한다. AI 위험 관리, 혁신, 거버넌스를 발전시키기 위해 다음과 같은 인력을 적극적으로 강화할 것이라고 각서에서 말하고 있다.

• 바이든-해리스 행정부는 신뢰할 수 있고 안전한 AI 사용을 촉진하기 위해 행정 명령 14110호에서 언급한 ‘국가 AI 인재 급증’ 계획 일부로 2024년 여름까지 100명의 AI 전문가를 채용하기로 약속했으며, 4월 18일 연방 정부 전체에서 AI 직책에 대한 채용 박람회를 개최할 예정이다.

• 이런 노력의 하나로 인사관리처는 연방 정부 전체에서 AI 인재 중요성을 강조하고 인력 유지율을 높이기 위해 AI 인력에 대한 급여와 휴가 유연성에 대한 지침을 발표했다.

• 2025 회계연도 대통령 예산안에는 작년에 85개 연방 기관에서 7,500명 이상이 참여한 총무처의 정부 차원의 AI 교육 프로그램을 확대하기 위한 추가 500만 달러가 포함되어 있다.

맺으며

이번 OMB 각서는 미 행정부가 안전하고 신뢰할 수 있는 AI 활용의 글로벌 모델이 될 수 있음을 보여준다. 이번 정책은 행정부의 AI 권리장전 청사진과 국립표준기술연구소(NIST)의 AI 위험 관리 프레임워크를 기반으로 하며, 대중을 위한 투명성을 높이고, 공익을 위한 책임 있는 AI 혁신을 발전시키고, 위험 관리를 위한 명확한 기준선을 마련할 것이라고 말한다. 

부록에서는 통합 행동 계획표를 책임 기관, 필요한 행동, 본 각서에 설명한 세부 사항, 데드라인으로 작성해 모든 기관이 자신들이 해야 할 일을 일목요연하게 체크할 수 있도록 하고 있다. 미 행정부의 AI 전략은 매우 실행 중심적이고 정부 자체가 AI를 안전하고 신뢰할 수 있는 방법으로 적극 활용하기 위한 노력을 하고 있다는 것이 우리에게 큰 시사점을 준다. 

참고문헌

1) The White House, “Vice President Harris Announces OMB Policy to Advance Governance, Innovation, and Risk Management in Federal Agencies’ Use of Artificial Intelligence,” Mar 28, 2024

2) The White House, “Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence,” Oct 30, 2023

3) Federal Register, “Request for Information: Responsible Procurement of Artificial Intelligence in Government,” Mar 29, 2024

4) OMB, “Draft Guidance for 2024 Agency AI Reporting Per EO 14110,” Mar 28, 2024