미국의 AI 정책

IS-196 미국의 AI안전·신뢰성 정책 추진 현황과 시사점_F_250120 (1).pdf

0.48MB

미국 AI 정책 추진 현황과 시사점

인공지능(AI) 기술의 비약적인 발전은 우리의 일상생활뿐 아니라 국가 안보와 경제에도 큰 영향을 미치고 있습니다. 

특히 AI의 안전성과 신뢰성을 확보하는 문제는 매우 중요한 이슈로 떠오르고 있습니다. 

미국은 이러한 문제를 해결하기 위해 여러 행정부를 거쳐 일관된 정책을 추진해오고 있습니다. 

이 글에서는 오바마 행정부부터 현재 바이든 행정부까지의 AI 안전·신뢰성 정책 추진 현황과 그 시사점에 대해 깊이 있게 살펴보겠습니다.

미국 AI 정책

1. AI 안전·신뢰성 정책의 역사적 흐름

미국의 AI 안전·신뢰성 정책은 오바마 행정부부터 시작되었습니다. 2016년 오바마 행정부는 '미래 인공지능 준비' 보고서를 발간하여 AI의 현재 상태와 사회적 영향을 검토하고, 안전한 AI 시스템을 보장하기 위한 연구 개발 계획을 수립하였습니다. 트럼프 행정부는 'American AI Initiative'를 통해 AI 연구 강화와 혁신 투자를 통해 신뢰할 수 있는 AI 개발을 지시하였습니다. 바이든 행정부는 연방정부 차원에서 AI의 안전성과 신뢰성을 강화하기 위한 행정명령을 발동하였으며, 특히 국가표준기술연구소(NIST)의 AI 위험관리 프레임워크(AI RMF)를 발표하여 AI 시스템의 안전성을 확보하고자 하였습니다.

2. 바이든 행정부의 AI 정책

바이든 행정부는 AI 안전성과 신뢰성을 강화하기 위해 다양한 정책을 추진하고 있습니다. 2023년 1월, 바이든 행정부는 트럼프 정부에서 시작된 AI 위험관리 프레임워크(AI RMF 1.0)를 발표하였습니다. 이 프레임워크는 연방정부의 AI 개발 및 활용을 위한 표준 가이드라인으로서 역할을 하고 있으며, AI 시스템의 성능 평가와 위험 관리를 위한 구체적인 지침을 제공하고 있습니다.

3. 세부 이행 내용

바이든 행정부는 AI 안전 연구소를 설립하고 국제 협력을 강화하였습니다. AI 안전 연구소는 AI 시스템의 성능 평가와 위험 관리에 초점을 맞추고 있으며, 새로운 AI 모델의 사전 평가를 수행하고 있습니다. 또한 AI 안전성 정상회의를 통해 AI 안전 이슈를 글로벌 논의 주제로 부상시키고, 국제 AI 안전 연구소 네트워크를 출범시키는 등의 노력을 기울이고 있습니다.

4. AI 시스템의 안전성 확보를 위한 노력

AI 시스템의 안전성을 확보하기 위해 NIST는 다양한 지침과 프레임워크를 개발하고 있습니다. 특히 이중용도 기반모델의 오용 위험 관리를 위한 지침(NIST AI 800-1)을 발표하여 AI 개발자들이 AI 시스템이 오용되는 것을 방지하고, 투명성을 향상시키기 위한 절차를 제시하였습니다. 또한 생성AI 및 이중사용 기반모델을 위한 안전한 소프트웨어 개발 절차(NIST SP 800-218A)를 마련하여 AI 시스템의 성능에 부정적인 영향을 미치는 악성 학습 데이터를 관리하는 방안을 제시하였습니다.

5. AI 위험관리 프레임워크

NIST는 AI 시스템의 안전 및 신뢰성을 확보하기 위해 AI 위험관리 프레임워크(AI RMF)를 개발하였습니다. AI RMF는 다양한 이해관계자들이 AI 제품, 서비스 및 시스템의 설계, 개발, 사용 및 평가에 있어 위험을 관리할 수 있도록 돕고 있습니다. 이 프레임워크는 미국을 포함한 전 세계적으로 널리 도입되고 있으며, AI 시스템의 안전성과 신뢰성을 높이는 데 중요한 역할을 하고 있습니다.

결론 및 시사점

미국의 AI 안전·신뢰성 정책은 국가 안보와 기술 리더십을 확보하기 위한 일관된 전략입니다. 이러한 정책은 AI 기술의 안전성과 신뢰성을 강화하는 데 중요한 역할을 하고 있으며, 한국도 이러한 정책 흐름을 참고하여 AI 시스템의 안전성과 보안성을 강화할 필요가 있습니다. 앞으로도 지속적인 관심과 노력이 필요할 것입니다.

이번 블로그에서는 미국의 AI 안전·신뢰성 정책 추진 현황과 시사점에 대해 살펴보았습니다. 

앞으로도 AI 기술의 발전과 함께 안전성과 신뢰성을 확보하기 위한 정책적 노력은 계속될 것입니다. 

이를 통해 AI 기술이 보다 안전하고 신뢰할 수 있는 방향으로 발전할 수 있기를 기대합니다.