안전한 AI개발을 위한 글로벌 협업
글로벌 얼라이언스, 안전한 AI 개발을 위한 선구적인 가이드라인 공개
미국의 보안 전담 기관인 CISA와 영국의 NCSC가 인공지능(AI) 개발의 보안을 강화하기 위한 ‘개발 가이드라인'을 공동으로 발표를 했습니다.
미국과 한국 등 18개국과 23개 사이버 보안 관련 조직들이 지지하여 서명했다고 하는데요.
이러한 이니셔티브는 빠르게 진화하는 AI 분야에서 안전한 관행을 발전시키려는 공동의 의지를 강조하는 것으로 보여집니다.
인공지능(AI) 시스템의 초기 설계 단계부터 안전성을 확보하기 위한 이번 발표는 사이버 보안 문제를 해결하고 AI 시스템을 표적으로 하는 적대적인 공격에 대응하는 것을 목표로 한다고 합니다.
이는 인공지능 위협 줄이기와 설계에 의한 보안개념 정착시키기를 위한 노력이 꾸준하고 빠르게 이어지는 중이란 의미로 보여지네요. 이제 인공지능은 우리 삶에서 사라질 수 없는 기술이 됐습니다.
다양한 분야에서 AI는 중추적인 역할로 자리잡는 가운데 보안을 보장하는 것이 잠재적인 위협과 취약성을 방지하는 데 가장 중요하다고 생각되어 지는데요.
국립사이버보안센터(NCSC)는 가이드라인이 AI와 관련된 위험을 관리하기 위한 미국 정부의 지속적인 노력을 바탕으로 구축되었음을 강조하고 있습니다. 이는 새로운 AI 도구를 공개하기 전에 엄격한 테스트를 거쳐 편견과 차별 등 사회적 문제를 해결하고 개인 정보 보호를 보장하기 위한 노력이라고 보여지네요.
또, 미국 사이버보안 및 인프라 보안국(CISA)은 AI 개발에서 사이버 보안 표준을 높이기 위해 근본적인 투명성, 책임성 및 '설계에 따른 보안' 접근 방식을 강조하며 AI 시스템 개발 수명주기 전반에 걸쳐 보안 설계, 개발, 배포, 운영 및 유지 관리를 포괄하는 '보안 기반 설계' 접근 방식이 중요하다고 말하고 있습니다
CISA와 NCSC가 수립한 주요 지침은?
- 안전한 설계: 위협 및 위험 모델링에 기반을 둔 설계 프로세스를 강조해요
- 안전한 개발: 공급망 보안, 문서화, 자산 관리를 포함하여 AI 개발 수명 주기 전반에 걸쳐 포괄적인 보호를 옹호해요.
- 안전한 시공: 침해 예방 및 사고 대응을 위한 시공 고려 사항이 포함 되어져요
- 구축 후 보안: 개발된 AI 시스템에 대한 지속적인 모니터링, 로깅, 업데이트 및 정보 공유가 포함되는데요. CISA는 대중에게 AI의 안전한 개발과 사용에 대해 알리려는 노력에서 이 개념을 지속적으로 강조해 왔듯이 이러한 지침이 혁신적인 개념을 제안하는 것이 아니라 '설계에 의한 보안'의 중요성을 전달하는 데 중점을 두고 있음을 분명히 밝혔습니다.
가이드라인은 법적 구속력은 없지만 엄격한 규정보다는 참고 자료로 사용되는데요. 이러한 유연한 접근 방식은 진화하는 AI 환경을 둘러싼 사이버 보안 표준을 높이며 빠르게 발전하는 AI 개발을 인정하는 부분입니다.
참여 나라는 어디일까?
이 노력에는 미국 사이버 보안 및 인프라 보안국(CISA) 및 영국 국립 사이버 보안 센터(NCSC)를 포함하여 전 세계적으로 21개 조직이 참여합니다. 참가 국가로는 미국, 한국, 영국, 독일, 이탈리아, 체코, 에스토니아, 폴란드, 호주, 칠레, 이스라엘, 나이지리아, 싱가포르 등이 있습니다.
또 최근에는 유럽연합은 강제적인 인공지능법을 도입해 AI 개발에 대한 규제 강화 입장을 시사했다고 하며, 미국 정부는 AI와 관련된 글로벌 협약에 적극적으로 참여하여 책임 있는 군사 개발 및 AI 사용 발표는 물론, 개발 안전 표준, 근로자 보호 원칙, 개인 정보 보호를 명시한 세계 최초의 AI 행정 명령도 포함하였는데요. AI가 산업이 사회를 지속적으로 변화시키는 가운데 글로벌 동맹의 헌신의 공동 노력은 안전하고 탄력적인 AI 개발 프레임워크를 구축하려는 중요한 진전을 의미하며 책임감 있고 지속 가능한 AI 개발을 위한 발판을 마련하는 되는 부분입니다.
규제의 역할은 무엇일까?
유럽연합의 '인공지능법'은 규제 프레임워크를 제공하지만 그 실질적인 효율성에 의문을 제기하는 입장도 있었는데요. 지침이 자율적으로 유지 관리되지는 않지만 기본 보안 문화를 형성하는 데 중요한 역할을 한다고 지적했습니다. 지나치게 엄격한 규제는 교묘한 회피로 이어질 수 있어 장기적인 효율성을 위해 결합된 접근 방식이 필요하므로 규제와 지침 사이의 균형을 맞추는 것이 중요할 것 같습니다.
AI가 우리 삶의 필수적인 부분이 되면서 규정과 지침 간의 대화는 안전하고 책임감있는 AI 개발의 미래를 형성하는 데 중요한 역할을 합니다. 진화하는 AI 보안 환경에 대한 더 많은 통찰력과 업데이트를 계속 지켜봐 주시기 바랍니다.
