4 Risk Levels of AI

AI Act는 인공지능의 위험 요소를 허용 불가한 위험(Unacceptable risk), 고위험(High risk), 제한된 위험(Limited risk), 최소 위험(Minimal risk), 이렇게 네 개의 단계로 구별합니다. 각 단계는 연루된 데이터의 민감도와 적용된 모델의 목적을 기준으로 나뉘는데요.

출처: Shaping Europe’s digital future AI Act

허용이 되는 범위이지만, 고위험 군에 속하는 AI는 아래와 같은 분야에서 사용된다고 정의합니다:

1. 중요 인프라 - 생명과 건강을 위협할 수 있는 교통 문제 등
2. 교육 또는 직업 훈련 - 교육 및 직업 경로에 접근하는 것을 결정할 수 있는 행위 등
3. 제품의 안전 구성 요소 - 로봇 보조 수술에서의 AI 애플리케이션 등
4. 고용, 노동자 관리 및 자영업 접근 - 채용 절차에 영향을 미치는 이력서 정렬 소프트웨어 등
5. 필수적인 민간 및 공공 서비스 - 대출을 받을 기회를 박탈하는 신용 점수 평가 등
6. 법 집행 - 기본권을 침해할 수 있는 증거 신뢰도 평가 등
7. 이주, 망명 및 국경 관리 - 비자 신청 자동 검토 등
8. 사법 및 민주적 절차의 관리 - 법원 판결 검색을 위한 AI 솔루션 등

General Purpose AI

특정 업무를 수행하기 위해 튜닝된 AI가 아닌,  전반적인 업무 수행이 가능한 General purpose AI 예시로는 애플의 Siri나 아마존의 Alexa가 있습니다. 이런 범용 AI도 이제는 더욱 '투명'해져야 한다는데요. 범용 AI 모델 제공자가 지켜야 할 수칙을 나열한 107번 조항을 함께 보겠습니다.

출처:AI Act 법안

1) 모델 제공자는 학습에 사용된 콘텐츠에 대해 충분히 상세한 요약을 공개하는 것이 적절하다.

3. 그 외 사용된 데이터 출처에 대한 설명을 제공한다.

이번 법안은 데이터 출처 공개를 중요하게 여깁니다. 세계 최초 AI 규제인만큼 앞으로 생길 다양한 AI 규제에 큰 영향을 미칠 것으로 보이는데요. 앞으로는 전세계적으로 AI 모델 학습에 사용된 데이터에 대한 상세한 정보가 더욱 엄격하게 요구되지 않을까요? 🤔

Human-centric AI

AI Act의 목적은 정확히 무엇일까요?