아마추어 바둑기사 1명이 바둑 AI(=*카타고)를 상대로 15전 14승이라는 승률을 보였습니다. 

*현존하는 최고의 바둑 AI 중 하나에요.

바둑 분야에서, AI가 인간에게 패배했다고?

그간 바둑 AI가 빠르게 발전하면서, 다시는 인간이 이길 수 없을 것이라는 이야기가 나오고 있었는데, -> 이것이 무너진 것. 세계 랭킹 1위 신진서마저도 AI를 이길 확률은 0%라고 했었는데 말이죠.

어떻게 된 일인지, 자세히 설명해줘.

방법은 예외적인 수(오직 바둑 AI를 속이기 위한 수)를 찾는 것이었습니다. 바둑 AI(=카타고)는 과거 인간이 두었던 대국 데이터, 스스로 두는 자가 대국 데이터 등을 이용해 발전하는데요. 특히 자가 대국 데이터를 많이 사용해요. 문제는 이 자가 대국 데이터를 똑똑한 바둑 AI 스스로 만들어내다 보니 -> 이상적인 방향의 데이터만 주로 확보하게 되었다는 점이에요. 높은 승리 확률로 이어지는 데이터를 모으다 보니, 정작 일어나기 어려운 예외적인 상황에 대한 데이터는 쌓기 어려워졌다는 것.

이에, 특별히 만든 컴퓨터 프로그램으로 AI의 허점을 찾는 데에 성공했다고 하는데요. 

• 1. AI가 인식하는 바둑 규칙과 실제 바둑규칙 사이의 미세한 차이를 이용해, AI가 매우 유리한 상황에서 사실상 기권을 하게 만드는 전략
• 2. 매우 불리한 상황을 자초해 특정 위치에 대한 AI의 관심을 없애고, 이후 해당 위치에서 AI 몰래 반격하는 전략

등이 확인되었고, 이러한 전략을 학습한 아마추어 인간 바둑기사가 바둑 AI를 상대로 승리를 따내었다고. #해당 연구 내용 _영어 

이번 결과에는 어떤 의미가 있을까?

우리는 여기서 1가지를 배워갈 수 있는데요. 예상치 못한 (수집된 데이터가 없는) 상황에서의 AI 성능은 크게 하락할 수 있다는 점입니다.

비슷한 예로 아래의 사례를 들 수 있는데요. 교통표지판에 흑백 스티커를 몇 개 붙여 놓은 것만으로, 표지판 인식 시스템을 속여 넘겼다고 하거든요. 학습하기 어려운 특이한 상황인 만큼, 저 표지판이 정지를 의미하는지 or 속도 제한을 의미하는지 척척 구별해내지 못한 거에요. #해당 연구 내용

이렇듯 입력되는 데이터를 살짝 수정해 AI 모델을 헷갈리게 만드는 것을 회피(기만) 공격(Evasion Attack)이라고 하는데요. 이 외에도 아래와 같이 다양한 AI 모델 공격 방식이 존재한다고.

• 1. 중독 공격(Poisoning Attack) : AI 학습용 데이터에 이상한 데이터를 끼워 넣어 혼란을 유발해요.
• 2. 전이 공격(Transfer Attack) : 공격하려는 AI 모델 "A"와 유사한 AI 모델 "B"를 만들고, "B"에서 찾은 취약점으로 "A"를 공격해요.
• 3. 전도(도치) 공격(Inversion Attack) : AI 모델과 주고받은 데이터를 분석해, AI 모델 학습용 데이터를 알아내요.

예를 들어, 평소 얌전하던 AI 챗봇이 갑자기 욕설 / 차별 발언을 하고 있다면 -> "누군가가 Poisoning Attack 방법으로 욕설 / 차별 발언 데이터를 학습시킨 것 아니야?" 라고 의심해볼 수 있겠죠.

테러리스트 집단이 Evasion Attack 방법으로 자율주행 센서를 자극(레이저, 스피커 등)해 -> 자율주행 오작동으로 인한 사고를 유도하는 시나리오도 생각해 볼 수 있구요.