미라클 모닝을 하는 일잘러들의 참고서
2023.11.3 | 671호 | 구독하기 | 지난호


글씨가 잘 안보이시나요?
한 주간 안녕하셨나요? 이번 주 글로벌 테크업계에선 정말 정신없는 일들이 '휙 휙' 지나갔습니다. 무슨 말이냐고요? 짧게 살펴볼게요. 현지시각 기준으로,

  • 10월30일: 이스라엘이 가자지구로 전격적으로 진입했습니다. 지상전 발발!
  • 10월30일: G7이 AI 안전 지침에 합의했다고 발표!
  • 10월30일: 바이든 대통령이 AI 행정명령에 서명합니다.
  • 11월1일: G7 AI 안전 정상회의가 영국에서 본격 열렸어요.

그동안 AI 안전 지침과 관련해서는 크게 네 진영이 다툼을 펼쳐왔는데요. 이렇습니다.

  • 미국: AI 안전 중요하긴 한데... (빅테크가 많으니)
  • EU: AI가 학습한 데이터에 꼬리표붙이자 (빅테크 없으니 최대한 얻어내야)
  • 중국: AI에서 중요한 것은, 정부에 대한 비판 여부지!
  • 콘텐츠 업계: 난 모르겠고, 우리 데이터를 AI 업계가 마음대로 학습했으니 보상이 필요!

이런 진영 싸움이 한창이었는데요. 이스라엘의 가자지구 지상전 발발과 동시에 중요한 AI규칙을 미국과 그 우방들이 '휘릭' 통과시키고 발표한 것입니다. 

마치  "동쪽에서 소리를 내고 서쪽에서 습격한다."는 뜻을 지닌 성동격서 聲東擊西처럼 말입니다. 그럼 그 숨은 뜻을 하나씩 살펴보겠습니다.
   오늘의 에디션  
  1. 바이든 미국편에 서라!
  2. 빅테크 진영싸운 
  3. 후발주자 기업의 논리
  4. 유료화 시동거는 빅테크
  5. 한 줄 브리핑
바이든 대통령이 즐겨 쓰는 영어표현: It's never been a good bet to bet against America. 직역하면 "미국의 반대편에 베팅을 하는 건 좋은 좋은 베팅이 아닙니다" 의역하면 "미국에 반대하면 재미없어"

바이든 "미국 반대편에 베팅하는 것은 좋은 베팅이 아닙니다!"

 

조 바이든 대통령은 '안심할 수 있고, 안전하며, 신뢰할 수 있는 인공지능 개발과 사용에 관한 행정명령'에 전격 서명했습니다. 30일에 벌어진 일입니다. 그냥 읽고 있으면 너무나 옳은 말입니다. 오용할 경우 큰 해악을 끼칠 수 있다는 우려가 있으니 미국 대통령이 이 행정명령에 서명한 것입니다. (참조: 백악관 발표 원문)

⛔ 여기서 잠깐: 미국 행정명령은 대통령이 연방 정부의 운영을 관리하기 위해 발행하는 지시입니다. 이러한 행정명령은 의회의 승인 없이도 대통령이 집행부를 지시할 수 있는 방법 중 하나인데요. 그 자체로 법적으로 구속력이 있으며 연방 등록부에 게시됩니다. 이를 시작으로 미국 연방 정부는 움직입니다.

미국이 움직였다! 어떻게?

1️⃣ 인공지능 개발자는 안전 검사 결과를 정부에 제출해야 합니다. 특히 AI 기술과 이와 관련된 개발자가 신제품 출시에 앞서 국방물자생산법(DPA)에 따라 안전 실험을 실시한 뒤 그 결과를 정부와 공유하도록 했습니다.

📚 용어사전: 국방물자생산법(DPA)은 한국전쟁 발발에 대응하기 위해 1950년 9월 8일에 제정된 미국 연방법입니다. 미국 대통령에게 국방 및 기타 필수 수요에 필수적인 것으로 간주되는 자재와 서비스를 적시에 생산하고 공급할 수 있는 광범위한 권한을 부여한 것이 특징입니다.

2️⃣ 국립표준기술연구소는 인공지능 도구의 안전성 표준을 마련하라는 지시를 받았습니다. 향후 AI 개발업체는 공격조인 '레드팀'을 구성해 미국 국립표준기술연구소(NIST)가 설정한 엄격한 기준을 통과하는지 실험을 하고 그 결과를 보고해야합니다.

3️⃣ 에너지부는 핵, 생물학, 화학, 핵심 기반시설, 에너지 안보 분야에서 위협이 될 수 있는 인공지능 기술을 평가할 수 있는 수단을 개발하라는 지시를 받았습니다. 예를 들어 생성AI가 핵무기에 제조 방법에 대한 술술 답변해서는 안 됩니다. 또 AI 개발 업체는 물리적 사이버적 보안 투자를 해야합니다.

4️⃣ 상무부는 인공지능 기술로 만든 가짜 이미지 등의 콘텐츠 식별을 위해 워터마크 적용을 의무화하는 방안을 추진하라는 지시를 받았습니다. (사실 이미지에 워터마크 붙이더라도 오브젝트 리무버로 지우면...)

5️⃣ 클라우드 서비스 업체는 상무부를 통해 외국 AI 고객을 신고하도록 했습니다.

바이든이 말한 규제 이유

바이든 대통령은 서명한 자리에서 이렇게 외쳤습니다. "인공지능이 악인의 손에 들어가면 해커들이 소프트웨어의 취약점을 노릴 수 있습니다. 인공지능의 가능성은 실현하고, 위험은 피하려면 인공지능 통제해야 합니다.

그러면서 바이든 대통령은 딥페이크 기술의 위험성에 대한 예시를 들었습니다. "딥페이크 나인 것 처럼 꾸민 것을 보고, 내가 언제 저런 말을 했지?!? 라고 한적도 있습니다. 3초만 녹음하면 딥페이크 인물을 만들 수 있습니다"

🔎 크게보기 
하지만 미국 테크 업계는 반응이 엇갈렸습니다. 뉴욕타임스는 "테러리스트가 대량 파괴 무기를 개발하거나, 가짜뉴스가 선거판에 활용되는 걸 막을 것"이라고 한데 반해, 터스크벤처스의 브래들리 터스크 CEO는 "강제할 실질적 방법이 없다면, 그 노력은 제한적일 것"이라고 잘라말했습니다. 벌칙 조치가 없다는점에서 실효성에 의문을 던진 것입니다. 하지만, 한국 AI 업계는 염려감이 커졌습니다.

 AI 행정명령 내용 중 규제 대상 부분

AI 행정명령 뜯어보면, 보이는 한 가지 함의


처벌 조항은 향후 서서히 늘려갈 수 있습니다. 현재는 가이드라인을 세우는 단계이기 때문인데요. 현재 한국 AI 업계에서 우려하는 것은 이번 규제가 미국 자국 산업 보호에 그치는 것 아니냐는 점입니다.


규제 받을 기업? 있다? 없다!


행정명령 원본을 살펴보면, 실제로 AI 안전성 보고 의무를 받을 빅테크 기업은 없다시피 하다는 점을 알 수 있었습니다. 왜냐고요? (행정명령 원본: 참조) 행정명령에서는 10^26(10의26승, 10을 26번 곱한 수) 이상 정수 또는 부동소수점을 연산할 수 있는 FLOPS 모델, 또는 바이오시퀀스 데이터 학습의 경우 10^23(10의23승) 모델로 규정을 했습니다. 감이 잘 안잡혀서 전문가분들께 물어보니, 이 정도 모델은 오픈AI GPT-4 아니면 구글이 만든다는 제미니(Gemini) 아니냐는 견해가 있었습니다.


⛔ 여기서 잠깐: 플롭스 FLOPS은 Floating Point Operations Per Second의 약자입니다. 컴퓨터가 매초 처리할 수 있는 연산 수인데요. 10의26승을 우리말로 풀면? 이렇습니다. 


  • 10의4승: 만
  • 10의12승: 조
  • 10의16승: 경
  • 10의20승: 해
  • 10의24승: 자
  • 10의28승: 양

그럼 컴퓨터 연산 언어로 바꿔 보겠습니다.

  • 10의6승: 메가
  • 10의9승: 기가
  • 10의12승: 테라
  • 10의15승: 페타
  • 10의18승: 엑사
  • 10의21승: 제타
  • 10의24승: 요타
  • 10의27승: 론나

구글이 올해 5월 I/O에서 향후 슈퍼컴퓨팅을 클라우드 형태로 제공하는 이른바 'A3 슈퍼컴퓨터'를 출시한다고 했는데요. 당시 구글은 26엑사플롭스까지 확장 가능하다고 강조했습니다. 또! 엔비디아는 지난해 웃돈을 주고도 못산다는 개당 5천만원짜리 칩 4608개를 장착해 만든 슈퍼컴퓨터 에오스(EOS)를 공개했는데요. 에오스 성능이 18.4엑사플롭스였습니다.

최근까지 실질 측정 속도에선 현존하는 최강 슈퍼컴퓨터는 미국 오크리지 국립연구소의 프론티어로 1.19엑사플롭스로 나타났습니다. 감이 잘 안잡혀서 오랜만에 계산기를 두드려 봤습니다. 즉 엑사플롭스는 10의18승이고, 미국 정부가 규제하겠다는 모델은 10의26승 플롭스이니, 10의8승 엑사플롭스부터 그 대상이 되는 것인데요.

10의8승은 1억개니 무려 1억 엑사플롭스! 울트라 슈퍼 컴퓨터부터 제재를 하겠다는 그런 뜻으로 읽혔습니다. (제가 지금 쓰면서도 혼동이 오는데, 혹시 오류가 있다면 맨 아래에 있는 좋았어요 별로예요를 누르고 지적 부탁드립니다. 욕먹을 각오하고...) 어쨌든 규제 대상은 없거나 있어도 1~2개 있을 것 같다는 생각이 듭니다. 지구상에 존재할까...요?

🧩여기서 퀴즈: 제가 말씀 드린 전제가 모두 맞다고 가정하고, 미국 정부가 규제하려는 AI 모델을 구축하려면 GPU 구입 비용이 얼마나 들어갈까요? 정답은 맨 아래에 있습니다.

큰 문제는 클라우드 고객사


더욱이 이번 조치는 지금껏 발표한 모델에 대해선 예외를 적용합니다. 즉, 현존하는 AI 모델은 규제 대상이 아니라는 뜻입니다. 문제는 상무부가 미국 서비스형 인프라스트럭처(IaaS) 기업에 대해, 고객 데이터 정보 보고를 의무화하기로 했다는 점입니다.


대표적인 IaaS 기업으로는 아마존웹서비스(AWS), MS 애저, 구글 클라우드 등이 있습니다. 만약 특정 기업이 미국 클라우드 서비스를 활용해 AI를 개발할 경우 해당 클라우드 기업이 고객 데이터를 미국 상무부에 보고하는 방식인데요.


특히 법인명, 주소, 계좌번호, 결제 수단, 이메일 주소 등 포괄적 정보를 미국 정부가 수집합니다. 시너지리서치그룹에 따르면 이들 3개사의 시장 점유율은 66%에 달하고요. 한 AI업계 관계자는 "미국이 자국 기업 중심의 글로벌 장벽을 세우는 것으로 볼 수 있다"면서 "자국 기업에 대한 통제책이 될 수 있지만, 미국에 서비스하거나 미국 클라우드 서비스를 활용하려고 한다면 해당 정보가 사전에 노출될 수 있다"고 염려했습니다.


🔎 크게보기 

물론 미국 정부는 이러한 규제 대상 범위는 달라질 수 있다고는 단서를 달았습니다. 상황을 봐가면서 높낮이를 조절하겠다는 것인데요. 전반적으로 미국 정부가 글로벌 AI 서비스 현황을 살펴보겠다는 메시지는 변함이 없습니다.





(왼쪽부터) 얀 르쿤 메타 수석과학자, 일론 머스크, 데미스 하사비스 구글딥마인드 CEO

빅테크 진영싸움, 선발주자 VS 후발주자


바이든 대통령 서명 이어, 오늘까지 영국 정부 주도로 앨런 튜링이 암호 해독 컴퓨터를 개발한 역사적 장소 버킹엄셔 블레츨리 파크에서 AI 안전 정상회의가 열리고 있습니다. 리시 수낵 영국 총리 초대로 카멀라 해리스 미국 부통령, 사티아 나델라 마이크로소프트(MS) 최고경영자(CEO), 샘 올트먼 오픈AI CEO, 알파벳(구글 모회사) 딥마인드의 데미스 허사비스 CEO 등이 참여했는데요. 현장에서 빅테크 별들간 정면 충돌이 벌어졌습니다. 왜냐고요?


머스크 "정부를 어떻게 믿냐"

앞서 말씀 드린대로, 바이든 대통령이 "네 죄(책임을)를 사하노라"하면서 현존하는 AI는 안전 기준 대상에서 제외를 했기 때문입니다. 선발주자는 AI 규제하자고 외친데 반해, 후발 주자는 분노했습니다. 현장 발언을 모아봤습니다.

🤒일론 머스크 xAI 창업자
"AI 지침을 평가하는 제삼자 심판기구를 설립해야합니다. 정부가 무엇을 해야 할지 알기도 전에 성급하게 규제를 도입한 것 아니냐는 우려가 커요. 독립적인 심판이 최소한 선발 기업들이 무엇을 하는지 관찰하고 염려되는 상황이 있으면 경보를 울릴 수 있도록 해야합니다. 감독을 하기 전에 통찰력을 갖고 시작하는 것이 중요하하고요." (머스크는 올해 들어 AI 기업 'xAI'를 설립한 후발 주자입니다)

😔얀 르쿤 메타 수석과학자
"AI에 대한 염려의 목소리는 공포를 조장하는 대규모 기업 로비에서 비롯됐습니다. 종말론적 레토릭의 상당수는 AI에 대한 통제권을 소수의 손에 맡기자는 주장과 다름없고요. "

🤔앤드류 응 스탠퍼드대 교수겸 랜딩AI 창업자
일부 AI 기업이 AI에 대한 두려움을 이용해 시장 지배력을 확대하려고 하고 있습니다. 이런 빅테크 기업은 오픈소스 진영과 경쟁하기를 원치 않으며, AI가 인류를 멸종시킬 것이라고 주장하고 다니네요.

샘 올트먼 "위험 오기 전 규제!"

반면 인간 시냅스에 해당하는 파라미터를 수천억씩 하는 모델을 이미 개발한 오픈AI나 구글은 강하게 규제해야한다고 말했습니다. 오픈AI 창업자 샘 올트먼이 늘 "궁극의 AI인 인공일반지능이 도래할 것에 대비해 미리 규제하자"고 주장한 것이 대표적입니다.

😄데미스 하사비스 구글 딥마인드 CEO
"AI의 미래에 대해 낙관하는 것은 조심해야 합니다. 전 르쿤의 발언에 동의하지 않고, AI 위험이 오기 전에 조기에 논의하는 것이 중요하다고 생각합니다."

미국 기업간 서로 난타전이 벌어진 가운데, 중국 학계는 후발주자 편을 들었습니다. 앤드류 야오를 중심으로 한 중국 학계는 AI를 감시할 국제기구를 설립하고 이곳에 AI 시스템을 등록해 관리하자고 주장했습니다. 위험이 닥치면 당장 셧다운을 할 수 있는 시스템을 갖추고 AI 연구개발(R&D) 예산의 30%를 보안에 투자해야한다고 목소리를 높였고요. (미국이 받아들일 수 없죠)

🔎크게보기
기업 입장에 따라 규제 방식에 대한 찬반이 크게 갈렸습니다. 바이든 대통령이 개발과 규제를 병행해야한다고 말한 것에 동의하지 않을 사람은 없는데요. 문제는 어느 정도로 어느 수준에서 누구부터 규제하느냐 여부입니다. 또 미국이 중국을 견제하는 포석을 깔았지만, 이날 중국 학계는 AI 규제에 대한 공식 입장을 밝히면서, 미국이 보복할 경우 맞보복할 카드들을 내비쳤습니다. AI에 진심인 애플 테슬라 모두 중국 매출 비중이 크거든요.


AI 서비스를 파는 상인들 (created with DALLE-3)


유료화 시동 걸려는 빅테크 기업의 AI

생성형 AI는 받은 질문에 대해 답변을 생성할 때 마다 비용이 발생합니다. 때문에 비즈니스 모델이 참 중요합니다. 그래서 수많은 기업들이 서서히 유료화에 시동을 걸고 나섰습니다. 어떤 방법이냐고요?

마이크로소프트: 오피스에 생성형 AI를 탑재한 'MS 365 코파일럿'을 런칭했습니다. 'MS 365 코파일럿'은 워드와 엑셀, 아웃룩, 팀즈 등이 포함된 MS 사무용 소프트웨어에 챗GPT와 같은 AI 비서 코파일럿이 탑재된 버전인데요. 이용료는 1인당 월 30달러입니다. 현재 MS 365는 등급에 따라 12.50달러∼57달러의 이용료가 붙는데 여기에 요금을 추가하는 방식입니다. 파이퍼샌들러는 유료화로 2026년까지 매년 100억 달러 이상의 수익을 올릴 것으로 내다봤고요.

어도비: 포토샵으로 유명한 어도비 역시 한달 전 생성 AI 모델군인 파이어플라이를 발표했는데요. 어도비 CC 최고 등급 구독 플랜 가입자의 경우 한달에 3000장까지는 추가 비용 없이 파이어플라이를 활용할 수 있고, 건당 약 5센트를 받습니다.

🔎 크게보기
IT 클라우드 스타트업 박스의 애런 레비 CEO는 악시오스를 통해 갈수록 더 많은 AI 기업들이 디바이스와 클라우드에서 돌릴 수 있는 AI를 최적화하려고 할 것 같다고 분석했습니다. 생성AI를 운용하는데 워낙 비용이 들다보니 비용 절감과 수익 극대화를 위한 노력이 빅테크 사이에서 이뤄질 것이라는 분석입니다.


📰 한줄 브리핑


※ 아래 기사 제목을 클릭하면, 세부 기사로 넘어갑니다.


삼성디스플레이 중국 LCD 소송
삼성디스플레이가 세계 최대 액정표시장치(LCD) 패널 기업이자 디스플레이 최대 경쟁기업인 중국 징둥팡(BOE)을 미국 국제무역위원회(ITC)에 제소했어요. BOE가 삼성디스플레이의 기술을 탈취해 영업비밀을 유출했다는 혐의인데요. 현재 진행중인 특허침해 소송과는 별개로 세계 디스플레이 산업 1~2위 기업간 소송전이 확전 양상으로 치닫고 있는 대목입니다.


연준 비둘기! 증권가는 환호
미국 연방공개시장위원회에서 제롬 파월 미국 연방준비제도 의장의 발언이 비둘기파적으로 해석되며 국내 증시가 반등했습니다. 미국 재무부가 국채 발행 속도 조절에 나서며 10년물 금리가 하락한 점도 영향을 줬는데요. 2일 코스피는 전일 대비 1.81% 상승한 2343.12에 거래를 마쳤습니다.


8천원 배송비가 8만원?!? 
온라인 쇼핑 서비스 이용이 급증하고 있지만 소비자가 숙지해야 할 배송비 등 필수 정보는 점점 더 교묘하게 숨고 있어요. '모르고 당하는 소비자 피해'가 끊이지 않고 있다는 지적이 있었어요. 배송비를 8천원이라고 했다가 무려 10배를 더!?


리커창 사망...증국 철벽 차단
리커창 전 중국 국무원 총리 영결식이 베이징에서 엄수됐는데요. 고인을 향한 추모 열기가 이어지는 가운데, 중국 당국은 추모 분위기가 반정부 시위로 확산할 가능성을 원천 차단하기 위해 통제를 대폭 강화해 대조를 보였습니다.






맺음말
인공지능을 둘러싼 명암이 갈수록 뚜렷해지는 것 같아요. AI를 이용해 생산성을 높이기도 하지만, 악용하는 사람들도 늘고 있고요. 하지만 이런때 일 수록 인공지능 보다는 인간지능이 더 중요해지는 것 같습니다. 아무리 인공지능으로 인공지능을 막는 시대가 왔다고는 하지만, 인간은 가장 훌륭한 의사 결정권자이기 때문입니다.

이은아 논설위원님이 쓰신 칼럼을 읽어보면, 오늘날은 디지털 문해력이 정말 중요해진 시대입니다. 인공지능이 아무리 피싱을 하고 가짜를 만들어 내더라도 몇가지 원칙과 판별력만 갖고 있다면 상당수 속지 않으리라 확신합니다. 실리콘밸리가 있는 캘리포니아에서는 아래와 같은 내용을 아이들에게 가르칩니다. 

  • 누가 만든 것인지
  • 누가 돈을 냈는지
  • 이 정보로 얻는 이익은 무엇인지
  • 누가 피해를 보는지
  • 다른 사람은 이 메시지를 어떻게 해석할지

이런 몇가지 머릿속 필터만을 갖고서도 상당수 딥페이크에서 해방 될 수 있다고 합니다. 존경하는 프래그머티즘 철학자 윌리엄 제임스는 이런 말을 남겼습니다.

  • "지혜란 과거에서 교훈을 얻고, 현재에서 살아가며, 미래에 대해 현명하게 행동하는 것이다."
  • "Wisdom is the ability to draw lessons from the past, live in the present, and act prudently for the future."

언제나 독자님들과, 함께 생각하고 함께 호흡하고 함께 걷겠습니다.


진심을 다합니다

  
정답풀이: 1억 엑사플롭스는 10의8승 플롭스, 즉 1엑사플롭스를 의미합니다. 한 대의 EOS 슈퍼컴퓨터가 18.4 엑사플롭스의 연산 능력을 가지고 있어, 1억 엑사플롭스를 달성하려면,  5435대의 EOS가 필요합니다. 5435대가 개당 H100 4608개를 사용하기 때문에 약 2504만개 H100이 필요하고, H100은 개당 5천만원이므로 가격은 1252조원입니다.
오늘 레터를 평가해주세요!  

미라클레터 구독·추천
공유하기게시하기
Miracle morning
with
MIRAKLE LETTER!
서울 중구 퇴계로 190 매경미디어센터
매경미디어그룹
miraklelab@mk.co.kr
02-2000-2167