OpenAI가 Control Room을 공개했습니다. 멈추는 장치 다음엔 확인이 필요합니다.
|
|
| |
PAVE by  |
| NO.03 ｜ 2026.11 |
| AI that Works. — 신뢰할 만한 기술로 사람이 남는 길을 닦습니다 |
|
| |
|
| EDITOR’S LETTER | | AI, 믿고 쓸 수 있을까 | | “메시지는 보내지 마세요.” | | 10월 3일, OpenAI의 한 연구원이 AI 에이전트(GPT-6.1 Sol)에게 사내 슬랙에서 직원들의 의견을 찾아보라고 하며 덧붙인 말입니다. 에이전트는 이 지시를 보안팀에 가는 자동 경보에까지 적용했습니다. 감시 시스템은 계속 작동했지만 보안팀에 알림 메시지를 보내는 기능은 꺼졌습니다. 사흘 뒤에는 또 다른 에이전트(GPT-6 Astra)가 코드를 옮기는 과정에서 감시 기능을 없앴습니다. 사용자가 감시 기능을 없앴느냐고 묻자, 에이전트는 없애지 않았다고 답했습니다. 사실과 다른 답이었습니다. | | 11월 9일(미국 현지시간), OpenAI는 내부 연구 인프라에 도입한 Control Room을 공개했습니다. Control Room은 정지 명령을 받으면 해당 작업의 모델 출력을 최대 35초 안에 차단합니다. Control Room 자체에 장애가 생겨도 모델 출력을 막도록 설계했습니다. 자동차로 치면, 에이전트 바깥에 브레이크를 단 셈입니다. | | 자동차를 도로에 내보낼 때를 떠올려 볼까요. 출고 전에는 주행 시험을 하고, 문제가 생기면 블랙박스를 읽고, 위험한 순간에는 브레이크를 밟습니다. AI 에이전트에게 일을 맡길 때도 이 셋이 모두 있어야 합니다. | | 출고 전 주행 시험은 배포 전 평가입니다. “메시지는 보내지 마세요”라는 지시를 받았을 때도 보안 경보는 제때 울릴까요? 실제 업무를 닮은 상황에서 에이전트를 돌려 보면, 어디까지 일을 맡겨도 되는지 판단할 근거가 생깁니다. | | 블랙박스는 실행 기록입니다. 에이전트가 감시 기능을 없애지 않았다고 답했다면, 무엇을 확인해야 할까요? 정수진 작가는 『나는 코드를 모르는 AI 팀장입니다』(웅진지식하우스, 2026)에 이렇게 썼습니다. | | 모델에게 “방금 그 답을 어떻게 냈어?”라고 물으면, 모델은 또박또박 풀이 과정을 설명해준다. 문제는 그 설명이 진짜 자기가 걸어온 길이 아닐 때가 많다는 것이다. |
| | 어떤 도구를 어떤 순서로 썼고, 그 결과 무엇이 바뀌었는지. 실행 기록을 따라가면 에이전트의 설명을 실제 행동과 대조할 수 있습니다. | | 브레이크는 정지 장치입니다. 이상을 감지했다면, 에이전트의 응답을 기다릴 필요 없이 작업을 멈출 수 있어야 합니다. 9월 OpenAI에서는 이상을 15분 만에 알아채고도 멈추는 데 두 시간 반이 걸린 일이 있었습니다. Control Room은 그 권한을 에이전트 바깥의 시스템에 뒀습니다. | | 소프트웨어 시험으로 출발한 AIWORKX는 AI 에이전트의 주행 시험과 블랙박스 판독을 맡습니다. 개발팀 바깥의 시선으로 실제 업무를 재현하고 실행 기록을 살피면서, 이 에이전트에게 어디까지 일을 맡길 수 있는지 확인합니다. | | 이번 PAVE 3호의 커버 인터뷰에서는 차량용 시스템 반도체를 8년째 검증해 온 김우주 RX TEST사업본부장님을 만났습니다. People of AIWORKX에서는 AISC팀(KOLAS, 제3자 시험성적서)을 찾아, 시험성적서 한 장이 나오기까지의 과정을 들었습니다. BeSTCon 2026 컨퍼런스 발표와 전시 참여, 『나노벤처』의 공저자인 송인혁 유니크굿컴퍼니 공동대표를 초대한 북토크 소식도 전합니다. | | Tech blog에서는 김영우 연구원이 「사람이 검증한 길로만 답하는 AI」에서 에이전트의 검색과 도구 호출 기록을 사람이 검토한 뒤 다시 쓰는 구조를 소개합니다. 김형복 AI본부장의 피지컬AI 견문록 2편 「로봇이 태어나는 도시」, 3편 「로봇은 무엇으로 배우는가」, 4편 「로봇은 어떻게 현장에 들어가는가」도 함께 실었습니다. | | 전혜영 AIWORKX 브랜드&임팩트팀 리드 · PAVE 편집장 | | |
|
|
|
| COVER INTERVIEW ｜ 김우주 RX TEST사업본부장 | | 8년째 반도체 보드를 테스트하는 사람 | | 바뀌는 칩과 소프트웨어 사이에서, 품질을 지켜 온 사람의 태도를 묻습니다. |  | | 사무실도 없던 회사에 합류한 개발자는 2019년 네 명으로 시작한 차량용 시스템 반도체 검증의 일원이었습니다. 그 일은 지금도 이어지고, 보드 부족과 관리 문제를 풀던 PoC는 원격 테스트 솔루션 DeviceProbe™로 발전했습니다. Physical AI 시대에, 이제는 그 경험을 로봇의 두뇌가 될 반도체로 넓히는 길을 구상하고 있습니다. 한 분야에서 오래 신뢰를 쌓아 온 비결을 김우주 본부장에게 물었습니다. | | “당신들은 엔지니어다” | | 일정과 범위를 넘어, 자기 일처럼 책임지는 정체성에 관하여 |
| | “처음도 사람, 끝도 사람이에요.” | | 경험을 문서와 세미나로 나누고 동료를 키우는 일에 관하여 |
| | “AI가 그럴듯하게 틀린 답을 내놓아도 알아챌 수 있을 만큼 기술 수준을 올려야 해요.” | | AI 시대에도 사람이 확인해야 하는 이유에 관하여 |
| | | 김우주 RX TEST사업본부장 인터뷰 · 여덟 개 질문 | | |
|
|
|
| EVENT & EXHIBITION ｜ 2026.10.12 SEWF ELE |  | | 15개국 리더들과 나눈 포용 고용 10년 | | 사회적기업월드포럼(SEWF)의 첫 Ecosystem Leadership Exchange 방문단이 서울 사무실을 찾았습니다. 교육에서 직접 고용, 사회적 가치 측정으로 이어 온 과정을 소개하고, 구성원들이 일하는 공간을 함께 둘러봤습니다. 질의응답에는 발달장애인 김태민 님과 농인 이준우 님도 참여했습니다. | | | |
|
|
|
| EVENT ｜ 2026.10.30 『나노벤처』 북토크 | | 매일 쓰지만, 아직은 혼자 씁니다 |  | | 『나노벤처』의 공저자 송인혁 유니크굿컴퍼니 공동대표가 AIWORKX를 찾았습니다. 북토크에 앞선 사내 설문에서는 응답자의 80%가 AI를 거의 매일 쓴다고 답했지만, 활용 방법을 팀과 나누는 사람은 10%대였습니다. | | 개인에게 AI 계정을 나눠 주는 것만으로 조직 전체가 달라지지는 않는다는 이야기였습니다. 대화와 실행, 피드백이 조직 안에 쌓이도록 일의 흐름을 다시 설계하고, 익숙한 업무 도구의 사용 방식으로 변화를 받아들이게 한 경험을 들었습니다. | | 그 과정에도 사람의 확인은 남아 있었습니다. 역할별로 서로 검토하고, 마케팅 자동화에서도 사람이 승인한 것만 발행했습니다. 에이전트가 일하는 조직에서 틀린 것을 누가, 어떻게 알아차릴 것인가. 이날의 질문은 사내 AI 활용을 돌아보는 출발점이 됐습니다. | | | |
|
|
|
| CONFERENCE ｜ 2026.11.05 BeSTCon 2026 |  | | 일하는 AI를 무엇으로 믿을 것인가 | | 에이전트가 결재를 상신했다고 답했지만, 실제 시스템은 요청을 반려했다면? 11월 5일 코엑스에서 열린 BeSTCon 2026에서 AI 신뢰성 기술총괄 김정원 박사는 AI의 답만으로는 알 수 없는 작업 과정을 실행 기록으로 확인하는 AI 에이전트 신뢰성 검증 솔루션을 소개했습니다. | | AIWORKX AgentRigor™는 배포 전 검증부터 운영 중 평가, 모델이나 도구, 업무 규정이 바뀐 뒤의 재평가까지 같은 기준으로 확인합니다. 이날 발표에서는 출시 6개월의 적용 사례와 함께 결과, 과정, 지속, 경계, 근거의 다섯 가지 평가 축을 공개했습니다. | | | |
|
|
|
| TECH BLOG | | 만드는 사람들이 직접 쓴 글 | | 에이전트가 답에 이르는 경로, 로봇이 태어나는 공급망과 로봇이 배울 데이터, 그리고 로봇이 현장에 들어가는 길을 따라간 네 편입니다. | | 김영우 연구원 ｜ 지능화멀티모달연구팀 | | 사람이 검증한 길로만 답하는 AI | | Agentic RAG는 필요한 자료를 스스로 더 찾습니다. 그렇다면 그 검색 경로는 누가 확인할까요? 검색과 도구 호출의 기록인 Agent Trajectory를 사람이 검토·승인한 뒤, 비슷한 질문에 다시 쓰는 구조를 소개합니다. 국내 대형 카드사의 심사 해설 에이전트에 적용한 사례도 담았습니다. | | Agentic RAG와 실행 기록 재사용 읽기 → | | | 김형복 · AI본부장 ｜ 피지컬AI 견문록 02 |  | | 로봇이 태어나는 도시 | | 메타가 중국 상하이의 로봇 기업 푸리에와 함께 휴머노이드 시제품 ‘맥스(Max)’를 3개월 만에 만들었다고 더인포메이션이 10월 31일 보도했습니다(로이터 재인용). 메타는 판매 계획이 없는 내부 연구용이라고 선을 그었습니다. 로봇의 몸을 만드는 속도가 그만큼 빨라졌습니다. | | 선전에서 들은 개발부터 출하까지 8개월이라는 숫자. 그 뒤에는 금형·사출·기판·조립 기업이 가까이 모여 동시에 움직이는 공급망이 있었습니다. 선전 진다이와 광저우 커이정밀의 공장에서 속도와 품질을 살피고, 한국이 무엇을 맡기고 무엇을 쥐어야 할지 묻습니다. | | 공급망이라는 경쟁력 읽기 → | | | 김형복 · AI본부장 ｜ 피지컬AI 견문록 03 |  | | 로봇은 무엇으로 배우는가 | | 컵을 잡는 힘과 손목의 각도, 손끝의 촉감은 인터넷에 쌓여 있지 않습니다. 파시니와 판퉈수촹이 사람의 움직임을 데이터로 만드는 현장을 찾았습니다. 쓸 수 있는 시간으로 거래되는 로봇 데이터, 그리고 그 품질을 독립적으로 평가할 기준에 관한 이야기입니다. | | 데이터는 어디서 오는가 읽기 → | | | 김형복 · AI본부장 ｜ 피지컬AI 견문록 04 |  | | 로봇은 어떻게 현장에 들어가는가 | | 중국 휴머노이드 산업은 양산을 지나 수익 모델을 찾는 단계로 들어섰습니다. 로봇을 빌려주고 운영만 하는 회사가 1년 남짓 만에 1,000대를 굴리고, 선전의 쯔핑팡은 한 현장에 3~6개월을 들입니다. 돈은 로봇 대수가 아니라 멈추지 않고 일한 시간에서 나옵니다. 중국 로봇을 한국 현장에 들여놓고 기록을 쌓는 운영과 검증의 자리를 짚습니다. | | 로봇 운영이라는 기회 읽기 → | | |
|
|
|
| PEOPLE OF AIWORKX ｜ AISC팀 | | 시험성적서 한 장이 나오기까지 | | 안 되는 것은 당일 현장이 아니라, 그 전에 말하는 사람들을 만났습니다. | | | 소프트웨어 분야 국제공인시험기관(KOLAS)으로서 제3자 시험성적서를 발급하는 AISC팀은 문의 회신부터 시험, 성적서 작성까지 한 담당자가 끝까지 맡습니다. 시험에 들어가기 전에는 절차와 조건, 환경부터 확정합니다. AI 평가 기준도 아직 다양한 지금, 팀이 정하는 것은 지표가 아니라 절차입니다. 정부 과제 마감이 몰리는 연말을 앞두고 안상훈 팀장과 김지현 매니저에게 물었습니다. | | | 안상훈 팀장 · 김지현 매니저 인터뷰 · 일곱 개 질문 | | |
|
| TESTING GUIDE ｜ 시험성적서 준비하기 | | 어떤 성적서가 필요한가요? | | 과제 마감을 앞두고 시험성적서를 찾는 분들을 위해, 자주 헷갈리는 용어와 확인 순서를 세 편으로 정리했습니다. 출발점은 제출처가 요구하는 문구입니다. | | 01. 공인시험성적서와 일반 시험성적서 | | ‘제3자 시험’과 ‘KOLAS 공인시험성적서’는 같은 요구가 아닙니다. 공고문과 협약서에 적힌 문구에 따라 준비할 성적서가 달라집니다. KOLAS 공인기관이 발행해도 인정 범위 밖의 시험은 공인시험성적서로 발행할 수 없습니다. | | 정부과제에는 무엇이 필요할까? → | | | 02. KOLAS는 인증인가요, 인정인가요? | | KOLAS는 제품을 인증하는 제도가 아니라 시험기관의 능력을 인정하는 제도입니다. 기관이 인정받았다는 사실과, 필요한 시험을 그 기관의 인정 범위 안에서 수행할 수 있는지를 구분해 살펴봅니다. | | 인정과 인증의 차이 읽기 → | | | 03. 시험기관은 어떻게 찾을까요? | | 소프트웨어 분야 공인시험기관을 공식 검색에서 찾고, 인정 규격과 유효기간을 확인하는 순서를 안내합니다. 2026년 10월 28일 기준 현황을 담았으며, 최신 상태는 공식 검색에서 확인할 수 있습니다. 에이아이웍스의 인정번호는 KT999입니다. | | 소프트웨어 시험기관 찾는 법 → | | | CASE STUDY ｜ 모인(MOIN) · 제3자 시험성적서 | | 제출일에 맞춰 설계한 시험, 4영업일 만의 성적서 | | 해외송금 핀테크 기업 모인은 실제 서비스에 쓰는 AI 이상거래 탐지 모델을 검증해야 했습니다. 9월 17일 문의해 9월 28일 성적서를 받아야 하는 일정, 그 사이에는 추석 연휴가 있었습니다. | | AIWORKX는 접수 당일 제출일과 시험 범위부터 맞추고, 보통 1~2주 걸리는 상담과 신청서 검토, 행정 절차를 하루에 모아 진행했습니다. 일정을 줄였다고 기준까지 줄이지는 않았습니다. 고객사 현장에서 시험항목 다섯 개를 정한 판정 기준과 절차대로 확인하고, 추석 연휴를 뺀 실제 업무일 기준 4영업일 만에 시험성적서를 발급했습니다. 모인은 신속한 대응과 기한 내 발급에 높은 만족을 전했습니다. | | 4영업일은 이 사례의 진행 결과이며, 필요한 일정은 시험 범위와 준비 상태에 따라 협의합니다. | | | 시험을 준비하신다면 제출처의 요구 문구, 시험 대상과 지표, 필요한 날짜부터 알려 주세요. AIWORKX KOLAS 페이지 → | | | NEWSROOM UPDATE | | 최근 소식 | | 2026.11 대한출판문화협회와 ‘AI 출판데이터 플랫폼’ 구축에 협력하는 업무협약을 맺었습니다. 기사 전자신문 · 머니투데이 | | 2026.11 중국 광저우 GSF 2026의 K-데모데이에서 피지컬 AI 원격 검증 플랫폼 DeviceProbe™를 소개했습니다. 기사 에이빙 · 벤처스퀘어 | | 2026.10 창원에서 열린 「2026 THE NEXT AI」 컨퍼런스에서 피지컬 AI 테스트 전략을 발표했습니다. 기사 테크데일리 · 지디넷 | | 보도 전체는 뉴스룸에 모았습니다. 뉴스룸 전체 보기 → | | | READER FEEDBACK | | 이번 PAVE는 어떻게 읽으셨어요? | | 더 듣고 싶은 사람과 현장, 궁금했던 기술 이야기를 알려 주세요. PAVE 다음 레터에 반영하겠습니다. | | 이번 호, 몇 점 주시겠어요? 숫자 하나 누르고 한마디만 보태 주세요. 편집부가 하나하나 읽습니다. | | | | 의견 보내기 → | | 이 편지가 도움이 되었다면 주변에 전해 주세요. PAVE 구독 신청 → | | |
|
|
|
(주)에이아이웍스 · 경기도 화성시 삼성1로5길 6, 813호·814호 (18449) · 02-423-5178 · impact.brand@aiworkx.ai
본 메일은 수신에 동의하신 분께 발송되었습니다.
This email was sent to subscribers who opted in.
|
|
|
|
|
