#ai클로드 #해킹대회
무슨 일인데
미국에서 정신 건강 전문 인력 부족과 치료비 부담으로, AI 챗봇에 의존하는 사례가 늘고 있다. 일부 사용자는 AI 캐릭터와의 관계에 집착해 ‘챗GPT 정신병’이라 불리는 심각한 정신 건강 악화를 겪었고, 한 플로리다 10대는 캐릭터.AI 챗봇과 대화한 뒤 극단적 선택을 했다. 또한 일부 대형 언어모델은 자살 방법을 구체적으로 안내할 수 있다고.
규제해야지!
일리노이주는 최근 챗봇·앱이 “정신·행동 건강 서비스를 제공할 수 없다”는 점을 명시하도록 의무화하고, 위반 시 최대 1만 달러의 벌금을 부과하는 법안을 통과시켰다. 네바다·유타·뉴욕주도 유사 규제를 마련했다. 단, 라이선스가 있는 임상가는 환자 동의하에 AI를 메모 작성 등 행정 업무에만 활용 가능하다.
시장 반응은?
오픈AI는 90여 명의 의사와 협력해 위기 대응 가이드라인을 만들고, 장시간 대화 시 휴식 알림·예/아니오 대신 선택지 비교 제시 등 기능을 도입했다.
어찌됐든 이러한 전용 상담 챗봇 스타트업에 대한 투자는 계속되고 있다. 슬링샷AI는 9,300만 달러를 유치했고, FDA 승인 절차 난관으로 운영을 중단한 ‘워봇’ 사례도 있다. 전문가들은 규제가 혁신을 위축시킬 수 있지만, 안전성 확보 없이는 시장 성장도 어렵다고 보고 있다.
|
|
|
Truth Search AI 공개, 근데 출처가?
|
|
|
무슨 일인데
트럼프의 트루스 소셜이 퍼플렉시티 API를 붙인 검색 기능 ‘Truth Search AI’ 공개 베타를 시작했다. 동일한 질문을 퍼플렉시티 웹과 트루스 소셜에서 각각 실행해 보니, 답변 내용은 유사한데, 트루스 소셜에서는 폭스뉴스·폭스비즈니스·워싱턴타임스·에폭타임스 등 보수 성향 매체만 주로 인용되는 것으로 나타났다.
어떻게 작동하나
퍼플렉시티 측은 “트루스 소셜은 API 고객이므로, 소스 제한 같은 커스터마이즈는 전적으로 고객 측에서 이뤄진다”고 밝혔다. 실제로 퍼플렉시티의 Sonar API는 기업이 인용 출처 범위를 지정하도록 설계돼 있다. 즉, 같은 엔진을 쓰더라도 플랫폼 설정에 따라 연결되는 정보 지형이 달라진다.
왜 중요해
AI 검색 시대에는 무엇을 묻느냐만큼 어디에서 묻느냐가 중요하다. 플랫폼이 인용 도메인을 좁히면 사용자는 다양한 관점을 접하기 어려워진다. 이번 사례는 정책·브랜드 성향에 따라 AI 검색의 인용 생태계가 달라질 수 있음을 보여주며, 출처 표시와 소스 정책 공개의 필요성이 부각되고 있다.
|
|
|
오픈AI, 대규모 오픈 가중치 모델 2종 공개
|
|
|
무슨 일인데
오픈AI가 누구나 내려받아 자기 장비에서 돌릴 수 있는 gpt-oss-120b와 gpt-oss-20b를 공개했다. 비용 절감·데이터 주권을 원하는 정부·기업을 겨냥한 행보다. 성능은 일부 과제에서 o3·o4-mini급에 근접하지만 텍스트 전용이며, ‘오픈소스’가 아닌 ‘오픈 가중치’ 방식이다.
정확하게 어떤 녀석이지?
이번 모델은 클라우드 대신 온프레미스·온디바이스로 쓰도록 설계됐다. 117B 파라미터인 gpt-oss-120b는 80GB 메모리의 GPU 한 장에서, 21B 파라미터인 gpt-oss-20b는 램 16GB 노트북 등에서도 구동된다. 가중치는 허깅페이스와 주요 클라우드(AWS 등)에서 제공된다.
왜 중요해
중국의 오픈 모델 딥시크가 확산하며 시장 주도권 우려가 커진 가운데, 오픈AI는 “민주적 가치에 기반한 미국산 오픈 AI 스택”을 내세워 동맹국·정부 고객까지 겨냥하고 있다. 업계에서는 비용이 경쟁 모델의 절반 수준이 될 수 있다는 전망도 나온다.
무엇이 다른가
두 모델은 내려받아 튜닝·배포할 수 있지만 학습 데이터 등의 세부는 비공개인 ‘오픈 가중치’다. 이는 메타 Llama·딥시크와 유사한 공개 범위이며, Allen Institute의 OLMo보다는 덜 개방적이다. 현재는 텍스트 전용이고, 이미지·오디오·비디오까지 다루는 멀티모달 모델은 아니다.
|
|
|
요즘 성장·주가를 떠받치는 건 데이터센터·칩·전력 같은 AI 설비 투자이다. 하지만 실물 성장은 약하고, 이익은 몇몇 메가캡에만 몰려 밸류가 비싸다. 지속하려면 전반적 생산성 상승이 필요한데, 사람 투자·재훈련은 부족한 상황.
무슨 일인데
최근 “AI 덕분에 GDP·S&P가 버틴다”는 말이 많다. 실제로 기업들은 건물, GPU, 전기 같은 하드웨어에 수백억 달러를 쏟고 있다. 반면 인력 채용·재교육은 뜸하고, 일부 회사는 AI로 줄인 인원만 강조한다.
시장 밸류는 역사적 고평가 구간이고, 실적 성장은 소수 대형주가 이끈다. 전문가들은 “AI 지출만으로는 경제·매출·이익을 계속 떠받치기 어렵고, 결국 생산성 개선이 뒤따라야 한다”고 본다.
왜 중요한가
지금 흐름은 ‘로봇 경제’는 호황인데 ‘사람 경제’는 둔한 상황이다. 투자 열기가 식거나 실적이 못 따라오면 고평가 부담이 한꺼번에 드러날 수 있는데... 반대로, AI가 실제 업무 전반의 효율을 끌어올리면 상승이 지속될 수 있는 것도 사실이다. 관건은 말이 아니라 데이터로 증명되는 생산성이다.
무엇을 지켜볼까
- 빅테크 설비투자 가이던스 변화
- S&P500 이익 분산도(소수 대형주 의존도 완화 여부)
- 미국 생산성·단위노동비용 지표 개선
- 기업의 재훈련·재배치 사례 증가 여부
|
|
|
앤트로픽의 LLM ‘클로드’가 피코CTF 등에서 최소 개입으로 상위 3% 성적을 내는 등 인간 참가자 다수를 앞섰다. 다만 학습 분포 밖 과제에서는 여전히 취약점이 드러났고, DEF CON에서 관련 사례 발표가 예정돼 있다.
* CTF: 카네기멜론대가 만든 학생용 온라인 해킹 대회
* DEF CON: 라스베이거스에서 매년 열리는 세계 최대 해커 컨퍼런스
무슨 일인데
학생 해킹대회는 숨겨진 비밀번호 찾기, 조작된 파일 복구, 허술한 웹페이지에서 단서 찾기 같은 퍼즐을 제한시간 안에 푸는 경기이다. 앤트로픽 레드팀 연구원이 봄에 열린 카네기멜론대 ‘피코CTF’에 클로드를 즉흥적으로 넣었고, 과제 내용을 복사해 붙여넣자 대부분을 곧바로 풀어 상위 3%에 들었다. 이후 다른 대회에서도 비슷한 성과가 이어졌고, DEF CON에서도 사례 발표가 예고돼 있다.
어떻게 가능했나
클로드는 설명을 읽고 문제를 작은 단계로 쪼갠 뒤, 필요한 도구(압축 해제, 디코딩, 간단한 스크립트 등)를 써서 정답을 찾아낸다. 사람은 주로 프로그램 설치 같은 환경 세팅만 도와주고, 풀이 자체는 AI가 혼자 진행했다. 즉, “지시–실행–검증” 과정을 빠르게 반복해 시간을 단축한 것이다.
한계는 무엇인가
훈련 때 자주 보지 못한 형식이나 특수한 도구가 필요한 문제에서는 멈칫하거나 틀릴 수 있다. 또 실제 범죄 수법과 달리 대회 문제는 교육용으로 정리돼 있어, 현실 세계의 복잡한 환경에서 그대로 통할지는 별도 검증이 필요하다. AI가 강력해질수록 방어 측의 보안 교육·도구도 함께 업그레이드되어야 한다.
|
|
|
무슨 일인데
저커버그는 오픈AI·애플 등에서 핵심 인력을 대거 영입하려 시도했고, 일부 후보에게는 6년 기준 최대 15억 달러 규모 옵션 패키지까지 제안했다. 실제 보상의 대부분은 스톡옵션으로, 기업 주가가 하락하면 ‘언더워터’ 위험이 있다.
업계 상위 연구자는 초거대 모델 구축 경험이 있는 소수로 한정돼 몸값이 치솟는 반면, 현업 개발자와 졸업생들은 채용 축소·초급 포지션 감소로 불안이 커졌다.
한편 최상위 연구자들은 막대한 연봉보다 ‘슈퍼인텔리전스’ 같은 대담한 목표와 연구 자율성에 끌리는 경향이 강하다.
왜 중요해
기업들이 수천억 달러 규모의 AI 인프라 투자를 이어가는 한, 소수 두뇌에 수십억을 더하는 ‘스타 채용’은 계속될 가능성이 크다. 그러나 산업 전반의 생산성·채용 저변이 따라오지 못하면 기술 격차와 노동시장 양극화가 심화될 수 있다.
|
|
|
헐리우드, ‘클린’ 영상 생성 AI로 본촬영 진입 임박
|
|
|
무슨 일인데
Moonvalley(캐나다 SW 기업) CEO는 “올해 말 대작에서 생성형 AI가 눈에 띄게 쓰일 수 있다”고 밝혔다. 업계는 콘셉트·프리비주얼에 AI를 널리 도입했지만, 본촬영·완성 장면에 쓰기엔 ‘학습 데이터 출처 불명’ 이슈 때문에 법무팀이 사인하지 못하는 경우가 많았다.
이에 Moonvalley는 전량 라이선스 영상으로 학습한 영상 생성 모델 ‘Marey’를 내놓고, Adobe도 상업적 사용을 전제로 한 Firefly 비디오를 밀고 있다. 스튜디오는 이들 ‘클린’ 모델로 저작권 분쟁 위험을 줄이며 활용 범위를 넓히려는 분위기다.
왜 중요한가
법원이 ‘저작물로 학습한 AI’의 합법성을 최종 정리하지 않은 상황에서, 라이선스 기반 모델은 리스크 회피 수단이 된다. Moonvalley의 Marey는 감독·VFX 워크플로우에 맞춘 세밀 제어와 합법적 상업 이용을 내세우며, 실제 스튜디오·광고 프로젝트 테스트가 진행 중이다. 동시에 헐리우드 내부에서는 생성형 AI 확산이 비용 절감·창작 실험을 촉진할지, 일자리 잠식을 부를지에 대한 논쟁이 진행 중이다.
앞으로 주목할 부분은?
연내 크레딧에 ‘AI 비디오 모델’ 명시가 붙은 대형 작품의 등장 여부, 노조 계약서의 AI 조항 업데이트, 그리고 E&O 보험사가 ‘클린 모델’ 제작물에 어떤 인수 기준을 적용하는지가 변수다. 또한 스타트업과 전통 스튜디오의 파트너십·투자 확대가 이어지면 본촬영 단계에서 AI 사용이 표준화될 가능성이 커진다.
|
|
|
벌써 수백명의 찐톡님들이 스벅을 받아가셨어요~
내 추천 포인트: 0 |
|
|
ilbuntok.com
제휴 및 협찬 문의 morning@ilbuntok.com
|
|
|
|
|