📮 LLM 안에서는 무슨 일이 일어날까?

함께 공유하고 성장하는 연구 문화를 전파해요

2024년 5월 27일 모두레터

친구랑 같이읽기 I 웹에서 보기 I 지난 레터 보기

created with ChatGPT-4o

님, 모두레터가 왔어요!

벌써 5월의 마지막 주네요.

요즘 장미축제 많이 하죠?🥀

더워지기 전에 봄 나들이도 좋을 것 같아요!~

다음주 레터는 가꿈이의 휴가로 쉬어갑니다

☘️한 주 동안 님의 행운을 빌게요☘️

이번주 SW/AI 소식

'LLM' 안에서는 무슨 일이 일어나고 있을까?
구글이 만든 '제미나이 업무용 프롬프트 가이드북'

열린 세미나: 👩‍💻SW 취준생을 위한 '백엔드 개발자 학습 가이드' 외 2개

'LLM' 안에서는 무슨 일이 일어나고 있을까?

©Anthropic

언어 모델 클로드(Claude)를 개발한 앤트로픽(Anthropic)에서 흥미로운 연구 결과를 발표했습니다. 언어 모델은 나날이 발전 중이지만, 크고 복잡하다는 특성 때문에 작동 원리를 파악하기 어려웠죠. 앤트로픽의 연구팀은 클로드 소넷(Claude Sonnet) 모델과 딕셔너리 러닝(dictionary learning)이라는 기법을 사용해, 특정한 개념에 반응하는 피처(feature, 뉴런들의 활성화 패턴)가 존재한다는 사실을 밝혔습니다.

피처들을 활성시키는 개념에는 도시, 인물 등의 개체부터 코드 에러, 차별적 표현 등 더욱 추상적인 것들도 있었다고 해요. 피처들 사이의 '거리'를 측정하는 것도 가능했는데요. '내적 갈등' 피처 근처에는 '어려운 상황', '딜레마' 등과 관련된 피처들이 있네요. 더 나아가서, 이런 피처들을 조정해 언어 모델의 답변에도 영향을 줄 수 있었다고 합니다.

Mapping the Mind of a Large Language Model

구글이 만든 '제미나이 업무용 프롬프트 가이드북'

©Google

구글이 구글 워크스페이스(Google Workspace)의 제미나이(Gemini)에서 활용할 수 있는 프롬프트 팁을 45페이지 분량의 가이드북으로 만들어 공유했습니다. 이 책에서는 프롬프트를 페르소나(persona), 할 일(task), 문맥(context), 형식(format)으로 나누고요. 이후에 등장하는 예제들에서도 프롬프트를 4개의 영역으로 구분하고 있습니다. 본문에 들어가기 전에도 간단한 팁을 주고 있는데요. 사람에게 이야기하는 것처럼 완전한 문장을 사용하는 것, 모델이 해야 할 일과 문맥을 간결하지만 구체적으로 입력하는 것, 여러 개의 프롬프트를 이용해 모델과 대화를 하는 것이 있습니다.

다른 프롬프트 엔지니어링 자료들과는 다르게, 이 가이드북은 업무에서 사용할 수 있는 프롬프트를 경영・HR・마케팅 등 다양한 직무별로 구분하여 구성했습니다. 업무용 프롬프트 스킬을 향상시키고 싶다면 아래 링크에서 가이드북을 확인해 보세요!

[PDF] Gemini for Google Workspace - Prompting guide 101

필진 I 신승연, 하자혜