• 메타 AI, PDF의 수식을 인식하는 모델 'Nougat' 발표
• AI 생성 이미지에 워터마크를 심다? 'SynthID' 베타 버전 출시
• 초거대 AI, 더 가볍게 더 효율적으로

대부분의 과학 지식은 PDF 형식으로 저장돼 있는데요. PDF 파일은 다양한 환경에서 읽을 수 있는 등의 장점이 있는 반면, 정보를 추출하거나 기계가 읽을 수 있는 텍스트로 변환하는 것은 어렵습니다. 특히 과학 문서는 수식이 포함돼 있기 때문에 더욱 그런데요. 메타 AI에서 발표한 '누가(Nougat)' 모델은 비전 트랜스포머(Vision Transformer) 모델의 일종인 'Swim Transformer'를 사용하여, PDF 형식의 문서를 마크다운과 HTML 등의 '마크업(Markup) 언어'로 변환합니다. 논문의 레이텍(LaTeX) 코드로부터 마크다운 코드와 PDF 파일을 얻고, 이 둘을 함께 학습에 사용했다고 하네요. 문서의 편집 거리(Edit distance) 와 BLEU 점수 등을 측정한 결과, '누가'의 성능이 OCR(Optical Character Recognition, 광학 문자 인식) 기반의 타 모델보다 우수했다고 합니다. 깃허브에 코드가 공개돼 있으니, 관심이 있다면 테스트해 보세요!

*버텍스 AI(Vertex AI): 인공지능 모델의 빌드와 배포에 특화된 구글 클라우드 플랫폼

**이매진(Imagen): 디퓨전(Diffusion)을 기반으로 하는 구글의 이미지 생성 모델

허깅페이스 블로그에 양자화(Quantization)를 소개하는 글이 올라왔습니다. 컴퓨터는 실수 값을 부동 소수점(Floating point, 숫자를 이진수로 저장하는 방법)으로 나타내는데요. 비트*를 더 많이 사용할수록 숫자를 더 정밀하게 표현할 수 있지만, 그만큼 메모리 공간을 많이 차지하고 연산 속도가 느려진다는 단점이 있죠. 최근 매개변수가 수백억 개에 이르는 생성 모델들이 인기를 얻으면서 양자화** 개념이 떠오르고 있습니다. 모델을 사용할 때 드는 비용을 낮추면서도 성능 저하는 최소화하는 것이 양자화 알고리즘의 목표라고 할 수 있어요. 이 블로그 글은 정밀도와 양자화의 개념과 함께, 양자화를 위한 대표적인 라이브라리인 'AutoGPTQ'와 'bitsandbytes'를 허깅페이스 생태계에서 어떻게 사용하는지 설명합니다. 모델 최적화 기초에 관심이 있다면 참고해 보세요!

*비트(Bit): Binary Digit의 줄임말로, 컴퓨터에서 데이터의 최소 단위이며 0과 1의 값으로 구성돼 있다.

**양자화(Quantization): 모델의 파라미터의 정밀도(Precision)를 낮추는 과정으로, 연산한 값을 숫자로 표현할 때 사용할 비트 개수를 적게 사용하도록 하는 기법이다.

• AI Story LAB #논문_작성  ⏰9월 4일까지
• Coding&Taekwonyap LAB #교육프로그램_개발  ⏰9월 6일까지
• PRIVATE AI LAB #PET(Privacy-enhancing Tech.)_연구 ⏰9월 18일까지

• 일시: 9월 5일 화요일 I 7:30PM - 9:10PM
• 장소: 모두의연구소 강남캠퍼스 라운지
• 연사:최재훈(대기업 SW 수석 연구원)
• 내용: Apple Vision Pro 기능 설명 I HW 기술 스펙 설명 I SW 구조 설명 I SW 개발 환경 I SW 개발 방법론 I 개발 튜토리얼과 데모 I 메타버스와 인공지능 서비스 결합 아이디어 소개 I Q&A, 네트워킹

• 스팸메일함에서 울고 있을지도 몰라요. 찾아가 확인해 보세요!
• 주소록에 모두의연구소 이메일 주소(modulabs01@gmail.com)를 추가해 주세요.