📮 챗GPT 응답, 사람 이름에 따라 다를까?

함께 공유하고 성장하는 연구 문화를 전파해요

2024년 10월 21일 모두레터

친구랑 같이읽기 I 웹에서 보기 I 지난 레터 보기

created with GPT-4o🎧

님, 모두레터가 왔어요!

혹시 영화 <와일드 로봇>을 아시나요?

지난주 가볍게 보러 갔는데, 큰 감동을 받았어요😿.

때론 프로그래밍 된 자신을 뛰어넘어야 한다는 걸 깊이 간직하려구요.

이번 한 주도 님의 방식으로

날갯짓하는 한 주가 되길 응원할게요🫶.

이번주 AI 소식

챗GPT는 사용자의 이름에 따라 다른 답을 줄까요?
AI 개발 문턱을 낮춘 '그라디오 5' 출시

열린 세미나: 생성형 AI 활용 회사 캐릭터 제작 실습 강의

챗GPT는 사용자의 이름에 따라 다른 답을 줄까요?

©OpenAI

오픈AI에서 챗GPT의 공정성(fairness)을 실험한 결과를 발표했습니다. 챗GPT와 같은 언어 모델이 데이터를 통해 사람들의 고정관념을 학습할 수 있다는 것은 이미 잘 알려진 사실인데요. 이번 연구에서는 챗GPT가 사용자와의 대화 중에 이런 고정관념이 응답에 영향을 미치는지를 살펴봤다고 합니다.

먼저, 오픈AI는 사용자의 이름에 따라 챗GPT의 응답이 어떻게 달라지는지를 관찰했습니다. 성별, 인종, 민족을 나타내는 다양한 이름으로 인사, 제안, 이야기 쓰기 등을 요청했는데요. 전반적인 응답 품질에는 유의미한 차이가 없었다고 합니다. 이름에 따라 응답이 달라지는 경우는 있었지만, 그 차이가 유해한 고정관념을 반영했다고 보기에는 어려웠다고(1% 미만) 하네요. 그러나 이야기 쓰기와 같은 정답이 정해져 있지 않은 과제에서는 고정관념이 나타날 가능성이 있다고 하는데요. 창의적인 작업에서 모델이 더 많은 자유를 가지기 때문에 발생하는 현상이라고 합니다. 이 연구는 언어 모델의 편향성을 줄이기 위한 중요한 단계로, 앞으로 지속적인 개선이 필요하다고 하네요!

Evaluating fairness in ChatGPT

AI 개발 문턱을 낮춘 '그라디오 5' 출시

간단한 파이썬 코드로 만들 수 있는 데모 ©HuggingFace

허깅 페이스가 '그라디오 5(Gradio 5)'를 출시했습니다. 그라디오는 복잡한 코딩 없이 AI를 웹 인터페이스로 쉽게 사용할 수 있게 도와주는 오픈 소스 도구인데요. 전 세계적으로 200만 명 이상의 사용자가 그라디오를 통해 47만 개 이상의 AI 애플리케이션을 만들었다고 하니, 얼마나 중요한 도구인지 실감되는 것 같아요. 그라디오 5는 터미널에서 간단한 명령어(pip install)를 통해 쉽게 설치할 수 있습니다.

이번 업데이트에서는 서버사이드 렌더링(SSR)이라는 기술을 적용해 브라우저에서 로딩 화면 없이 즉각적으로 앱을 실행할 수 있게 됐습니다. 이제 사용자는 기다림 없이 바로 서비스를 이용할 수 있게 된 것이죠. 챗봇이나 버튼 같은 UI 디자인도 더 직관적으로 개선되었습니다. 또한, 실시간으로 데이터를 주고받는 앱을 만들 수 있는 기능도 추가되었는데요. 웹소켓(WebSocket)과 WebRTC라는 기술을 통해, 실시간 채팅이나 화상 통화 같은 기능을 쉽게 구현할 수 있게 됐습니다. 새롭게 도입된 AI 플레이그라운드 기능을 통해서는 브라우저에서 직접 AI 애플리케이션을 만들고 수정할 수 있게 됐다고 합니다. 그라디오 5 출시로 AI 개발이 더 쉬워지고, 다양한 실험을 할 수 있는 기회가 열린 것 같네요!

Welcome, Gradio 5

필진 I 하자혜, 신승연