집단 지성으로 투명한 AI 만들기

생성 AI 학습을 위한 이미지 및 텍스트 데이터 세트를 구축하고 불투명한 AI 독점을 막기 위해 탄생한 비영리 단체인 LAION(Large-scale Artificial Intelligence Open Network)은 Open Empathic 프로젝트를 발표했습니다. 목표는 “오픈소스 AI 시스템에 공감과 감성을 장착하기 위해 다양한 언어, 다양한 문화적 환경을 이해할 수 있는 AI 모델을 훈련”하는 것이라고 합니다.

Open Empathic을 통해 LAION은 챗봇과 텍스트 음성 변환 모델 등 인간의 감정을 '이해하는' AI를 만드는 데 사용할 수 있는 오디오 클립을 제출할 자원자를 모집하고 있습니다. 참여 방법은 아래와 같아요.

1. Open Empathic Dataset에 접속 후, Annotate Now를 클릭하여 가입하세요.
2. LAION 팀과 봉사자들이 미리 선정한 동영상에 주석을 답니다. 각 클립에 대해 자원봉사자는 클립의 필사본, 오디오 및 비디오 설명, 클립에 등장하는 인물의 나이, 성별, 억양(예: "영국식 영어") 등 세부 내용을 작성합니다.
3. 자원봉사자는 다양한 드롭다운 메뉴에서 "재잘거림", "활기찬", "매혹적인", "사색적", "매력적인" 등 개별 또는 여러 가지 감정을 선택할 수 있습니다.

지난 레터에서도 소개해 드렸듯, 감정 분석 알고리즘은 정확도가 떨어질 수 있습니다. 인기 있는 감정 분석 도구가 백인 얼굴보다 흑인 얼굴에 더 많은 부정적인 감정을 부여하는 경향도 발견되었지요.

LAION은 전 세계 집단 지성을 활용하여 데이터 품질을 높이고 편향을 낮추고자 합니다. 많은 사람들의 참여를 통해 데이터 세트에서 특정 인종이 다른 인종보다 과다 대표되지 않도록 하고, 자의적으로 감정을 분석하는 등의 위험을 낮춘다는 거죠.

소수의 사람만 첨단 기술을 이용할 수 있고 대부분의 대중은 이를 알지 못한다고 상상해 보세요. 이러한 불균형은 이 기술을 통제할 수 있는 소수에 의해 오용되거나 심지어 조작될 수도 있습니다. AI 윤리 레터 구독자분들도 Open Empathic 프로젝트에 참여하여 더욱 투명한 AI를 만드는 데 기여해 보세요!

오늘 이야기 어떠셨나요?

여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.

남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다. 

🗂️ 아카이브