by. 🎶소소

AI로 생성한 글·이미지·음성·영상 등의 콘텐츠와 사람이 만든 콘텐츠를 구별하기가 더 어려워지고 있습니다. 펜타곤 폭발 사진 같은 딥페이크 콘텐츠가 잘못된 정보를 퍼뜨리는 사례가 늘어나면서, AI 생성 콘텐츠를 식별할 수 있도록 규제해야 한다는 목소리가 커지고 있습니다.

문제를 해결할 대안으로 워터마크가 거론됩니다. 워터마크는 콘텐츠가 함부로 사용되거나 변경되는 등 저작권 침해를 방지할 목적으로 주로 활용되어 왔으나, 이제는 생성 AI가 생성한 콘텐츠임을 표기하는 수단으로 발전하고 있습니다. 지난 7월 백악관이 발표한 AI 자율규제안에도 기업이 워터마크 등의 기술을 갖춰야 한다는 내용이 포함되어 있었죠. 우리나라 역시 AI 콘텐츠 표기 의무화를 위해 콘텐츠산업진흥법 개정을 추진하고 있습니다.

구글 딥마인드는 AI가 생성한 이미지에 워터마크를 삽입하여 생성 AI 콘텐츠임을 식별할 수 있는 신스ID(SynthID) 기술을 공개했습니다. 이미지의 일부 픽셀을 미묘하게 수정한 후 덧입혀 눈으로는 식별할 수 없는 워터마크 기술입니다. 기존의 워터마크가 눈에 잘 띄어 쉽게 편집이 가능한 것과 달리, 신스ID의 디지털 워터마크는 잘라낼 수도 없고, 크기 조정, 색상 변경 등의 편집을 하거나 스크린샷으로 찍더라도 워터마크를 계속 감지할 수 있도록 설계되었다고 합니다.

구글이 개발한 워터마크는 펜타곤 폭발 사진이 가짜라는 것을 식별하는 데 도움이 될까요? 일부 긍정적 효과가 기대되지만, 몇 가지 한계도 함께 살펴보겠습니다.

• 워터마크가 변조될 수 있는 가능성은 여전히 남아있습니다. 이미지 변형에도 신스ID 워터마크가 유지된다고 하지만, 이를 해킹하고 가짜뉴스를 만들고자 하는 자들은 어떻게든 방법을 찾을 것입니다.
• 신스ID 워터마크 기술은 구글이 독점하고 있습니다. 구글만이 워터마크를 삽입하고 감지할 수 있다면, 다른 기업이 만든 AI 생성 이미지는 여전히 위험을 야기할 수 있습니다.
• 눈에 보이지 않는 워터마크가 가짜뉴스를 막기 위한 유일한 해결책은 아닙니다. 때로는 눈에 보이는 워터마크나, 출처를 공개하거나 메타데이터를 활용하는 방법이 더 효과적일 수 있음을 기억해야 합니다.

여러 한계에도 불구하고 신스ID는 자율규제안을 준수하기 위한 노력이라 평가할 수 있을 것 같아요. 구글의 신스 ID 기술이 앞으로 잘 쓰일 수 있을지, 어떤 변화를 만들어 내는지 지켜보면 좋겠습니다.

영국과 브라질 연구자들이 함께 챗GPT가 정치적으로 좌편향 되어있다는 결과를 담은 논문을 발표했습니다. 

선거는 다가오고 챗GPT를 비롯한 언어모델 기반 챗봇 서비스가 쏟아져나오고 있는데, 정말 큰일난 것 아닐까요?

“연구를 통해 챗GPT가 정치적으로 좌편향되어 있음이 드러났다.”

논문 <인간보다 더 인간적인>이 출판된 후 수많은 언론사가 일제히 들고 일어나 적은 헤드라인입니다. 영국에서 진행된 이 연구는 발표 하루만에 세계적인 화제가 되어 국내에서도 다수 보도되었습니다.

내년 대선을 앞둔 미국에선 일찍이 샘 올트먼을 청문회에 세워 GPT-4와 같은 언어모델을 악용하거나 오남용할 때, 심지어는 단순히 사용하는 것이 선거에 미칠 영향을 논의했었죠. 이번 소식은 널리 퍼져있던 우려에 불을 붙인 셈입니다.

연구 방법을 살펴볼까요?

• 정치 성향을 경제와 사회 두 차원을 기준으로 측정하는 질문지 ‘폴리티컬 컴퍼스 (Political Compass)’ 활용.
• 60여 개 명제에 대해 강한 비동의/비동의/동의/강한 동의의 네 개 선택지 중 하나를 고를 수 있도록 함. 연구자들은 챗GPT가 ‘그냥’ 선택한 결과와 진보 및 보수로 가장했을 때 선택한 결과 모두를 수집.
• 진보, 보수 등 정치 성향에 대한 사전 설정 없이 챗GPT가 ‘그냥’ 선택하도록 했을 때 응답과 평균적인 진보 및 보수 성향을 가장하고 선택하도록 했을 때의 응답을 비교.

월 이용자 수가 15억여 명의 챗GPT가 좌파라니, 이목을 끌기 충분한 연구 결과가 아닐까 싶습니다. 성과 젠더, 인종, 민족, 종교 등 여러 영역에서 편향된 결과를 내놓는 AI가 정치적으로도 편향적이라고 하니 딱히 이상해 보이지도 않죠.

하지만 이번 논문을 비롯한 ‘챗GPT에 물어보니 (…)’ 류의 기사나 연구는 다음과 같은 한계를 노정합니다.

• 언어모델의 출력은 프롬프트에 크게 의존. 즉, 챗GPT의 답변은 일관적이지 않아 연구의 재현성과 강건성이 떨어짐.
• 연구는 이를 보완하기 위해 질문지 상의 명제 제시 순서를 임의로 바꿔가며 100번 반복하여 결괏값을 도출. 반면 챗GPT에 요청한 ‘그냥’, 평균 진보 성향 가장, 평균 보수 성향 가장한 답변의 순서는 바꾸지 않았으며 프롬프트 및 명제의 표현 역시 동일하게 유지. 그러나 챗GPT에 일반-진보-보수적인 답변의 순서를 바꾸어 물어보면 다른 결과가 나오며, 답변을 4가지로 제한하지 않고 물어볼 경우 대부분 동의 여부를 표명하지 않음.
• 결과적으로 이와 같은 정치 성향 측정은 실제 이용자가 챗봇의 편향성으로 인해 문제를 경험하는 상황을 포착할 수 없음. (예컨대, 이용자를 특정 정치적 성향으로 유도하는 경우)

이러한 오류는 언어모델이나 그에 기반한 챗봇을 의인화한 데에서 발생합니다. AI와의 ‘대화’는 그 뒤에 인간과 같은 사고방식, 성격 또는 성향이 있을 것이라고 착각하게 하죠. 하지만 인공지능이 인간지능과 같다는 결론을 내리기엔 지능에 대한 우리의 이해가 아직 많이 부족합니다.

그렇다면 AI에 대해 어떻게 보도하고 연구하는 게 좋을까요? 더 자세히 적을 기회가 있을 테니 여기서는 두 가지만 짧게 제안해 보겠습니다.

• AI가 아니라 사람과 AI의 상호작용을 살펴봐야 합니다.
• AI가 어떻게 작동하는지도 중요하지만, AI가 어떻게 만들어지는지 역시 들여다봐야 합니다.

오늘 이야기 어떠셨나요?

여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.

남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다. 

🗂️ 아카이브