Q. 현재 어떤 분야의 연구와 학술 활동을 하고 계세요?

Q. ImaChek를 처음에 어떻게 알게 되셨고, 사용하시게 된 결정적인 이유는 무엇인가요?

학술 연구에 생성형 AI를 활용하는 일이 많아지면서, 이미지를 변조하거나 위조하는 일이 전보다 더 발생하더라고요. 연구 윤리의 중요성에 대해 강의하면서 자연스럽게 알게 되었어요. 연구지원 AI가 많아지는 만큼, 데이터의 위변조를 빠르게 확인할 수 있는 AI가 있다면 대학 입장에서도 편리하겠다고 생각했었는데, 이미지 적절성 여부에 초점을 둔 툴이 나왔다는 이메일을 받게 되니까 반갑더라고요. 텍스트 위주의 다른 유사도 검사 프로그램은 써봤었는데 이미지를 직접 확인해주는 툴은 본 적이 없었거든요. 궁금한 마음에 더 알고 싶다고 회신드렸습니다. 

Q. ImaChek가 구체적으로 어떤 문제를 해결해 주었나요?

AI만 있으면 실험을 안 해도 실험한 것처럼 이미지를 만들 수 있잖아요. 이미지 하나만 직접 만들고 각도 조정, 음영 처리 같은 보정으로 확 달라 보이는 사진을 만들 수도 있고요. 특히 페이퍼밀 같은 연구 윤리 위반 사례의 대부분은 이미지 관련이더라고요. 이미지 변형은 육안으로 구분하기 어려워요. 그래서 더 ImaChek이 필요해요. 이미지 변조 여부를 쉽고, 빠르고, 정확하게 확인할 수 있으니까 연구 윤리 위반 여부를 검증하는데 큰 도움이 될 거라고 판단했습니다.

연구를 진행하면서 잘못된 이미지를 사용하지는 않았는지, 적절하지 않게 반복하지는 않았는지 스스로도, 기관에서도 확인할 수 있다는 점이 좋습니다. 처음부터 정확한 데이터를 사용할 수 있도록 도와주니까 유용하죠.

Q. 합성 이미지와 데이터 위·변조 이슈가 늘어나는 상황에서, 연구 윤리 환경은 앞으로 어떻게 변화할까요?

요즘 꼭 생각해 봐야 할 문제죠. 생성형 AI 덕분에 과거보다 더 편하고 효율적으로 연구할 수 있지만, 지나치게 의존하게 되면 AI의 태생적인 문제인 할루시네이션을 간과하게 될 수 있거든요. 사실이 아닌 것을 사실인 것처럼 표현하게 되거나, 의도치 않게 데이터를 왜곡하여 연구 부정행위를 저지를 가능성이 높아졌습니다. 

이러한 문제에 대해 앞으로 더 경각심을 가져야겠죠. 높은 연구 윤리 의식, 그리고 그 의식을 실천하는 능력을 기관에서도 잘 키워주어야 해요. 그러니 생성형 AI에 대한 올바른 인식을 심어주고 적절하게 활용하는 방법을 가르쳐 주는 일이 중요하겠죠. 연구 내용은 누구에게나 신뢰받을 수 있어야 하니까요. 

사람이다 보니까 편하게 연구하고 싶을 수 있어요. 그럼 생성형 AI에 과하게 의존하게 돼서 제대로 확인을 안 하게 되기도 해요. 아무리 생성형 AI가 발전했다고 해도 인간은 아니기 때문에, 오류의 가능성을 염두에 두고 철저하게 하나씩 검토하셔야 합니다. 자신 있게 확실하다고 말할 수 있는 논문만 투고해야 하니까요. 

Q. 마지막으로, 한국의 연구자·대학·학회 관계자들에게 이미지 검증과 ImaChek 활용에 관한 조언이나 응원의 한마디 부탁드립니다.

저도 한 명의 연구자입니다. 생성형 AI는 학술 확동을 도와주는 똑똑한 비서예요. Gemini나 Chat GPT로 빠르게 정보를 확인하고 연구 동향을 파악하니까 편하긴 하더라고요. 

하지만 편리함에 매몰되어 오류의 가능성을 놓치지는 맙시다. 고생해서 만든 결과가 연구 윤리 위반이라는 평가를 받게 되는 일, 신뢰도가 낮은 논문이라는 비난을 받게 되는 일은 없어야겠죠. 연구에 AI의 도움을 받을 수는 있어요. 그런데, 본인 연구에 들어가는 내용이라면 철저히 검증해야 높은 신뢰도를 확보할 수 있다는 점 잊지 맙시다. 연구자가 직접 검증해야 한다는 원칙을 제 모든 교육 과정에서 변함없이 강조해 나갈 계획입니다.