AI 가짜 음반 사례에서 ‘디스토피아’를 떠올리게 되지만, 잘 들여다보면 결국 문제는 ‘사람’입니다. BBC는 AI로 뮤지션의 이름을 팔아 가짜 음반을 만드는 ‘사기꾼’들이 돈을 벌기 위해서 이런 일을 벌인다고 짚습니다.

‘자신들의 행위가 레이더망에 걸리지 않으려고 덜 알려진 가수를 노리는 것 같다’는 전문가의 견해도 소개합니다. AI를 활용한 보이스피싱, 성착취물 제작 등도 결국 범죄로 돈을 벌려는 인간의 오래된, 그리고 그릇된 욕망과 연결돼 있습니다.

그럴수록 AI 존재 자체에 대한 사람들의 철학적 질문은 계속돼야 할 것입니다. 또 범죄에 활용되는 일을 막기 위한 법적·제도적 안전망과 가이드라인을 정교하게 다듬는 작업도 멈추지 말아야 하겠죠.

저부터 ‘AI에 맹목적으로 의존하지 않으려고 다짐해봅니다’라고 자신 있게 쓰고 싶지만, 현실에선 AI 앞에서 무력해지는 경우가 더 많은 요즘입니다.

얼마 전 의도치 않게 초등학교 4학년인 아들의 휴대전화에서 AI 검색 기록을 보게 됐습니다. 그런데 ‘엄마 아빠 싸울 때’, ‘엄마 아빠 싸울 때 말리는 법’이 있었습니다. 얼굴이 화끈거렸습니다. 그런데 AI는 아들에게 ‘자신의 잘못이 아니므로 죄책감이나 걱정을 품지 않아도 돼요’라고 답변했습니다.

결국 늘 사람이 문제입니다. 아들아... 이제 엄마, 아빠 안 싸울게……. 이 약속 믿어도 되는지 AI에 물어보지는 말고…