AI 슬롭 - 품질이 아니라 신뢰가 문제다

AI로 만든 글이나 그림, 웹사이트를 보면 어디가 이상한지 짚기 전에 먼저 불쾌하다. 분석이 나중에 오고 거부감이 먼저 온다.

그 느낌이 뭔지 한참 생각했는데, 게을러서 싫다기보다는 믿을 수가 없어서에 가까웠다. 틀렸다고 확신하는 것도 아니다. 그럼 뭐가 그렇게 거슬렸을까? 맞는지 아닌지를 판단할 방법이 없다는 쪽이다. 그리고 그다음에 따라오는 생각은 항상 같았다. 나는 이러면 안 되겠다.

이번에 이 감정이 뭔지 제대로 알아두고 싶었다. 알아야 피할 수 있고, 모르면 나도 모르는 사이에 같은 걸 만들고 있을 테니까.

그 불쾌감의 이름

슬롭(slop)이라고 부른다. 14세기에는 똥이나 진흙을 뜻했고, 나중에는 돼지 여물이나 음식 찌꺼기를 가리키는 말로 쓰였다. AI 맥락으로 퍼진 건 2024년쯤이고, 2025년에는 메리엄웹스터와 미국방언학회 양쪽에서 올해의 단어로 뽑혔다.

찾아보니 슬롭을 판별하는 기준이 세 가지로 정리돼 있었다.

속성	뜻
겉보기 능숙함	그럴싸해 보이는데 깊이가 없다
노력 비대칭	결과물 양에 비해 사람이 들인 게 없다
대량 생산 가능성	얼마든지 찍어낼 수 있다

바깥 두 개는 만드는 쪽 이야기고, 내가 걸렸던 건 맨 위였다. 그럴싸해 보인다는 게 문제다. 대놓고 엉성하면 그냥 넘기면 되는데, 형태가 멀쩡하니까 하나하나 확인해봐야 한다. 그리고 확인해보기 전까지는 믿을 수가 없다.

만드는 데는 몇 초가 걸리는데 그게 맞는지 판단하는 일은 여전히 사람 손에 묶여 있다. 한쪽은 공짜고 한쪽은 아니다. 슬롭이 성가신 건 품질이 나빠서가 아니라, 만든 쪽이 안 낸 확인 비용을 받는 쪽이 대신 내야 하기 때문이다.

한국이 세계 1위다

여기서 좀 불편한 사실을 봤다. 유튜브 AI 슬롭 조회수 집계에서 한국이 84억 5천만 회로 1위이고, Sora를 가장 많이 쓰는 도시도 서울이다.

제일 싫다고 말하면서 제일 많이 보고 제일 많이 만드는 나라라는 얘기가 된다. 나도 그 조회수 안에 들어 있을 것이다.

생각보다 가까운 데서 벌어지는 일

내가 지금 하고 있는 일과 직접 맞닿은 사건이 두 개 있었다.

cURL이 2026년 1월에 버그 바운티를 종료했다. 존재하지도 않는 변경 이력을 근거로 든 가짜 AI 취약점 신고가 쌓여서다. 신고서만 보면 형식이 그럴듯한데 근거로 든 것이 아예 없는 내용이었다.

스타 4만 개가 넘는 tldraw는 외부 기여 PR을 자동으로 닫기 시작했다. 코드베이스를 이해하지 않고 AI로 뽑아낸 PR을 유지보수자들이 감당하지 못했다.

나는 오픈소스에 PR을 넣는 쪽이다. 저 문이 닫히는 이유를 제공하는 사람 중에 내가 없다고 자신할 수 없었다.

개발자들이 실제로 뭘 힘들어하는지 정리한 논문도 봤는데, 거기서 반복해서 나오는 게 신뢰 이야기였다. AI가 쓴 것 같은데 증명할 방법이 없어서 계속 의심하게 된다는 말. 어떤 리뷰어는 기여자에게 이 코드가 뭘 하는 거냐고 물었더니 모른다는 답을 들었다고 한다.

하루에 PR 30개가 올라오는데 리뷰어는 여섯 명인 팀 이야기도 나온다. 개발 시간은 줄었는데 팀 전체가 쓰는 시간은 늘었다는 것이다.

거기 적힌 "AI 티" 신호 목록도 흥미로웠다. 주석에 이모지가 붙어 있는 것, 지나치게 친절한 단계별 주석, 1~2천 줄짜리 비정상적으로 큰 PR, 문제를 setTimeout으로 덮는 습관 같은 것들이다. README도 마찬가지여서, 제목마다 이모지가 붙어 있고 목차가 늘 같은 순서인 것만으로 알아보는 사람들이 있었다.

그리고 나도 만들었다

여기까지 찾아보는 내내 걸리는 게 있었다. 남 얘기처럼 적고 있지만 나도 저걸 만들어 올린 적이 있다.

나는 영어를 잘 못한다. 그래서 프로젝트 문서나 해외 커뮤니티에 올릴 글은 AI로 문장을 뽑아 쓴다. 그러다 보면 내용이 부풀려지고 안 해도 될 말이 붙는다. 레딧에 올렸을 때 반응이 별로였던 것도 그래서였을 것이다.

무엇이 문제였는지는 나중에야 정리가 됐다. 묻는 말에 대답만 하면 되는데 굳이 쓸데없는 근거를 몇 줄 더 붙이는 것. 사람이라면 안 그럴 자리에서 갑자기 설명이 길어지면 읽는 쪽은 당황한다.

그리고 그 몇 줄이 정확히 믿을 수 없는 부분이 된다. 묻지도 않은 근거를 굳이 댔으니 읽는 쪽은 그게 맞는지부터 확인해야 하는데, 확인해보면 대개 확인할 가치가 없는 문장이다. 답을 길게 쓴다고 신뢰가 올라가지는 않고 확인할 거리만 늘어난다.

과장된 형용사나 이모지보다 이쪽이 더 확실한 신호 같다. 묻지 않은 것에 답하고 있으면 사람이 쓴 글이 아니다.

그렇다고 안 쓸 수는 없다

그럼 AI를 쓰지 말아야 하나. 그건 나한테 답이 아니다. 영어 문장을 혼자 쓸 수 있으면 애초에 이 고민을 안 했을 것이다.

찾아보니 이 지점을 짚은 글이 있었다. 매체가 바뀔 때마다 함량 미달인 것들이 쏟아졌고, 이번이 처음이 아니었다는 것이다. 구텐베르크 이후 싸구려 소책자가 범람했지만 셰익스피어가 거기서 나왔고, 1700년대 런던의 삼류 글쟁이 무리에서 디포와 스위프트가 나왔고, B급 영화 공장에서 코폴라와 스코세이지가 나왔다.

요지는 이렇다. AI를 쓴 게 문제가 아니라 확인하지 않은 것을 남에게 떠안기는 것이 문제다. 사람이 붙들고 만든 결과물은 다르다.

검수를 내가 먼저 하는 쪽으로

정리하면 슬롭은 확인 비용을 남에게 떠넘기는 일이다. 그렇다면 안 만드는 방법도 하나뿐이다. 내보내기 전에 그 확인을 내가 먼저 하면 된다.

지금은 AI로 뽑은 영어를 무조건 다시 읽고 내가 고쳐 쓴다. 부풀린 문장을 걷어내고, 묻지도 않은 근거를 지우고, 내가 이해하지 못한 문장은 통째로 버린다. 마지막 규칙이 제일 중요하다. 내가 설명하지 못하는 문장이 남아 있으면 그건 읽는 사람도 확인할 수 없다는 뜻이다.

프로젝트 설명을 쓸 때도 마찬가지다. 읽는 사람이 쉽게 이해할 수 있는지, 가독성이 괜찮은지를 먼저 본다.

느려진다. 그런데 그 느려지는 만큼이 원래 내가 냈어야 할 몫이고, 내가 안 내면 받는 쪽이 대신 낸다.

블로그 글을 이런 식으로 쓰는 이유도 결국 같은 자리에 있었다. AI한테 써달라고 하는 대신 나를 인터뷰하게 시키는 건, 내보내기 전에 내가 먼저 읽고 책임지겠다는 뜻이다.