AI 성능은 계속 오르는데 사람을 온전히 대체하지는 못하고 있습니다.
AI 성능은 계속 오르는데 사람을 온전히 대체하지는 못하고 있습니다. 숙련 개발자에게 AI를 쥐여 준 실험에서는 작업이 오히려 느려졌는데 본인들은 빨라졌다고 느꼈습니다. 왜 그런지 따라가다 이런 사슬에 닿았습니다.
모델은 일관된 결과물을 내보내는 과정을 거쳐 나옵니다. 좋다고 평가받은 쪽으로 당겨지고 그 과정에서 결과물의 폭이 좁혀집니다. 논문은 이걸 다양성 붕괴라고 부릅니다. 글 모델의 RLHF 연구도 그림 모델의 정렬 연구도 같은 말을 합니다.
그렇게 얻은 일관성은 수학과 코드에서는 강점입니다. 정답이 하나라 같을수록 좋으니까요.
그런데 글과 그림에서는 같을수록 slop 취급을 받습니다. 최근 논문도 창의적이고 가치가 걸린 과제에서 균등해질 위험을 따로 짚습니다.
여기서 걸리는 건 이게 성능으로 풀리지 않는다는 점입니다. 좁아지는 간격은 학습 과정에서 정해지기 때문에 쓰는 시점에서 되돌릴 수 없습니다.
slop은 못 만들어서 붙는 말이 아닙니다. 지금의 slop은 6개월 전에는 혁신이었습니다. 만드는 데 드는 게 없으니 너무 쉽게 나오고 그만큼 흔해집니다. 흔해진 것에는 사람이 반응하지 않습니다.
AGI는 범용적으로 사람을 대신한다는 뜻입니다. 비슷하다는 것이 slop의 이유라면 성능이 더 올라도 영영 대체할 수 없습니다.
이 사슬을 끊을 무언가가 나올 것인가. 지켜봐야겠습니다.
참고: METR 무작위 대조 시험(2025) · 「Understanding the Effects of RLHF on LLM Generalisation and Diversity」 · 「ImageReFL」 · 「Where does output diversity collapse in post-training?」 · 메리엄웹스터 2025 올해의 단어
카드 내용
- ASAP'S NOTE slopslop
AI가 대량으로 찍어낸 값어치 없는 결과물을 가리킵니다.
지난해 사전이 뽑는 올해의 단어로 선정되기도 했습니다. 원래는 진흙과 음식물 찌꺼기를 뜻하던 말입니다.
메리엄웹스터 2025 올해의 단어 중
- ASAP'S NOTE slop성능은 계속 오르는데 사람을 온전히 대체하지는 못하고 있습니다.
그 이유는 성능이 아니라 만드는 방식에 있습니다.
모델은 일관된 결과물을 내보내는 과정을 거쳐 나옵니다.
좋다고 평가받은 쪽으로 당겨집니다. 그 과정에서 결과물의 폭이 좁혀집니다.
논문 「Understanding the Effects of RLHF on LLM Generalisation and Diversity」 · 「ImageReFL: Balancing Quality and Diversity in Human-Aligned Diffusion Models」 중
- ASAP'S NOTE slop그렇게 얻은 일관성은 어떤 자리에서는 강점입니다. 수학과 코드가 그렇습니다. 정답이 하나라 같을수록 좋습니다.
그런데 글과 그림에서는 같을수록 slop 취급을 받습니다.
최근 논문에서도 창의적이고 가치가 걸린 과제에서 균등해질 위험을 따로 짚습니다.
논문 「Where does output diversity collapse in post-training?」(2026) 중
- ASAP'S NOTE slop모델의 성능은 계속 발전하고 있습니다. 그런데 이 흐름이라면
slop은 성능이 올라도 같이 사라지지 않습니다.
좁아지는 간격은 모델의 학습 과정에서 정해지기 때문에 쓰는 시점에서 되돌릴 수 없습니다.
논문 「Where does output diversity collapse in post-training?」(2026) 중
- ASAP'S NOTE slopslop은 못 만들어서 붙는 말이 아닙니다. 지금의 slop은 6개월 전에는 혁신이었습니다.
만드는 데 드는 게 없으니 너무 쉽게 나오고 그만큼 흔해집니다.
흔해진 것에는 사람이 반응하지 않습니다.
메리엄웹스터 2025 올해의 단어 중
- ASAP'S NOTE slop정리하자면 일관되게 만들다 보니 다 비슷해지고 비슷해서 slop이 됩니다.
AGI는 범용적으로 사람을 대신한다는 뜻입니다. 비슷하다는 것이 slop의 이유라면
성능이 더 올라도 영영 대체할 수 없습니다.
이 사슬을 끊을 무언가가 나올 것인가. 지켜봐야겠습니다.
