최근 AI 에이전트를 개발 워크플로우에 도입하면서 프로그래밍의 속도가 비약적으로 빨라졌다.
타이핑과 반복적인 보일러플레이트 작성 시간이 줄어든 덕분에 비즈니스 로직과 아키텍처에 집중할 수 있게 되었다.

하지만 편리함 뒤에는 교묘한 버그와 할루시네이션(환각 현상)이라는 치명적인 덫이 도사리고 있다.
AI가 순식간에 짜내려 가는 수백 줄의 코드를 보며, "과연 이 코드를 온전히 믿어도 될까?" 하는 불안감이 드는 것도 사실이다.

최근 AI 업계의 안드레 카파시(Andrej Karpathy)가 자신의 X(구 트위터)에 올린 글이 화제가 됐다.
그가 올린 포스트는, "최근 몇 주 동안 클로드 코딩을 꽤 많이 해보며 느낀 몇 가지 무작위 메모" 라는 제목으로,
AI 에이전트 중심 개발로 완전히 전환한 회고가 담겨있다. 포스트 확인하기

안드레 카파시의 포스트는 "소프트웨어 엔지니어링의 본질이 '코드를 타이핑하는 행위(Coding)' 에서 'AI 에이전트를 오케스트레이션하고 의도를 검증하는 행위'로
영구적 전환을 맞이했다" 는 것을 선언한 이정표와 같은 글이었다.
그는 80%의 수동 코딩 + 20%의 에이전트활용에서 반대로 역전, AI 코딩 에이전트의 강점과 약점, LLM 코딩의 고질적 문제를 얘기했다.

이 지적들을 바탕으로 AI 에이전트를 통제하기 위해 오픈소스 커뮤니티에서는 65줄짜리 프롬프트 지침서를 만들었다.
CLAUDE.md 파일로 AI 에이전트가 코딩을 시작하기 전 스스로 행동을 교정하게 만드는 가이드라인이다. 저장소

AI 실수를 방지하기 위한 4대 행동 지침

Think Before Coding (코딩 전 사유와 질문)
추측하지 말 것, 혼란을 숨기지 말 것, 트레이드오프를 드러낼 것
Simplicity First (간소화 & 오버엔지니어링 방지)
문제를 해결하는 최소한의 코드만 작성, 추측성 작업은 하지 말라.
Surgical Changes (필요한 부분만 수정)
꼭 필요한 부분만 건드려라. 네가 만든 문제만 정리해라.
Goal-Driven Excecution (목표 중심의 실행 및 검증)
성공 기준을 정의하라. 검증될 때까지 반복하라.

전체적으로 보면 "빠르게 많이 고치는 에이전트" 보다 "작게, 명확하게, 검증 가능하게 고치는 에이전트" 를 만들기 위한 지침으로 보인다.

마치며

안드레 카파시 포스트와 가이드라인이 우리에게 던지는 메시지는 명확하다.
소프트웨어 엔지니어링의 본질이 '코드를 타이핑 하는 행위' 에서 'AI 에이전트를 오케스트레이션하고 의도를 검증하는 행위'로 전환을 맞이했다는 것이다.
이제 개발자의 생산성은 단순히 얼마나 빠르게 코드를 작성하느냐가 아니라, AI에게 얼마나 명확한 목표와 제약을 전달하고,
생선된 결과를 얼마나 냉정하게 검증하느냐에 달려있다.
AI 에이전트는 강력한 동료가 될 수 있지만, 그 동료는 자신감 있게 틀린 코드를 작성한다.
그렇게 때문에 개발자는 더 이상 '코드를 대신 써주는 도구'로만 AI를 바라봐서는 안된다.

AI 에이전트 시대의 좋은 개발자는 코드를 덜 치는 사람이 아니다.
무엇을 만들지 더 정확하게 정의하고, 만들어진 결과를 끝까지 검증하는 사람이다.

AI에게 코드 주도권을 뺏기지 않는 법: 안드레 카파시의 AI 코딩 4대 가이드라인

댓글

댓글