Agent의 새 세션은 처음 만난 동료다
어제 AI와 함께 에러의 원인을 찾고 해결 방법을 정리했다. 그런데 오늘 새 세션을 열고 작업을 이어가려니 프로젝트 구조부터 어제 내린 결정까지 다시 설명해야 했다.
설명하다 보니 이런 생각이 들었다. 나는 AI를 사용하고 있는 걸까, 아니면 매번 새로운 동료에게 온보딩을 해주고 있는 걸까?
매번 새로 설명해야 하는 맥락
하나의 작업을 여러 세션에 걸쳐 진행할 때가 있다. 설계를 이야기하던 세션에서 구현까지 마치기도 하지만 작업을 나누거나 새 세션을 열어 다시 시작하기도 한다.
이때 이전에 어떤 이야기를 했는지, 왜 그런 결정을 내렸는지 다시 알려줘야 한다. 대화 내용을 모두 전달하기에는 토큰이 신경 쓰이고 짧게 설명하면 의도와 다른 방향으로 작업할 때도 있다.
대화의 맥락을 기록으로 남기기
같은 내용을 반복해서 설명하는 일을 줄이기 위해 프로젝트 규칙과 이미 내린 결정을 파일에 정리해 두고 있다. 세션은 하나의 일을 처리하는 단위로 나누고 새로운 작업을 시작할 때 필요한 기록을 참고하도록 한다.
다만 모든 내용을 기록하는 것은 현실적이지 않고 비용도 문제이기에 무엇을 남겨야 할지 고민이 된다. 시간이 지나면 기록이 현재 프로젝트와 맞지 않을 수도 있어서 관리도 필요하다.
다른 개발자들의 고민은 달랐다
나는 주로 세션 사이의 맥락을 어떻게 이어갈지 고민했다. 그런데 다른 개발자들과 이야기를 나눠 보니 각자 신경 쓰는 부분이 달랐다.
누군가는 구현하기 전에 AI와 설계를 검토하고, 누군가는 AI가 빠르게 작성한 코드를 어떻게 리뷰할지 고민하고 있었다. 아키텍처를 설명한 뒤 구현을 맡기고 중요한 부분은 함께 확인한다는 이야기도 들었다. AI가 작성한 코드의 보안이나 신뢰에 대한 고민도 있었다.
같은 도구를 사용하고 있지만 각자의 업무에 따라 필요한 것도 다르다는 생각이 들었다.
나에게 필요한 방식은 무엇일까?
다른 사람들의 활용 방법을 보면 따라 해보고 싶은 것들이 많다. 하지만 모든 방법을 도입하기보다는 내가 어떤 부분에서 불편함을 느끼는지 먼저 살펴볼 필요가 있을 것 같다.
나에게는 새 세션이나 다른 Agnet에서 같은 설명을 반복하는 일이 그중 하나였다. 다른 사람들의 경험을 참고하면서 이 문제를 개선할 수 있는 방법을 찾아보려고 한다.
마치며
새로 만난 동료에게 일을 맡길 때는 프로젝트의 배경과 해결할 문제를 설명한다. 이미 내린 결정이 있다면 그 이유도 함께 이야기한다.
AI와 일할 때도 비슷하다. 새 세션에서 필요한 내용을 모두 알고 있을 것이라고 기대하기보다, 어떤 배경을 전달해야 할지 생각하게 된다. 앞으로도 반복해서 설명하는 내용을 기록해 두고 실제 작업에 도움이 되는지 살펴보려고 한다.