기본 콘텐츠로 건너뛰기

결함 추적 시스템은 정말 불필요한 것인가?

'린 소프트웨어 개발의 적용'에 결함 추적 시스템은 불필요하다라는 논지의 이야기가 있다.

과연 정말로 그런 것일까?

나에게 있어서 이런 논지는 옛날 어떤 테스터가 나에게 결함보고서는 왜 써야 하느냐며 목에 핏대를 세우던 기억을 떠올리게 한다.

정말로 그런 것인지 낱낱이 파헤쳐 보자.. 퐉퐉..

'린 소프트웨어 개발의 적용'에 적힌 논리는 다음과 같다.

개발할 때부터 결함이 생기지 않도록 노력한다면 결함은 적은수만 발생할 것이고(실제로 그렇다라고 적고 있다.) 결함이 적게 발생한다면 굳이 결함을 결함 추적 시스템에 적고 유지보수하고자 하는 노력은 낭비이다..

라는 것이다.

린에서는 낭비는 무조건 제거해야할 대상이기 때문에 위와 같은 논리라면 결함 추적 시스템은 분명 없어져야 할 시스템이다.

난 다시 한번 해당 챕터를 찬찬히 다시 읽어보고 또 읽어 보았다.

그리고 내린 결론은 일견 타당해 보이지만 이건 너무 편협한 의견이다라는 것이 내 결론이다.

아래 그림은 왜 결함 추적 시스템이 낭비인가에 대한 논리이다.
그리고 아래 그림은 왜 결함 추적 시스템이 불필요한가에 대한 논리이다.
일견 이 논리에는 별반 문제가 없어보이지만 내가 이 논리를 편협하다고 하는 것은 아래 2가지이다.

1. 이 책에서는 결함 추적 시스템을 단순히 개발자와 테스터간의 커뮤니케이션 도구 이상으로 생각하지 않는 다는 것이다. 물론 결함 추적 시스템의 가장 큰 역할 중의 하나는 커뮤니케이션이다.

하지만 우리가 잘 사용하지 않는 결함 추적 시스템의 또 다른 역할은 개선을 위한 데이터 추출 도구라는 것이다.

발견된 결함과 결함을 해결하기 위해 수행되었던 활동에 대한 기록은 결함 추적 시스템에 고스란히 남게 된다.

이러한 기록은 이후에 유사한 결함이 발견되거나 새로운 개발자 또는 테스터에게 매우 유용한 정보이다.

조직이 작거나 개발중인 제품이 작다면 '린 소프트웨어 개발의 적용'에서 말하는 논리는 맞을 수 있다. 하지만 우리는 하나의 제품에 수많은 팀들이 얽혀 있는 크로스 조직이나 글로벌 조직에서 일하는 경우도 많다.

수많은 조직에서 유사한 결함이나 동일한 결함이 공유되지 못하고 각자 해결된다면 종속성, 통합성의 의미에서 이것이 더 큰 낭비가 되지 않을까? 싶다.

그리고 결함 추적시스템이 왜 낭비인가? 하는 논리에서 가장 중요한 것은 테스터가 결함 추적시스템에 결함을 등록하고 그러한 결함이 대기상태로 낭비되는 주된 원인은 개발자가 실시간으로 결함을 해결해주지 않기 때문이다.

이것은 '린 소프트웨어 개발의 적용'에서 결함 시스템이 왜 불필요한가? 에 대한 해결책이다.

즉, 결함 추적 시스템이 있고 없고가 문제가 아니라 개발자가 결함을 왜 실시간으로 해결해주지 못하는가에 대한 문제이다.

두번째는 테스팅의 범위를 단위 테스팅과 개발자의 입장에 너무 국한되어서 생각하고 있다는 것이다.

테스팅은 단위 테스팅이나 인수 테스팅만 있는 것은 아니다. 테스팅은 개발 프로세스 전반에 걸쳐 매우 다양한 유형으로 수행된다. 그 중에는 개발자가 관여하지 않는 테스팅도 무척이나 많다. 물론 결함으로 판명된다면 수정하기 위해 개발자가 관여해야하는 것은 사실이지만 수행 자체에 개발자가 관여하지 않는 경우도 많다.

그러한 비중은 시스템이나 인수테스트와 관련된 유형의 테스트에 더욱더 많다. 그러한 경우 커뮤니케이션을 위해서라면 결함 추적 시스템을 필수 불가결하다고 생각한다.

수행에 참여하지 못한 개발자가 해당 결함을 해결하기 위해서는 테스터와 1:1로 커뮤니케이션을 하면서 수정할 수도 있지만 현실에서 그런 경우는 그렇게 많지 않다. 그런 경우 개발자가 결함에 대한 정보를 얻을 수 있는 통로는 결함 추적 시스템 뿐이다.

'린 소프트웨어 개발의 적용'에서는 결함은 발견되는 즉시 해결되어야 한다고 한다. 개발자와 테스터가 1:1이라면 가능한 얘기이다. 하지만 실제 우리의 작업환경이 그러할까? 그리고 개발자 1명 테스터 1명이 개발하는 경우라면 가능할 수도 있다. 하지만 아무리 작은 조직이라고 해도 최소한 개발자 3명 이상에 테스터는 2명이상이라고 한다면 그 사이의 커뮤니케이션은 매우 복잡해진다.

그리고 단위 테스팅과 같은 단계라면 결함이 발견되는 즉시 해결 가능하다고 할 수 있지만 개발이 진행될 수록 제품은 더욱더 복잡해지고 시스템이나 인수 테스팅 단계에서의 결함은 매우 복잡해지는 양상을 가진다.

이러한 결함은 발견 즉시 해결하는 것이 쉽지 않을 수 있다. 많은 수의 개발자가 협력해야할 수도 있다.

그러한 상황에서 가장 기본적인 데이터를 제공해 줄 수 있는 것은 결함 추적 시스템뿐이라고 해도 과언이 아니다.

나는 결함 추적 시스템 자체가 낭비라기 보다는 결함 추적 시스템에 입력하고자 하는 행동이 낭비라고 본다.

우리가 결함 추적 시스템을 기피하는 가장 큰 이유중의 하나는 입력해야할 값들이 너무 많다는 것이다.

결론적으로 결함 추적 시스템은 낭비가 될 수 없다. 만약 결함 추적 시스템이 낭비로 판단이 된다면 그것은 입력을 위한 값들이 너무 많기 때문일 것이다. 꼭 필요한 사항만을 입력할 수 있도록 개선해야한다고 생각한다.

그리고 개발 조직이 테스터가 발견한 결함을 즉시로 해결할 수 있도록 시스템과 규칙을 바꾸도록 개선한다면 결함 추적 시스템이 낭비가 되는 일은 없을 것이라고 생각한다.

댓글

댓글 쓰기

이 블로그의 인기 게시물

피드백 루프: AI 시대 테스터가 지켜내야 할 핵심 엔진

소프트웨어 개발과 테스팅 현장에서 가장 자주 언급되지만, 막상 시스템이 복잡해질수록 쉽게 경시되곤 하는 핵심 개념이 바로 '피드백 루프(Feedback Loop)'입니다. 코드를 수정하고, 빌드하고, 테스트 결과를 확인하고, 다시 개선하는 그 순환 과정의 속도와 정확도가 결국 소프트웨어의 품질을 결정짓기 때문입니다. 품질 전문가 매슈 하이저(Matthew Heusser)가 자신의 블로그 Quality Remarks에 기고한 "One Loop After Another" 아티클은 바로 이 피드백 루프의 다층적 구조와, AI 시대에 우리가 놓치지 말아야 할 품질 검증의 본질을 날카롭게 되짚어 줍니다. (출처: Quality Remarks - One Loop After Another / Matthew Heusser) https://qualityremarks.com/one-loop-after-another/ 매슈 하이저는 소프트웨어 개발 생태계가 단순히 하나의 커다란 테스트 루프로 돌아가는 것이 아니라, 시간 축과 관점에 따라 겹겹이 쌓인 '연쇄적인 피드백 루프들(One Loop After Another)'로 이루어져 있다고 설명합니다. 초단기 루프 (Inner Loop): 개발자가 코드를 작성하는 몇 초~몇 분 단위의 루프입니다. 단위 테스트(Unit Test)나 IDE의 Linter, AI 자동 완성이 즉각적인 피드백을 주는 영역입니다. 단기 루프 (Daily / CI Loop): 커밋과 푸시가 이루어지고, CI/CD 파이프라인에서 통합 테스트와 정적 분석이 실행되는 몇 시간 단위의 루프입니다. 중기 루프 (Iteration / Exploration Loop): 스프린트 단위로 탐색적 테스팅(Exploratory Testing)을 수행하고, 실제 사용자 시나리오나 엣지 케이스를 사람이 직접 검증하며 시스템의 유기적 작동을 확인하는 며칠~몇 주 단위의 루프입니다. 장기 루프 (Outer / Market Loop): 실제 ...

에이전틱 AI 프로젝트에서 테스터의 5가지 핵심 원칙

AI 코딩 에이전트와 자율형 에이전트가 빠르게 개발 워크플로우에 통합되면서, 단순히 코드를 잘 짜는 것을 넘어 '에이전트와 어떻게 협업하고 통제할 것인가'가 개발자와 아키텍트들의 가장 큰 화두로 떠올랐습니다. 윤석찬 님의 아티클 "AI 에이전트 시대, 개발자는 어떻게 일해야 하는가? – 프론티어 엔지니어링의 10가지 원칙"은 에이전틱 AI 시대에 엔지니어가 마주하는 패러다임 변화와, 실무 현장에서 일하는 방식을 어떻게 재정의해야 하는지 아주 명확한 가이드라인을 제시해 줍니다. (출처: channy.creation.net - 윤석찬 님의 블로그) https://channy.creation.net/blog/1989 비록 대규모 에이전트 오케스트레이션이나 초거대 인프라 시스템을 개인이 직접 구축하고 운용하는 것은 비용적·기술적으로 현실적인 한계가 있습니다. 하지만 개인 프로젝트에서 AI와 바이브 코딩(Vibe Coding)을 활용하며 겪었던 맥락 손실, 환각, 통제 불능의 경험들을 떠올려보면, 이 아티클이 제시하는 10가지 프론티어 엔지니어링 원칙은 소규모 개인 개발 환경에서도 대단히 깊은 공감을 불러일으킵니다. 이 글은 단순히 "AI 도구를 잘 쓰자"는 수준에 머무르지 않습니다. AI 에이전트가 생성해내는 불확실성 속에서 인간 엔지니어가 시스템의 맥락을 주도하고, 오작동을 제어하며, 품질의 키(Steering Wheel)를 쥐기 위한 구조적 사고법을 다룹니다. 그렇다면 프론티어 엔지니어링의 원칙을 바탕으로, 시스템의 신뢰성과 안전성을 검증해야 하는 테스터는 과연 어떤 실무 원칙을 세워나갈 수 있을까요? 윤석찬 님이 제시한 엔지니어링 원칙을 테스팅 관점으로 재해석해 보면, 다음과 같은 5가지 원칙으로 정리할 수 있을 것 같습니다. 1. 결정론적 검증에서 '경계선 및 허용 오차(Boundary)' 테스팅으로 전환하라 에이전트 기반 시스템은 같은 입력을 주어도 매번 다른 추론 경로를 거치는 확률적(Stoc...

결국 테스팅은 어렵다

 AI 코딩 에이전트와 대형 언어 모델(LLM)이 코드를 순식간에 쏟아내고 테스트 스크립트까지 자동으로 만들어주는 시대가 되면서, 일각에서는 "이제 테스팅도 버튼 하나 누르면 끝나는 쉽고 단순한 일 아닌가?"라는 착각에 빠지곤 합니다. 하지만 품질 전문가 매슈 하이저(Matthew Heusser)가 자신의 블로그 Quality Remarks에 기고한 "Turns Out Testing is Hard" 아티클은, 기술이 아무리 화려하게 발전하더라도 소프트웨어의 '진짜 품질'을 검증하는 일은 여전히 지독하게 어렵고 복잡하다는 현실을 서늘하게 되짚어 줍니다. (출처: Quality Remarks - Turns Out Testing is Hard / Matthew Heusser) https://qualityremarks.com/turns-out-testing-is-hard/ 이 아티클이 말하는 핵심은 간단합니다. 단순한 스크립트 실행이나 표면적인 기능 작동 여부를 확인하는 '체크(Checking)'는 AI나 도구를 통해 얼마든지 자동화하고 속도를 높일 수 있지만, 시스템의 숨겨진 리스크를 탐색하고 비판적으로 질문을 던지는 '진짜 테스팅(Testing)'의 난이도는 오히려 이전보다 더 올라갔다는 점입니다. AI 코딩 에이전트가 단 몇 초 만에 수백 줄의 코드를 생성을 해내면서 당장 눈앞의 기능은 돌아가는 것처럼 보입니다. 하지만 그 이면에서는 오작동이 일어날 수 있는 엣지 케이스, 시스템 간의 미묘한 맥락 단절, 그리고 나중에 거대한 장애로 돌아올 인지부채가 순식간에 쌓여갑니다. 매슈 하이저는 왜 테스팅이 여전히 지독히 어려운 과제로 남아있는지 몇 가지 근본적인 이유를 제시합니다. 첫째, '모호함과의 싸움'입니다. 소프트웨어 요구사항은 언제나 비어있는 행간과 모호함을 품고 있습니다. AI는 주어진 텍스트 그대로 명시적인 조건만 테스트하지만, 실제 인간 테스터는 명시되지 않은 사용...