기본 콘텐츠로 건너뛰기

탐색적 테스팅은 경험기반기법이 아닌 학습주도테스팅이다.(Explorer Testing is Learning-driven Testing)

제가 얼마전 탐색적 테스팅 교육을 재개정을 했습니다.

5년전인가? 6년전인가? 제임스 바크가 국내에 와서 Rapid Software Testing 교육을 진행했었고(이번 STAREAST에서 바크와 그때 얘기를 잠깐 했습니다. 바크는 한국에서 초대만 해준다면 다시 한번 한국에 꼭 방문하고 싶다고 하더군요.. 어쩌면 자기가 중국에 갈때 들릴 수도 있을 거라고.. 최근 중국에서 바크를 자주 부른다고 합니다.) 이후에 제가 근무하는 회사에서 탐색적 테스팅에 관한 교육을 꾸준하게 진행을 했었는데.. 저는 이런저런 이유로 참석하지 않다 올해 해당 교육과정을 전면적으로 뜯어 고쳤습니다.

그러면서 지난 자료를 다시 한번 검토하고 STAREAST까지 가서 바크의 세션도 듣고 얘기도 나누고 그동안 바크나 마이클 볼튼과 나누었던 트윗도 정리하면서 나름 정리한 제 생각을 몇자 적어볼까 합니다.

아직 완전하게 정리된 상태는 아니기 때문에 논리적으로 취약한 부분은 댓글로 말씀해주시면 같이 얘기를 나눠볼 수 있을 것 같습니다.(꼭 댓글이 아니어도 각종 SNS로 저에게 말을 걸어주셔도 됩니다.)

국내에서 탐색적 테스팅을 하고 있다고 말하는 조직이 꽤 많습니다.

여러 이유로 탐색적 테스팅은 국내에서 꽤 인기가 있는 기법, 방법론 중 하나입니다.

하지만 제 경험상 단언컨데 국내에서 탐색적 테스팅을 제대로 수행하는 조직은 한번도 본적이 없습니다.

형태적으로는 꽤 근접한 경우가 많지만 핵심적인 내용들이 결여된 경우가 꽤 있습니다.

예를 들면 문서가 없어도 테스팅을 할 수 있다거나 문서를 안만들어도 된다거나(웅?) 경험 많은 테스터가 수행하는 테스트라고 생각하거나 테스트 아이디어와 결함 갯수 같은 메트릭을 측정하는 경우 등등 꽤 많은 오해와 잘못된 사례들이 있습니다.

그 중에서 제가 이번에 얘기하고자 하는 것은 경험이라는 부분입니다.

ISTQB Foundation Level에 보면 경험기반기법에 탐색적 테스팅이 소개되어 있습니다.

아마 탐색적 테스팅과 경험이 결부되기 시작한 것이 이 ISTQB가 진원지가 아닌가 싶습니다. 이와 관련되서 트위터나 기타 등등 찾아보시면 꽤 많은 논쟁을 볼 수 있습니다.

그리고 Advanced Level에서도 탐색적 테스팅은 역시 경험기반 기법에 소개가 되어 있습니다.

그런데 막상 ISO/IEC 29119의 설계 기법 표준에는 탐색적 테스팅에 대한 언급이 없습니다.(사실 탐색적 테스팅이 표준 문서에 포함될 수 있을지는 저도 의문입니다. 이와 관련된 논쟁도 꽤 뜨겁습니다.)

대체로 분위기를 보면 기존의 전통적인 테스팅에서 탐색적 테스팅은 평가 절하되거나 변두리 취급을 받는 경향이 강합니다.

그에 관해서 제임스 바크를 중심으로 마이클 볼튼, 캠 카너 교수, 제리 와인버그와 같은 분들이 이론적으로 형식적으로 꽤 많은 부분을 정비해서 체계적인 기틀을 잡으면서 Rapid Software Testing라는 하나의 테스트 방법론(접근법?)으로 발전하고 있습니다.(이제는 개인적으로 볼때 RST는 더이상 비주류가 아닌 주류로 취급될 정도로 성장했다고 봅니다.)

탐색적 테스팅은 지금은 RST의 수행 방법론 중 하나로 취급됩니다.

어쨌든 이 평가 절하의 궁극적인 모양새가 탐색적 테스팅과 경험을 결부시킨것이 아닌가라는 것이 제 생각입니다.

경험이라는 말의 느낌이 개인의 경험이 강하기 때문입니다.

과연 개인의 경험만으로 테스팅 하는 것이 괜찮은 것일까요?

실제 탐색적 테스팅에서는 개인의 경험만으로 테스팅 하는 것을 경계합니다.

이유는 개인의 경험은 아는 것만 테스트 하는 것이 되기 때문입니다.

자신이 잘 아는 분야 외에는 테스트에 대한 신뢰나 충분함을 설명하지 못합니다.(사실 이 부분이 탐색적 테스팅이 가장 공격받는 부분 중 하나입니다.)

탐색적 테스팅에서 경험, 직관(휴리스틱)은 중요합니다. 이 경험은 테스팅을 시작하는 출발점으로 우리가 테스트로 공략할 지점을 찾아내는 데 아주 유용한 방법중 하나입니다.

하지만 실제적으로 탐색적 테스팅에서 더 강조하는 것은 첫번째는 질문입니다.

우리가 테스팅을 수행한다는 것은 고객의 요구사항과 다른 부분, 고객이 의도한데로 동작하지 않는 부분을 찾는 것이므로 결국은 고객이 원하는 것이 무엇인지, 고객이 실제로 이것을 어떻게 사용하는지에 대한 내용이 매우 중요합니다. 이것을 테스트 오라클이라고 합니다.

문제는 어떤 형태의 문서, 모델, 명세로도 이걸 완벽하게 표현을 못한다는데 있습니다. 하물며 개개인의 경험은 더욱 심각한 문제를 일으킬 수 있습니다.

고로 중요한 것은 실제 고객에게 그걸 물어보는게 가장 좋은 방법입니다.

이러한 질문에는 직관, 경험보다는 비판적인 사고가 더 어울립니다.

두번째는 학습입니다.

모든 것을 한번에 이해할 수는 없습니다. 아무리 작은 제품(예를 들면, 메모장같은)이라도 쓰는 사람, 사용 환경과 정황에 따라 전혀 다르게 동작할 수 있습니다.

그러한 것들 질문과 검증을 통해 지소적으로 학습함으로써 제품과 사용자 그리고 주변 정황에 대한 이해를 높임으로써 테스팅에 대한 완성도와 충분함을 높이는 방법이 탐색적 테스팅의 요체라고 할 수 있습니다.

그런 의미에서 탐색적 테스팅은 애자일 방법론과 꽤 유사한 측면이 많고 애자일 개발조직에서 가장 각광받는 테스팅 방법론이 되었습니다.

고로 저는 더 이상 탐색적 테스팅을 경험 기반 기법이라고 불리는 것에 대해 반대하는 입장입니다.

제 개인적인 생각으로는 탐색적 테스팅을 가장 잘 표현하는 단어는 학습 주도 테스팅이라고 생각합니다.

그리고 여러분의 조직이 탐색적 테스팅을 수행하고 계시다면

디브리핑에 고객이 참여합니까?
제품을 테스트하고 이해가 되지 않는 부분에 대해 물어보고 피드백을 얻을 수 있는 프로세스가 되어 있습니까?
제품을 테스트하면서 얻은 지식(학습한 결과)을 문서화하고 그것을 팀 안에서 공유하고 있습니까?
팀 내의 테스터들이 각자 알고 있는 테스트 방법(테스트 자산)에 대해 가르치고 배우면서 문서화하여 공유하고 계십니까?

위 질문에 모두 예라고 대답하시면 축하드립니다. 여러분의 조직은 적어도 무늬만 탐색적 테스팅을 수행하시는 건 아닙니다.

댓글

이 블로그의 인기 게시물

프로젝트의 3요소 - Project Management

프로젝트는 예산, 일정, 품질 3가지 요소로 이루어진다고 볼 수 있다. 물론 위 3가지 요소 외에도 개발 범위, 팀워크, 자원 조달 등 여러가지 요소들도 고려해 볼 수 있지만, 가장 중요한 요소를 꼽는다면 예산, 일정, 품질일 것이다. 위에서 말한 여러가지 요소들은 프로젝트를 계획하여 완료하는 순간까지 복합적으로 작용해서 프로젝트의 성과를 제한하게 된다. 위의 요소들을 잘 통제한다면 성공적인 프로젝트가 되는 것이고 그렇지 못한다면 실패하거나 사라지게 될 것이다. 프로젝트 관리란 그런 면에서 제한된 자원을 가지고 목적한 바를 제한된 기간내에 최소의 비용으로 완수할 수 있도록 하는 것으로 정의할 수 있을 것이다. 이것을 도식화 한다면 아래와 같은 그림으로 표현할 수 있을 것이다. 위의 그림에 보는 것처럼 일정과 품질, 예산은 우리의 프로젝트가 목적하는 바를 달성하도록 하기 위해 상호 연관되어 작용하게 된다. 우리가 접하게 되는 많은 방법론들의 가정에는 위의 요소들을 어떻게 관리할 것인가에 대한 기본적인 가정들이 설정되어 있다. 조직에서 어떤 특정한 방법론을 도입한다는 것은 그런 가정에 동의하는 것이고 그러한 철학을 받아들인다는 것이기 때문에, 방법론을 채택하기 전에 조직의 근본 문제와 문화에 대해 점검해 볼 필요가 있다. 그리고 위의 요소들 외에 고려해 볼 사항은 위의 요소들은 변동성과 불확실성을 내포하고 있다는 것이다. 특히 비용과 예산, 목적은 프로젝트를 진행하면서 가변할 가능성이 매우 큰 요소들이다. 대부분의 방법론은 이러한 변동성에 대한 안전장치들을 가정해서 세워져 있다. 변동성의 측면에서 위의 요소들을 다시 살펴본다면 아래와 같이 가정할 수 있다. 위의 그림을 일부 해석해 본다면 일정이 늘어난다면 비용은 늘어나게 된다. 범위가 변경되어도 비용은 늘어나게 된다. 범위와 일정은 상호 의존적이 된다. 만약 위 3가지 요소의 변동성을 통제하지 못하게 된다면 프로젝트는

내 인생 첫 차량 구매 후기 - 쉐보레 스파크

다사다난한 2011이 끝나고.. 2012년이 밝았군요.. 머.. 저는 언제나처럼 설날을 기준으로 하기 때문에 별다르게 주변 분들에게 새해 인사를 하거나 그러지는 않았습니다만.. TV고 어디고 간에 새해가 밝았다 하니 그런가 합니다.. 저는 어제 저녁 아내님이 2도 화상을 입으시는 바람에 송구영신 예배나 새해 맞이 예배는 가지도 못했고.. 그냥 한해의 액땜을 제대로 했구나 하고 있습니다. 오늘은 출장 가기 전에 체력 비축하고 있습니다... 아.. 그냥 방에서 뒹굴거리고 있습니다.. 간만에 좀 뒹굴거리는것 같네요.. 어쨌든 새해 첫날 먼가 참신한 글을 써보고 싶었지만.. 소재가 그렇게 뉴턴의 사과처럼 머리로 떨어져주는건 아니니.. 지난 해 진행했던 카드 소팅 결과는 참여하신 분들이나 기다려주시는 분들에게는 죄송하지만 조금만 더 기다려주시면 고맙겠습니다. 그래서 오늘의 소재는 써야지.. 써야지.. 하면서 차일 피일 미루던 제 인생 첫 차량 구매 후기를 올려보겠습니다. 제가 운전을 잘 하거나 차량에 대해 잘 알고 있는 것이 아니기 때문에 그냥 참고만 하시면 되겠습니다. 우선 제가 차량을 구매하게 된 동기는 .. 그렇습니다.. 애들 때문입니다. 자녀가 둘이 되니.. 엄마, 아빠의 팔뚝 힘으로는 더 이상 외출이 힘들어졌습니다. 그래서 차를 구매해야겠다고 무리를 하게 되었습니다만.. 역시 언제나 부족한 것은 총알이죠.. 그래서 당연히 경차로 알아보게 되었습니다. 하지만 아시다시피 우리 나라에 경차는 딱 두가지입니다.(지금은 레이라고 새로 나와서 세가지가 되었지만.. 제가 차를 구매할때는 두 종류였습니다.) 선택이라고 할것도 없죠.. 현대 차는 고객을 개새끼로 아는 현대의 투철한 정신에 절대 사고 싶지 않았고.. 쉐보레는 옛날 대우 생각을 하면 이것도 역시 사고 싶지 않았지만.. 여기 저기 얘기를 들어보니 쉐보레로 변하면서 차 좋아졌다.. 쉐비케어가 진리다.. 라는 얘기에.. 그냥 스파크 구매로 결정했습니다

비츠 스튜디오 버즈 플러스(투명) 사용 후기

제 내자분은 아직도 유선 이어폰을 쓰고 있습니다. 그게 좋다고 하시더라구요. 작년에 혹시나 해서 앤커 사운드코어 라이프Q35를 구매해서 조공해봤지만 결국은 안쓰시더라구요. 그래서 작년 추운 겨울에 제가 귀마게 용으로 잘 사용해왔는데.. 여름이 되니.. 와.. 이건 너무 덥고 무거워서 못쓰겠더라구요. 아이폰도 사고 애플 워치도 샀으니.. 다음은 에어팟인데.... 노이즈 캔슬링이 된다는 에어팟 프로 2는 ... 네... 너무 비싸더라구요... 이건 내자분께 얘기해봐야 결제가 될리가 없어서... 고민하고 있던차에.. 네.. 저는 봐버리고 말았습니다. 비츠 스튜디오 버즈 플러스의 그 영롱한 투명 버전의 자태를... 급 뽐뿌가 왔지만.. 여전히 20만원의 고가더라구요... 초기 출시 시기에 이벤트로 16만원 정도 했던거 같은데.. 그정도 가격이면 선 결제 후 보고 하면 될거 같은데.. 20만원은 너무 너무 비싸서 침만 삼키던 차에.. 당근에 15만원에 올라온 물건을 덥석 물었습니다. 애플 뮤직 6개월 프로모션 코드도 사용하지 않은 따끈따끈한 제품이라서 그냥 질렀습니다. 이상하게 인터넷이 실제 리뷰 게시물을 찾기 힘들어서.. 고민을 잠깐 했지만.. 그 투명하고 영롱한 자태에 그만... 어쨌든 구매하고 한달 정도 사용해본 후기를 간단하게 남겨봅니다. 1. 노이즈 캔슬링은 기대한 것과는 좀 다르고 앤커 사운드코어 라이프Q35 정도 되는 것 같습니다. 노이즈 캔슬링은 활성화하면 이게 소리를 막아준다기보다는 주변의 작은 소음만 제거해준다고 생각하시면 됩니다. 그러니까 옆에서 소근 거리는 소리나 선풍기 바람 소리 같은 작은 소리들이 사라지고 음악 같은 내가 듣고자 하는 소리가 굉장히 뚜렸해지만 지하철 안내 방송 같은 조금 큰 소리는 그냥 들립니다. 그래서 주변음 허용 모드를 켜보면 너무 시끄러워서 안쓰게 되더라구요. 전 에어팟 프로 2를 사용해 본적이 없어서 비교할 수는 없지만.. 아주 못쓸 정도의 성능은 아니라고 생각됩니다. 2. 저는 귓구멍이 너무 작아서 XS 사이즈의 이어팁