제가 얼마전 탐색적 테스팅 교육을 재개정을 했습니다.
5년전인가? 6년전인가? 제임스 바크가 국내에 와서 Rapid Software Testing 교육을 진행했었고(이번 STAREAST에서 바크와 그때 얘기를 잠깐 했습니다. 바크는 한국에서 초대만 해준다면 다시 한번 한국에 꼭 방문하고 싶다고 하더군요.. 어쩌면 자기가 중국에 갈때 들릴 수도 있을 거라고.. 최근 중국에서 바크를 자주 부른다고 합니다.) 이후에 제가 근무하는 회사에서 탐색적 테스팅에 관한 교육을 꾸준하게 진행을 했었는데.. 저는 이런저런 이유로 참석하지 않다 올해 해당 교육과정을 전면적으로 뜯어 고쳤습니다.
그러면서 지난 자료를 다시 한번 검토하고 STAREAST까지 가서 바크의 세션도 듣고 얘기도 나누고 그동안 바크나 마이클 볼튼과 나누었던 트윗도 정리하면서 나름 정리한 제 생각을 몇자 적어볼까 합니다.
아직 완전하게 정리된 상태는 아니기 때문에 논리적으로 취약한 부분은 댓글로 말씀해주시면 같이 얘기를 나눠볼 수 있을 것 같습니다.(꼭 댓글이 아니어도 각종 SNS로 저에게 말을 걸어주셔도 됩니다.)
국내에서 탐색적 테스팅을 하고 있다고 말하는 조직이 꽤 많습니다.
여러 이유로 탐색적 테스팅은 국내에서 꽤 인기가 있는 기법, 방법론 중 하나입니다.
하지만 제 경험상 단언컨데 국내에서 탐색적 테스팅을 제대로 수행하는 조직은 한번도 본적이 없습니다.
형태적으로는 꽤 근접한 경우가 많지만 핵심적인 내용들이 결여된 경우가 꽤 있습니다.
예를 들면 문서가 없어도 테스팅을 할 수 있다거나 문서를 안만들어도 된다거나(웅?) 경험 많은 테스터가 수행하는 테스트라고 생각하거나 테스트 아이디어와 결함 갯수 같은 메트릭을 측정하는 경우 등등 꽤 많은 오해와 잘못된 사례들이 있습니다.
그 중에서 제가 이번에 얘기하고자 하는 것은 경험이라는 부분입니다.
ISTQB Foundation Level에 보면 경험기반기법에 탐색적 테스팅이 소개되어 있습니다.
아마 탐색적 테스팅과 경험이 결부되기 시작한 것이 이 ISTQB가 진원지가 아닌가 싶습니다. 이와 관련되서 트위터나 기타 등등 찾아보시면 꽤 많은 논쟁을 볼 수 있습니다.
그리고 Advanced Level에서도 탐색적 테스팅은 역시 경험기반 기법에 소개가 되어 있습니다.
그런데 막상 ISO/IEC 29119의 설계 기법 표준에는 탐색적 테스팅에 대한 언급이 없습니다.(사실 탐색적 테스팅이 표준 문서에 포함될 수 있을지는 저도 의문입니다. 이와 관련된 논쟁도 꽤 뜨겁습니다.)
대체로 분위기를 보면 기존의 전통적인 테스팅에서 탐색적 테스팅은 평가 절하되거나 변두리 취급을 받는 경향이 강합니다.
그에 관해서 제임스 바크를 중심으로 마이클 볼튼, 캠 카너 교수, 제리 와인버그와 같은 분들이 이론적으로 형식적으로 꽤 많은 부분을 정비해서 체계적인 기틀을 잡으면서 Rapid Software Testing라는 하나의 테스트 방법론(접근법?)으로 발전하고 있습니다.(이제는 개인적으로 볼때 RST는 더이상 비주류가 아닌 주류로 취급될 정도로 성장했다고 봅니다.)
탐색적 테스팅은 지금은 RST의 수행 방법론 중 하나로 취급됩니다.
어쨌든 이 평가 절하의 궁극적인 모양새가 탐색적 테스팅과 경험을 결부시킨것이 아닌가라는 것이 제 생각입니다.
경험이라는 말의 느낌이 개인의 경험이 강하기 때문입니다.
과연 개인의 경험만으로 테스팅 하는 것이 괜찮은 것일까요?
실제 탐색적 테스팅에서는 개인의 경험만으로 테스팅 하는 것을 경계합니다.
이유는 개인의 경험은 아는 것만 테스트 하는 것이 되기 때문입니다.
자신이 잘 아는 분야 외에는 테스트에 대한 신뢰나 충분함을 설명하지 못합니다.(사실 이 부분이 탐색적 테스팅이 가장 공격받는 부분 중 하나입니다.)
탐색적 테스팅에서 경험, 직관(휴리스틱)은 중요합니다. 이 경험은 테스팅을 시작하는 출발점으로 우리가 테스트로 공략할 지점을 찾아내는 데 아주 유용한 방법중 하나입니다.
하지만 실제적으로 탐색적 테스팅에서 더 강조하는 것은 첫번째는 질문입니다.
우리가 테스팅을 수행한다는 것은 고객의 요구사항과 다른 부분, 고객이 의도한데로 동작하지 않는 부분을 찾는 것이므로 결국은 고객이 원하는 것이 무엇인지, 고객이 실제로 이것을 어떻게 사용하는지에 대한 내용이 매우 중요합니다. 이것을 테스트 오라클이라고 합니다.
문제는 어떤 형태의 문서, 모델, 명세로도 이걸 완벽하게 표현을 못한다는데 있습니다. 하물며 개개인의 경험은 더욱 심각한 문제를 일으킬 수 있습니다.
고로 중요한 것은 실제 고객에게 그걸 물어보는게 가장 좋은 방법입니다.
이러한 질문에는 직관, 경험보다는 비판적인 사고가 더 어울립니다.
두번째는 학습입니다.
모든 것을 한번에 이해할 수는 없습니다. 아무리 작은 제품(예를 들면, 메모장같은)이라도 쓰는 사람, 사용 환경과 정황에 따라 전혀 다르게 동작할 수 있습니다.
그러한 것들 질문과 검증을 통해 지소적으로 학습함으로써 제품과 사용자 그리고 주변 정황에 대한 이해를 높임으로써 테스팅에 대한 완성도와 충분함을 높이는 방법이 탐색적 테스팅의 요체라고 할 수 있습니다.
그런 의미에서 탐색적 테스팅은 애자일 방법론과 꽤 유사한 측면이 많고 애자일 개발조직에서 가장 각광받는 테스팅 방법론이 되었습니다.
고로 저는 더 이상 탐색적 테스팅을 경험 기반 기법이라고 불리는 것에 대해 반대하는 입장입니다.
제 개인적인 생각으로는 탐색적 테스팅을 가장 잘 표현하는 단어는 학습 주도 테스팅이라고 생각합니다.
그리고 여러분의 조직이 탐색적 테스팅을 수행하고 계시다면
디브리핑에 고객이 참여합니까?
제품을 테스트하고 이해가 되지 않는 부분에 대해 물어보고 피드백을 얻을 수 있는 프로세스가 되어 있습니까?
제품을 테스트하면서 얻은 지식(학습한 결과)을 문서화하고 그것을 팀 안에서 공유하고 있습니까?
팀 내의 테스터들이 각자 알고 있는 테스트 방법(테스트 자산)에 대해 가르치고 배우면서 문서화하여 공유하고 계십니까?
위 질문에 모두 예라고 대답하시면 축하드립니다. 여러분의 조직은 적어도 무늬만 탐색적 테스팅을 수행하시는 건 아닙니다.
5년전인가? 6년전인가? 제임스 바크가 국내에 와서 Rapid Software Testing 교육을 진행했었고(이번 STAREAST에서 바크와 그때 얘기를 잠깐 했습니다. 바크는 한국에서 초대만 해준다면 다시 한번 한국에 꼭 방문하고 싶다고 하더군요.. 어쩌면 자기가 중국에 갈때 들릴 수도 있을 거라고.. 최근 중국에서 바크를 자주 부른다고 합니다.) 이후에 제가 근무하는 회사에서 탐색적 테스팅에 관한 교육을 꾸준하게 진행을 했었는데.. 저는 이런저런 이유로 참석하지 않다 올해 해당 교육과정을 전면적으로 뜯어 고쳤습니다.
그러면서 지난 자료를 다시 한번 검토하고 STAREAST까지 가서 바크의 세션도 듣고 얘기도 나누고 그동안 바크나 마이클 볼튼과 나누었던 트윗도 정리하면서 나름 정리한 제 생각을 몇자 적어볼까 합니다.
아직 완전하게 정리된 상태는 아니기 때문에 논리적으로 취약한 부분은 댓글로 말씀해주시면 같이 얘기를 나눠볼 수 있을 것 같습니다.(꼭 댓글이 아니어도 각종 SNS로 저에게 말을 걸어주셔도 됩니다.)
국내에서 탐색적 테스팅을 하고 있다고 말하는 조직이 꽤 많습니다.
여러 이유로 탐색적 테스팅은 국내에서 꽤 인기가 있는 기법, 방법론 중 하나입니다.
하지만 제 경험상 단언컨데 국내에서 탐색적 테스팅을 제대로 수행하는 조직은 한번도 본적이 없습니다.
형태적으로는 꽤 근접한 경우가 많지만 핵심적인 내용들이 결여된 경우가 꽤 있습니다.
예를 들면 문서가 없어도 테스팅을 할 수 있다거나 문서를 안만들어도 된다거나(웅?) 경험 많은 테스터가 수행하는 테스트라고 생각하거나 테스트 아이디어와 결함 갯수 같은 메트릭을 측정하는 경우 등등 꽤 많은 오해와 잘못된 사례들이 있습니다.
그 중에서 제가 이번에 얘기하고자 하는 것은 경험이라는 부분입니다.
ISTQB Foundation Level에 보면 경험기반기법에 탐색적 테스팅이 소개되어 있습니다.
아마 탐색적 테스팅과 경험이 결부되기 시작한 것이 이 ISTQB가 진원지가 아닌가 싶습니다. 이와 관련되서 트위터나 기타 등등 찾아보시면 꽤 많은 논쟁을 볼 수 있습니다.
그리고 Advanced Level에서도 탐색적 테스팅은 역시 경험기반 기법에 소개가 되어 있습니다.
그런데 막상 ISO/IEC 29119의 설계 기법 표준에는 탐색적 테스팅에 대한 언급이 없습니다.(사실 탐색적 테스팅이 표준 문서에 포함될 수 있을지는 저도 의문입니다. 이와 관련된 논쟁도 꽤 뜨겁습니다.)
대체로 분위기를 보면 기존의 전통적인 테스팅에서 탐색적 테스팅은 평가 절하되거나 변두리 취급을 받는 경향이 강합니다.
그에 관해서 제임스 바크를 중심으로 마이클 볼튼, 캠 카너 교수, 제리 와인버그와 같은 분들이 이론적으로 형식적으로 꽤 많은 부분을 정비해서 체계적인 기틀을 잡으면서 Rapid Software Testing라는 하나의 테스트 방법론(접근법?)으로 발전하고 있습니다.(이제는 개인적으로 볼때 RST는 더이상 비주류가 아닌 주류로 취급될 정도로 성장했다고 봅니다.)
탐색적 테스팅은 지금은 RST의 수행 방법론 중 하나로 취급됩니다.
어쨌든 이 평가 절하의 궁극적인 모양새가 탐색적 테스팅과 경험을 결부시킨것이 아닌가라는 것이 제 생각입니다.
경험이라는 말의 느낌이 개인의 경험이 강하기 때문입니다.
과연 개인의 경험만으로 테스팅 하는 것이 괜찮은 것일까요?
실제 탐색적 테스팅에서는 개인의 경험만으로 테스팅 하는 것을 경계합니다.
이유는 개인의 경험은 아는 것만 테스트 하는 것이 되기 때문입니다.
자신이 잘 아는 분야 외에는 테스트에 대한 신뢰나 충분함을 설명하지 못합니다.(사실 이 부분이 탐색적 테스팅이 가장 공격받는 부분 중 하나입니다.)
탐색적 테스팅에서 경험, 직관(휴리스틱)은 중요합니다. 이 경험은 테스팅을 시작하는 출발점으로 우리가 테스트로 공략할 지점을 찾아내는 데 아주 유용한 방법중 하나입니다.
하지만 실제적으로 탐색적 테스팅에서 더 강조하는 것은 첫번째는 질문입니다.
우리가 테스팅을 수행한다는 것은 고객의 요구사항과 다른 부분, 고객이 의도한데로 동작하지 않는 부분을 찾는 것이므로 결국은 고객이 원하는 것이 무엇인지, 고객이 실제로 이것을 어떻게 사용하는지에 대한 내용이 매우 중요합니다. 이것을 테스트 오라클이라고 합니다.
문제는 어떤 형태의 문서, 모델, 명세로도 이걸 완벽하게 표현을 못한다는데 있습니다. 하물며 개개인의 경험은 더욱 심각한 문제를 일으킬 수 있습니다.
고로 중요한 것은 실제 고객에게 그걸 물어보는게 가장 좋은 방법입니다.
이러한 질문에는 직관, 경험보다는 비판적인 사고가 더 어울립니다.
두번째는 학습입니다.
모든 것을 한번에 이해할 수는 없습니다. 아무리 작은 제품(예를 들면, 메모장같은)이라도 쓰는 사람, 사용 환경과 정황에 따라 전혀 다르게 동작할 수 있습니다.
그러한 것들 질문과 검증을 통해 지소적으로 학습함으로써 제품과 사용자 그리고 주변 정황에 대한 이해를 높임으로써 테스팅에 대한 완성도와 충분함을 높이는 방법이 탐색적 테스팅의 요체라고 할 수 있습니다.
그런 의미에서 탐색적 테스팅은 애자일 방법론과 꽤 유사한 측면이 많고 애자일 개발조직에서 가장 각광받는 테스팅 방법론이 되었습니다.
고로 저는 더 이상 탐색적 테스팅을 경험 기반 기법이라고 불리는 것에 대해 반대하는 입장입니다.
제 개인적인 생각으로는 탐색적 테스팅을 가장 잘 표현하는 단어는 학습 주도 테스팅이라고 생각합니다.
그리고 여러분의 조직이 탐색적 테스팅을 수행하고 계시다면
디브리핑에 고객이 참여합니까?
제품을 테스트하고 이해가 되지 않는 부분에 대해 물어보고 피드백을 얻을 수 있는 프로세스가 되어 있습니까?
제품을 테스트하면서 얻은 지식(학습한 결과)을 문서화하고 그것을 팀 안에서 공유하고 있습니까?
팀 내의 테스터들이 각자 알고 있는 테스트 방법(테스트 자산)에 대해 가르치고 배우면서 문서화하여 공유하고 계십니까?
위 질문에 모두 예라고 대답하시면 축하드립니다. 여러분의 조직은 적어도 무늬만 탐색적 테스팅을 수행하시는 건 아닙니다.
댓글
댓글 쓰기