기본 콘텐츠로 건너뛰기

탐색적 테스팅은 경험기반기법이 아닌 학습주도테스팅이다.(Explorer Testing is Learning-driven Testing)

제가 얼마전 탐색적 테스팅 교육을 재개정을 했습니다.

5년전인가? 6년전인가? 제임스 바크가 국내에 와서 Rapid Software Testing 교육을 진행했었고(이번 STAREAST에서 바크와 그때 얘기를 잠깐 했습니다. 바크는 한국에서 초대만 해준다면 다시 한번 한국에 꼭 방문하고 싶다고 하더군요.. 어쩌면 자기가 중국에 갈때 들릴 수도 있을 거라고.. 최근 중국에서 바크를 자주 부른다고 합니다.) 이후에 제가 근무하는 회사에서 탐색적 테스팅에 관한 교육을 꾸준하게 진행을 했었는데.. 저는 이런저런 이유로 참석하지 않다 올해 해당 교육과정을 전면적으로 뜯어 고쳤습니다.

그러면서 지난 자료를 다시 한번 검토하고 STAREAST까지 가서 바크의 세션도 듣고 얘기도 나누고 그동안 바크나 마이클 볼튼과 나누었던 트윗도 정리하면서 나름 정리한 제 생각을 몇자 적어볼까 합니다.

아직 완전하게 정리된 상태는 아니기 때문에 논리적으로 취약한 부분은 댓글로 말씀해주시면 같이 얘기를 나눠볼 수 있을 것 같습니다.(꼭 댓글이 아니어도 각종 SNS로 저에게 말을 걸어주셔도 됩니다.)

국내에서 탐색적 테스팅을 하고 있다고 말하는 조직이 꽤 많습니다.

여러 이유로 탐색적 테스팅은 국내에서 꽤 인기가 있는 기법, 방법론 중 하나입니다.

하지만 제 경험상 단언컨데 국내에서 탐색적 테스팅을 제대로 수행하는 조직은 한번도 본적이 없습니다.

형태적으로는 꽤 근접한 경우가 많지만 핵심적인 내용들이 결여된 경우가 꽤 있습니다.

예를 들면 문서가 없어도 테스팅을 할 수 있다거나 문서를 안만들어도 된다거나(웅?) 경험 많은 테스터가 수행하는 테스트라고 생각하거나 테스트 아이디어와 결함 갯수 같은 메트릭을 측정하는 경우 등등 꽤 많은 오해와 잘못된 사례들이 있습니다.

그 중에서 제가 이번에 얘기하고자 하는 것은 경험이라는 부분입니다.

ISTQB Foundation Level에 보면 경험기반기법에 탐색적 테스팅이 소개되어 있습니다.

아마 탐색적 테스팅과 경험이 결부되기 시작한 것이 이 ISTQB가 진원지가 아닌가 싶습니다. 이와 관련되서 트위터나 기타 등등 찾아보시면 꽤 많은 논쟁을 볼 수 있습니다.

그리고 Advanced Level에서도 탐색적 테스팅은 역시 경험기반 기법에 소개가 되어 있습니다.

그런데 막상 ISO/IEC 29119의 설계 기법 표준에는 탐색적 테스팅에 대한 언급이 없습니다.(사실 탐색적 테스팅이 표준 문서에 포함될 수 있을지는 저도 의문입니다. 이와 관련된 논쟁도 꽤 뜨겁습니다.)

대체로 분위기를 보면 기존의 전통적인 테스팅에서 탐색적 테스팅은 평가 절하되거나 변두리 취급을 받는 경향이 강합니다.

그에 관해서 제임스 바크를 중심으로 마이클 볼튼, 캠 카너 교수, 제리 와인버그와 같은 분들이 이론적으로 형식적으로 꽤 많은 부분을 정비해서 체계적인 기틀을 잡으면서 Rapid Software Testing라는 하나의 테스트 방법론(접근법?)으로 발전하고 있습니다.(이제는 개인적으로 볼때 RST는 더이상 비주류가 아닌 주류로 취급될 정도로 성장했다고 봅니다.)

탐색적 테스팅은 지금은 RST의 수행 방법론 중 하나로 취급됩니다.

어쨌든 이 평가 절하의 궁극적인 모양새가 탐색적 테스팅과 경험을 결부시킨것이 아닌가라는 것이 제 생각입니다.

경험이라는 말의 느낌이 개인의 경험이 강하기 때문입니다.

과연 개인의 경험만으로 테스팅 하는 것이 괜찮은 것일까요?

실제 탐색적 테스팅에서는 개인의 경험만으로 테스팅 하는 것을 경계합니다.

이유는 개인의 경험은 아는 것만 테스트 하는 것이 되기 때문입니다.

자신이 잘 아는 분야 외에는 테스트에 대한 신뢰나 충분함을 설명하지 못합니다.(사실 이 부분이 탐색적 테스팅이 가장 공격받는 부분 중 하나입니다.)

탐색적 테스팅에서 경험, 직관(휴리스틱)은 중요합니다. 이 경험은 테스팅을 시작하는 출발점으로 우리가 테스트로 공략할 지점을 찾아내는 데 아주 유용한 방법중 하나입니다.

하지만 실제적으로 탐색적 테스팅에서 더 강조하는 것은 첫번째는 질문입니다.

우리가 테스팅을 수행한다는 것은 고객의 요구사항과 다른 부분, 고객이 의도한데로 동작하지 않는 부분을 찾는 것이므로 결국은 고객이 원하는 것이 무엇인지, 고객이 실제로 이것을 어떻게 사용하는지에 대한 내용이 매우 중요합니다. 이것을 테스트 오라클이라고 합니다.

문제는 어떤 형태의 문서, 모델, 명세로도 이걸 완벽하게 표현을 못한다는데 있습니다. 하물며 개개인의 경험은 더욱 심각한 문제를 일으킬 수 있습니다.

고로 중요한 것은 실제 고객에게 그걸 물어보는게 가장 좋은 방법입니다.

이러한 질문에는 직관, 경험보다는 비판적인 사고가 더 어울립니다.

두번째는 학습입니다.

모든 것을 한번에 이해할 수는 없습니다. 아무리 작은 제품(예를 들면, 메모장같은)이라도 쓰는 사람, 사용 환경과 정황에 따라 전혀 다르게 동작할 수 있습니다.

그러한 것들 질문과 검증을 통해 지소적으로 학습함으로써 제품과 사용자 그리고 주변 정황에 대한 이해를 높임으로써 테스팅에 대한 완성도와 충분함을 높이는 방법이 탐색적 테스팅의 요체라고 할 수 있습니다.

그런 의미에서 탐색적 테스팅은 애자일 방법론과 꽤 유사한 측면이 많고 애자일 개발조직에서 가장 각광받는 테스팅 방법론이 되었습니다.

고로 저는 더 이상 탐색적 테스팅을 경험 기반 기법이라고 불리는 것에 대해 반대하는 입장입니다.

제 개인적인 생각으로는 탐색적 테스팅을 가장 잘 표현하는 단어는 학습 주도 테스팅이라고 생각합니다.

그리고 여러분의 조직이 탐색적 테스팅을 수행하고 계시다면

디브리핑에 고객이 참여합니까?
제품을 테스트하고 이해가 되지 않는 부분에 대해 물어보고 피드백을 얻을 수 있는 프로세스가 되어 있습니까?
제품을 테스트하면서 얻은 지식(학습한 결과)을 문서화하고 그것을 팀 안에서 공유하고 있습니까?
팀 내의 테스터들이 각자 알고 있는 테스트 방법(테스트 자산)에 대해 가르치고 배우면서 문서화하여 공유하고 계십니까?

위 질문에 모두 예라고 대답하시면 축하드립니다. 여러분의 조직은 적어도 무늬만 탐색적 테스팅을 수행하시는 건 아닙니다.

댓글

이 블로그의 인기 게시물

스위치봇 & 스위치봇 허브 미니 간단 사용기

제 블로그에 예전부터 오셨던 분들은 제가 사브작 사브작 홈 오토메이션을 어설프게 해온 것을 아실겁니다. 작년부터 너무 하고 싶었던 도어락 자동화에 도전해봤습니다. 우리 나라에 자체 서비스로 앱을 통해 도어락을 제어하는 제품은 꽤 있습니다. 게이트맨도 있고, 키위도 있고, 삼성도 있죠.. 그런데.. 전 그것보다 구글 어시스턴트를 지원하는 도어락이 필요했는데... 그런건 안만들더라구요.. 꼭 필요한건 아니지만 웬지 해보고 싶은데... 언제 제품이 출시될지도 몰라서.. 가능한 방법을 찾아보다가.. 스위치봇이라는 제품으로 도어락을 버튼을 꾹 누르는 방법을 찾아서 스위치봇이 직구가 아닌 국내에 출시되었길래 낼름 구매해서 도전해봤습니다. 스위치봇 제품에 대한 내용이나 구매는  https://www.wakers.shop/  에서 하시면 됩니다. 저는 스위치봇에 스위치봇을 구글 홈에 연결시키기 위해 스위치봇 허브 미니까지 구매했습니다. 스위치봇 허브 미니가 없으면 스위치봇을 외부에서 제어하거나 구글 홈에 연결할 수 없습니다. 그리고 제가 스위치봇 허브 미니를 구매한 이유 중 다른 하나는 이 제품이 RF 리모컨 기능이 지원됩니다. 집에 있는 모니터를 제어할 필요가 있어서 이참 저참으로 같이 구매했습니다. 제품 등록은 어렵지 않습니다. 여기서는 스위치봇 허브 미니에 RF 리모컨을 등록해서 구글 어시스턴트로 제어하는 방법을 소개해드릴까 합니다. 제가 스위치봇 허브 미니로 모니터를 제어하고 싶었던 부분은 컴퓨터에서 크롬캐스트로 외부 입력을 때에 따라 바꿔야 하는데.. 그때마다 리모컨을 찾는게 너무 불편해서였습니다.  어차피 리모컨은 외부 입력 바꿀 때 빼고는 쓸 일도 없는지라.. 매번 어디로 사라지면 정말 불편해서 이걸 자동화 하고 싶었습니다. 그런데, 처음에 스위치봇 허브 미니를 등록하고 여기에 리모컨을 등록하니.. 구글 홈에 등록된 리모컨이 자동으로 등록이 됩니다. 그런데, 등록된걸 확인해보니 전원 On/Off만 제어되는 것이고, 나머지 버튼은 구글 홈으로 제어가 안되어서..

테스트 케이스와 체크리스트의 차이가 뭐여?

테스트 실무에서 가장 혼돈되어 사용되는 용어 중 하나가 테스트 케이스와 체크리스트입니다. 많은 경우 체크리스트를 테스트 케이스로 사용하는 경우가 많습니다. 실제로 인터넷 커뮤니티나 블로그, ISO, IEEE, ISTQB 등등을 검색해보시면 테스트 케이스와 체크리스트에 대한 구분이 다 제각각입니다. 각각에 대한 정의가 다 제각각입니다. 사정이 이러하다보니 많은 사람들이 테스트 케이스와 체크리스트를 잘 구분하지 못하고 혼동해서 사용하는 경우가 많습니다. 물과 기름처럼 테스트 케이스와 체크리스트를 정확하게 구분할 수는 없겠지만.. ISTQB를 기준으로 말씀드리면 설계 기법을 통해 도출된 것은 테스트 케이스 그렇지 않은 것은 체크리스트라고 생각하시면 쉽습니다. 예를 들면 아래는 결정 테이블 테스팅 기법을 통해 도출된 테스트 케이스의 예제입니다. 실제 테스트 케이스는 위보다 복잡하겠지만 어쨌든 얘기하고 싶은 것은 위와 같이 설계 기법을 통해서 도출된 것은 테스트 케이스라고 합니다. 그런데 딱 보시면 아시겠지만 실제 테스트에서는 저 정도로는 테스트 커버리지를 충분히 만족했다고 얘기하기 힘듭니다. 그렇습니다. 어떤 분들은 테스트 케이스가 전가의 보도, 은 총알 쯤으로 생각하시는데.. 테스트 케이스는 일종의 마지노 선이라고 보시면 됩니다. 최소한 제품을 테스트 할때 이정도는 해줘야 한다는 최후의 방어선 정도라고 보시면 됩니다. 전쟁에서 최후의 방어선은 물러설 수 없는 마지막 보루입니다. 하지만 최후의 방어선만 지킨다고 전쟁에서 승리할 수는 없습니다. 프랑스는 마지노 요새만 믿고 있다가 독일에게 깔끔하게 발렸던 과거가 있지요. 전쟁에서 승리하려면 앞으로 나가야하고 치밀한 전략과 전술이 뒷받침 되어야 합니다. 더 높은 커버리지를 도달하고, 충분히 좋은 테스트가 수행되려면 테스트 케이스는 기본이 되어야 하고 거기에 더해서 체크리스트가 따라와 줘야 합니다. 이러한 체크리스트는 팀의 경험과 과거 프로젝트의 데이

프로젝트의 3요소 - Project Management

프로젝트는 예산, 일정, 품질 3가지 요소로 이루어진다고 볼 수 있다. 물론 위 3가지 요소 외에도 개발 범위, 팀워크, 자원 조달 등 여러가지 요소들도 고려해 볼 수 있지만, 가장 중요한 요소를 꼽는다면 예산, 일정, 품질일 것이다. 위에서 말한 여러가지 요소들은 프로젝트를 계획하여 완료하는 순간까지 복합적으로 작용해서 프로젝트의 성과를 제한하게 된다. 위의 요소들을 잘 통제한다면 성공적인 프로젝트가 되는 것이고 그렇지 못한다면 실패하거나 사라지게 될 것이다. 프로젝트 관리란 그런 면에서 제한된 자원을 가지고 목적한 바를 제한된 기간내에 최소의 비용으로 완수할 수 있도록 하는 것으로 정의할 수 있을 것이다. 이것을 도식화 한다면 아래와 같은 그림으로 표현할 수 있을 것이다. 위의 그림에 보는 것처럼 일정과 품질, 예산은 우리의 프로젝트가 목적하는 바를 달성하도록 하기 위해 상호 연관되어 작용하게 된다. 우리가 접하게 되는 많은 방법론들의 가정에는 위의 요소들을 어떻게 관리할 것인가에 대한 기본적인 가정들이 설정되어 있다. 조직에서 어떤 특정한 방법론을 도입한다는 것은 그런 가정에 동의하는 것이고 그러한 철학을 받아들인다는 것이기 때문에, 방법론을 채택하기 전에 조직의 근본 문제와 문화에 대해 점검해 볼 필요가 있다. 그리고 위의 요소들 외에 고려해 볼 사항은 위의 요소들은 변동성과 불확실성을 내포하고 있다는 것이다. 특히 비용과 예산, 목적은 프로젝트를 진행하면서 가변할 가능성이 매우 큰 요소들이다. 대부분의 방법론은 이러한 변동성에 대한 안전장치들을 가정해서 세워져 있다. 변동성의 측면에서 위의 요소들을 다시 살펴본다면 아래와 같이 가정할 수 있다. 위의 그림을 일부 해석해 본다면 일정이 늘어난다면 비용은 늘어나게 된다. 범위가 변경되어도 비용은 늘어나게 된다. 범위와 일정은 상호 의존적이 된다. 만약 위 3가지 요소의 변동성을 통제하지 못하게 된다면 프로젝트는