기본 콘텐츠로 건너뛰기

결함 심각도에 집착하지 마라.

한 택시회사가 있다.

그 택시회사에는 100명의 운전기사가 있는데 99명은 친절하고 1명은 불친절하다.

한 승객이 그 회사의 택시를 몇번 이용해 보았는데 매번 운전기사들이 너무 친절하여 단골이 되었다.

그러던 어느날 그 승객은 여느때처럼 이 회사의 택시를 불렀는데 하필 불친절한 운전기사의 택시를 타게 되었다.

그리고 그 승객은 다시는 그 택시회사의 택시를 이용하지 않게 되었다.

게다가 주변의 다른 사람들에게 그 회사의 택시가 불친절하다고 소문을 내게 되었다.

근래에 트위터 덕분에 쫄딱 망했다던 냉면가게 사건을 듣다가 생각나는게 있었다.

사람들은 대체로 아무리 긍정적인 경험이 많다고 하더라도 단 한번의 불쾌한 경험을 더 강렬하게 기억하는 경향이 있다.

이 불쾌한 경험은 그 회사 입장에서는 마치 주홍글씨처럼 따라 붙어다니는 족쇠가 되는 경우가 많다.

우리는 아이폰에 열광하는 수많은 사람들의 미사여구를 접하지만 그것보다 더 강렬하게 남아있는 기억은 아이폰 4의 핸드 그립으로 인한 통화 품질 저하인 것처럼 말이다.

이와 유사한 것이 블랙 스완이다.

모든 백조가 하얗다고 생각했지만 단 한마리의 검은 백조만으로 그 모든 가정이 와르르 부서져 버린것처럼..

소프트웨어를 테스트 하면서 이와 같은 일이 발생하는 경우가 심각도에 따라 결함을 처리하는 경우이다.

심각도는 결함에 대한 데이터를 가공할 때 가장 많이 사용되는 매트릭 중 하나이다.

우리는 심각도와 리스크에 따라 결함 수정의 우선순위를 정하기도 하고 심각도가 높은 결함을 더 많이 발견하기 위해 노력을 한다.

하지만 조금만 더 생각해보면 심각도란 무척이나 애매모호한 매트릭 중 하나이다.

심각한 결함과 아주 심각한 결함의 경계는 어디일까? 많은 회사들이 나름의 기준을 가지고 있지만 모두가 납득할 만한 기준이 많지 않다. 그리고 그러한 기준들은 새로운 유형의 결함이 발견될때마다 바뀌고 가이드라인은 점점 더 복잡해진다.

더 큰 문제는 결함에 대한 여러 관점 중 심각도에 조금 더 매진할 때 많은 테스터들은 심각도가 높은 결함을 더 많이 발견하기 위해 노력하게 되고 개발자를 포함한 모든 이해관계자는 심각도가 높은 결함에만 집중하는 경향이 생기게 된다.

이러한 경우 우리가 심각하다고 생각한 결함이 실제로 사용자에게도 심각한 결함이라면 문제가 없지만 만약에 사용자에게는 그 결함이 그다지 심각하지 않은 결함이라면? 문제는 커진다.

우리가 테스트를 하고 결함을 수정하는 과정에서 심각도가 낮다는 이유만으로 수정이 미뤄지고 결국에는 잊혀지는 결함이 생각보다 많다.

출시 일정을 정해 놓고 개발을 하는 우리 나라의 고질적인 개판 개발환경에서 많은 결함들은 수정 우선순위에서 밀려나고 결국 결함을 수정되지 않고 출시되는 경우가 많다.

이러한 경우 핑계는 그 결함은 심각도가 높지 않기 때문에 괜찮다는 것이다.

그리고 그 결함은 유지보수 단계에서도 쉽게 잊혀진다. 유지보수 단계에서도 수정의 우선순위가 높은 결함은 고객들이 회사에 보고하는 결함들 뿐 그렇지 못한 결함들은 정말 쉽게 잊혀지고 고쳐지지 않는다.

그러한 결함 중 어떤 결함은 언젠가는 회사에 아주 큰 손실을 가져다 줄수도 있는데 말이다.

심각도는 분명 아주 유용하고 필요한 매트릭임에는 분명하다.

하지만 테스터라면 결함에 대해 최소한 공평하게 대우를 해줘야 한다.

열손가락을 깨물어 아니 아픈 손가락이 없고 아무리 많은 자식이 있다 한들 누구만 이쁘고 누구는 이쁘지 않은 경우는 없다.

열손가락이라도다 쓰임새가 틀리고 많은 자식들 중에서도 누구는 좀더 이쁘고 누구는 좀더 미울수도 있지만 결국 모두가 소중한 것임에는 변함이 없다.

정해진 시간과 예산에서 효과적이고 효율적으로 소프트웨어를 개발하고 테스트하고 결함을 수정하기 위해서는 객관적인 기준이 필요하고 심각도는 그러한 기준  가장 유용한 기준임에는 분명하지만 결국에는더 중요한 결함과 덜 중요한 결함은 없는 것이다.

모두가 잊는다 하더라도 테스터만은 잊지 않고 해결되지 않은 결함을 일깨워주고 찾아내기 위한 노력을 게을리 하면 안된다고 생각한다.

나는 최소한 테스트를 수행할 때 심각도만 높은 결함을 찾기 위해 애쓰기보다는 좀 더 많은 다양한 결함을 발견하기 위해 애를 쓴다.

결함은 모두 소중하니까...

댓글

이 블로그의 인기 게시물

비츠 스튜디오 버즈 플러스(투명) 사용 후기

제 내자분은 아직도 유선 이어폰을 쓰고 있습니다. 그게 좋다고 하시더라구요. 작년에 혹시나 해서 앤커 사운드코어 라이프Q35를 구매해서 조공해봤지만 결국은 안쓰시더라구요. 그래서 작년 추운 겨울에 제가 귀마게 용으로 잘 사용해왔는데.. 여름이 되니.. 와.. 이건 너무 덥고 무거워서 못쓰겠더라구요. 아이폰도 사고 애플 워치도 샀으니.. 다음은 에어팟인데.... 노이즈 캔슬링이 된다는 에어팟 프로 2는 ... 네... 너무 비싸더라구요... 이건 내자분께 얘기해봐야 결제가 될리가 없어서... 고민하고 있던차에.. 네.. 저는 봐버리고 말았습니다. 비츠 스튜디오 버즈 플러스의 그 영롱한 투명 버전의 자태를... 급 뽐뿌가 왔지만.. 여전히 20만원의 고가더라구요... 초기 출시 시기에 이벤트로 16만원 정도 했던거 같은데.. 그정도 가격이면 선 결제 후 보고 하면 될거 같은데.. 20만원은 너무 너무 비싸서 침만 삼키던 차에.. 당근에 15만원에 올라온 물건을 덥석 물었습니다. 애플 뮤직 6개월 프로모션 코드도 사용하지 않은 따끈따끈한 제품이라서 그냥 질렀습니다. 이상하게 인터넷이 실제 리뷰 게시물을 찾기 힘들어서.. 고민을 잠깐 했지만.. 그 투명하고 영롱한 자태에 그만... 어쨌든 구매하고 한달 정도 사용해본 후기를 간단하게 남겨봅니다. 1. 노이즈 캔슬링은 기대한 것과는 좀 다르고 앤커 사운드코어 라이프Q35 정도 되는 것 같습니다. 노이즈 캔슬링은 활성화하면 이게 소리를 막아준다기보다는 주변의 작은 소음만 제거해준다고 생각하시면 됩니다. 그러니까 옆에서 소근 거리는 소리나 선풍기 바람 소리 같은 작은 소리들이 사라지고 음악 같은 내가 듣고자 하는 소리가 굉장히 뚜렸해지만 지하철 안내 방송 같은 조금 큰 소리는 그냥 들립니다. 그래서 주변음 허용 모드를 켜보면 너무 시끄러워서 안쓰게 되더라구요. 전 에어팟 프로 2를 사용해 본적이 없어서 비교할 수는 없지만.. 아주 못쓸 정도의 성능은 아니라고 생각됩니다. 2. 저는 귓구멍이 너무 작아서 XS 사이즈의 이어팁

테스트 케이스와 체크리스트의 차이가 뭐여?

테스트 실무에서 가장 혼돈되어 사용되는 용어 중 하나가 테스트 케이스와 체크리스트입니다. 많은 경우 체크리스트를 테스트 케이스로 사용하는 경우가 많습니다. 실제로 인터넷 커뮤니티나 블로그, ISO, IEEE, ISTQB 등등을 검색해보시면 테스트 케이스와 체크리스트에 대한 구분이 다 제각각입니다. 각각에 대한 정의가 다 제각각입니다. 사정이 이러하다보니 많은 사람들이 테스트 케이스와 체크리스트를 잘 구분하지 못하고 혼동해서 사용하는 경우가 많습니다. 물과 기름처럼 테스트 케이스와 체크리스트를 정확하게 구분할 수는 없겠지만.. ISTQB를 기준으로 말씀드리면 설계 기법을 통해 도출된 것은 테스트 케이스 그렇지 않은 것은 체크리스트라고 생각하시면 쉽습니다. 예를 들면 아래는 결정 테이블 테스팅 기법을 통해 도출된 테스트 케이스의 예제입니다. 실제 테스트 케이스는 위보다 복잡하겠지만 어쨌든 얘기하고 싶은 것은 위와 같이 설계 기법을 통해서 도출된 것은 테스트 케이스라고 합니다. 그런데 딱 보시면 아시겠지만 실제 테스트에서는 저 정도로는 테스트 커버리지를 충분히 만족했다고 얘기하기 힘듭니다. 그렇습니다. 어떤 분들은 테스트 케이스가 전가의 보도, 은 총알 쯤으로 생각하시는데.. 테스트 케이스는 일종의 마지노 선이라고 보시면 됩니다. 최소한 제품을 테스트 할때 이정도는 해줘야 한다는 최후의 방어선 정도라고 보시면 됩니다. 전쟁에서 최후의 방어선은 물러설 수 없는 마지막 보루입니다. 하지만 최후의 방어선만 지킨다고 전쟁에서 승리할 수는 없습니다. 프랑스는 마지노 요새만 믿고 있다가 독일에게 깔끔하게 발렸던 과거가 있지요. 전쟁에서 승리하려면 앞으로 나가야하고 치밀한 전략과 전술이 뒷받침 되어야 합니다. 더 높은 커버리지를 도달하고, 충분히 좋은 테스트가 수행되려면 테스트 케이스는 기본이 되어야 하고 거기에 더해서 체크리스트가 따라와 줘야 합니다. 이러한 체크리스트는 팀의 경험과 과거 프로젝트의 데이

탐색적 테스팅의 역사

이 글은 James Bach 의 ' Exploratory Testing 3.0 '을 번역한 글입니다. 이번 글은 의미를 전달하는데 무리가 없는 선에서 대부분 의역으로 번역되었습니다. 때문에 잘못 번역된 부분은 댓글로 남겨주시면 수정하도록 하겠습니다.(읽어보시면 시제나 문체가 시시각각으로 변합니다. 감안해서 읽어주시면 고맙겠습니다.) 이 글은 James Bach의 허락을 얻은 후 번역한 글로 다른 곳에 퍼가실때는 반드시 원 출처와 본 블로그를 같이 언급해주시기 바랍니다. ----- [저자 주: 다른 글에서 이미 탐색적 테스팅을 이제는 테스팅으로 불러야 한다는 것을 얘기했다. 사실 Michael은 2009년에 테스트에 대해 얘기했었고, James는 테스터에 대해 얘기했던 것을 2010년에 블로그에 작성했다. Aaron Hodder는 2011년에 직접적으로 언급했고 Paul Gerrard 역시 그러했다.우리는 모든 테스팅은 탐색적이라는 것을 깊이 이해하고 가르쳤지만(여기에 James가 작년에 한 학생과 대화를 나눈 예가 있다.), "탐색적 테스팅"이라는 용어를 더이상 사용하지 않을 준비가 되어 있지 않다. 지금도 우리는 탐색적 테스팅이라는 용어를 사용하지 말아야 한다고 주장하지는 않는다. 다만 테스팅이 탐색을 어느 정도 포함한 스크립트 테스팅을 의미하는 것이 아니라 테스팅이 곧 탐색적 테스팅이라는 것이다.] By James Bach and Michael Bolton 태초에 테스팅이 있었다. 아무도 탐색과 스크립트 테스팅을 구별하지 못했다. Jerry Weinberg는 1961년 Computer Programming Fundamentals에서 테스팅의 형식화(formalizing)에 주의를 표명하고 테스팅은 본질적으로 탐색이라고 설명했다. 그는 책에서 "프로그래머의 의도에 대한 많은 정보 없이 프로그램과 프로그래머의 의도가 얼마나 일치하는지 기계적으로 검사하는 것은 어렵다. 만약 검사를 위해 컴퓨터에 간단