기본 콘텐츠로 건너뛰기

테스트 케이스 딜레마

소프트웨어 테스트를 하면서 제일 어려운 것이 무엇일까요?

이 질문보다 어리석은 질문이 또 있을까? 싶군요.

사실 테스트를 수행하는 것 자체가 어렵고 그와 관련된 모든 것들이 어느 하나 쉬운 것이 없는것이 현실입니다.

저는 그 중에서 테스트 케이스에 대한 이야기를 하려고 합니다.

소프트웨어 테스트는 계획 분석/설계 수행 리포팅 마감활동의 순서로 진행되지만 실상 현업에서 가장 주된 단계는 대체로 수행 쪽입니다.

그런데 테스트를 수행하려면 어디서부터 어디까지 어느 정도의 강도록 어쩐 절차를 거쳐서 수행을 해야하는지에 대한 정의가 필요합니다.

이 정의를 담고 있는 문서가 바로 테스트 케이스라고 할 수 있습니다.

그런데, 이 테스트 케이스는 만드는 것부터가 참 쉽지 않습니다.

우선 결함의 판단 기준이 되고 테스트 케이스 작성의 소스가 되는 테스트 베이시스가 없거나 취득하기 어려운 경우가 태반입니다.

다음으로는 테스트 케이스를 만드는 법을 모르는 경우가 부지기 수입니다. 물론 경험적으로 동등분할, 경계값 분석같은 간단한 기법들은 아시는 분들이 많지만 체계적으로 테스트 베이시스나 제품을 분석해서 테스트 케이스를 도출하는 설계 기법에 대해서 알고 있거나 현업에 적용하고 계신 분들이 중소기업을 기준으로 본다면 많지 않습니다.

그러다보니 어쩌다 만든 테스트 케이스도 도무지 확신이 없습니다.

그리고 이제 막 테스트 설계 기법을 배우신 분들이 가장 많이 하시는 실수 중 하나는 설계 기법을 은총알로 생각하신다는 점입니다.

그런데.. 사실 테스트 케이스로 테스트의 충분함을 논하는거 자체가 우스울 정도로 테스트 케이스를 잘 만들어서 수행하는것만으로 테스트가 충분하다고 말할 수가 없다는게 또 현실입니다.

그리고 테스트 케이스를 설계 기법을 적용하여 제대로 만들면 테스트 분량이 줄어드느냐? 절대 아니죠. 일반적으로 테스트 분량이 정말 눈물 쏙 나도록 늘어납니다.

그러다보니 현업에서는 그냥 옛날에 하던 테스트 방법이 더 좋았어.. 라며 테스트 설계 기법 적용을 포기하는 경우도 생깁니다.

또한 실무에서 테스트 케이스를 잘 안만들게 되는 경우는 유지보수가 정말 육두문자가 튀어나올정도로 쉽지 않다는 점입니다.

자.. 이쯤에서 제가 말하고자하는 테스트 케이스 딜레마는 아래와 같습니다.

1. 뽀대나게 테스트를 하려면 테스트 설계 기법으로 테스트 케이스를 만들고 싶은데.. 설계 기법이 먼가요?

2. 테스트는 얼마나 하면 충분한건가요? 이거 기준이 먼가요?

3. 설계 기법으로 테스트 케이스를 만들면 테스트 케이스가 줄어든다고 하던데.. 뻥이었나봐요.. 오히려 늘어나서 죽을거 같아요.

4. 테스트 케이스를 친절하게 상세하게 만들었더니 유지보수 하려니 미칠거 같아요.

5. 테스트 케이스를 안만들고 테스트 하려니 테스트에 확신은 안생기고 만들어서 하려니 시간이 허락하지를 않아요. 우리 회사는 분석이나 설계는 고려해주지 않아요.

6. 테스트 케이스 그거 꼭 만들어야 하나요? 그거 안만들고 테스트 해도 결함 잘 발견되고 제품 출시해서 큰 문제 없었는데요.

이외에도 현업에서는 테스트 케이스에 대한 여러 의견과 논란이 있습니다.

여러분은 이러한 문제들, 딜레마에 대해 어떤 해법을 가지고 계신가요?

저는 대체로 테스트 케이스를 문서화하지 않는 편입니다.

만들지 않는 것이 아니라 인터넷에 떠도는 그런 흔한 형식의 테스트 케이스를 잘 만들지 않습니다.

왜냐하면 사전 조건, 진행 절차, 기대결과, 실제 결과 등등 여러 필드로 구성된 엑셀이나 테스트 링크와 같은 도구를 사용하여 작성된 표 형식의 테스트 케이스는 대체로 보기가 힘들고 전체를 파악하기가 쉽지 않습니다.

유지보수도 어렵습니다.

그래서 저는 대체로 그림을 그리는 편입니다. 그리고 상세한 테스트 케이스는 결함보고서에 집어 넣습니다.

그리고 체크리스트를 많이 활용합니다.

벽 한쪽에 커다란 전지를 붙이고 전체 기능들과 테스트 데이터, 사전 조건등을 깨알같이 그려놓고 한쪽부터 차근 테스트를 하면서 지워나가는 방식을 선호합니다.

설계기법 추종론자들은 그래서 저를 별로 좋아하지 않습니다.

특히 문서화가 잘 되지 않아서 더 좋아하지 않습니다.

하지만 전 설계기법이나 문서화보다 더 중요한 것은 빠진것 없이 중요한 부분부터 꼼꼼하게 테스트를  하는 것이라고 생각합니다.

여러분은 테스트 케이스를 설계해서 만들고 계신가요?

만들고 계시다면 어떻게 만들고 계신가요?

유지보수는 어떻게 하고 계신가요?

테스트 케이스에 대한 경험만 공유하더라도 하루짜리 워크샵이나 컨퍼런스도 거뜬할 거라고 생각됩니다만.. 아직 그런 행사를 보지는 못했습니다.

여러분도 여러분들만의 경험을 공유해주시면 좀 더 좋은 세상이 될거라고 생각합니다.

댓글

이 블로그의 인기 게시물

비츠 스튜디오 버즈 플러스(투명) 사용 후기

제 내자분은 아직도 유선 이어폰을 쓰고 있습니다. 그게 좋다고 하시더라구요. 작년에 혹시나 해서 앤커 사운드코어 라이프Q35를 구매해서 조공해봤지만 결국은 안쓰시더라구요. 그래서 작년 추운 겨울에 제가 귀마게 용으로 잘 사용해왔는데.. 여름이 되니.. 와.. 이건 너무 덥고 무거워서 못쓰겠더라구요. 아이폰도 사고 애플 워치도 샀으니.. 다음은 에어팟인데.... 노이즈 캔슬링이 된다는 에어팟 프로 2는 ... 네... 너무 비싸더라구요... 이건 내자분께 얘기해봐야 결제가 될리가 없어서... 고민하고 있던차에.. 네.. 저는 봐버리고 말았습니다. 비츠 스튜디오 버즈 플러스의 그 영롱한 투명 버전의 자태를... 급 뽐뿌가 왔지만.. 여전히 20만원의 고가더라구요... 초기 출시 시기에 이벤트로 16만원 정도 했던거 같은데.. 그정도 가격이면 선 결제 후 보고 하면 될거 같은데.. 20만원은 너무 너무 비싸서 침만 삼키던 차에.. 당근에 15만원에 올라온 물건을 덥석 물었습니다. 애플 뮤직 6개월 프로모션 코드도 사용하지 않은 따끈따끈한 제품이라서 그냥 질렀습니다. 이상하게 인터넷이 실제 리뷰 게시물을 찾기 힘들어서.. 고민을 잠깐 했지만.. 그 투명하고 영롱한 자태에 그만... 어쨌든 구매하고 한달 정도 사용해본 후기를 간단하게 남겨봅니다. 1. 노이즈 캔슬링은 기대한 것과는 좀 다르고 앤커 사운드코어 라이프Q35 정도 되는 것 같습니다. 노이즈 캔슬링은 활성화하면 이게 소리를 막아준다기보다는 주변의 작은 소음만 제거해준다고 생각하시면 됩니다. 그러니까 옆에서 소근 거리는 소리나 선풍기 바람 소리 같은 작은 소리들이 사라지고 음악 같은 내가 듣고자 하는 소리가 굉장히 뚜렸해지만 지하철 안내 방송 같은 조금 큰 소리는 그냥 들립니다. 그래서 주변음 허용 모드를 켜보면 너무 시끄러워서 안쓰게 되더라구요. 전 에어팟 프로 2를 사용해 본적이 없어서 비교할 수는 없지만.. 아주 못쓸 정도의 성능은 아니라고 생각됩니다. 2. 저는 귓구멍이 너무 작아서 XS 사이즈의 이어팁

테스트 케이스와 체크리스트의 차이가 뭐여?

테스트 실무에서 가장 혼돈되어 사용되는 용어 중 하나가 테스트 케이스와 체크리스트입니다. 많은 경우 체크리스트를 테스트 케이스로 사용하는 경우가 많습니다. 실제로 인터넷 커뮤니티나 블로그, ISO, IEEE, ISTQB 등등을 검색해보시면 테스트 케이스와 체크리스트에 대한 구분이 다 제각각입니다. 각각에 대한 정의가 다 제각각입니다. 사정이 이러하다보니 많은 사람들이 테스트 케이스와 체크리스트를 잘 구분하지 못하고 혼동해서 사용하는 경우가 많습니다. 물과 기름처럼 테스트 케이스와 체크리스트를 정확하게 구분할 수는 없겠지만.. ISTQB를 기준으로 말씀드리면 설계 기법을 통해 도출된 것은 테스트 케이스 그렇지 않은 것은 체크리스트라고 생각하시면 쉽습니다. 예를 들면 아래는 결정 테이블 테스팅 기법을 통해 도출된 테스트 케이스의 예제입니다. 실제 테스트 케이스는 위보다 복잡하겠지만 어쨌든 얘기하고 싶은 것은 위와 같이 설계 기법을 통해서 도출된 것은 테스트 케이스라고 합니다. 그런데 딱 보시면 아시겠지만 실제 테스트에서는 저 정도로는 테스트 커버리지를 충분히 만족했다고 얘기하기 힘듭니다. 그렇습니다. 어떤 분들은 테스트 케이스가 전가의 보도, 은 총알 쯤으로 생각하시는데.. 테스트 케이스는 일종의 마지노 선이라고 보시면 됩니다. 최소한 제품을 테스트 할때 이정도는 해줘야 한다는 최후의 방어선 정도라고 보시면 됩니다. 전쟁에서 최후의 방어선은 물러설 수 없는 마지막 보루입니다. 하지만 최후의 방어선만 지킨다고 전쟁에서 승리할 수는 없습니다. 프랑스는 마지노 요새만 믿고 있다가 독일에게 깔끔하게 발렸던 과거가 있지요. 전쟁에서 승리하려면 앞으로 나가야하고 치밀한 전략과 전술이 뒷받침 되어야 합니다. 더 높은 커버리지를 도달하고, 충분히 좋은 테스트가 수행되려면 테스트 케이스는 기본이 되어야 하고 거기에 더해서 체크리스트가 따라와 줘야 합니다. 이러한 체크리스트는 팀의 경험과 과거 프로젝트의 데이

웹 애플리케이션의 보안 취약점을 찾기 위한 통합 침투 테스트 도구 - OWASP Zed Attack Proxy

웹 애플리케이션의 보안 취약점을 테스트하기 위해 그동안 Paros 란 프로그램을 사용해 왔었는데, 안타깝게도 이 프로그램이 업데이트가 되지 않은지 너무 오래돼서 최신의 보안 취약점 검사에는 한계가 있어 이번에 다시 한번 열심히 검색해서 제 나름 기준으로 꽤 좋은 도구를 하나 찾아서 소개해볼까 합니다. 분명 국내에는 저보다 더 능력이 되시는 많은 보안 테스터분들께서 더 좋은 도구를 가지고 테스트를 하시리라 믿습니다만.. 구글에서는 어찌 된 것이 아무리 검색해도 한글로 된 자료를 찾기가 참 어렵습니다. 아마 오늘 제가 소개해 드리는 이 프로그램도 제가 최초가 아닐까? 조심스럽게 생각해 봅니다. 그리고 저도 아직까지 이 프로그램의 모든 기능을 전문적으로 사용하고 있지 못하기 때문에 관련된 자료나 방법을 아시는 분은 같이 공유해주시면 고맙겠습니다. 오늘 소개해드리는 프로그램은 제가 OWASP 홈페이지를 검색하면서 찾아낸 도구입니다. 이 프로그램은 Paros에서 갈라져 나온 프로그램으로 기본적인 사용방법은 Paros와 거의 똑같습니다. 다만 Paros에는 없는 여러가지 기능들이 포함된 정말 종합선물세트와 같은 프로그램입니다. 이 프로그램이 무엇이냐? 바로 OWASP Zed Attack Proxy 라는 프로그램입니다. 이 프로그램에 대한 자세한 내용은 https://www.owasp.org/index.php/ZAP 에서 보실 수 있습니다. 프로그램 소개에는 한국어도 지원한다고 하지만 제 경우에는 아무리 해도 한국어로 나오지는 않네요. 프로그램을 다운로드 하셔서 설치하시고 Weekly Release도 같이 설치하시기 바랍니다. Weekly Release는 zip 파일의 압축을 해제하셔서 설치 디렉토리업 덮어쓰기 하시면 됩니다. 설치를 다 하셨으면 이제 이걸 쓰는 법을 알아보겠습니다. 우선은 브라우저에서 프록시 설정을 해주셔야 합니다. 프록시를 설정하시는 방법은 프로그램에서 F1을 누르셔서 도움말을 실행하신 후에 Getti