기본 콘텐츠로 건너뛰기

탐색적 테스팅 정의 변천사

이 글은 James Bach 의 'History of Definitions of ET'을 번역한 글입니다.

번역자가 여러 의미로 의역을 한 부분이 많으므로 실수로 잘못 번역된 부분은 댓글로 남겨주시면 수정하도록 하겠습니다.

이 글은 James Bach의 허락을 얻은 후 번역한 글로 다른 곳에 퍼가실때는 반드시 원 출처와 본 블로그를 같이 언급해주시기 바랍니다.

본 번역의 일부는 '진석준'님의 도움을 받았습니다.

-----

아래는 Rapid Software Testing 방법론의 소프트웨어 테스팅 실행 방법인 "탐색적 테스팅" 용어에 대한 기록이다.

이 연표를 둘러싼 사회적, 철학적 문제에 대한 논의는 "탐색적 테스팅 3.0"을 참조하기 바란다.


1988
맨 처음 Cem Kaner의 Testing Computer Software 에 "quick tests"; "whatever comes to mind"; "guerrilla raids" 와 같은 다양한 용어가 소개되었다. (Testing Computer software 1988년 판에 탐색적 테스팅의 다른 스타일에 대한 설명이 있다. Cem은 설명의 일부는 실제적으로 1983년에 작성되었다고 언급했다.)

1990
James Bach는 애플 컴퓨터가 주최한 애자일 테스팅에서 탐색적 테스팅을 애자일 또는 탐색적이라는 용어를 사용하지 않고 "Organic Quality Assurance"라고 처음 소개했다.

1993
6월 James Bach는 ICST conference의 "Persistence of Ad Hoc Testing" 발표에서 "ad hoc" 이라는 용어를 다시 사용했다.

1995
2월 유즈넷에서 Cem Kaner가 "탐색적 테스팅"이라는 용어를 처음 사용

1995
탐색적 테스팅은 학습, 계획 그리고 테스팅을 동시에 실행하는 것을 의미한다. - James Bach (Market Driven Software Testing class)

1996
탐색, 계획 그리고 테스팅을 동시에 실행 - James Bach (Exploratory Testing class v1.0)

1999
제품 탐색, 테스트 설계 그리고 테스트 실행이 동시에 일어나는 상호 작용 절차(interactive process) - James Bach (Exploratory Testing class v2.0)

2001(post WHET(Heuristic and Exploratory Techniques workshops) #1)
Bach의 관점
모든 테스팅은 테스터가 테스트를 수행하면서 적극적으로 테스트 설계 범위를 조정하고, 새롭고 더 좋은 테스트를 설계하기 위해 테스팅을 수행하는 동안 얻은 정보를 활용하는 것이다.

Kaner의 관점
모든 테스팅은 테스터가 테스트를 수행하면서 적극적으로 테스트 설계 범위를 조정하고, 새롭고 더 좋은 테스트를 설계하기 위해 테스팅을 수행하는 동안 얻은 정보를 활용하는 것이며, 다음과 같은 조건이 적용된다.
  • 테스터는 특정 테스트 방법이나 절차를 따르거나 사용할 필요가 없다.
  • 테스터는 다른 테스터에 의해 재사용이 가능하도록 산출물이나 절차를 만들거나 수행된 작업의 세부 내용을 관리 검토할 필요가 없다.
-Bach와 Kaner는 WHET #1과 Satisfice Tech Center의 BBST class에서 의견 차이를 해결했다.

(이 두 의견에 대해 설명하기 위해, James는 factory-style 테스터에게 탐색적 테스팅을 설명할 때 매우 유용한 "scripted/exploratory continuum"을 사용하기 시작했다.)

2003-2006
학습, 테스트 설계, 그리고 테스트 실행을 동시에 실행 – Bach, Kaner

2006-2015
프로젝트 전반에 걸쳐 학습, 테스트 설계 그리고 테스트 실행이 동시에 실행되며 상호 보완하여 테스트의 가치를 지속적으로 최적화할 수 있도록 테스터의 자유와 책임을 강조하는 소프트웨어 테스팅 접근법 - Kaner의 제안을 Bach/Bolton이 편집)

2015
탐색적 테스팅은 Rapid Software Testing 방법론에서 더 이상 사용되지 않는 용어이다. 대신에 테스팅이라는 용어를 사용한다. (즉, 모든 테스팅은 어느 정도 탐색적이다. 현재 RST에서 테스팅의 정의는 "질문, 연구(study), 모델링, 관찰, 추론 등이 어느 정도 포함된 탐색 및 실험(experimentation)을 통해 제품을 학습하며 평가하는 것" 이다.)

댓글

이 블로그의 인기 게시물

매우 매우 매우 실망스러운 레일플러스 모바일 교통카드

우리 나라에서 버스나 지하철 같은 교통 수단을 이용하는 대부분의 사람들은 티머니와 같은 선불교통카드나 카드사와 연계된 후불교통카드를 쓰는 경우가 거의 대부분일 것입니다.

저도 현금으로 지하철이나 버스를 이용해본지가 언제인지 기억이 가물가물 합니다. (최근에는 현금을 들고 다닐 필요가 거의 없긴 하죠. 그러다보니 가끔 지방에 가서 카드가 안되는 가게나 주차장 등에서 난감하기도 하고요..)

그런데, 이런 카드 말고 스마트폰으로 교통 수단을 이용하는 사람들도 있습니다.

우리 나라에서 스마트폰으로 교통 수단을 이용하는 것은 심카드를 기반으로 구현된 기술로 문제는 해외 단말은 이 기능을 지원하지 않는 다는 것입니다.

해외 단말들이 이와 같은 기능을 구현하기 위해서는 HCE 라는 방식이 필요한데.. 이런 방식으로 결제 시스템을 구현은 할 수 없지만 지금까지는 이 기술로 구현된 사례가 없었는데, 얼마전 코레일에서 레일플러스 모바일 교통카드를 HCE 로 구현하여 서비스를 시작했습니다.

이로서 해외 단말을 사용하는 사람들도 스마트폰으로 버스나 지하철과 같은 교통수단을 이용할 수 있게 될것이라고 환호했습니다만, 실상은 그렇지 않다고 볼 수 있습니다.

저는 넥서스 5X 사용자로 심카드를 기반으로 하는 결제 시스템을 쓸 수 없었기 때문에 저도 코레일에서 저 서비스를 내놓았을 때 기대에 부풀어서 나오자마자 바로 설치해봤습니다. 처음 서비스 시작한 시점이 8월이었는데, 그 때에는 안드로이드 8.0을 지원하지 않아서 서비스는 시작되었지만 사용할 수 없었습니다.

그러다가, 9월 업데이트로 안드로읻 8.0(오레오)에서도 해당 앱이 정상적으로 동작하게 되어서 한번 사용해 본 소감을 남깁니다.

우선 현재 시점으로 해당 서비스를 이용하는 방법은 크게 2가지입니다.

하나는 레일플러스 모바일 교통카드 앱을 설치하여 이용하는 방법이고, 다른 하나는 신한 판(앱카드)를 설치하여 이용하는 방법입니다.

카드 종류는 선불과 후불 2가지 종류가 있는데, 레일플러스 모바일 교통카드 앱은 2가지를 모두 지원하고…

안드로이드 오토 그리고 브링고...

2018년 7월 12일.. 기다리고 기다리던 안드로이드 오토가 드디어 국내 서비스를 시작했습니다.

대한민국의 특수한 상황 때문에 구글 지도가 아닌 카카오 네비게이션과 함께 국내 서비스를 시작했습니다.

제 차량이 더 넥스트 스파크인데.. 기본 네비게이션이 브링고라는 앱입니다.

물론 AS 마켓에서 여러 네비게이션을 설치할 수도 있지만, 그러기에는 안정성도 문제이고 마이링크와 같이 사용하는 것도 어색해서 저는 공식적으로 지원하는 브링고를 써왔습니다.

그런데, 이 브링고라는 앱의 가장 큰 문제점은 네비게이션임에도 불구하고 업데이트가 거의 없습니다. 1년에 2번 정도 해주면 아주 양호한 정도입니다. 웃긴 것은 만원이나 하는 유료 앱입니다.

구독 서비스가 아닌걸 천만다행으로 생각해야하는 건지... 어쨌든 유료 앱임에도 불구하고 AS는 정말 구립니다.

안드로이드 업데이트 될 때마다 연결이 잘 안되기도 하고.. 마이링크는 왜 업데이트가 안되는건지도 모르겠고..

거기다가 기본적으로 지도의 데이터 양이 절대적으로 부족하고 최신 정보가 반영이 안되다보니 목적지 설정할 때 주소로 해야 하는 경우가 비일비재하고 그 주소마저 신도시와 같은 곳은 주소 설정마저 안되서 목적지 설정이 안됩니다.

과속카메라나 단속 구간의 속도 제한 안내는 말하면 잔소리죠..

울며 겨자먹기 식으로 어쩔 수 없이 브링고를 써오던 저에게 안드로이드 오토는 정말 이 무더운 여름에 단비 같은 소식이었습니다.

카카오 내비는 싫어하지만.. 이 역시 저에게 어떤 선택지가 있는 것은 아니라서 어쩔 수 없다고 생각합니다. 웨이즈라는 앱이 있긴 하지만 이 역시 국내 데이터가 너무 부족해서 실제 사용이 어려운 지경이기 때문에 의미가 없습니다.

어쨌든 안드로이드 오토 서비스와 동시에 설치 후 2주 정도 사용한 후기입니다.

우선은 카카오 내비의 정보가 실시간 반영되다 보니 목적지 설정에 대한 스트레스는 좀 줄어들어서 좋습니다.

하지만 사용해 보니 몇가지 불편한 점이 있습니다.

1. 경유지 설정이 안됩니다.
2. 스마트폰에서 카카오…

테스트 케이스와 체크리스트의 차이가 뭐여?

테스트 실무에서 가장 혼돈되어 사용되는 용어 중 하나가 테스트 케이스와 체크리스트입니다.

많은 경우 체크리스트를 테스트 케이스로 사용하는 경우가 많습니다.

실제로 인터넷 커뮤니티나 블로그, ISO, IEEE, ISTQB 등등을 검색해보시면 테스트 케이스와 체크리스트에 대한 구분이 다 제각각입니다.

각각에 대한 정의가 다 제각각입니다.

사정이 이러하다보니 많은 사람들이 테스트 케이스와 체크리스트를 잘 구분하지 못하고 혼동해서 사용하는 경우가 많습니다.

물과 기름처럼 테스트 케이스와 체크리스트를 정확하게 구분할 수는 없겠지만..

ISTQB를 기준으로 말씀드리면 설계 기법을 통해 도출된 것은 테스트 케이스 그렇지 않은 것은 체크리스트라고 생각하시면 쉽습니다.

예를 들면 아래는 결정 테이블 테스팅 기법을 통해 도출된 테스트 케이스의 예제입니다.



실제 테스트 케이스는 위보다 복잡하겠지만 어쨌든 얘기하고 싶은 것은 위와 같이 설계 기법을 통해서 도출된 것은 테스트 케이스라고 합니다.

그런데 딱 보시면 아시겠지만 실제 테스트에서는 저 정도로는 테스트 커버리지를 충분히 만족했다고 얘기하기 힘듭니다.

그렇습니다.

어떤 분들은 테스트 케이스가 전가의 보도, 은 총알 쯤으로 생각하시는데..

테스트 케이스는 일종의 마지노 선이라고 보시면 됩니다.

최소한 제품을 테스트 할때 이정도는 해줘야 한다는 최후의 방어선 정도라고 보시면 됩니다.

전쟁에서 최후의 방어선은 물러설 수 없는 마지막 보루입니다.

하지만 최후의 방어선만 지킨다고 전쟁에서 승리할 수는 없습니다.

프랑스는 마지노 요새만 믿고 있다가 독일에게 깔끔하게 발렸던 과거가 있지요.

전쟁에서 승리하려면 앞으로 나가야하고 치밀한 전략과 전술이 뒷받침 되어야 합니다.

더 높은 커버리지를 도달하고, 충분히 좋은 테스트가 수행되려면 테스트 케이스는 기본이 되어야 하고 거기에 더해서 체크리스트가 따라와 줘야 합니다.

이러한 체크리스트는 팀의 경험과 과거 프로젝트의 데이터를 통해서 도출되어야 합니다.

위와 같은 테스트 케이스에 추가적으로 …