기본 콘텐츠로 건너뛰기

탐색적 테스팅 정의 변천사

이 글은 James Bach 의 'History of Definitions of ET'을 번역한 글입니다.

번역자가 여러 의미로 의역을 한 부분이 많으므로 실수로 잘못 번역된 부분은 댓글로 남겨주시면 수정하도록 하겠습니다.

이 글은 James Bach의 허락을 얻은 후 번역한 글로 다른 곳에 퍼가실때는 반드시 원 출처와 본 블로그를 같이 언급해주시기 바랍니다.

본 번역의 일부는 '진석준'님의 도움을 받았습니다.

-----

아래는 Rapid Software Testing 방법론의 소프트웨어 테스팅 실행 방법인 "탐색적 테스팅" 용어에 대한 기록이다.

이 연표를 둘러싼 사회적, 철학적 문제에 대한 논의는 "탐색적 테스팅 3.0"을 참조하기 바란다.


1988
맨 처음 Cem Kaner의 Testing Computer Software 에 "quick tests"; "whatever comes to mind"; "guerrilla raids" 와 같은 다양한 용어가 소개되었다. (Testing Computer software 1988년 판에 탐색적 테스팅의 다른 스타일에 대한 설명이 있다. Cem은 설명의 일부는 실제적으로 1983년에 작성되었다고 언급했다.)

1990
James Bach는 애플 컴퓨터가 주최한 애자일 테스팅에서 탐색적 테스팅을 애자일 또는 탐색적이라는 용어를 사용하지 않고 "Organic Quality Assurance"라고 처음 소개했다.

1993
6월 James Bach는 ICST conference의 "Persistence of Ad Hoc Testing" 발표에서 "ad hoc" 이라는 용어를 다시 사용했다.

1995
2월 유즈넷에서 Cem Kaner가 "탐색적 테스팅"이라는 용어를 처음 사용

1995
탐색적 테스팅은 학습, 계획 그리고 테스팅을 동시에 실행하는 것을 의미한다. - James Bach (Market Driven Software Testing class)

1996
탐색, 계획 그리고 테스팅을 동시에 실행 - James Bach (Exploratory Testing class v1.0)

1999
제품 탐색, 테스트 설계 그리고 테스트 실행이 동시에 일어나는 상호 작용 절차(interactive process) - James Bach (Exploratory Testing class v2.0)

2001(post WHET(Heuristic and Exploratory Techniques workshops) #1)
Bach의 관점
모든 테스팅은 테스터가 테스트를 수행하면서 적극적으로 테스트 설계 범위를 조정하고, 새롭고 더 좋은 테스트를 설계하기 위해 테스팅을 수행하는 동안 얻은 정보를 활용하는 것이다.

Kaner의 관점
모든 테스팅은 테스터가 테스트를 수행하면서 적극적으로 테스트 설계 범위를 조정하고, 새롭고 더 좋은 테스트를 설계하기 위해 테스팅을 수행하는 동안 얻은 정보를 활용하는 것이며, 다음과 같은 조건이 적용된다.
  • 테스터는 특정 테스트 방법이나 절차를 따르거나 사용할 필요가 없다.
  • 테스터는 다른 테스터에 의해 재사용이 가능하도록 산출물이나 절차를 만들거나 수행된 작업의 세부 내용을 관리 검토할 필요가 없다.
-Bach와 Kaner는 WHET #1과 Satisfice Tech Center의 BBST class에서 의견 차이를 해결했다.

(이 두 의견에 대해 설명하기 위해, James는 factory-style 테스터에게 탐색적 테스팅을 설명할 때 매우 유용한 "scripted/exploratory continuum"을 사용하기 시작했다.)

2003-2006
학습, 테스트 설계, 그리고 테스트 실행을 동시에 실행 – Bach, Kaner

2006-2015
프로젝트 전반에 걸쳐 학습, 테스트 설계 그리고 테스트 실행이 동시에 실행되며 상호 보완하여 테스트의 가치를 지속적으로 최적화할 수 있도록 테스터의 자유와 책임을 강조하는 소프트웨어 테스팅 접근법 - Kaner의 제안을 Bach/Bolton이 편집)

2015
탐색적 테스팅은 Rapid Software Testing 방법론에서 더 이상 사용되지 않는 용어이다. 대신에 테스팅이라는 용어를 사용한다. (즉, 모든 테스팅은 어느 정도 탐색적이다. 현재 RST에서 테스팅의 정의는 "질문, 연구(study), 모델링, 관찰, 추론 등이 어느 정도 포함된 탐색 및 실험(experimentation)을 통해 제품을 학습하며 평가하는 것" 이다.)

댓글

이 블로그의 인기 게시물

결국 테스팅은 어렵다

 AI 코딩 에이전트와 대형 언어 모델(LLM)이 코드를 순식간에 쏟아내고 테스트 스크립트까지 자동으로 만들어주는 시대가 되면서, 일각에서는 "이제 테스팅도 버튼 하나 누르면 끝나는 쉽고 단순한 일 아닌가?"라는 착각에 빠지곤 합니다. 하지만 품질 전문가 매슈 하이저(Matthew Heusser)가 자신의 블로그 Quality Remarks에 기고한 "Turns Out Testing is Hard" 아티클은, 기술이 아무리 화려하게 발전하더라도 소프트웨어의 '진짜 품질'을 검증하는 일은 여전히 지독하게 어렵고 복잡하다는 현실을 서늘하게 되짚어 줍니다. (출처: Quality Remarks - Turns Out Testing is Hard / Matthew Heusser) https://qualityremarks.com/turns-out-testing-is-hard/ 이 아티클이 말하는 핵심은 간단합니다. 단순한 스크립트 실행이나 표면적인 기능 작동 여부를 확인하는 '체크(Checking)'는 AI나 도구를 통해 얼마든지 자동화하고 속도를 높일 수 있지만, 시스템의 숨겨진 리스크를 탐색하고 비판적으로 질문을 던지는 '진짜 테스팅(Testing)'의 난이도는 오히려 이전보다 더 올라갔다는 점입니다. AI 코딩 에이전트가 단 몇 초 만에 수백 줄의 코드를 생성을 해내면서 당장 눈앞의 기능은 돌아가는 것처럼 보입니다. 하지만 그 이면에서는 오작동이 일어날 수 있는 엣지 케이스, 시스템 간의 미묘한 맥락 단절, 그리고 나중에 거대한 장애로 돌아올 인지부채가 순식간에 쌓여갑니다. 매슈 하이저는 왜 테스팅이 여전히 지독히 어려운 과제로 남아있는지 몇 가지 근본적인 이유를 제시합니다. 첫째, '모호함과의 싸움'입니다. 소프트웨어 요구사항은 언제나 비어있는 행간과 모호함을 품고 있습니다. AI는 주어진 텍스트 그대로 명시적인 조건만 테스트하지만, 실제 인간 테스터는 명시되지 않은 사용...

비츠 스튜디오 버즈 플러스(투명) 사용 후기

제 내자분은 아직도 유선 이어폰을 쓰고 있습니다. 그게 좋다고 하시더라구요. 작년에 혹시나 해서 앤커 사운드코어 라이프Q35를 구매해서 조공해봤지만 결국은 안쓰시더라구요. 그래서 작년 추운 겨울에 제가 귀마게 용으로 잘 사용해왔는데.. 여름이 되니.. 와.. 이건 너무 덥고 무거워서 못쓰겠더라구요. 아이폰도 사고 애플 워치도 샀으니.. 다음은 에어팟인데.... 노이즈 캔슬링이 된다는 에어팟 프로 2는 ... 네... 너무 비싸더라구요... 이건 내자분께 얘기해봐야 결제가 될리가 없어서... 고민하고 있던차에.. 네.. 저는 봐버리고 말았습니다. 비츠 스튜디오 버즈 플러스의 그 영롱한 투명 버전의 자태를... 급 뽐뿌가 왔지만.. 여전히 20만원의 고가더라구요... 초기 출시 시기에 이벤트로 16만원 정도 했던거 같은데.. 그정도 가격이면 선 결제 후 보고 하면 될거 같은데.. 20만원은 너무 너무 비싸서 침만 삼키던 차에.. 당근에 15만원에 올라온 물건을 덥석 물었습니다. 애플 뮤직 6개월 프로모션 코드도 사용하지 않은 따끈따끈한 제품이라서 그냥 질렀습니다. 이상하게 인터넷이 실제 리뷰 게시물을 찾기 힘들어서.. 고민을 잠깐 했지만.. 그 투명하고 영롱한 자태에 그만... 어쨌든 구매하고 한달 정도 사용해본 후기를 간단하게 남겨봅니다. 1. 노이즈 캔슬링은 기대한 것과는 좀 다르고 앤커 사운드코어 라이프Q35 정도 되는 것 같습니다. 노이즈 캔슬링은 활성화하면 이게 소리를 막아준다기보다는 주변의 작은 소음만 제거해준다고 생각하시면 됩니다. 그러니까 옆에서 소근 거리는 소리나 선풍기 바람 소리 같은 작은 소리들이 사라지고 음악 같은 내가 듣고자 하는 소리가 굉장히 뚜렸해지만 지하철 안내 방송 같은 조금 큰 소리는 그냥 들립니다. 그래서 주변음 허용 모드를 켜보면 너무 시끄러워서 안쓰게 되더라구요. 전 에어팟 프로 2를 사용해 본적이 없어서 비교할 수는 없지만.. 아주 못쓸 정도의 성능은 아니라고 생각됩니다. 2. 저는 귓구멍이 너무 작아서 XS...

에이전틱 AI 프로젝트에서 테스터의 5가지 핵심 원칙

AI 코딩 에이전트와 자율형 에이전트가 빠르게 개발 워크플로우에 통합되면서, 단순히 코드를 잘 짜는 것을 넘어 '에이전트와 어떻게 협업하고 통제할 것인가'가 개발자와 아키텍트들의 가장 큰 화두로 떠올랐습니다. 윤석찬 님의 아티클 "AI 에이전트 시대, 개발자는 어떻게 일해야 하는가? – 프론티어 엔지니어링의 10가지 원칙"은 에이전틱 AI 시대에 엔지니어가 마주하는 패러다임 변화와, 실무 현장에서 일하는 방식을 어떻게 재정의해야 하는지 아주 명확한 가이드라인을 제시해 줍니다. (출처: channy.creation.net - 윤석찬 님의 블로그) https://channy.creation.net/blog/1989 비록 대규모 에이전트 오케스트레이션이나 초거대 인프라 시스템을 개인이 직접 구축하고 운용하는 것은 비용적·기술적으로 현실적인 한계가 있습니다. 하지만 개인 프로젝트에서 AI와 바이브 코딩(Vibe Coding)을 활용하며 겪었던 맥락 손실, 환각, 통제 불능의 경험들을 떠올려보면, 이 아티클이 제시하는 10가지 프론티어 엔지니어링 원칙은 소규모 개인 개발 환경에서도 대단히 깊은 공감을 불러일으킵니다. 이 글은 단순히 "AI 도구를 잘 쓰자"는 수준에 머무르지 않습니다. AI 에이전트가 생성해내는 불확실성 속에서 인간 엔지니어가 시스템의 맥락을 주도하고, 오작동을 제어하며, 품질의 키(Steering Wheel)를 쥐기 위한 구조적 사고법을 다룹니다. 그렇다면 프론티어 엔지니어링의 원칙을 바탕으로, 시스템의 신뢰성과 안전성을 검증해야 하는 테스터는 과연 어떤 실무 원칙을 세워나갈 수 있을까요? 윤석찬 님이 제시한 엔지니어링 원칙을 테스팅 관점으로 재해석해 보면, 다음과 같은 5가지 원칙으로 정리할 수 있을 것 같습니다. 1. 결정론적 검증에서 '경계선 및 허용 오차(Boundary)' 테스팅으로 전환하라 에이전트 기반 시스템은 같은 입력을 주어도 매번 다른 추론 경로를 거치는 확률적(Stoc...