기본 콘텐츠로 건너뛰기

충분한 소프트웨어 테스팅이란?

소프트웨어 테스터로서 겪는 딜레마 중 하나가 도데체 얼마나 테스트를 해야 충분한가?에 대한 문제입니다.

경영진을 포함해서 많은 사람들이 테스트 결과 보고서를 보면서 말합니다.

테스트가 충분히 진행되었나요? 결함은 없나요? 출시해도 괜찮은거죠?

이 질문들에 확신에 찬 대답으로 '물론입니다'라고 대답할 수 있는 테스터가 과연 있을수가 있기나 한지 의문이 듭니다.

이런 문제는 소프트웨어가 형체가 정의되지 않은 불확정성을 내포한 상태이기 때문이라고 생각합니다.

예를 들어, 하드웨어라 한다면 우리가 테스트를 해야할 범위와 한계가 명확해집니다.

우리가 먹는 식품이라면 구성 성분들이 인체에 유해한지 검사하고 그 과정 전체를 관리 감독하는 것이 불가능하지 않을 것입니다.

재료의 선정부터 출시까지 일관된 기준으로 검사와 관리가 가능합니다.

하지만 소프트웨어는 어떨까요?

요구사항을 수집, 분석, 정의해서 나온 산출물과 아키텍처가 설계한 산출물, 개발자의 코드, 디자이너들의 산출물 어느 하나 공통된 것이 없습니다.

다양한 형태의 산출물간의 추적성 설정조차 어려울 지경입니다.

과연 이 모든것들을 일관된 기준으로 검사와 관리가 가능하긴 한걸까요?

소프트웨어란 도데체 무엇일까요?

저는 소프트웨어를 아래 3가지 구성요소로 정의합니다. 이 정의는 테스터로서 바라보는 소프트웨어에 대한 정의입니다.

소프트웨어란 입력값(Input)출력값(Output) 그리고 데이터(Data)로 구성된 논리적 집합체이다.

그렇다면 우리가 충분한 테스트를 했는가는 소프트웨어에 입력해야 할 값과 출력되어 나오는 값 그리고 그 과정에 사용되는 데이터를 모두 테스트 했는가로 추적해 볼 수 있다고 생각합니다.

대부분의 설계 기법이 이 과정에 대한 논리식과 데이터 생성에 초점이 맞추어져 있습니다.

경계값 분석이나 동등분할은 입력값 또는 출력값의 데이터 검증에 초점이 맞추어져 있습니다.

결정 테이블, 원인 결과 그래프, 상태 전이, 시나리오 테스팅과 같은 기법들은 논리식의 검증에 초점이 맞추어져 있습니다.

그러면 이렇게 입력값과 출력값 그리고 데이터에 대한 검증만으로 충분할까요?

문제는 이건 소프트웨어 자체에 대한 테스트일뿐입니다.

소프트웨어는 운용하는 사용자와 환경에 따라 매우 다양하게 변용됩니다.

누가 사용하는가? 어떤 환경에서 사용하는가? 에 대한 테스트가 추가로 필요합니다.

그래서 아래와 같은 요소들을 추가로 고려해야한다고 봅니다.

조건(Condition), 정황(Context)

그런데, 조건이나 정황은 입력값, 출력값, 데이터와 달리 쉽게 정의하기 어렵고 변수가 너무 많습니다. 때문에 많은 테스터들이 이 부분에 대한 테스트를 수행하지 못하거나 충분하게 고려하지 못합니다.

RST에서는 이러한 부분에 대하여 아래와 같이 7가지 구성요소를 제안합니다.

1. 구조 (Structure)
2. 기능 (Function)
3. 데이터 (Data)
4. 인터페이스 (Interfaces)
5. 플랫폼 (Platform)
6. 운용 (Operations)
7. 시간 (Time)

그러면 이것으로 충분한가?

사실은 이것으로도 부족합니다.

저는 여기에 ISO/IEC/IEEE 25010 소프트웨어 품질 특성을 추가로 고려합니다.

그렇게 저는 커버리지를 측정할 때 위의 7가지 구성요소소프트웨어 품질 특성을 함께 고려해서 사용합니다.

그런데 이로써 문제가 해결된것인가? 아닙니다.

무엇을 측정할지는 정해졌는데 이걸 어떻게 측정하는가에 대한 문제가 남았습니다.

왜냐하면 각각의 요소들마다 모수가 불명확하다는 것이 문제입니다.

모수를 측정할 수 있다는 분들도 계시디만 소프트웨어는 하드웨어와 달리 이 모수가 소프트웨어가 종료되어 사라지는 순간까지 지속적으로 변한다는 것입니다.

고로 어제의 100%와 오늘의 100%는 완전히 다른 얘기가 됩니다.

그러면 도데체 이걸 어떻게 측정하는가?

사실 이 부분에 대해서는 저도 아직까지는 명확하게 얘기를 하지 못합니다.

제임스 바크나 정황 주도 학파에 몸 담고 있는 사람들, RST 진영 쪽에 있는 분들이 강조하는 것은 테스터들의 책임감입니다.

내 이름과 양심을 걸고 하늘을 우러러 한점 부끄러움 없는 테스트를 했는가?

그래서 저도 매번 테스트를 할때마다 저에게 되묻습니다.

내가 놓친것은 없는가?
내가 고려하지 못한 것이 있는가?

충분한 소프트웨어 테스팅이란 결국 자신과의 싸움이고 타인이 나에게 보내는 신뢰라고 생각합니다.

무엇을 테스트할 것인가에 대한 것은 조금만 고민해보면 어느 정도까지는 쉽게 정의할 수 있습니다.

경험이 누적되면 이것은 점점 더 쉬워집니다.

그런데 그것을 얼마나 충분히 고려하여 테스트를 수행했는가는 아직까지도 참 많이 어렵습니다.

경영진이나 이해관계자들 특히 우리 나라처럼 정량 분석 데이터를 좋아하는 사람들이 많을때는 이것이 참 어렵습니다.

가끔은 그 사람들 입맛에 맞춰 보기좋게 포장을 하기도 합니다.

하지만 중요한 것은 그런 숫자보다는 스스로 자부심을 느끼기에 충분할 만큼 떳떳한가? 이해관계자가 내 테스트를 신뢰하고 지원하는가? 가 아닐까 싶습니다.

그런 신뢰를 얻기 위해 나는 최선을 다해 노력하고 있는가? 라고 스스로 물어보는게 중요하다고 생각합니다.

스스로에게 떳떳하고 이해관계자의 신뢰를 얻고 있다면 저는 그것이 충분한 소프트웨어 테스팅이라고 생각합니다.

-----

글을 쓰는 건 항상 어렵습니다. 머리 속에 떠다니던 생각을 끄집어내어 한줄 글로 표현하는 것이 참 어렵습니다.

생각을 글로 적다보면 생각해 두었던 내용이 사라지고 바뀌고 글로 표현하지 못하는 경우도 생깁니다.

글을 쓰는 법을 제대로 배우지 못한 무식의 소치라고 치부하기에도 부끄러운 글을 계속 쓰는 것이 맞는지 가끔 고민을 합니다.

이 글도 용두 사미 같아 부끄럽습니다.

제가 적는 글을 읽어보시고 반론이나 궁금한 내용을 댓글로 적어주시면 저에게 많은 도움이 됩니다.

이번에도 제 글을 읽어주셔서 고맙습니다.

댓글

이 블로그의 인기 게시물

매우 매우 매우 실망스러운 레일플러스 모바일 교통카드

우리 나라에서 버스나 지하철 같은 교통 수단을 이용하는 대부분의 사람들은 티머니와 같은 선불교통카드나 카드사와 연계된 후불교통카드를 쓰는 경우가 거의 대부분일 것입니다.

저도 현금으로 지하철이나 버스를 이용해본지가 언제인지 기억이 가물가물 합니다. (최근에는 현금을 들고 다닐 필요가 거의 없긴 하죠. 그러다보니 가끔 지방에 가서 카드가 안되는 가게나 주차장 등에서 난감하기도 하고요..)

그런데, 이런 카드 말고 스마트폰으로 교통 수단을 이용하는 사람들도 있습니다.

우리 나라에서 스마트폰으로 교통 수단을 이용하는 것은 심카드를 기반으로 구현된 기술로 문제는 해외 단말은 이 기능을 지원하지 않는 다는 것입니다.

해외 단말들이 이와 같은 기능을 구현하기 위해서는 HCE 라는 방식이 필요한데.. 이런 방식으로 결제 시스템을 구현은 할 수 있지만 지금까지는 이 기술로 구현된 사례가 없었는데, 얼마전 코레일에서 레일플러스 모바일 교통카드를 HCE 로 구현하여 서비스를 시작했습니다.

이로서 해외 단말을 사용하는 사람들도 스마트폰으로 버스나 지하철과 같은 교통수단을 이용할 수 있게 될것이라고 환호했습니다만, 실상은 그렇지 않다고 볼 수 있습니다.

저는 넥서스 5X 사용자로 심카드를 기반으로 하는 결제 시스템을 쓸 수 없었기 때문에 저도 코레일에서 저 서비스를 내놓았을 때 기대에 부풀어서 나오자마자 바로 설치해봤습니다. 처음 서비스 시작한 시점이 8월이었는데, 그 때에는 안드로이드 8.0을 지원하지 않아서 서비스는 시작되었지만 사용할 수 없었습니다.

그러다가, 9월 업데이트로 안드로읻 8.0(오레오)에서도 해당 앱이 정상적으로 동작하게 되어서 한번 사용해 본 소감을 남깁니다.

우선 현재 시점으로 해당 서비스를 이용하는 방법은 크게 2가지입니다.

하나는 레일플러스 모바일 교통카드 앱을 설치하여 이용하는 방법이고, 다른 하나는 신한 판(앱카드)를 설치하여 이용하는 방법입니다.

카드 종류는 선불과 후불 2가지 종류가 있는데, 레일플러스 모바일 교통카드 앱은 2가지를 모두 지원하고…

구글 홈으로 전등을 꺼보자!!

지난 달 충동 구매로 구글 홈을 지른 후로..

정신줄을 놓고 미친 듯이 할 수 있는 역량 범위 안에서 홈 오토메이션을 구축하기 위해 비상금을 모조리 쏟아붓고 있습니다.

이제 막 정신 차렸는데...

홈 오토메이션은 그냥 비싸고 좋은 새로운 아파트로 이사 가는게 답인 것 같습니다. 개인이 구축하기에는 너무 번잡하고 복잡하고 돈 많이 들고 몸 고생하고 힘들고 지칩니다.

별로 한 것도 없는데 지치네요..

현재까지 구축해 놓은 제품들은 아래와 같습니다.


전체 제품의 허브는 당연히 구글 어시스턴트로 연결되어 있습니다.

중요한 전자 제품은 다원DNS의 스마트 플러그에 연결했습니다.

예전에 산 샤오미 공기청정기도 연결되어 있습니다.

올해 최고의 지름 LG 에어컨도 이번에 구글 홈이 정발되면서 구글 어시스턴트를 지원해서 연결해 두었습니다.

그리고 마지막으로 가장 하고 싶었던 천장등...

이걸 구글 홈으로 제어가 너무 하고 싶어서.. 정말 열심히 검색해 봤습니다.

결론은.. 지금 제가 살고 있는 집은 너무 너무 낡고 꾸진 집이어서 배선에 중성선이라는게 없어서 안된다는 것이었습니다.

뭔지 모를 전기 계열로 뭔가 막 어려운 그런 말이 많이 적혀 있었지만.. 어쨌든 결론은 안된다는 것이었습니다.

검색한 결과로는 중성선이라는 것이 없어도 가능한 스마트 스위치도 있다는데..

시중에서 구할 수 있는건 SKT 누구만 지원하고 구글 홈에는 연결할 수 없어서 패스..

고퀄이란 회사에서 출시 예정이라지만 우리 나라 중소기업의 특성상 언제 나올지도 모르는 제품..

그외에도 어떤 중소기업 제품도 하나 있었는데.. 구할 방법이 쉽지 않고 디자인이 구려서 패스..

이렇게 안되는 것인가 포기하려는 순간..

sonoff 라는 제품을 사용하면 된다는 얘기가 있더군요..

다시 검색, 검색, 검색..

고민, 고민, 고민 하다가 과감하게 질러보았습니다.

많은 분들이 알리에서 구매하시던데..

저는 그냥 국내 구매대행 업체 중에 제일 싼 곳을 골라 주문했습니다.

알리는... 배송이... 전 그냥 올해 안에 하고 싶…

안드로이드 오토 그리고 브링고...

2018년 7월 12일.. 기다리고 기다리던 안드로이드 오토가 드디어 국내 서비스를 시작했습니다.

대한민국의 특수한 상황 때문에 구글 지도가 아닌 카카오 네비게이션과 함께 국내 서비스를 시작했습니다.

제 차량이 더 넥스트 스파크인데.. 기본 네비게이션이 브링고라는 앱입니다.

물론 AS 마켓에서 여러 네비게이션을 설치할 수도 있지만, 그러기에는 안정성도 문제이고 마이링크와 같이 사용하는 것도 어색해서 저는 공식적으로 지원하는 브링고를 써왔습니다.

그런데, 이 브링고라는 앱의 가장 큰 문제점은 네비게이션임에도 불구하고 업데이트가 거의 없습니다. 1년에 2번 정도 해주면 아주 양호한 정도입니다. 웃긴 것은 만원이나 하는 유료 앱입니다.

구독 서비스가 아닌걸 천만다행으로 생각해야하는 건지... 어쨌든 유료 앱임에도 불구하고 AS는 정말 구립니다.

안드로이드 업데이트 될 때마다 연결이 잘 안되기도 하고.. 마이링크는 왜 업데이트가 안되는건지도 모르겠고..

거기다가 기본적으로 지도의 데이터 양이 절대적으로 부족하고 최신 정보가 반영이 안되다보니 목적지 설정할 때 주소로 해야 하는 경우가 비일비재하고 그 주소마저 신도시와 같은 곳은 주소 설정마저 안되서 목적지 설정이 안됩니다.

과속카메라나 단속 구간의 속도 제한 안내는 말하면 잔소리죠..

울며 겨자먹기 식으로 어쩔 수 없이 브링고를 써오던 저에게 안드로이드 오토는 정말 이 무더운 여름에 단비 같은 소식이었습니다.

카카오 내비는 싫어하지만.. 이 역시 저에게 어떤 선택지가 있는 것은 아니라서 어쩔 수 없다고 생각합니다. 웨이즈라는 앱이 있긴 하지만 이 역시 국내 데이터가 너무 부족해서 실제 사용이 어려운 지경이기 때문에 의미가 없습니다.

어쨌든 안드로이드 오토 서비스와 동시에 설치 후 2주 정도 사용한 후기입니다.

우선은 카카오 내비의 정보가 실시간 반영되다 보니 목적지 설정에 대한 스트레스는 좀 줄어들어서 좋습니다.

하지만 사용해 보니 몇가지 불편한 점이 있습니다.

1. 경유지 설정이 안됩니다.
2. 스마트폰에서 카카오…