기본 콘텐츠로 건너뛰기

충분한 소프트웨어 테스팅이란?

소프트웨어 테스터로서 겪는 딜레마 중 하나가 도데체 얼마나 테스트를 해야 충분한가?에 대한 문제입니다.

경영진을 포함해서 많은 사람들이 테스트 결과 보고서를 보면서 말합니다.

테스트가 충분히 진행되었나요? 결함은 없나요? 출시해도 괜찮은거죠?

이 질문들에 확신에 찬 대답으로 '물론입니다'라고 대답할 수 있는 테스터가 과연 있을수가 있기나 한지 의문이 듭니다.

이런 문제는 소프트웨어가 형체가 정의되지 않은 불확정성을 내포한 상태이기 때문이라고 생각합니다.

예를 들어, 하드웨어라 한다면 우리가 테스트를 해야할 범위와 한계가 명확해집니다.

우리가 먹는 식품이라면 구성 성분들이 인체에 유해한지 검사하고 그 과정 전체를 관리 감독하는 것이 불가능하지 않을 것입니다.

재료의 선정부터 출시까지 일관된 기준으로 검사와 관리가 가능합니다.

하지만 소프트웨어는 어떨까요?

요구사항을 수집, 분석, 정의해서 나온 산출물과 아키텍처가 설계한 산출물, 개발자의 코드, 디자이너들의 산출물 어느 하나 공통된 것이 없습니다.

다양한 형태의 산출물간의 추적성 설정조차 어려울 지경입니다.

과연 이 모든것들을 일관된 기준으로 검사와 관리가 가능하긴 한걸까요?

소프트웨어란 도데체 무엇일까요?

저는 소프트웨어를 아래 3가지 구성요소로 정의합니다. 이 정의는 테스터로서 바라보는 소프트웨어에 대한 정의입니다.

소프트웨어란 입력값(Input)출력값(Output) 그리고 데이터(Data)로 구성된 논리적 집합체이다.

그렇다면 우리가 충분한 테스트를 했는가는 소프트웨어에 입력해야 할 값과 출력되어 나오는 값 그리고 그 과정에 사용되는 데이터를 모두 테스트 했는가로 추적해 볼 수 있다고 생각합니다.

대부분의 설계 기법이 이 과정에 대한 논리식과 데이터 생성에 초점이 맞추어져 있습니다.

경계값 분석이나 동등분할은 입력값 또는 출력값의 데이터 검증에 초점이 맞추어져 있습니다.

결정 테이블, 원인 결과 그래프, 상태 전이, 시나리오 테스팅과 같은 기법들은 논리식의 검증에 초점이 맞추어져 있습니다.

그러면 이렇게 입력값과 출력값 그리고 데이터에 대한 검증만으로 충분할까요?

문제는 이건 소프트웨어 자체에 대한 테스트일뿐입니다.

소프트웨어는 운용하는 사용자와 환경에 따라 매우 다양하게 변용됩니다.

누가 사용하는가? 어떤 환경에서 사용하는가? 에 대한 테스트가 추가로 필요합니다.

그래서 아래와 같은 요소들을 추가로 고려해야한다고 봅니다.

조건(Condition), 정황(Context)

그런데, 조건이나 정황은 입력값, 출력값, 데이터와 달리 쉽게 정의하기 어렵고 변수가 너무 많습니다. 때문에 많은 테스터들이 이 부분에 대한 테스트를 수행하지 못하거나 충분하게 고려하지 못합니다.

RST에서는 이러한 부분에 대하여 아래와 같이 7가지 구성요소를 제안합니다.

1. 구조 (Structure)
2. 기능 (Function)
3. 데이터 (Data)
4. 인터페이스 (Interfaces)
5. 플랫폼 (Platform)
6. 운용 (Operations)
7. 시간 (Time)

그러면 이것으로 충분한가?

사실은 이것으로도 부족합니다.

저는 여기에 ISO/IEC/IEEE 25010 소프트웨어 품질 특성을 추가로 고려합니다.

그렇게 저는 커버리지를 측정할 때 위의 7가지 구성요소소프트웨어 품질 특성을 함께 고려해서 사용합니다.

그런데 이로써 문제가 해결된것인가? 아닙니다.

무엇을 측정할지는 정해졌는데 이걸 어떻게 측정하는가에 대한 문제가 남았습니다.

왜냐하면 각각의 요소들마다 모수가 불명확하다는 것이 문제입니다.

모수를 측정할 수 있다는 분들도 계시디만 소프트웨어는 하드웨어와 달리 이 모수가 소프트웨어가 종료되어 사라지는 순간까지 지속적으로 변한다는 것입니다.

고로 어제의 100%와 오늘의 100%는 완전히 다른 얘기가 됩니다.

그러면 도데체 이걸 어떻게 측정하는가?

사실 이 부분에 대해서는 저도 아직까지는 명확하게 얘기를 하지 못합니다.

제임스 바크나 정황 주도 학파에 몸 담고 있는 사람들, RST 진영 쪽에 있는 분들이 강조하는 것은 테스터들의 책임감입니다.

내 이름과 양심을 걸고 하늘을 우러러 한점 부끄러움 없는 테스트를 했는가?

그래서 저도 매번 테스트를 할때마다 저에게 되묻습니다.

내가 놓친것은 없는가?
내가 고려하지 못한 것이 있는가?

충분한 소프트웨어 테스팅이란 결국 자신과의 싸움이고 타인이 나에게 보내는 신뢰라고 생각합니다.

무엇을 테스트할 것인가에 대한 것은 조금만 고민해보면 어느 정도까지는 쉽게 정의할 수 있습니다.

경험이 누적되면 이것은 점점 더 쉬워집니다.

그런데 그것을 얼마나 충분히 고려하여 테스트를 수행했는가는 아직까지도 참 많이 어렵습니다.

경영진이나 이해관계자들 특히 우리 나라처럼 정량 분석 데이터를 좋아하는 사람들이 많을때는 이것이 참 어렵습니다.

가끔은 그 사람들 입맛에 맞춰 보기좋게 포장을 하기도 합니다.

하지만 중요한 것은 그런 숫자보다는 스스로 자부심을 느끼기에 충분할 만큼 떳떳한가? 이해관계자가 내 테스트를 신뢰하고 지원하는가? 가 아닐까 싶습니다.

그런 신뢰를 얻기 위해 나는 최선을 다해 노력하고 있는가? 라고 스스로 물어보는게 중요하다고 생각합니다.

스스로에게 떳떳하고 이해관계자의 신뢰를 얻고 있다면 저는 그것이 충분한 소프트웨어 테스팅이라고 생각합니다.

-----

글을 쓰는 건 항상 어렵습니다. 머리 속에 떠다니던 생각을 끄집어내어 한줄 글로 표현하는 것이 참 어렵습니다.

생각을 글로 적다보면 생각해 두었던 내용이 사라지고 바뀌고 글로 표현하지 못하는 경우도 생깁니다.

글을 쓰는 법을 제대로 배우지 못한 무식의 소치라고 치부하기에도 부끄러운 글을 계속 쓰는 것이 맞는지 가끔 고민을 합니다.

이 글도 용두 사미 같아 부끄럽습니다.

제가 적는 글을 읽어보시고 반론이나 궁금한 내용을 댓글로 적어주시면 저에게 많은 도움이 됩니다.

이번에도 제 글을 읽어주셔서 고맙습니다.

댓글

이 블로그의 인기 게시물

매우 매우 매우 실망스러운 레일플러스 모바일 교통카드

우리 나라에서 버스나 지하철 같은 교통 수단을 이용하는 대부분의 사람들은 티머니와 같은 선불교통카드나 카드사와 연계된 후불교통카드를 쓰는 경우가 거의 대부분일 것입니다.

저도 현금으로 지하철이나 버스를 이용해본지가 언제인지 기억이 가물가물 합니다. (최근에는 현금을 들고 다닐 필요가 거의 없긴 하죠. 그러다보니 가끔 지방에 가서 카드가 안되는 가게나 주차장 등에서 난감하기도 하고요..)

그런데, 이런 카드 말고 스마트폰으로 교통 수단을 이용하는 사람들도 있습니다.

우리 나라에서 스마트폰으로 교통 수단을 이용하는 것은 심카드를 기반으로 구현된 기술로 문제는 해외 단말은 이 기능을 지원하지 않는 다는 것입니다.

해외 단말들이 이와 같은 기능을 구현하기 위해서는 HCE 라는 방식이 필요한데.. 이런 방식으로 결제 시스템을 구현은 할 수 없지만 지금까지는 이 기술로 구현된 사례가 없었는데, 얼마전 코레일에서 레일플러스 모바일 교통카드를 HCE 로 구현하여 서비스를 시작했습니다.

이로서 해외 단말을 사용하는 사람들도 스마트폰으로 버스나 지하철과 같은 교통수단을 이용할 수 있게 될것이라고 환호했습니다만, 실상은 그렇지 않다고 볼 수 있습니다.

저는 넥서스 5X 사용자로 심카드를 기반으로 하는 결제 시스템을 쓸 수 없었기 때문에 저도 코레일에서 저 서비스를 내놓았을 때 기대에 부풀어서 나오자마자 바로 설치해봤습니다. 처음 서비스 시작한 시점이 8월이었는데, 그 때에는 안드로이드 8.0을 지원하지 않아서 서비스는 시작되었지만 사용할 수 없었습니다.

그러다가, 9월 업데이트로 안드로읻 8.0(오레오)에서도 해당 앱이 정상적으로 동작하게 되어서 한번 사용해 본 소감을 남깁니다.

우선 현재 시점으로 해당 서비스를 이용하는 방법은 크게 2가지입니다.

하나는 레일플러스 모바일 교통카드 앱을 설치하여 이용하는 방법이고, 다른 하나는 신한 판(앱카드)를 설치하여 이용하는 방법입니다.

카드 종류는 선불과 후불 2가지 종류가 있는데, 레일플러스 모바일 교통카드 앱은 2가지를 모두 지원하고…

더 넥스트 스파크 브링고 업데이트 후기

블로그를 너무 방치하는 듯 하고..
이러다가는 블로그에 글 쓰는 법도 잊어버릴 듯 하여..
테스팅 관련 글을 쓰고 싶은 건 많지만..
세월이 흘러보니.. 내가 아는 건 아무것도 아니고.. 말을 아끼고 행동을 삼가해야 한다는 깨달음을 얻다보니.. 
글을 쓰는 것도 쉽지 않습니다. 일천한 지식으로 어줍잖게 아는척 글을 쓰는 것이 매우 위험하다는 것을 이제는 알아버린 나이가 되었습니다.
어찌 어찌 그러다보니.. 블로그를 정말로 방치해버린지라.. 
이러면 아니될듯하여.. 요즘 제가 몰고 다니는 더 넥스트 스파크 마이링크(브링고) 업데이트 후기를 적어볼까 합니다.
작년 9월전까지는 스파크 수동을 몰고다니다 더 넥스트 스파크로 차종을 변경하고 이제 얼추 10개월이 되어 갑니다.
짧은 시간이지만 자동을 몰고다니면서 느낀 점은.. 이게 자동차라기보다는 엄청나게 빠른 속도로 이동하는 거대한 컴퓨터에 앉아 있는 느낌입니다.
혹자는 그러더군요. 더 넥스트 스파크는 가장 비싸 아이폰 액세서리라고..
그렇게 느끼는 이유는 하드웨어 변경 없이 그동안 몇번의 소프트웨어 업데이트만으로 많은 기능을 누리고 있습니다.
먼저, 오토라이트 기능을 소프트웨어 업데이트와 스위치 설치만으로 활성화해서 아직도 잘 쓰고 있습니다.
두번째로는 원격 시동 기능도 소프트웨어 업데이트만으로 구현해내었습니다.
그리고 마지막으로 기존에는 애플 카플레이나 안드로이드 오토만으로는 누릴 수 없던 네비게이션 기능을 쉐보레에서 밀어주고 있는 브링고라는 네비게이션을 소프트업데이트만으로 사용할 수 있게 되었습니다.
많은 사람들은 브링고가 T맵이나 아틀란보다 못하다고 불만들이 많으시지만 저는 그냥 주변 도로 정보와 제가 가야하는 곳으로 이동만 하면 되는지라 크게 불편을 느끼지는 못하고 있습니다.
오히려 예전에는 차 앞유리에 거치대를 붙이고 조구마한 화면으로 아틀란 네비게이션 앱을 실행해서 이동할 때마다 스마트폰이 과열되면 자동으로 꺼지던 불편함에서 벗어난 것만으로도 저는 대단히 만족하고 있습니다.
소프트웨어 업데이트만으로 없던…

효리네 민박 때문에 질러버린 샤요미(미지아) 무선 진동 물걸레 청소기

얼마전에 종영된 효리네 민박을 보면서 아내님이 항상 탐내던 아이템이 물걸레 청소기였습니다.
집에서 앉아서 물걸레질 해보신 분이라면.. 그 고충을 익히 아실겁니다.
무릎 아프죠. 손목 아프죠. 허리 아프죠..
그런데 TV를 보니 슥슥슥 너무 편해보이긴 하더군요..
그래서 사볼까 하고 검색해보니...
흠.. 뭔가 좀 난감하더군요..
우선 한경희생활과학에서 나오는 제품은 회사가 믿음이 안가고.. 
인터넷 후기는 빙글 빙글 회전하는 형식의 청소기는 방바닥에 있는 전선이 엉키거나 끊길 수 있다는 얘기가 정말 많더군요..
그래서 앞뒤로 움직이는 제품을 찾아보니 가격도 가격이고 소음이 크다는 애기부터 막상 써보면 잘 안 닦인다는 얘기까지 여러 얘기들이 많더군요..
그래서 이리 저리 더 찾아보다 샤오미 정확히 말하면 미지아라는 회사에서 나온 물걸레 청소기를 발견해 내었습니다.
샤오미는 도데체 안 만드는 것이 뭘까요? 
이 녀석은 걸레의 움직임이 앞뒤로 움직이는 방식이고 네모난 모양이라서 모서리나 이런 곳을 닦기도 좋아 보였습니다.
소음도 그다지 크지 않다고 하고.. 가격은 뭐.. 샤오미이니까요.. 국내 다른 제품보다는 확실히 싸더군요..
그래서 고장 나면 하나 더 사면 되겠지라는 생각으로 구매했습니다.
지난 몇주간 써보고 느낀점과 아쉬운 점은 아래와 같습니다.
1. 걸레가 더러워지면 빨아야 하는데 빨아버린 걸레가 마를때까지는 무용지물입니다. 추가 걸레만 구매하고 싶은데.. 검색해도 잘 못찾겠네요. 혹시 걸레만 추가로 구매할 수 있는지 아시는 분 계신가요?  제가 구매할 때 추가 주문한 걸레는 다용도가 아닌 먼지 제거용으로 잘 못 구매해서..
2. 생각보다 잘 안 닦입니다. 손으로 미는 것 만큼의 효과는 없습니다. 하지만 안하는 것보다는 낫기는 합니다. 역시 효과는 손으로 미는 것이 제일 좋은 듯 하지만 자주 닦는다고 생각하시면 괜찮은 듯 합니다.
3. 소음은 생각보다 크지 않습니다. 한번 충전하면 생각보다 오래 작동합니다. 
4. 앞 부분에 LED 불빛이 있어서 어두운 곳…