기본 콘텐츠로 건너뛰기

충분한 소프트웨어 테스팅이란?

소프트웨어 테스터로서 겪는 딜레마 중 하나가 도데체 얼마나 테스트를 해야 충분한가?에 대한 문제입니다.

경영진을 포함해서 많은 사람들이 테스트 결과 보고서를 보면서 말합니다.

테스트가 충분히 진행되었나요? 결함은 없나요? 출시해도 괜찮은거죠?

이 질문들에 확신에 찬 대답으로 '물론입니다'라고 대답할 수 있는 테스터가 과연 있을수가 있기나 한지 의문이 듭니다.

이런 문제는 소프트웨어가 형체가 정의되지 않은 불확정성을 내포한 상태이기 때문이라고 생각합니다.

예를 들어, 하드웨어라 한다면 우리가 테스트를 해야할 범위와 한계가 명확해집니다.

우리가 먹는 식품이라면 구성 성분들이 인체에 유해한지 검사하고 그 과정 전체를 관리 감독하는 것이 불가능하지 않을 것입니다.

재료의 선정부터 출시까지 일관된 기준으로 검사와 관리가 가능합니다.

하지만 소프트웨어는 어떨까요?

요구사항을 수집, 분석, 정의해서 나온 산출물과 아키텍처가 설계한 산출물, 개발자의 코드, 디자이너들의 산출물 어느 하나 공통된 것이 없습니다.

다양한 형태의 산출물간의 추적성 설정조차 어려울 지경입니다.

과연 이 모든것들을 일관된 기준으로 검사와 관리가 가능하긴 한걸까요?

소프트웨어란 도데체 무엇일까요?

저는 소프트웨어를 아래 3가지 구성요소로 정의합니다. 이 정의는 테스터로서 바라보는 소프트웨어에 대한 정의입니다.

소프트웨어란 입력값(Input)출력값(Output) 그리고 데이터(Data)로 구성된 논리적 집합체이다.

그렇다면 우리가 충분한 테스트를 했는가는 소프트웨어에 입력해야 할 값과 출력되어 나오는 값 그리고 그 과정에 사용되는 데이터를 모두 테스트 했는가로 추적해 볼 수 있다고 생각합니다.

대부분의 설계 기법이 이 과정에 대한 논리식과 데이터 생성에 초점이 맞추어져 있습니다.

경계값 분석이나 동등분할은 입력값 또는 출력값의 데이터 검증에 초점이 맞추어져 있습니다.

결정 테이블, 원인 결과 그래프, 상태 전이, 시나리오 테스팅과 같은 기법들은 논리식의 검증에 초점이 맞추어져 있습니다.

그러면 이렇게 입력값과 출력값 그리고 데이터에 대한 검증만으로 충분할까요?

문제는 이건 소프트웨어 자체에 대한 테스트일뿐입니다.

소프트웨어는 운용하는 사용자와 환경에 따라 매우 다양하게 변용됩니다.

누가 사용하는가? 어떤 환경에서 사용하는가? 에 대한 테스트가 추가로 필요합니다.

그래서 아래와 같은 요소들을 추가로 고려해야한다고 봅니다.

조건(Condition), 정황(Context)

그런데, 조건이나 정황은 입력값, 출력값, 데이터와 달리 쉽게 정의하기 어렵고 변수가 너무 많습니다. 때문에 많은 테스터들이 이 부분에 대한 테스트를 수행하지 못하거나 충분하게 고려하지 못합니다.

RST에서는 이러한 부분에 대하여 아래와 같이 7가지 구성요소를 제안합니다.

1. 구조 (Structure)
2. 기능 (Function)
3. 데이터 (Data)
4. 인터페이스 (Interfaces)
5. 플랫폼 (Platform)
6. 운용 (Operations)
7. 시간 (Time)

그러면 이것으로 충분한가?

사실은 이것으로도 부족합니다.

저는 여기에 ISO/IEC/IEEE 25010 소프트웨어 품질 특성을 추가로 고려합니다.

그렇게 저는 커버리지를 측정할 때 위의 7가지 구성요소소프트웨어 품질 특성을 함께 고려해서 사용합니다.

그런데 이로써 문제가 해결된것인가? 아닙니다.

무엇을 측정할지는 정해졌는데 이걸 어떻게 측정하는가에 대한 문제가 남았습니다.

왜냐하면 각각의 요소들마다 모수가 불명확하다는 것이 문제입니다.

모수를 측정할 수 있다는 분들도 계시디만 소프트웨어는 하드웨어와 달리 이 모수가 소프트웨어가 종료되어 사라지는 순간까지 지속적으로 변한다는 것입니다.

고로 어제의 100%와 오늘의 100%는 완전히 다른 얘기가 됩니다.

그러면 도데체 이걸 어떻게 측정하는가?

사실 이 부분에 대해서는 저도 아직까지는 명확하게 얘기를 하지 못합니다.

제임스 바크나 정황 주도 학파에 몸 담고 있는 사람들, RST 진영 쪽에 있는 분들이 강조하는 것은 테스터들의 책임감입니다.

내 이름과 양심을 걸고 하늘을 우러러 한점 부끄러움 없는 테스트를 했는가?

그래서 저도 매번 테스트를 할때마다 저에게 되묻습니다.

내가 놓친것은 없는가?
내가 고려하지 못한 것이 있는가?

충분한 소프트웨어 테스팅이란 결국 자신과의 싸움이고 타인이 나에게 보내는 신뢰라고 생각합니다.

무엇을 테스트할 것인가에 대한 것은 조금만 고민해보면 어느 정도까지는 쉽게 정의할 수 있습니다.

경험이 누적되면 이것은 점점 더 쉬워집니다.

그런데 그것을 얼마나 충분히 고려하여 테스트를 수행했는가는 아직까지도 참 많이 어렵습니다.

경영진이나 이해관계자들 특히 우리 나라처럼 정량 분석 데이터를 좋아하는 사람들이 많을때는 이것이 참 어렵습니다.

가끔은 그 사람들 입맛에 맞춰 보기좋게 포장을 하기도 합니다.

하지만 중요한 것은 그런 숫자보다는 스스로 자부심을 느끼기에 충분할 만큼 떳떳한가? 이해관계자가 내 테스트를 신뢰하고 지원하는가? 가 아닐까 싶습니다.

그런 신뢰를 얻기 위해 나는 최선을 다해 노력하고 있는가? 라고 스스로 물어보는게 중요하다고 생각합니다.

스스로에게 떳떳하고 이해관계자의 신뢰를 얻고 있다면 저는 그것이 충분한 소프트웨어 테스팅이라고 생각합니다.

-----

글을 쓰는 건 항상 어렵습니다. 머리 속에 떠다니던 생각을 끄집어내어 한줄 글로 표현하는 것이 참 어렵습니다.

생각을 글로 적다보면 생각해 두었던 내용이 사라지고 바뀌고 글로 표현하지 못하는 경우도 생깁니다.

글을 쓰는 법을 제대로 배우지 못한 무식의 소치라고 치부하기에도 부끄러운 글을 계속 쓰는 것이 맞는지 가끔 고민을 합니다.

이 글도 용두 사미 같아 부끄럽습니다.

제가 적는 글을 읽어보시고 반론이나 궁금한 내용을 댓글로 적어주시면 저에게 많은 도움이 됩니다.

이번에도 제 글을 읽어주셔서 고맙습니다.

댓글

이 블로그의 인기 게시물

매우 매우 매우 실망스러운 레일플러스 모바일 교통카드

우리 나라에서 버스나 지하철 같은 교통 수단을 이용하는 대부분의 사람들은 티머니와 같은 선불교통카드나 카드사와 연계된 후불교통카드를 쓰는 경우가 거의 대부분일 것입니다.

저도 현금으로 지하철이나 버스를 이용해본지가 언제인지 기억이 가물가물 합니다. (최근에는 현금을 들고 다닐 필요가 거의 없긴 하죠. 그러다보니 가끔 지방에 가서 카드가 안되는 가게나 주차장 등에서 난감하기도 하고요..)

그런데, 이런 카드 말고 스마트폰으로 교통 수단을 이용하는 사람들도 있습니다.

우리 나라에서 스마트폰으로 교통 수단을 이용하는 것은 심카드를 기반으로 구현된 기술로 문제는 해외 단말은 이 기능을 지원하지 않는 다는 것입니다.

해외 단말들이 이와 같은 기능을 구현하기 위해서는 HCE 라는 방식이 필요한데.. 이런 방식으로 결제 시스템을 구현은 할 수 없지만 지금까지는 이 기술로 구현된 사례가 없었는데, 얼마전 코레일에서 레일플러스 모바일 교통카드를 HCE 로 구현하여 서비스를 시작했습니다.

이로서 해외 단말을 사용하는 사람들도 스마트폰으로 버스나 지하철과 같은 교통수단을 이용할 수 있게 될것이라고 환호했습니다만, 실상은 그렇지 않다고 볼 수 있습니다.

저는 넥서스 5X 사용자로 심카드를 기반으로 하는 결제 시스템을 쓸 수 없었기 때문에 저도 코레일에서 저 서비스를 내놓았을 때 기대에 부풀어서 나오자마자 바로 설치해봤습니다. 처음 서비스 시작한 시점이 8월이었는데, 그 때에는 안드로이드 8.0을 지원하지 않아서 서비스는 시작되었지만 사용할 수 없었습니다.

그러다가, 9월 업데이트로 안드로읻 8.0(오레오)에서도 해당 앱이 정상적으로 동작하게 되어서 한번 사용해 본 소감을 남깁니다.

우선 현재 시점으로 해당 서비스를 이용하는 방법은 크게 2가지입니다.

하나는 레일플러스 모바일 교통카드 앱을 설치하여 이용하는 방법이고, 다른 하나는 신한 판(앱카드)를 설치하여 이용하는 방법입니다.

카드 종류는 선불과 후불 2가지 종류가 있는데, 레일플러스 모바일 교통카드 앱은 2가지를 모두 지원하고…

체험해보니 더 신기한 골전도 헤드셋 - 에프터샷 트랙에어 헤드셋

언제부터 썼는지 기억도 잘 나지 않는 HBS-810의 이어캡이 없어지면서.. 다시 헤드셋을 구매하게 되었습니다.

언제부터 썼는지 고무도 많이 삭았고.. 왼쪽은 선이 끊어지기 일보 직전이었고, 파워 버튼도 잘 동작하지 않았고.. 무엇보다 이어캡 때문에 얼마전에 서비스센터에 방문했을 때는 부품을 가지고 있지 않아서 주문해야 한다는 얘기에..

이제 정말 헤어질때가 되었나.. 하고 있었는데.. 엊그제 보니 그나마 삭아있던 이어캡마저 어디로 없어졌는지 보이지 않아서...

정말로 정말로 너와 헤어질때가 되었구나 싶어서.. '안녕'이라는 한마디를 남기고..

다시 헤드셋을 찾아보았습니다.

그냥 LG HBS 시리즈를 구매할까 했는데..

생각해보니 헤드셋의 줄이 너무 거추장스럽고 언제 끊어질지 모르는 불안감 때문에..

요즘 핫하다는 골전도 헤드셋을 알아보기로 했습니다.

솔직히 찾으면서 이게 정말 잘 들리기는 하는건지(음질.. 이런거 잘 모르는 막귀입니다. 그냥 잘 들리는지가 궁금했습니다.) 의문스럽기는 했지만..

이것 저것 찾아보다가.. 에프터샷이 유명한 듯 해서.. 낼름 구매해봤습니다.

우리 나라는 참 좋은 것이 주문하고 그 다음날 바로 배송이 와서...

너무 기쁜 마음에 후다닥 뜯어서 착용해 봤습니다.

제가 안경을 쓰기 때문에 이걸 귀에 걸치면 엄청나게 불편하지 않을까 했는데.. 전혀 불편하지 않습니다.

무게도 매우 가벼워서 찾용한 느낌이 거의 들지 않습니다.

다만 꺼낼때는 되게 작아보였는데.. 막상 착용해 보니 제 머리보다 커서.. 뒷부분에 공간이 남아서 그 부분이 옷에 가끔 걸리거나 운전을 하려면 좌석에 부딪치는게 좀 신경쓰이기는 합니다.

재질은 플라스틱인지.. 금속인지 잘 모르겠지만..(귀찮아서 안찾아봤습니다.) 무진장 유연합니다. 부서질것 같지는 않더군요.

전용 파우치도 주기 때문에 보관도 괜찮을 듯 싶습니다.

중요한 소리가 잘 드리느냐는 건..

신기합니다. 무지 잘 들립니다.

귀에 아무것도 꼽지 않았는데.. 아무런 이질감 없이 소리가 매우 자연스럽게…

쪼끔 신기한 BSW 에어프라이어 BS-1714F

예전에 필립스에서 에어프라이어가 나와서 유행했던 적이 있습니다.
하지만 뭔가 믿음직스럽지 않은 광고와 비싼 가격때문에 관심을 끊고 살아왔었는데..
얼마전 뉴스를 보니 카피 제품이 많아지면서 가격이 꽤 많이 싸진걸 알게 되었습니다.
그냥 저냥 사용할만한 수준의 제품이 대략 6만원대의 가격이더군요..
그래서 그냥 한번 질러봤습니다.
솔직히 가정에서 튀김을 하기는 정말 번거롭습니다. 위험하기도 하고요..
가장 골 아픈 것은 기름 처리입니다. 버리는 것도 귀찮지만 기름 솥 닦는 것은 하신 분들은 다 아시죠. ㅠㅠ
그래서 튀김이 너무 먹고 싶어서 질렀습니다.
나가서 사먹어도 되지만.. 사먹는 것보다 해먹고 싶어서..
저는 BSW의 BS-1714F라는 모델을 이마트에서 구매해봤습니다. 대충 보니 이게 이마트의 PB 상품 같더군요..
상품이 오자마자 바로 도전해봤습니다.
우선 포크 커틀릿을 도전해봤는데.. 음.. 실제 기름에 튀긴것과 같은 색감은 나오지 않지만, 식감은 꽤 비슷합니다. 바삭 바삭 담백합니다...오~~
군고구마도 해봤는데.. 까맣게 탄 것과 같은 비주얼은 안나오지만 맛있습니다.
수제 감자 스틱은 잘 안되더라구요..
가장 최고의 요리는 당연히 삽겹살.. 정말.. 하아.. 최고입니다.
보니까 이게 오븐과 건조기를 약간 합친 느낌입니다.
집에 광파 오븐이 있으신 분은 굳이 구매를 안하셔도 될 듯 하지만.. 광파 오븐보다는 사용이나 관리가 꽤 쉽습니다.
다만 최대 단점이 전기입니다.
200도 기준으로 순간 1.7에서 2킬로와트 정도의 전력을 먹습니다.
대부분의 요리는 180도에서 200도 온도로 15분에서 20분 정도의 시간이 필요한데.. 대충 세탁기 돌리는 정도의 전기가 들어갑니다.
전기 걱정 안하시는 분은 자주 드실 것 아니면 괜찮은 선택인것 같지만 자주 해드시거나 전기 요금이 부담스러우신 분들은 한번 더 고민해 보셔야 할 듯 합니다. 전기 꽤 많이 먹습니다. (어쩌면 당연한 것이지요..)
그리고 진짜 튀김이 되는건 아닙니다. 겉부분을 완전히 건조시킨되 굽는 …