기본 콘텐츠로 건너뛰기

충분한 소프트웨어 테스팅이란?

소프트웨어 테스터로서 겪는 딜레마 중 하나가 도데체 얼마나 테스트를 해야 충분한가?에 대한 문제입니다.

경영진을 포함해서 많은 사람들이 테스트 결과 보고서를 보면서 말합니다.

테스트가 충분히 진행되었나요? 결함은 없나요? 출시해도 괜찮은거죠?

이 질문들에 확신에 찬 대답으로 '물론입니다'라고 대답할 수 있는 테스터가 과연 있을수가 있기나 한지 의문이 듭니다.

이런 문제는 소프트웨어가 형체가 정의되지 않은 불확정성을 내포한 상태이기 때문이라고 생각합니다.

예를 들어, 하드웨어라 한다면 우리가 테스트를 해야할 범위와 한계가 명확해집니다.

우리가 먹는 식품이라면 구성 성분들이 인체에 유해한지 검사하고 그 과정 전체를 관리 감독하는 것이 불가능하지 않을 것입니다.

재료의 선정부터 출시까지 일관된 기준으로 검사와 관리가 가능합니다.

하지만 소프트웨어는 어떨까요?

요구사항을 수집, 분석, 정의해서 나온 산출물과 아키텍처가 설계한 산출물, 개발자의 코드, 디자이너들의 산출물 어느 하나 공통된 것이 없습니다.

다양한 형태의 산출물간의 추적성 설정조차 어려울 지경입니다.

과연 이 모든것들을 일관된 기준으로 검사와 관리가 가능하긴 한걸까요?

소프트웨어란 도데체 무엇일까요?

저는 소프트웨어를 아래 3가지 구성요소로 정의합니다. 이 정의는 테스터로서 바라보는 소프트웨어에 대한 정의입니다.

소프트웨어란 입력값(Input)출력값(Output) 그리고 데이터(Data)로 구성된 논리적 집합체이다.

그렇다면 우리가 충분한 테스트를 했는가는 소프트웨어에 입력해야 할 값과 출력되어 나오는 값 그리고 그 과정에 사용되는 데이터를 모두 테스트 했는가로 추적해 볼 수 있다고 생각합니다.

대부분의 설계 기법이 이 과정에 대한 논리식과 데이터 생성에 초점이 맞추어져 있습니다.

경계값 분석이나 동등분할은 입력값 또는 출력값의 데이터 검증에 초점이 맞추어져 있습니다.

결정 테이블, 원인 결과 그래프, 상태 전이, 시나리오 테스팅과 같은 기법들은 논리식의 검증에 초점이 맞추어져 있습니다.

그러면 이렇게 입력값과 출력값 그리고 데이터에 대한 검증만으로 충분할까요?

문제는 이건 소프트웨어 자체에 대한 테스트일뿐입니다.

소프트웨어는 운용하는 사용자와 환경에 따라 매우 다양하게 변용됩니다.

누가 사용하는가? 어떤 환경에서 사용하는가? 에 대한 테스트가 추가로 필요합니다.

그래서 아래와 같은 요소들을 추가로 고려해야한다고 봅니다.

조건(Condition), 정황(Context)

그런데, 조건이나 정황은 입력값, 출력값, 데이터와 달리 쉽게 정의하기 어렵고 변수가 너무 많습니다. 때문에 많은 테스터들이 이 부분에 대한 테스트를 수행하지 못하거나 충분하게 고려하지 못합니다.

RST에서는 이러한 부분에 대하여 아래와 같이 7가지 구성요소를 제안합니다.

1. 구조 (Structure)
2. 기능 (Function)
3. 데이터 (Data)
4. 인터페이스 (Interfaces)
5. 플랫폼 (Platform)
6. 운용 (Operations)
7. 시간 (Time)

그러면 이것으로 충분한가?

사실은 이것으로도 부족합니다.

저는 여기에 ISO/IEC/IEEE 25010 소프트웨어 품질 특성을 추가로 고려합니다.

그렇게 저는 커버리지를 측정할 때 위의 7가지 구성요소소프트웨어 품질 특성을 함께 고려해서 사용합니다.

그런데 이로써 문제가 해결된것인가? 아닙니다.

무엇을 측정할지는 정해졌는데 이걸 어떻게 측정하는가에 대한 문제가 남았습니다.

왜냐하면 각각의 요소들마다 모수가 불명확하다는 것이 문제입니다.

모수를 측정할 수 있다는 분들도 계시디만 소프트웨어는 하드웨어와 달리 이 모수가 소프트웨어가 종료되어 사라지는 순간까지 지속적으로 변한다는 것입니다.

고로 어제의 100%와 오늘의 100%는 완전히 다른 얘기가 됩니다.

그러면 도데체 이걸 어떻게 측정하는가?

사실 이 부분에 대해서는 저도 아직까지는 명확하게 얘기를 하지 못합니다.

제임스 바크나 정황 주도 학파에 몸 담고 있는 사람들, RST 진영 쪽에 있는 분들이 강조하는 것은 테스터들의 책임감입니다.

내 이름과 양심을 걸고 하늘을 우러러 한점 부끄러움 없는 테스트를 했는가?

그래서 저도 매번 테스트를 할때마다 저에게 되묻습니다.

내가 놓친것은 없는가?
내가 고려하지 못한 것이 있는가?

충분한 소프트웨어 테스팅이란 결국 자신과의 싸움이고 타인이 나에게 보내는 신뢰라고 생각합니다.

무엇을 테스트할 것인가에 대한 것은 조금만 고민해보면 어느 정도까지는 쉽게 정의할 수 있습니다.

경험이 누적되면 이것은 점점 더 쉬워집니다.

그런데 그것을 얼마나 충분히 고려하여 테스트를 수행했는가는 아직까지도 참 많이 어렵습니다.

경영진이나 이해관계자들 특히 우리 나라처럼 정량 분석 데이터를 좋아하는 사람들이 많을때는 이것이 참 어렵습니다.

가끔은 그 사람들 입맛에 맞춰 보기좋게 포장을 하기도 합니다.

하지만 중요한 것은 그런 숫자보다는 스스로 자부심을 느끼기에 충분할 만큼 떳떳한가? 이해관계자가 내 테스트를 신뢰하고 지원하는가? 가 아닐까 싶습니다.

그런 신뢰를 얻기 위해 나는 최선을 다해 노력하고 있는가? 라고 스스로 물어보는게 중요하다고 생각합니다.

스스로에게 떳떳하고 이해관계자의 신뢰를 얻고 있다면 저는 그것이 충분한 소프트웨어 테스팅이라고 생각합니다.

-----

글을 쓰는 건 항상 어렵습니다. 머리 속에 떠다니던 생각을 끄집어내어 한줄 글로 표현하는 것이 참 어렵습니다.

생각을 글로 적다보면 생각해 두었던 내용이 사라지고 바뀌고 글로 표현하지 못하는 경우도 생깁니다.

글을 쓰는 법을 제대로 배우지 못한 무식의 소치라고 치부하기에도 부끄러운 글을 계속 쓰는 것이 맞는지 가끔 고민을 합니다.

이 글도 용두 사미 같아 부끄럽습니다.

제가 적는 글을 읽어보시고 반론이나 궁금한 내용을 댓글로 적어주시면 저에게 많은 도움이 됩니다.

이번에도 제 글을 읽어주셔서 고맙습니다.

댓글

이 블로그의 인기 게시물

매우 매우 매우 실망스러운 레일플러스 모바일 교통카드

우리 나라에서 버스나 지하철 같은 교통 수단을 이용하는 대부분의 사람들은 티머니와 같은 선불교통카드나 카드사와 연계된 후불교통카드를 쓰는 경우가 거의 대부분일 것입니다.

저도 현금으로 지하철이나 버스를 이용해본지가 언제인지 기억이 가물가물 합니다. (최근에는 현금을 들고 다닐 필요가 거의 없긴 하죠. 그러다보니 가끔 지방에 가서 카드가 안되는 가게나 주차장 등에서 난감하기도 하고요..)

그런데, 이런 카드 말고 스마트폰으로 교통 수단을 이용하는 사람들도 있습니다.

우리 나라에서 스마트폰으로 교통 수단을 이용하는 것은 심카드를 기반으로 구현된 기술로 문제는 해외 단말은 이 기능을 지원하지 않는 다는 것입니다.

해외 단말들이 이와 같은 기능을 구현하기 위해서는 HCE 라는 방식이 필요한데.. 이런 방식으로 결제 시스템을 구현은 할 수 있지만 지금까지는 이 기술로 구현된 사례가 없었는데, 얼마전 코레일에서 레일플러스 모바일 교통카드를 HCE 로 구현하여 서비스를 시작했습니다.

이로서 해외 단말을 사용하는 사람들도 스마트폰으로 버스나 지하철과 같은 교통수단을 이용할 수 있게 될것이라고 환호했습니다만, 실상은 그렇지 않다고 볼 수 있습니다.

저는 넥서스 5X 사용자로 심카드를 기반으로 하는 결제 시스템을 쓸 수 없었기 때문에 저도 코레일에서 저 서비스를 내놓았을 때 기대에 부풀어서 나오자마자 바로 설치해봤습니다. 처음 서비스 시작한 시점이 8월이었는데, 그 때에는 안드로이드 8.0을 지원하지 않아서 서비스는 시작되었지만 사용할 수 없었습니다.

그러다가, 9월 업데이트로 안드로읻 8.0(오레오)에서도 해당 앱이 정상적으로 동작하게 되어서 한번 사용해 본 소감을 남깁니다.

우선 현재 시점으로 해당 서비스를 이용하는 방법은 크게 2가지입니다.

하나는 레일플러스 모바일 교통카드 앱을 설치하여 이용하는 방법이고, 다른 하나는 신한 판(앱카드)를 설치하여 이용하는 방법입니다.

카드 종류는 선불과 후불 2가지 종류가 있는데, 레일플러스 모바일 교통카드 앱은 2가지를 모두 지원하고…

안드로이드 오토 그리고 브링고...

2018년 7월 12일.. 기다리고 기다리던 안드로이드 오토가 드디어 국내 서비스를 시작했습니다.

대한민국의 특수한 상황 때문에 구글 지도가 아닌 카카오 네비게이션과 함께 국내 서비스를 시작했습니다.

제 차량이 더 넥스트 스파크인데.. 기본 네비게이션이 브링고라는 앱입니다.

물론 AS 마켓에서 여러 네비게이션을 설치할 수도 있지만, 그러기에는 안정성도 문제이고 마이링크와 같이 사용하는 것도 어색해서 저는 공식적으로 지원하는 브링고를 써왔습니다.

그런데, 이 브링고라는 앱의 가장 큰 문제점은 네비게이션임에도 불구하고 업데이트가 거의 없습니다. 1년에 2번 정도 해주면 아주 양호한 정도입니다. 웃긴 것은 만원이나 하는 유료 앱입니다.

구독 서비스가 아닌걸 천만다행으로 생각해야하는 건지... 어쨌든 유료 앱임에도 불구하고 AS는 정말 구립니다.

안드로이드 업데이트 될 때마다 연결이 잘 안되기도 하고.. 마이링크는 왜 업데이트가 안되는건지도 모르겠고..

거기다가 기본적으로 지도의 데이터 양이 절대적으로 부족하고 최신 정보가 반영이 안되다보니 목적지 설정할 때 주소로 해야 하는 경우가 비일비재하고 그 주소마저 신도시와 같은 곳은 주소 설정마저 안되서 목적지 설정이 안됩니다.

과속카메라나 단속 구간의 속도 제한 안내는 말하면 잔소리죠..

울며 겨자먹기 식으로 어쩔 수 없이 브링고를 써오던 저에게 안드로이드 오토는 정말 이 무더운 여름에 단비 같은 소식이었습니다.

카카오 내비는 싫어하지만.. 이 역시 저에게 어떤 선택지가 있는 것은 아니라서 어쩔 수 없다고 생각합니다. 웨이즈라는 앱이 있긴 하지만 이 역시 국내 데이터가 너무 부족해서 실제 사용이 어려운 지경이기 때문에 의미가 없습니다.

어쨌든 안드로이드 오토 서비스와 동시에 설치 후 2주 정도 사용한 후기입니다.

우선은 카카오 내비의 정보가 실시간 반영되다 보니 목적지 설정에 대한 스트레스는 좀 줄어들어서 좋습니다.

하지만 사용해 보니 몇가지 불편한 점이 있습니다.

1. 경유지 설정이 안됩니다.
2. 스마트폰에서 카카오…

구글 어시스턴트 루틴 설정하기

많은 분들이 배터리나 개인 정보에 대한 우려 또는 사용에 대한 어색함 등등으로 잘 안 쓰시는 구글 어시스턴트도 잘 사용하면 꽤 유용합니다.

이 글은 안드로이드 픽셀 폰을 기준으로 작성되었으며, 구글 어시스턴트가 업데이트 되는 경우 실제 어플리케이션과 내용이 달라질 수 있습니다.

우선 구글 어시스턴트를 활성화 시키시고 설정으로 들어가시면 아래와 같은 화면이 나올 것입니다.

이 화면은 구글 어시스턴트 버전에 따라 다르게 보이실 수도 있습니다.

루틴을 설정하시면 아래와 같은 화면이 나옵니다.


+ 를 선택해서 프리셋으로 주어진 명령 외에 개인적인 명령을 추가할 수 있습니다.

+ 를 선택하시면 아래와 같은 화면이 나옵니다.


명령어는 필수적으로 입력하셔야 합니다.

시간 및 요일 설정은 구글 홈이나 미니를 가지고 계시면 알람처럼 사용할 수 있습니다.

집에 여러개의 구글 홈이 있으시다면 특정 구글 홈에서만 작동하도록 설정할 수도 있습니다.

즉, 방마다 구글 홈을 설치하시면 정해진 시간에 아이들을 깨우도록 모닝콜 용도로도 사용할 수 있습니다. 밥 먹으라고 방송할 수도 있겠네요.

특별한 명령어 없이 알람용으로 쓰실거라면 명령어는 아무거나 대충 넣으셔도 됩니다. 평소에 잘 사용하지 않는 명령어가 좋을 듯 합니다. 기존에 구글에 세팅되어 있는 명령어는 입력되지 않습니다.

작업 추가로 여러개의 작업을 연달아 실행시킬 수 있습니다. 기존의 명령어가 마음에 안드시면 편한 명령어를 세팅하고 작업 추가에 기존의 명령어를 선택하시면 좀 더 편하게 이용할 수 있습니다.

저는 '에어컨 틀어'가 익숙치 않아서 다른 명령어로 세팅해 놓고 편하게 쓰고 있습니다.

집에 구글 홈이 있으시거나 평소에 구글 어시스턴트에 여러 명령어를 내리기 위해서 계속 '오케이 구글'을 외치셨던 분들이라면 약간의 시간을 투자하셔서 좀 더 편안한 삶의 혜택을 누려보시는 것도 좋을 듯 합니다.

아쉬운 것은 위치 기반의 명령어 설정이 되면 좋을텐데 안되는군요.. 원래 없는 건지는 잘 모르겠습니다.