기본 콘텐츠로 건너뛰기

메트릭.. 그거 측정해서.. 뭐할라고? (대부분의 메트릭은 쓸모없다.)

2009년부터 4년 넘게 이 공간에 쓸데 없이 주절 주절 소프트웨어 테스팅과 관련이 있다고 생각하는 글을 137편을 끄적거렸습니다.

매달 2편 정도의 글을 썼습니다.

그다지 많이 쓰지도 않았는데.. 이제는 예전에 제가 무슨 글을 썼는지 잘 기억이 안납니다.

이 블로그 서비스는 구글이 제공하는 서비스임에도 불구하고 검색 기능은 아주... 엉망인지라...

지금 쓰고자 하는 이 글도 예전 언젠가 썼었던 기억이 있는데..

아무리 찾아보아도 아니보여서 다시 써봅니다.

이번에 제가 얘기하고 싶은 주제는 메트릭입니다.

우리는 소프트웨어를 개발하고 테스트를 진행하면서 제품의 품질과 테스트의 진척을 판단하기 위해 꽤 많은 메트릭을 사용하고 있습니다.

결함 갯수, 수정된 결함 수, 잔존 결함 수, 결함 수정 기간, 작성된 테스트 케이스 수, 품질 지표, 실행된 테스트 케이스 수, 실패한 테스트 케이스 수 등등등...

정말로 많은 메트릭 종류가 있습니다.

그리고 이러한 메트릭을 기반으로 사람을 평가하고 제품을 평가합니다.

많은 조직에서는 좀 더 의미있는 메트릭을 수집하고자 매우 많은 노력을 하고 있습니다.

그래서.. 그 많은 메트릭을 수집하셔서 품질이 좀 나아지셨습니까? 테스터의 역량이 향상되셨습니까? 개발자로부터 유입되는 결함은 좀 줄어드셨나요?

물론, 괄목할만한 성과를 얻는 조직도 있습니다.

하지만 많은 조직은 분명 열심히 하고 있다고 생각하는데 성과는 높지 않습니다.

그리고 더 나은 메트릭을 찾아서 킬리만자로의 표범처럼 헤메이고 있습니다.

자.. 더 나은 메트릭을 찾아 헤메기 전에 왜 나아지지 않는 것일까요?

수집하는 메트릭이 좋지 않아서일까요?

잘못된 메트릭을 수집하고 있어서 그런걸까요?

결론적으로는 메트릭을 수집하기 때문에 그렇다고 볼 수 있습니다.

어쩌면 메트릭을 수집하지 않음으로 인해 더 나은 경험을 해보실 수도 있습니다.

이 무슨 해괴한 이야기인가 싶으신가요?

관리자는 숫자에 대한 맹신과 같은 신념이 있습니다.

관리자들은 말 그대로 관리하는 것에 대해 굉장히 집착하는 경향이 있습니다.

때문에 현재 상태를 판단하고 의사결정을 위해 굉장히 많은 메트릭을 수집합니다.

하지만 정말로 제대로 된 메트릭을 수집하고 계신가요?

더 나은 메트릭을 찾아 헤메시기 전에 아래 사항들에 대해 한번 더 고민해 보시기 바랍니다.

첫번째는 지금 수집하는 각 메트릭에 목적과 용도가 있으십니까?

그 메트릭을 어떤 목적을 가지고 어디에 어떻게 사용하기 위해서 수집하고 계신가요?

이 질문에 명확하게 대답하지 못하신다면 의미 없는 메트릭을 수집하고 계신겁니다.

그리고 다른 회사들에서 성공적이었던 그 어떤 메트릭을 가져다고 수집하셔도 그 메트릭의 목적과 용도를 정확히 이해하지 못하셨다면 그 메트릭은 얼마 안가 매우 쓸모없는 메트릭이 될 것입니다.

예를 들면 많은 조직에서 오늘 발견한 결함을 측정합니다.

그런데 오늘 발견한 결함은 왜 수집하시는건가요? 수집된 결함 갯수를 가지고 무엇을 판단하고 결정하실건가요?

어떤 분들은 결함 갯수가 많으면 제품의 품질이 낮다고 판단할 수 있답니다.

정말로 그런가요? 심각도라는 메트릭을 추가해서 매일 발견된 심각도 높은 결함 갯수를 수집한다고 하더라도 마찬가지입니다. 이걸 왜 수집하시는 건가요? 이걸로 무엇을 판단하고 결정하실 수 있으신가요?

어제보다 오늘 심각도 높은 결함이 나왔다는 것은 무슨 의미일까요?

어제보다 오늘 제품의 품질이 내려갔다는 의미인가요?

잘 생각해보시기 바랍니다. 정말로 이 메트릭이 왜 수집이 되고 있는 것인지? 무엇을 판단하고 결정하기 위해서 수집되고 있는것인지.. 우리가 이해하고 알고 있고 그렇다고 믿었던 것에 대해 한번 더 물어보시기 바랍니다.

정말 확신하시나요?

두번째는 기준이 명확하신가요?

수집하는 메트릭의 기준이 명확하신가요?

메트릭의 추세를 판단하는 기준이 명확하신가요?

많은 조직들이 커버리지를 측정합니다.

예를 들어 오늘 100개의 테스트 케이스 중에 80개를 실행해서 테스트 케이스 실행률이 80%가 되었습니다.

그리고 한 주 뒤에 추가로 100개의 테스트 케이스가 만들어졌고 기존 100개의 테스트 케이스 중에 50개가 기능 변경으로 삭제되었습니다. 전체 테스트 케이스는 150개가 되었고 120개의 테스트 케이스를 실행하여 실행률은 80%가 되었습니다.

지난주에 테스트 케이스 실행률은 80%였고 이번주도 80% 입니다.

그러면 우리는 일은 한 것일까요? 안한것일까요? 우리 팀의 생산성은 높아진것일까요? 낮아진것일까요?

많은 메트릭들의 기준은 프로젝트를 진행하면서 바뀝니다. 그에 따른 기준을 정하기란 매우 어렵습니다.

어떤 관점에서 해석하느냐에 따라 전혀 다른 결과를 나타냅니다.

고로 우리가 어떤 메트릭을 선정해서 측정하기 위해서는 프로젝트 기간 동안 그 기준이 변하지 않고 수집을 하는 이유와 그 활용 용도가 명확한 메트릭을 선정해야 합니다.

그렇지 않다면 그냥 측정하지 않는 것이 더 좋습니다.

우리가 메트릭을 수집하는 것을 측정을 하기 위해서입니다. 측정에는 정량적이란 의미가 내포되어 있습니다.

숫자는 무엇인가에 대한 이해를 빠르고 직관적으로 이루어지도록 하는 마법을 부리지만 숫자에는 정황이 반영되지 못하기 때문에 전체적인 판단을 하기에는 오히려 부적절합니다.

즉, 측정은 관리적인 측면에서 미시적인 관리에 빠져들게 하는 단점이 있습니다.

미시적인 관리에 집중하게 되었을 때 가장 큰 리스크는 신뢰가 사라진다는 점입니다.

오늘 발견된 결함 갯수, 오늘 실행한 테스트 케이스 수, 오늘 작성한 테스트 케이스 수의 측정 이면에는 신뢰하지 못하는 관계가 숨어있습니다.

테스터의 전문성은 사라지고 기계의 일부처럼 취급되고 있다는 의미입니다.

세번째 메트릭은 어떤 경우에도 사람을 측정하는 용도로 쓰여져서는 안됩니다.

어떠한 경우에도 메트릭이 테스터나 개발자와 같은 사람을 측정하는 용도로 사용되는 순간 조직에서 신뢰는 사라지고 무의미한 성과지표 위주의 조직으로 바뀌게 됩니다.

그 조직에는 열정도 사라지고 책임도 사라집니다.

고로 사람을 측정하는데 사용될 수 있는 메트릭은 설계되어서는 안됩니다.

그럼 어떤 메트릭이 좋은 메트릭일까요?

제품 자체, 진척 자체만 측정할 수 있는 기준이 변하지 않고 수집 목적과 활용 방안이 명확한 메트릭은 무엇이 있을까요?

저는 정량적인 측정보다 좀 더 정성적인 측정을 종아합니다.

테스트 목적 도달 여부에 필요한 테스트를 정해 놓고 리스크에 따라 강도를 설정한 후 그에 따른 테스트를 충분히 수행했는가를 측정하는 정도면 충분하다고 생각합니다.

테스트를 충분히 수행했는가를 어떻게 측정할것인가는.. 테스터와 팀원을 믿어야 한다고 생각합니다.

예전에 어떤 분이 이렇게 얘기해준적이 있습니다. 당신은 당신의 이름을 걸고 테스트 보고서를 쓸 수 있습니까?

각자의 이름을 걸고 보고서를 쓸 수 있다면 그걸로 충분하다고 생각합니다.

저도 매일 그러기 위해서 노력하고 있습니다.

우리 나라 실정에 맞지 않고 뜬구름 같은 이야기이지만..

잘 생각해보면 쓸모 없는 메트릭 수집할 시간에 의미 있는 테스트를 한번이라도 더 실행하는 것이 모두에게 더 나은 것임은 분명하다고 생각합니다.

여러분은 의미 있는 메트릭을 수집하고 계신가요? 그렇다면 공유해주시면 고맙겠습니다.

정리하면 좋은 메트릭이란

1. 수집 목적과 활용 방안이 명확해야 한다.
2. 기준이 변하지 않아야 한다.
3. 사람이 아닌 제품을 측정해야 한다.

이렇게 생각합니다.

댓글

이 블로그의 인기 게시물

매우 매우 매우 실망스러운 레일플러스 모바일 교통카드

우리 나라에서 버스나 지하철 같은 교통 수단을 이용하는 대부분의 사람들은 티머니와 같은 선불교통카드나 카드사와 연계된 후불교통카드를 쓰는 경우가 거의 대부분일 것입니다.

저도 현금으로 지하철이나 버스를 이용해본지가 언제인지 기억이 가물가물 합니다. (최근에는 현금을 들고 다닐 필요가 거의 없긴 하죠. 그러다보니 가끔 지방에 가서 카드가 안되는 가게나 주차장 등에서 난감하기도 하고요..)

그런데, 이런 카드 말고 스마트폰으로 교통 수단을 이용하는 사람들도 있습니다.

우리 나라에서 스마트폰으로 교통 수단을 이용하는 것은 심카드를 기반으로 구현된 기술로 문제는 해외 단말은 이 기능을 지원하지 않는 다는 것입니다.

해외 단말들이 이와 같은 기능을 구현하기 위해서는 HCE 라는 방식이 필요한데.. 이런 방식으로 결제 시스템을 구현은 할 수 없지만 지금까지는 이 기술로 구현된 사례가 없었는데, 얼마전 코레일에서 레일플러스 모바일 교통카드를 HCE 로 구현하여 서비스를 시작했습니다.

이로서 해외 단말을 사용하는 사람들도 스마트폰으로 버스나 지하철과 같은 교통수단을 이용할 수 있게 될것이라고 환호했습니다만, 실상은 그렇지 않다고 볼 수 있습니다.

저는 넥서스 5X 사용자로 심카드를 기반으로 하는 결제 시스템을 쓸 수 없었기 때문에 저도 코레일에서 저 서비스를 내놓았을 때 기대에 부풀어서 나오자마자 바로 설치해봤습니다. 처음 서비스 시작한 시점이 8월이었는데, 그 때에는 안드로이드 8.0을 지원하지 않아서 서비스는 시작되었지만 사용할 수 없었습니다.

그러다가, 9월 업데이트로 안드로읻 8.0(오레오)에서도 해당 앱이 정상적으로 동작하게 되어서 한번 사용해 본 소감을 남깁니다.

우선 현재 시점으로 해당 서비스를 이용하는 방법은 크게 2가지입니다.

하나는 레일플러스 모바일 교통카드 앱을 설치하여 이용하는 방법이고, 다른 하나는 신한 판(앱카드)를 설치하여 이용하는 방법입니다.

카드 종류는 선불과 후불 2가지 종류가 있는데, 레일플러스 모바일 교통카드 앱은 2가지를 모두 지원하고…

더 넥스트 스파크 브링고 업데이트 후기

블로그를 너무 방치하는 듯 하고..
이러다가는 블로그에 글 쓰는 법도 잊어버릴 듯 하여..
테스팅 관련 글을 쓰고 싶은 건 많지만..
세월이 흘러보니.. 내가 아는 건 아무것도 아니고.. 말을 아끼고 행동을 삼가해야 한다는 깨달음을 얻다보니.. 
글을 쓰는 것도 쉽지 않습니다. 일천한 지식으로 어줍잖게 아는척 글을 쓰는 것이 매우 위험하다는 것을 이제는 알아버린 나이가 되었습니다.
어찌 어찌 그러다보니.. 블로그를 정말로 방치해버린지라.. 
이러면 아니될듯하여.. 요즘 제가 몰고 다니는 더 넥스트 스파크 마이링크(브링고) 업데이트 후기를 적어볼까 합니다.
작년 9월전까지는 스파크 수동을 몰고다니다 더 넥스트 스파크로 차종을 변경하고 이제 얼추 10개월이 되어 갑니다.
짧은 시간이지만 자동을 몰고다니면서 느낀 점은.. 이게 자동차라기보다는 엄청나게 빠른 속도로 이동하는 거대한 컴퓨터에 앉아 있는 느낌입니다.
혹자는 그러더군요. 더 넥스트 스파크는 가장 비싸 아이폰 액세서리라고..
그렇게 느끼는 이유는 하드웨어 변경 없이 그동안 몇번의 소프트웨어 업데이트만으로 많은 기능을 누리고 있습니다.
먼저, 오토라이트 기능을 소프트웨어 업데이트와 스위치 설치만으로 활성화해서 아직도 잘 쓰고 있습니다.
두번째로는 원격 시동 기능도 소프트웨어 업데이트만으로 구현해내었습니다.
그리고 마지막으로 기존에는 애플 카플레이나 안드로이드 오토만으로는 누릴 수 없던 네비게이션 기능을 쉐보레에서 밀어주고 있는 브링고라는 네비게이션을 소프트업데이트만으로 사용할 수 있게 되었습니다.
많은 사람들은 브링고가 T맵이나 아틀란보다 못하다고 불만들이 많으시지만 저는 그냥 주변 도로 정보와 제가 가야하는 곳으로 이동만 하면 되는지라 크게 불편을 느끼지는 못하고 있습니다.
오히려 예전에는 차 앞유리에 거치대를 붙이고 조구마한 화면으로 아틀란 네비게이션 앱을 실행해서 이동할 때마다 스마트폰이 과열되면 자동으로 꺼지던 불편함에서 벗어난 것만으로도 저는 대단히 만족하고 있습니다.
소프트웨어 업데이트만으로 없던…

효리네 민박 때문에 질러버린 샤요미(미지아) 무선 진동 물걸레 청소기

얼마전에 종영된 효리네 민박을 보면서 아내님이 항상 탐내던 아이템이 물걸레 청소기였습니다.
집에서 앉아서 물걸레질 해보신 분이라면.. 그 고충을 익히 아실겁니다.
무릎 아프죠. 손목 아프죠. 허리 아프죠..
그런데 TV를 보니 슥슥슥 너무 편해보이긴 하더군요..
그래서 사볼까 하고 검색해보니...
흠.. 뭔가 좀 난감하더군요..
우선 한경희생활과학에서 나오는 제품은 회사가 믿음이 안가고.. 
인터넷 후기는 빙글 빙글 회전하는 형식의 청소기는 방바닥에 있는 전선이 엉키거나 끊길 수 있다는 얘기가 정말 많더군요..
그래서 앞뒤로 움직이는 제품을 찾아보니 가격도 가격이고 소음이 크다는 애기부터 막상 써보면 잘 안 닦인다는 얘기까지 여러 얘기들이 많더군요..
그래서 이리 저리 더 찾아보다 샤오미 정확히 말하면 미지아라는 회사에서 나온 물걸레 청소기를 발견해 내었습니다.
샤오미는 도데체 안 만드는 것이 뭘까요? 
이 녀석은 걸레의 움직임이 앞뒤로 움직이는 방식이고 네모난 모양이라서 모서리나 이런 곳을 닦기도 좋아 보였습니다.
소음도 그다지 크지 않다고 하고.. 가격은 뭐.. 샤오미이니까요.. 국내 다른 제품보다는 확실히 싸더군요..
그래서 고장 나면 하나 더 사면 되겠지라는 생각으로 구매했습니다.
지난 몇주간 써보고 느낀점과 아쉬운 점은 아래와 같습니다.
1. 걸레가 더러워지면 빨아야 하는데 빨아버린 걸레가 마를때까지는 무용지물입니다. 추가 걸레만 구매하고 싶은데.. 검색해도 잘 못찾겠네요. 혹시 걸레만 추가로 구매할 수 있는지 아시는 분 계신가요?  제가 구매할 때 추가 주문한 걸레는 다용도가 아닌 먼지 제거용으로 잘 못 구매해서..
2. 생각보다 잘 안 닦입니다. 손으로 미는 것 만큼의 효과는 없습니다. 하지만 안하는 것보다는 낫기는 합니다. 역시 효과는 손으로 미는 것이 제일 좋은 듯 하지만 자주 닦는다고 생각하시면 괜찮은 듯 합니다.
3. 소음은 생각보다 크지 않습니다. 한번 충전하면 생각보다 오래 작동합니다. 
4. 앞 부분에 LED 불빛이 있어서 어두운 곳…