기본 콘텐츠로 건너뛰기

목표의 사용성, 결과의 사용성

우리가 소프트웨어를 개발하고 테스트를 수행할 때는 항상 목표가 있습니다.

사용성 테스팅 역시 목표가 있습니다.

지금 제가 하고자 하는 얘기는 사용성 테스팅을 예로 드는 것이지만 사용성 테스팅을 다른 말로 바꾸셔서 이해하셔도 큰 무리가 없을 것이라고 생각합니다.

사용성 테스팅의 목표는 무엇일까요? 여러가지가 있겠지만 대표적으로 하나를 꼽는다면 사용자에게 좋은 경험을 주는 것이 목표일 것입니다.

사용자가 우리 제품을 사용함으로써 우리 제품에 대한 충성심을 가지는지, 원하는 작업을 쉽게 할 수 있는지 등이 우리가 사용성 테스팅을 통해 얻고자 하는 결과이고 그 결과가 사용성 테스팅의 목표가 됩니다.

그런데, 사실 목표와 결과는 조금 다릅니다.

대표적으로 목표는 시간, 돈 등으로 구체적으로 수치화 할 수 있습니다.

하지만 결과는 사람들이 느끼는 감정입니다. 감정은 수치화 할 수 없습니다.

예를 들어, 당신이 정말 좋아하는 사람이 생겼습니다. 그 사람과 사귀기 위해 참 많은 투자를 합니다.

꽃도 사주고, 영화도 보여주고, 맛있는 것도 사주고..

이 모든 과정들은 시간, 돈 등으로 측정이 가능합니다.

그러나 결과는 어떤가요? 여러분의 목표는 누군가와 사귄다였겠지만 그 것이 실제적인 결과로 도출될까요?

당신이 결혼을 하기 위해 상대방에게 '당신을 행복하게 해드리겠습니다'라는 말한다고 하더라도 당신이 생각하는 행복과 상대방이 생각하고 받아들이는 행복이 과연 같은 것일까요?

당신은 결혼이라는 결과를 생각했고 행복하게 해주겠다는 메시지로 그것을 전하려고 했지만 정말로 결혼을 승낙받을 수 있을지는 전혀 보장할 수 없습니다.

그저 그동안 당신이 결혼 승낙을 받기 위해 투자한 것들, 여행도 가고 음식도 사주고 영화도 보고 그러한 것들은 그 자체로 목표에 도달한 것이고 '음식이 비싸다.', '여행지가 어디이다.' 등은 그러한 목표에 도달한 한 부분으로 수치화가 가능한 것들이지만 그러한 목표들이 만들어낸 경험의 총합인 결혼 승낙이라는 결과는 봉장할수도 없고 수치화 할 수도 없습니다.

연예 시뮬레이션 게임처럼 여행에 몇점, 맛있는 음식에 몇점, 영화에 몇점 해서 총점 몇이 되면 결혼에 골인하는 그런 것이 아니라는 것입니다.

마찬가지로 고객의 작업 성공률을 80% 이상으로 한다는 사용성 테스팅의 목표는 세울 수 있습니다. 그리고 이러한 목표는 여러가지 방법으로 측정되고 수치화할 수 있습니다.

그러나 작업 성공률 80%의 결과가 긍정적일지 부정적일지는 아무도 알지 못합니다.

작업 성공률 80%를 위해 기능을 너무 쉽게 만들어 버린다면 사용자들은 그 기능에 매력을 느끼지 못할 수도 있습니다.

이것이 실제적인 결과입니다.

여러분은 작업 성공률 80%를 통해 고객이 쉽게 사용할 수 있는 제품을 목표로 했다면, 고객은 너무 쉬워 매력을 느끼지 못하는 기능이라는 것이 결과가 될 수 도 있습니다.

기존의 사용성 테스팅은 대체로 목표 중심이었습니다. 목표를 달성하는 것이 최고의 미덕이었습니다.

응답속도, 성공률 등 모든 것이 수치로 제공되고 그 목표치에 도달하면 사용성이 좋다고 판단되었습니다.

하지만 그렇게 사용성이 좋다고 측정된 제품들이 정말 사용성이 좋은 것이었을까요?

우리는 사용성이 좋은 제품을 목표로 했었는데 왜 전혀 다른 결과가 나온 것일까요?

그것은 우리가 결과를 지향한것이 아니라 목표에 몰입했기 때문입니다.

목표가 아닌 결과를 먼저 선택하고, 그 다음 구체적인 목표를 설정할 필요가 있습니다.

사용성 테스팅을 측정할 때, ISO/IEC 9126의 품질 매트릭을 먼저 설정하는 것이 아니라 정말 사용자에게 어떤 경험을 주고자 하는지에 대한 결과의 선택이 먼저 되어야 하고 그 결과를 이루기 위한 구체적인 목표는 그 다음에 설정되어야 합니다.

즉, 결과를 예측하지 못하고 목표를 설정하는 것은 매우 위험하다는 것입니다.

사용자가 원하는 결과를 예측하지 못하고 제품을 설계하고 테스트 하는 것은 사용자에게 원치 않는 강제 노역을 하게 할 수도 있습니다.

어떤 작업이 끝날때마다 알림창을 출력하도록 할 수도 있습니다. 하지만 너무 자주 출력되는 알림창은 사용자에게 오히려 생각과 작업의 흐름을 끊어버려 사용성이 더 좋지 않게 될 수도 있는 것입니다.

사용자에게 작업의 진행 상태에 대한 정보 제공에 충실하고자 했던 것이 오히려 사용자에게 좋지 않은 경험을 제공할 수도 있다는 것입니다.

때문에 결과를 예측하기 위해서는 규정이나 관습에서 벗어날 필요가 있습니다. 그리고 감정적으로 다가갈 필요가 있습니다.

결과는 경험입니다.

고객이 정말 행복한지 불행한지 측정하기 위해 고객이 과제를 성공한 경우가 몇 퍼센트나 되는지, 고객이 제품에 대한 점수로 10점 만점을 몇번이나 주었는지에 집중하게 된다면 이는 방향을 잘못 잡은 것입니다.

많은 경우 위와 같은 데이터 측정과 수집에만 몰입하고 그러한 데이터가 일정 수준을 만족하면 사용성이 좋은 것으로 만족을 해버립니다.

하지만 사용자가 실제로 이해하고 인식한 경험이 반영되지 못한 그런 데이터는 아무 짝에도 쓸모없는 데이터일 뿐입니다.

저런 데이터는 절대로 결과를 분명히 설명하지 못합니다. 그저 측정하고자 했던 목표에 대한 데이터일 뿐입니다.

사용성 테스팅이 고객의 행복이라는 결과를 보장하지는 못합니다. 단지 도움이 될 뿐이죠.

많은 사람들이 이걸 기억해 주었으면 합니다.

사용성이 좋다는 결과에 도달하기 위해 수많은 원칙들이 있지만 그러한 목표를 달성한다고 해서 그것이 꼭 좋은 사용성을 보장해주지는 못한다는 것입니다.

결론적으로 위의 내용을 정리해보자면..
  • 목표와 결과는 구분되어야 한다.
  • 높은 사용성이 목표라면 고객의 경험은 결과이다.
  • 우리의 목표가 결과가 되지는 않는다. 결과는 결코 보장할수도 없으며 예측하는 것은 더 어렵다.
따라서 사용성을 개선하고자 한다면 지금 현재 여러분의 목표를 버리고 결과부터 다시 규정할 필요가 있습니다.

이해성, 사용용이성과 같은 좁은 목표들에서 벗어나 좀 더 넓은 결과를 규정할 필요가 있습니다.

그리고 결과는 감정적일 필요가 있습니다.

사람들은 자신이 감정적으로 갈망하는 것이라면 그것을 달성하고자 하는 의욕을 갖게 됩니다.

단순히 작업 완료에 몇분, 작업 성공률 몇 %와 같은 목표는 사용자에게 제품을 사용하게 하고자 하는 의욕을 불러일으키지 못합니다.

그리고 사용성 테스팅은 기존의 목표 중심에서 사용자의 경험을 측정하기 위한 방법을 꾸준히 고민할 필요가 있습니다.

댓글

이 블로그의 인기 게시물

합성 사용자(Synthetic Users)의 5가지 유형과 AI 테스팅 현장에서의 활용법

AI와 생성형 모델 기술이 발전하면서, 사용자 경험(UX) 연구와 테스팅 현장에서 가상 퍼소나를 활용해 테스트 데이터를 수집하거나 사용성을 평가하려는 시도가 급격히 늘고 있습니다. 이를 흔히 '합성 사용자(Synthetic Users)'라고 부릅니다. 하지만 막연히 "AI에게 사용자 역할을 시켜 테스트를 돌린다"고 할 때, 그 가상 사용자가 어떤 방식과 데이터로 생성되었는지 명확히 구분하지 않으면 자칫 왜곡된 결과에 빠질 위험이 있습니다. UX 및 사용성 리서치 분야의 권위 있는 기관인 MeasuringU에서 이 합성 사용자의 개념을 명쾌하게 분류한 아티클을 공개했습니다. 바로 "What Are the Different Types of Synthetic Users?"라는 글입니다. (출처: MeasuringU - What Are the Different Types of Synthetic Users? / Jeff Sauro, PhD & Jim Lewis, PhD) https://measuringu.com/what-are-the-different-types-of-synthetic-users/ Jeff Sauro와 Jim Lewis 박사는 합성 사용자를 단순히 하나의 개념으로 뭉뚱그리지 않고, 생성 기술의 근거와 데이터 기반에 따라 크게 5가지 유형으로 깔끔하게 정리해 줍니다. 첫째는 규칙 기반(Rule-Based) 합성 사용자입니다. AI 모델이 아니라 사전 정의된 조건문, 정규식, 시나리오 스크립트에 따라 움직이는 전통적인 형태의 가상 사용자입니다. 예측 가능하고 정확하지만, 인간 사용자의 복잡한 정서나 미묘한 변수를 반영하진 못합니다. Selenium, Playwright, K6 같은 도구를 통해 지정된 경로대로 버튼을 누르고 데이터를 입력하는 방식을 들 수 있습니다. 둘째는 퍼소나 기반 LLM(Persona-Based LLM) 합성 사용자입니다. 생성형 AI에게 "너는 50대 비테크놀로지 사용...

매우 매우 매우 실망스러운 레일플러스 모바일 교통카드

우리 나라에서 버스나 지하철 같은 교통 수단을 이용하는 대부분의 사람들은 티머니와 같은 선불교통카드나 카드사와 연계된 후불교통카드를 쓰는 경우가 거의 대부분일 것입니다. 저도 현금으로 지하철이나 버스를 이용해본지가 언제인지 기억이 가물가물 합니다. (최근에는 현금을 들고 다닐 필요가 거의 없긴 하죠. 그러다보니 가끔 지방에 가서 카드가 안되는 가게나 주차장 등에서 난감하기도 하고요..) 그런데, 이런 카드 말고 스마트폰으로 교통 수단을 이용하는 사람들도 있습니다. 우리 나라에서 스마트폰으로 교통 수단을 이용하는 것은 심카드를 기반으로 구현된 기술로 문제는 해외 단말은 이 기능을 지원하지 않는 다는 것입니다. 해외 단말들이 이와 같은 기능을 구현하기 위해서는 HCE 라는 방식이 필요한데.. 이런 방식으로 결제 시스템을 구현은 할 수 있지만 지금까지는 이 기술로 구현된 사례가 없었는데, 얼마전 코레일에서 레일플러스 모바일 교통카드를 HCE 로 구현하여 서비스를 시작했습니다. 이로서 해외 단말을 사용하는 사람들도 스마트폰으로 버스나 지하철과 같은 교통수단을 이용할 수 있게 될것이라고 환호했습니다만, 실상은 그렇지 않다고 볼 수 있습니다. 저는 넥서스 5X 사용자로 심카드를 기반으로 하는 결제 시스템을 쓸 수 없었기 때문에 저도 코레일에서 저 서비스를 내놓았을 때 기대에 부풀어서 나오자마자 바로 설치해봤습니다. 처음 서비스 시작한 시점이 8월이었는데, 그 때에는 안드로이드 8.0을 지원하지 않아서 서비스는 시작되었지만 사용할 수 없었습니다. 그러다가, 9월 업데이트로 안드로읻 8.0(오레오)에서도 해당 앱이 정상적으로 동작하게 되어서 한번 사용해 본 소감을 남깁니다. 우선 현재 시점으로 해당 서비스를 이용하는 방법은 크게 2가지입니다. 하나는 레일플러스 모바일 교통카드 앱을 설치하여 이용하는 방법이고, 다른 하나는 신한 판(앱카드)를 설치하여 이용하는 방법입니다. 카드 종류는 선불과 후불 2가지 종류가 있는데, 레일플러스 모바일 교...

QA 부서는 필요한 것인가?

많은 프로젝트 관리 방법론과 조직론에서 항상 얘기하는 것이 QA 부서를 독립적으로 두는것에 대해 강조하는 편이다. 테스트 역시 테스트 조직을 별도로 두는 것에 대해 강조하는 편이다. 이러한 QA 부서 또는 테스트만을 전담하는 조직이 꼭 별도로 존재해야 하는 것일까? 테스트의 경우에는 개발자와 다른 시각을 가진 사람들의 테스트의 필요성을 강조하기 위해서 테스트 조직을 별도로 두는 것을 강조하는 편이다. 만약 테스터가 개발이나 영업, 운영과 같은 조직의 하부 조직이 되다 보면 정치적인 독립성에 따라 자신만의 독립적인 시각이나 의견을 피력하기 힘든 점이 있기 때문이다. QA 부서는 어떨까? 여기서 먼저 생각해 볼 것이 있다. 그것은 QA 부서가 과연 무슨 일을 하는 부서인가? 하는 문제이다. 여러분의 회사에서 QA 부서는 과연 어떤 일을 하는가? 여러분은 QA 부서에 대해 얼마나 호감을 가지고 있는가? 펼쳐두기.. 회사마다 회사의 정책이나 전략에 따라 QA 부서의 역할은 매우 판이하다. 그리고 그 역할에 따라 회사 내에 QA 부서의 호감도도 매우 달라지는 편이다. 만약 여러분이 QA 부서에 대한 호감도가 낮다면 아래와 같은 문제가 있는 것은 아닌지 한번 고민해 보시고 댓글이나 트랙백등으로 의견을 주셨으면 하는 바람이다. 먼저 일반적으로 QA 부서가 하는 일은 제품의 품질을 측정하고 제품의 품질을 향상시킬 수 있는 모든 활동을 계획하고 제어하는 일을 한다. 그런데 문제는 소프트웨어의 품질이 문제가 된다. 먼저 공장과 같은 하드웨어를 제조하는 회사의 경우에는 품질 부서가 독립적으로 존재한다. 이 품질 부서에서 제품의 품질을 측정하고 제품의 품질을 개선하기 위해 집중하는 곳은 하드웨어 그 자체이다. 하드웨어는 각각의 부붐의 품질이 100인 제품이 모여서 하나의 제품을 구성하게 되었을 때 그 제품의 품질은 역시 100이다. 이것은 매우 명확한 사실이다. 소프트웨어를 만드는 회사의 조직과 관리 방법 역시 이러한 하드웨어를 만드는 회사의 조직과 관리 방법을 ...