기본 콘텐츠로 건너뛰기

목표의 사용성, 결과의 사용성

우리가 소프트웨어를 개발하고 테스트를 수행할 때는 항상 목표가 있습니다.

사용성 테스팅 역시 목표가 있습니다.

지금 제가 하고자 하는 얘기는 사용성 테스팅을 예로 드는 것이지만 사용성 테스팅을 다른 말로 바꾸셔서 이해하셔도 큰 무리가 없을 것이라고 생각합니다.

사용성 테스팅의 목표는 무엇일까요? 여러가지가 있겠지만 대표적으로 하나를 꼽는다면 사용자에게 좋은 경험을 주는 것이 목표일 것입니다.

사용자가 우리 제품을 사용함으로써 우리 제품에 대한 충성심을 가지는지, 원하는 작업을 쉽게 할 수 있는지 등이 우리가 사용성 테스팅을 통해 얻고자 하는 결과이고 그 결과가 사용성 테스팅의 목표가 됩니다.

그런데, 사실 목표와 결과는 조금 다릅니다.

대표적으로 목표는 시간, 돈 등으로 구체적으로 수치화 할 수 있습니다.

하지만 결과는 사람들이 느끼는 감정입니다. 감정은 수치화 할 수 없습니다.

예를 들어, 당신이 정말 좋아하는 사람이 생겼습니다. 그 사람과 사귀기 위해 참 많은 투자를 합니다.

꽃도 사주고, 영화도 보여주고, 맛있는 것도 사주고..

이 모든 과정들은 시간, 돈 등으로 측정이 가능합니다.

그러나 결과는 어떤가요? 여러분의 목표는 누군가와 사귄다였겠지만 그 것이 실제적인 결과로 도출될까요?

당신이 결혼을 하기 위해 상대방에게 '당신을 행복하게 해드리겠습니다'라는 말한다고 하더라도 당신이 생각하는 행복과 상대방이 생각하고 받아들이는 행복이 과연 같은 것일까요?

당신은 결혼이라는 결과를 생각했고 행복하게 해주겠다는 메시지로 그것을 전하려고 했지만 정말로 결혼을 승낙받을 수 있을지는 전혀 보장할 수 없습니다.

그저 그동안 당신이 결혼 승낙을 받기 위해 투자한 것들, 여행도 가고 음식도 사주고 영화도 보고 그러한 것들은 그 자체로 목표에 도달한 것이고 '음식이 비싸다.', '여행지가 어디이다.' 등은 그러한 목표에 도달한 한 부분으로 수치화가 가능한 것들이지만 그러한 목표들이 만들어낸 경험의 총합인 결혼 승낙이라는 결과는 봉장할수도 없고 수치화 할 수도 없습니다.

연예 시뮬레이션 게임처럼 여행에 몇점, 맛있는 음식에 몇점, 영화에 몇점 해서 총점 몇이 되면 결혼에 골인하는 그런 것이 아니라는 것입니다.

마찬가지로 고객의 작업 성공률을 80% 이상으로 한다는 사용성 테스팅의 목표는 세울 수 있습니다. 그리고 이러한 목표는 여러가지 방법으로 측정되고 수치화할 수 있습니다.

그러나 작업 성공률 80%의 결과가 긍정적일지 부정적일지는 아무도 알지 못합니다.

작업 성공률 80%를 위해 기능을 너무 쉽게 만들어 버린다면 사용자들은 그 기능에 매력을 느끼지 못할 수도 있습니다.

이것이 실제적인 결과입니다.

여러분은 작업 성공률 80%를 통해 고객이 쉽게 사용할 수 있는 제품을 목표로 했다면, 고객은 너무 쉬워 매력을 느끼지 못하는 기능이라는 것이 결과가 될 수 도 있습니다.

기존의 사용성 테스팅은 대체로 목표 중심이었습니다. 목표를 달성하는 것이 최고의 미덕이었습니다.

응답속도, 성공률 등 모든 것이 수치로 제공되고 그 목표치에 도달하면 사용성이 좋다고 판단되었습니다.

하지만 그렇게 사용성이 좋다고 측정된 제품들이 정말 사용성이 좋은 것이었을까요?

우리는 사용성이 좋은 제품을 목표로 했었는데 왜 전혀 다른 결과가 나온 것일까요?

그것은 우리가 결과를 지향한것이 아니라 목표에 몰입했기 때문입니다.

목표가 아닌 결과를 먼저 선택하고, 그 다음 구체적인 목표를 설정할 필요가 있습니다.

사용성 테스팅을 측정할 때, ISO/IEC 9126의 품질 매트릭을 먼저 설정하는 것이 아니라 정말 사용자에게 어떤 경험을 주고자 하는지에 대한 결과의 선택이 먼저 되어야 하고 그 결과를 이루기 위한 구체적인 목표는 그 다음에 설정되어야 합니다.

즉, 결과를 예측하지 못하고 목표를 설정하는 것은 매우 위험하다는 것입니다.

사용자가 원하는 결과를 예측하지 못하고 제품을 설계하고 테스트 하는 것은 사용자에게 원치 않는 강제 노역을 하게 할 수도 있습니다.

어떤 작업이 끝날때마다 알림창을 출력하도록 할 수도 있습니다. 하지만 너무 자주 출력되는 알림창은 사용자에게 오히려 생각과 작업의 흐름을 끊어버려 사용성이 더 좋지 않게 될 수도 있는 것입니다.

사용자에게 작업의 진행 상태에 대한 정보 제공에 충실하고자 했던 것이 오히려 사용자에게 좋지 않은 경험을 제공할 수도 있다는 것입니다.

때문에 결과를 예측하기 위해서는 규정이나 관습에서 벗어날 필요가 있습니다. 그리고 감정적으로 다가갈 필요가 있습니다.

결과는 경험입니다.

고객이 정말 행복한지 불행한지 측정하기 위해 고객이 과제를 성공한 경우가 몇 퍼센트나 되는지, 고객이 제품에 대한 점수로 10점 만점을 몇번이나 주었는지에 집중하게 된다면 이는 방향을 잘못 잡은 것입니다.

많은 경우 위와 같은 데이터 측정과 수집에만 몰입하고 그러한 데이터가 일정 수준을 만족하면 사용성이 좋은 것으로 만족을 해버립니다.

하지만 사용자가 실제로 이해하고 인식한 경험이 반영되지 못한 그런 데이터는 아무 짝에도 쓸모없는 데이터일 뿐입니다.

저런 데이터는 절대로 결과를 분명히 설명하지 못합니다. 그저 측정하고자 했던 목표에 대한 데이터일 뿐입니다.

사용성 테스팅이 고객의 행복이라는 결과를 보장하지는 못합니다. 단지 도움이 될 뿐이죠.

많은 사람들이 이걸 기억해 주었으면 합니다.

사용성이 좋다는 결과에 도달하기 위해 수많은 원칙들이 있지만 그러한 목표를 달성한다고 해서 그것이 꼭 좋은 사용성을 보장해주지는 못한다는 것입니다.

결론적으로 위의 내용을 정리해보자면..
  • 목표와 결과는 구분되어야 한다.
  • 높은 사용성이 목표라면 고객의 경험은 결과이다.
  • 우리의 목표가 결과가 되지는 않는다. 결과는 결코 보장할수도 없으며 예측하는 것은 더 어렵다.
따라서 사용성을 개선하고자 한다면 지금 현재 여러분의 목표를 버리고 결과부터 다시 규정할 필요가 있습니다.

이해성, 사용용이성과 같은 좁은 목표들에서 벗어나 좀 더 넓은 결과를 규정할 필요가 있습니다.

그리고 결과는 감정적일 필요가 있습니다.

사람들은 자신이 감정적으로 갈망하는 것이라면 그것을 달성하고자 하는 의욕을 갖게 됩니다.

단순히 작업 완료에 몇분, 작업 성공률 몇 %와 같은 목표는 사용자에게 제품을 사용하게 하고자 하는 의욕을 불러일으키지 못합니다.

그리고 사용성 테스팅은 기존의 목표 중심에서 사용자의 경험을 측정하기 위한 방법을 꾸준히 고민할 필요가 있습니다.

댓글

이 블로그의 인기 게시물

20년 차 테스터가 고른 최근 IT 소식: 기술의 속도, 그리고 사람의 자리

20년 넘게 IT 업계에서 테스팅하고 강의하고 공부하고 여러 일을 해왔지만... 정말이지 단 하루도 편하게 쉴 틈을 주지 않는 세상입니다. 특히 최근 4~5년 동안 가속화된 AI의 물결은 기술의 스펙트럼뿐만 아니라 우리가 일하고, 협업하고, 조직을 이끄는 방식 전체를 뒤흔들고 있습니다. 이번 주에도 수많은 뉴스레터와 아티클을 훑어보았습니다. 그중에서도 기술의 화려함 뒤에 숨겨진 ‘사람, 조직, 그리고 커리어의 본질’을 찌르는 글 몇 개가 눈에 띄어 메모해 둡니다. 제 평소 생각과 맞닿아 있는 6가지 이야기입니다. --- 1. 인지부채(Cognitive Debt): 바이브 코딩 시대에 우리가 지게 되는 진짜 빚 (출처: ROBOCO - 인지부채: 바이브 코딩 시대의 새로운 부채 관리법 / 정도현 수석 컨설턴트 ) 요즘 커서(Cursor)나 클로드 코드(Claude Code) 같은 에이전트를 붙여 "이거 만들어줘" 하고 승인(Approve) 버튼만 누르면 눈 깜짝할 사이에 코드베이스가 완성되는 '바이브 코딩(Vibe Coding)'이 유행입니다. 그런데 속도는 엄청나게 빠른데, 정작 서비스에 장애가 나면 "AI가 짜서 잘 모르겠는데요?"라는 답이 나오는 이상한 현상이 벌어집니다. 정도현 컨설턴트는 이를 '인지부채(Cognitive Debt)'라고 정의합니다. 코드는 쌓이는데, 정작 인간의 시스템 이해도는 쌓이지 않는 격차죠. * Human-in-the-loop의 환상: AI가 초당 수백 줄을 뽑아내는데 사람이 일일이 검토한다? 결국 검토자는 병목이 되고, 시간 압박에 쫓겨 영혼 없이 승인 버튼만 누르게 됩니다. 40년 전 자동화 연구(Bainbridge, 1983)가 지적했듯, 자동화될수록 사람은 감시만 하다가 정작 개입해야 할 결정적 순간에 숙련도를 잃어버립니다. * 부채는 0으로 만드는 게 아니라 '관리'하는 것: AI가 만든 모든 코드를 사람이 외울 수는 없습니다. 핵심은 ...

우리는 AI로 '더 빠른 말'을 키우고 있는걸까요? 아니면 '자동차'를 만들고 있는걸까요?

20년 넘게 IT 현장에서 뒹굴거렸는데... 요즘처럼 "우리가 지금까지 당연하게 여겨온 일하는 방식의 본질"에 대해 근본적인 질문을 던지게 만드는 때가 없었던 것 같습니다. 최근 읽은 UX 관련 글 하나가 가슴을 쿵 치고 지나갔습니다. UX 및 디지털 트렌드를 다루는 블로그 ux4dotcom에 올라온 "Beyond Faster Horses — Why AI Challenges One of UX's Oldest Assumptions"라는 글입니다. (출처: ux4dotcom - Beyond Faster Horses — Why AI Challenges One of UX's Oldest Assumptions ) 혁신을 말할 때 늘 인용되는 헨리 포드의 유명한 말이 있습니다. "사람들에게 무엇을 원하느냐고 물었다면, 그들은 '더 빠른 말'이라고 답했을 것이다." 사람들은 자신이 경험해 본 범위 안에서만 미래를 상상합니다. 말만 탈 줄 아는 사람에게 자동차는 상상 밖의 범주(Mental Model)니까요. 저자는 그동안 UX(사용자 경험)라는 학문과 필드 자체가 '더 빠른 말을 만드는 일(기존 과업의 효율화)'에 집중해 왔다고 지적합니다. 사용자의 행동을 관찰하고, 마찰(Friction)을 줄이고, 화면을 간소화하고, 기존 워크플로우를 최적화해 주는 작업 말입니다. 실제로 주변을 봐도 우리가 AI를 쓰는 방식도 대부분 이 범주를 벗어나지 못하고 있습니다. 더 빠르게 이메일을 작성하고, 문서 요약을 3초 만에 끝내고, 프레젠테이션 장표나 일정표를 순식간에 만들어내는 일. 분명 유용하고 저 역시 매일 요기하게 쓰고 있지만, 이건 어디까지나 '기존에 인간이 하던 일의 프로세스를 흉내 내어 속도만 올린 것(Faster Horse)'에 불과합니다. 정작 "이 워크플로우 자체가 과연 계속 존재해야 하는가?"라는 근본적인 질문은 던지지 못하고 있는 것이죠....

에이전틱 AI 시대의 소프트웨어 테스팅: 왜 '아키텍트' 역량이 필요한가?

최근 "프로그래밍이란 무엇인가?"라는 근본적인 질문에서 출발해, 하드웨어의 가장 밑바닥인 CPU 명령어 디코더의 원리부터 최근 화두인 에이전틱 AI(Agentic AI)와 바이브 코딩(Vibe Coding)에 이르기까지 AI와 함께 이런 저런 대화를 나누어 보았다.. 사실 내가 처음 컴퓨터를 공부할 때부터 컴퓨터가 내 명령을 어떻게 이해하고 처리해서 이런 결과가 출력되는지는 정말 이해하기 어려운 마법 같은 것이었다.  그래서인지.. 나이가 들어도 프로그래밍은 여전히 어렵다. 하지만 요즘은 AI와 함께 무언가를 만드는 재미를 만끽하고 있다.  어쨌든 AI와의 즐거운 대화의 끝에서 필연적으로 마주한 질문이 있다. "코드를 AI가 스스로 짜고 조립하는 시대에, 소프트웨어 테스팅은 무엇이며 우리는 어떤 역량을 키워야 하는가?" 지금까지의 고민을 바탕으로, 다가오는 AI 시대에 테스트 엔지니어가 나아가야 할 방향과 '아키텍트(Architect)' 역량의 중요성에 대해 정리해 본다. 현대의 소프트웨어 개발은 무(無)에서 유(有)를 창조하는 것이 아니다. 전 세계의 천재적인 엔지니어들이 만들어둔 수많은 라이브러리와 프레임워크라는 '레고 블록'을 조합해 원하는 서비스를 구축하는 과정이다. 내가 젋어서 이걸 잘 이해만 했었어도.. 테스터라는 직업의 세계에 발을 들이지는 않았을 텐데.. 어린 나이에 너무 생각이 많았었다. 그런데 에이전틱 AI가 등장하면서 거대한 변화가 일어났다. 이제는 인간이 직접 레고를 조립할 필요조차 없어지고 있다. "이런 기능을 만들어줘"라는 의도(Intent)만 던지면, AI가 기존에 학습한 방대한 오픈소스와 코드를 바탕으로 알아서 뼈대를 세우고 코드를 완성해 낸다. 개발자는 직접 코드를 타이핑하는 노동자에서, AI 에이전트를 부리는 총괄 기획자로 역할이 변하고 있는 것이다. 하지만 AI가 만들어내는 코드는 필연적인 한계를 지닌다. AI는 과거 인류가 작성한 코드를 학습하...