기본 콘텐츠로 건너뛰기

AI는 과연 인간을 대신해 '진짜 사용성 문제'를 찾아낼 수 있을까?

최근 AI 에이전트와 바이브 코딩의 바람을 타고 가장 뜨거운 화두로 떠오른 분야 중 하나가 바로 'AI를 활용한 자동화 테스팅'입니다. 특히 사용성 평가(Usability Testing) 영역에서 "사람 평가자 대신 AI가 사용성 문제를 자동으로 찾아낼 수 있는가?"에 대한 논쟁은 현장의 리더들과 테스터들에게 대단히 흥미로운 관심사입니다.

최근 UX 및 사용성 측정 분야의 권위 있는 기관인 MeasuringU에서 이 질문에 대해 매우 현실적이고 명확한 답을 내려주는 실험 결과를 공개했습니다. 바로 "Does AI Find Real Usability Problems? A Replication"이라는 아티클입니다.

(출처: MeasuringU - Does AI Find Real Usability Problems? A Replication / Jeff Sauro, PhD & Jim Lewis, PhD)

https://measuringu.com/does-ai-find-real-usability-problems-a-replication/

이 글은 AI가 실제 사용성 문제를 발견할 수 있는지에 대한 이전 연구를 다시 엄격하게 재현(Replication)하고 검증한 결과를 다룹니다. 기존의 일부 낙관적인 연구나 마케팅적 주장에서는 AI가 사용자의 사용성 문제를 사람만큼, 혹은 사람보다 잘 찾아낸다고 말하곤 했습니다. 하지만 MeasuringU의 연구진이 동일한 조건에서 통제된 실험을 수행해 보니 매우 흥미롭고 냉정한 결론에 도달했습니다.

실험의 핵심 결론은 AI가 사용성 문제를 '전혀 못 찾는 것'은 아니지만, 사람이 직접 관찰하고 발견해 내는 '진짜 사용성 문제(Real Usability Problems)'와는 질적으로 큰 차이가 있다는 점입니다.

AI가 도출해 내는 사용성 문제들을 면밀히 분석해 보면, 실제 사용자가 화면에서 겪는 치명적인 마찰이나 혼란보다는 가이드라인에 기반한 정적 체크리스트 수준의 지적에 머무르는 경우가 많았습니다. 특히 사용자가 과업을 수행하는 과정에서 느끼는 정서적 답답함, 맥락상의 오해, 그리고 의도와 행동 간의 미묘한 불일치에서 발생하는 진짜 사용성 결함들을 AI는 제대로 포착해 내지 못했습니다.

더 나아가 AI는 사용자가 실제로 아무런 불편 없이 잘 지나간 부분에서도 그럴듯한 논리를 대며 '거짓 양성(False Positive)'을 대량으로 보고하는 경향을 보였습니다. 이는 실무 현장에서 테스터나 UX 리서처가 AI가 뽑아낸 리포트를 일일이 검증하고 가려내는 데 더 많은 시간을 쓰게 만드는, 일종의 '검증 비용의 폭증'을 야기합니다.

이 아티클을 읽으며 제 개인적인 경험과 생각을 돌이켜보게 됩니다. AI 자동화 도구들을 접할 때마다 느끼는 점이지만, AI는 과거 소프트웨어의 정적 분석 도구(Static Analysis Tool)와 유사한 역할을 해줄 뿐입니다. 코딩 컨벤션이나 명확한 규칙 위반을 잡는 데는 유용할지 몰라도, 시스템의 맥락과 인간의 복잡한 심리를 이해하는 테스팅을 대체할 수는 없습니다.

결국 사용성 평가 영역에서 AI는 아직까지는 테스터의 '대체재'가 아니라 단순한 '지원 도구'로 생각해야 한다고 봅니다. 물론 시간이 더 흐른다면 기술이 더 발전한다면 얘기가 달라질 수 있을 수도 있습니다.

하지만 아직은 AI가 뽑아준 평가 결과에 안주하여 "AI가 괜찮다고 했으니 사용성 검증이 끝났다"고 믿어버리는 순간, 우리는 전형적인 '자동화 편향(Automation Bias)'에 빠지게 되며, 그 결과 실제 사용자가 서비스에서 겪게 될 치명적인 장애물들을 놓치게 됩니다.

소프트웨어 품질과 사용성이라는 우주를 항해하는 우리 히치하이커들에게 필요한 것은, AI라는 유능하지만 가끔 허풍을 떠는 조수를 적절히 활용하되, 사람의 실제 행동과 맥락을 읽어내는 테스터 본연의 '비판적 사고'를 끝까지 유지하는 일일 것입니다. 결국 진짜 문제를 알아채고 서비스의 품질을 완성하는 것은 언제나 사람의 날카로운 시선이니까요.

댓글

이 블로그의 인기 게시물

더 넥스트 스파크 2주 운행 후기

근 한달만에 블로그에 글을 씁니다. 이번 글은 지름 자랑기입니다. 네..딱 2주 전에 더 넥스트 스파크를 구입했습니다.. 옛날 스파크를 딱히 팔 마음은 없었는데... 애가 셋이 되다 보니 뒷좌석에 가운데 좌석이 2점 벨트라서 신경도 쓰이고... 아내가 수동을 운전하기 너무 힘들어하기도하고.. 이런 저런 이유로 과감하게 옛날 스파크를 팔아치우고 전격적으로 또 다시 스파크를.. 애 셋 있는 집이 트랙스나 올란도 같은 차를 사야지.. 왜 또 스파크냐고 물으신다면.. ㅠㅠ 아시면서.. 그런건 물어보시는거 아닙니다. ㅠㅠ 어쨌든 지르는거.. 가장 비싼 Eco LTZ으로 질렀습니다. 옵션 다 밀어 넣으니 1610만냥이더군요.. 쿨럭 쿨럭.. 이 돈이면 액센트도 살 수 있겠지만.. 현대/기아 차는... 목숨 걸어가며 타고 싶은 마음은 전혀 없는지라.. 익히 아시다시피 경차 주제에 웬간한건 다 들어 있습니다. 경사로 밀림 방지장치, 전방 충돌 경고 시스템, 차선 이탈 경고 시스템, 크루즈 컨트롤, 애플 카플레이 시스템, 톨게이트 자동 결제 시스템, 스톱 & 스타트, TPMS, 사각지대 경고 시스템 등등... 뭐.. 대충 비싼 값어치는 합니다만.. 사실 좀 따져보면 법이 바뀌어서 몇몇 기능은 무조건 들어가야하는 건데.. 한 4년만에 차를 사보니 정말 기술의 발전이 느껴질 만큼 경차 치고는 좀 풍성한 옵션을 자랑합니다. 모닝하고는 비교가 되는지는 잘 모르겠지만서도... 그래서 2주동안 탄 소감입니다. 1. 옛날 스파크와 비교했을 떄 내부와 트렁크가 아주 조금 넓습니다. 실제로 이전 스파크의 축거가 2,375이고 더 넥스트 스파크는 2,385 입니다. 숫자로 비교해보면 큰 차이는 없지만 실제 탑승해보고 짐을 넣어보면 아주 미세하게 조금 더 넓습니다. 그런데 막상 앉아보면 좀 갑갑합니다. 이것 저것 넣어보고 앉으면 분명 넓긴하데 심리적으로는 좁습니다. 이유가 전고 즉, 차 높이가 낮습니다. 이전 스파...

쿠첸 스마트터치밥솥TOP(10인용) CJH-PD1000iCM 사용기(체험 후기)

2008년 아내를 만나 결혼을 하고.. 자식 셋이 딸린 애아빠가 되어버린 지난 7년 동안.. 머.. 다들 아시겠지만.. 참 못난 아빠로 살고 있습니다. 어느새 7년이 되었네요.. 첫째가 내년이면 초등학교에 들어가니.. 짧지 않은 세월인것 같습니다. 지난 7년동안 애 키우느라 고생만 아내에게 뭐 하나 잘 해준게 없는데.. 아직 철이 덜 들어서 여전히 잘 못해주네요.. 아내가 결혼하면서 가져온 전자 밥솥은 재작년에 수명을 다했는지.. 밥이 제대로 안되어서 한 2년 정도 압력 밭솥에 밥을 해먹었습니다. 한국인은.. 밥심이죠.. 밥을 하려면 솥이 필요한데.. 머.. 냄비에 해먹는 방법도 있지만.. 그건 음.. 귀찮고 힘들고.. 현실에서 밥솥하면 크게 2가지죠.. 압력 밥솥 아니면.. 전자 밥솥.. 압력 밥솥하면.. 풍년이죠.. 아닌가요? 압력 밥솥은 다른건 다 좋은데.. 닦기가 귀찮고(냄비보다는 뭐.. 쉽습니다만..) 밥을 보온으로 하면 금방 말라비틀어지는.. 물론 누룽지를 만들 수 있다는 장점 아닌 장점이.. 전자 밥솥은 저 어릴때는 너도나도 코끼리 밥통이었는데.. 어느샌가... 쿠쿠라는 브랜드와 쿠첸이라는 브랜드의 2강 체제로 바뀌었더군요.. 쿠쿠와 쿠첸이라면.. 밥통계의 삼성과 LG 정도라고 할까요? 주변에 물어보면 대체로 쿠쿠를 추천하더군요.. 아내가 결혼할 때 가져온 밥통도 쿠쿠였습니다. 대략 이렇게 생긴 녀석이죠. 그러다가 이 녀석이 밥을 제대로 하지를 못하야.. 밥통 하나 새로 사준다면서.. 먼넘의 밥통들이 그렇게 비싼 것인지... 그리고 쿠쿠나 쿠첸이나.. 홈페이지에 들어가보면 정말 수십개의 밥통이 있는데.. 도데체가 각각의 밥통 간의 차이가 무엇이고 무엇이 좋고 무엇이 나쁜건지 비교도 할 수 없고.. 설명도 제대로 안되어 있고 제품 겉이나 안을 제대로 볼 수 있는 사진조차 없는 사용성은 개나 줘버린 그런 구조인지라.. 선택 장애를 일으켜서 결국은 압력 밥솥에 밥을 해먹어가며 밥통 하...

아마도 절대 알아낼 수 없을 것 같은 스파크의 연비

스파크를 구매한지 이제 2개월하구 9일이 되었습니다. 이제 대략 4600km를 주행했습니다. 자동차를 몰고 다니는 분들이라면 가장 궁금해하는 것이 과연 내 차의 연비는 얼마나 될까입니다. 기름 한방울 나오지 않는 땅에서 미칠듯이 오르기만 하는 기름값을 견뎌내려면 적은 기름으로 최대한 먼 거리를 달려야하는 것이 모두의 소망이지요. 그런 의미에서 하이브리드나 디젤 차량의 연비는 가솔린 차량이 범접하기 힘든 측면이 있습니다. 그런데, 경차는 하이브리드나 디젤이 아직은 없죠. 경차의 경우 연비를 생각하시는 분들은 LPG 구매를 많이 하시는 것 같더군요. 경차라고 무조건 연비가 좋은 건 아닙니다. 단순히 연비만을 생각한다면 솔직히 하이브리드나 디젤을 구매하시는게 맞습니다. 경차는 사실 연비보다는 유지비 측면의 절감을 노리는 경우가 많죠. 통행료, 주차료, 보험료, 세금 등등.. 어쨌든.. 이제 달릴만큼 달린듯 하여 슬슬 제 차의 연비가 궁금해졌습니다. 차량 구매 후 aCar 라는 안드로이드 어플로 꼼꼼하게 기록해 두었습니다. 처음에는 aCar 사용법을 몰라서 유료 구매를 하지 않으면 연비 계산이 안되는 줄 알고 5천원이라는 거금을 주고 구매했는데.. 솔직히 조금 후회하고 있습니다. 관련 내용은 다음으로 미루고, 우선 아래는 aCar에서 보여주고 있는 제 연비 기록의 일부분입니다. 처음 차량을 인수받고 주유시 주행거리를 제대로 기록하지 못해서 오차가 있겠지만.. 그래도 대략적인 추세를 알기에는 부족함이 없습니다. 스파크 공인 연비가 어느정도인지는 잘 모르겠지만(검색하면 다 나오겠지만 극도로 귀찮습니다.) 그냥 대충 보면 준수하게 나오는 듯 보입니다. 그런데 인터넷 동호회에 올라오는 연비들을 보면 제 연비와 의외로 차이가 많이 납니다. 심지어 어떤 분들은 스파크로 7km/L 연비가 나온다고 하시는 분들도 계시더군요. 그런 글들을 자주 접하다 보니 드는 생각이 과연 aCar가 계산하는 연비 정보가 정확할건가? 라...