Archive for the ‘焦点小组’ category

焦点小组的误用

March 27th, 2009

by Jakob Nielsen, 1997 ,原文:http://www.useit.com/papers/focusgroups.html

Focus groups are a somewhat informal technique that can help you assess user needs and feelings both before interface design and long after implementation. In a focus group, you bring together from six to nine users to discuss issues and concerns about the features of a user interface. The group typically lasts about two hours and is run by a moderator who maintains the group’s focus.

Focus groups often bring out users’ spontaneous reactions and ideas and let you observe some group dynamics and organizational issues. You can also ask people to discuss how they perform activities that span many days or weeks: something that is expensive to observe directly. However, they can only assess what customers say they do and not the way customers actually operate the product. Since there are often major differences between what people say and what they do, direct observation of one user at a time always needs to be done to supplement focus groups.

Narrow View

Although focus groups can be a powerful tool in system development, you shouldn’t use them as your only source of usability data. People with an advertising or marketing background often rely solely on focus groups to expose products to users. Thus, because advertising and marketing people frequently contribute to web site development, focus groups are often used to evaluate Web projects. Unfortunately, focus groups are a rather poor method for evaluating interface usability. It is thus dangerous to rely on them as your only method in a Web design project. Traditional market research targets products for which usability is a minor concern. When judging, for example, what proposals a politician should support, how sweet a chocolate bar should be, or whether to show a new Mercedes braking in snow or in rain, you need only expose a group of consumers to different versions of the proposal, candy, or commercial, ask them which they prefer, and listen to their reasons as to why they prefer one or the other.

Software products, websites, and other interactive systems also need to be liked by customers, but no amount of subjective preference will make a product viable if users can’t use it. To assess whether users can operate an interactive system, the only proper methodology is to sit users down, one at a time, and have them use the system. Because focus groups are groups, individuals rarely get the chance to explore the system on their own; instead, the moderator usually provides a product demo as the basis for discussion. Watching a demo is fundamentally different from actually using the product: There is never a question as to what to do next and you don’t have to ponder the meaning of numerous screen options.

Consider, for example, the problem of windowing versus scrolling as methods for changing the information visible on the screen. The windowing principle says that to see the information in the beginning of a file, the user moves the window to the top of the file. Scrolling, on the contrary, says that to see the beginning of the file, you scroll down the screen until the desired content becomes visible. In other words, the command to get to the top of the file should be called UP (or shown as an upward-pointing arrow) if windowing is preferred, whereas the same command should be called DOWN if scrolling is preferred.

When they actually carry out the task, most users perform better in the windowing model (which is therefore used in most current GUI standards). But if you give a demo of moving text files to people new to computers, many of them will say that the scrolling model characterizes what they are seeing (since they see the text move down to get to the beginning). If GUIs had been designed by focus groups, we would have ended up with a suboptimal command.

Benefits

In interactive systems development, the proper role of focus groups is not to assess interaction styles or design usability, but to discover what users want from the system. For example, in developing Sun’s new online documentation system, we ran a focus group with system administrators to discover

  • their thoughts and preferences on issues like distributing and replicating huge documentation files across multiple servers, and
  • whether or not they needed faster access to local copies of the documentation on specific client machines.

These questions would never emerge in a usability test (although we did run usability studies to see if administrators could operate the system). We could have investigated the needs of system administrators in other ways — including field trips to customer locations — but it was more efficient to have a focus group discuss the problems in a single session.

Getting Focused

For participants, the focus-group session should feel free-flowing and relatively unstructured, but in reality, the moderator must follow a preplanned script of specific issues and set goals for the type of information to be gathered. During the group session, the moderator has the difficult job of keeping the discussion on track without inhibiting the flow of ideas and comments. The moderator also must ensure that all group members contribute to the discussion and must avoid letting one participant’s opinions dominate. After the session, data analysis can be as simple as having the moderator write a short report summing up the prevailing mood in the group, illustrated with a few colorful quotes. You can also do more detailed analyses, but the unstructured nature of the groups make this difficult and time-consuming.

Focus groups require several representative users. Because you need a flowing discussion and various perspectives, the initial focus group should have at least six users. Typically, you should run more than one focus group, because the outcome of any single session may not be representative and discussions can get sidetracked.

Other Issues

As with any method based on asking users what they want — instead of measuring or observing how they actually use things — focus groups can produce inaccurate data because users may think they want one thing when they need another. You can minimize this problem by exposing users to the most concrete examples of the technology being discussed as possible.

For example, Irene Greif ran focus groups to assess a version management facility for Lotus 1-2-3. The new features were presented to the focus group as a way to let multiple users compare alternative views of a spreadsheet across computer networks Initially, group members were skeptical about these ideas and expressed distrust in networks and nervousness about what other people would do to their spreadsheets. After seeing a prototype and scenarios of version management in use, participants moved from skepticism to enthusiasm.

A cheap way to approximate a focus group is to rely on email, Web sites, or Usenet newsgroups. For example, Yia Yang started a project on undo facilities by posting on the British academic network, asking users what undo facilities they used and how they liked them. Posting questions to a newsgroup with an interest in the issues can generate considerable discussion. A disadvantage is that online discussions are difficult (or impossible) to keep confidential unless they take place on an intranet, behind a firewall.

Another disadvantage to this approach is bias. Internet users tend to be people with above-average interest in computers, and participants in online discussion groups tend to have above-average involvement in the group’s topic.

Although online forum discussions are unlikely to reflect the average user’s concerns, they can be a good way of getting in touch with “power users.” These users have needs that will sometimes surface later for the average user. Thus, addressing the power users’ needs may be a way of getting a head start on future usability work.

持续失败的焦点小组

November 18th, 2008

如果你仔细聆听你能听到这些声音:来自于市场销售和产品开发人员对焦点小组研究数据不知所措的茫然。这些声音不会置若罔闻。营销和研究人员都认识到了焦点小组的存在的问题,以及必须得开始做点什么了。

Daniel Gross最近在Slate杂志中发表的“谎话,大谎话以及焦点小组”一文中,极大的质疑了焦点小组的有效性及其对产品开发和营销部门的价值。对人们在焦点小组中说一套,而实际去市场购买时又做一套的问题给予了很多的关注,这种说一套做一套的不一致让公司每年花上数百万美元,而结果只是误导了产品。Gross并不是唯一一个质疑这种目前毫无疑问用得最多的调研方法的人。全球管理顾问公司A.T. Kearney的首席分析师Kay Polit认为焦点小组是一个“错误的流程”。Just Ask A Woman公司的创始人和首席执行官Mary Lou Quinlan说焦点小组是“获得市场信息的危险方法”。战略设计公司 Jump Associates的Dev Patnaik把焦点小组比作“客户培养皿”,即将被研究的人从自然环境中剥离出来,然后用于科学研究观察…焦点小组是市场研究的可卡因,一旦依赖上了它,你就唯恐离开它会寸步难行。此外, Joseph Pine和James Gilmore两位作家则将焦点小组视为“一个大谎话”。在他们看来,“由焦点小组中得到的东西可能是非常危险的”。

谎话?危险?错误的过程?公司可不能将上百万美元或者公司的未来押注在这些不靠谱的事情上吧?那么这些质疑又有多大的合理性呢?

一些真实的例子

NBC的情景喜剧,像很多的其它的电视剧试播一样,都要根据焦点小组的结论来决定节目的走向。结果是播出不到一个月的,仅仅三集之后,NBC就不得不将节目撤了。Beryl Vertue,原剧的主要作者说:太依赖于焦点小组,而基本没有一点自己来自于直觉的坚持,太遗憾了。不,我觉得这就是一个错误。
对来自于焦点小组中的数据没有有效管理,也搞砸了通用的旁蒂克Aztek。它的风格不被焦点小组中的被访者所接受,本来应该引起一些考虑或者重新设计,Kay Polit指出,理想的情况下,当Aztek不被用户接受的情况下,通用汽车应该停止Aztek的研发。也许只是改变一下几片金属片,他们或许能拯救这款车,然而实际上却是某些人编辑了他们得到的数据,高级管理人员再根据这些漂亮的编辑意见做出了决策…这个时候去卖这部汽车会比更改设计重新制造花费的更多。
焦点小组也曾搞砸过克莱斯勒的PT漫步者,尽管它的销售现在超过了预期。焦点小组的数据使得克莱斯勒的策划人员相信他们拥有的不是大众喜欢的汽车而是一款边缘汽车。他们因此而调整了方向,并且调低了产量。
焦点小组也错误的让一个公司将目标客户群定位为十几岁的女孩子。MIT教授Justine Cassell,在一部引人深思的书“女人要什么”中报告了她和那个公司的一段经历。在一系列的焦点小组研究之后,公司得出结论说十几岁的女孩们需要的是高科技的指甲油。公司很高兴地看到顾客需要的正是公司所生产的!然而,在Cassell自己的研究中,139个国家的3062个孩子(60%是女孩)被邀请描述他们希望使用高科技来做些什么,没有一个人提到高科技指甲油!
Yankelovich最近提供的数据表明用户所说的和实际所做的之间缺乏正相关。Yankelovich列出了受访者声称影响其购买SUV决策的6大决定性因素,并且列出了用户在实际购买时的决策标准。你可以猜到两者之间的关系会是怎样的。受访者所提到的6个因素没有一个在最后的实际购买决策中起了作用。
这样的例子还有很多。一个令人震惊的数据是:80%的产品在发布后的6个月之内失败了,并且绝大多数是在有看似强大的市场研究数据的支持下失败的。顺便提一句,在2001年,得到那些数据花了11亿美元。然而80%的失败率?!这可不是一个小问题。其严重程度好比10次开灯有8次被电击一样。

焦点小组为何失败

那么,焦点小组为何会导致如此昂贵的失误呢?毕竟,焦点小组:

  • 有着很长的历史(美国政府的社会工作者在60多年前就首次使用该方法调查第二次世界大战的军事宣传影片的效果);
  • 被广泛使用;
  • 表面效度高;
  • 设计和使用起来快捷且简便;
  • 似乎能直接触及“消费者的声音”。

当然,像任何研究方法一样,焦点小组需要使用得当,并且需要有关专家亲自掌控。精心准备并且有效实施的焦点小组研究还是能够很好地满足某些目标的。我在美国和欧洲工作时,使用焦点小组数据成功的解决了许多问题;并且,我还看到其他人很好的使用这个方法。

相比用于市场验证而言,焦点小组用于产生想法时更为有效。想法就是想法,所有的想法对我们都有益处。我主持过许多群体的焦点小组,其中包括电信经理、工程师、外科医生、护士、警察和消防员。这些十分特殊小组会议确实都有一个真实而且明确的焦点,并能给我们提供一些真知灼见。焦点小组的数据通常需要有现场观察和访谈作为补充,因此焦点小组中讨论的行为通常作为我们的最初经验。

但是,我也从焦点小组中得到过一些平淡无味的结果以及没什么见地的数据。这些小组更多的代表了一般的市场细分,比如青少年、家庭主妇、一般消费者等等。

有许多重要的原因可以用来解释为什么大部分焦点小组的效果都不尽如人意,这些原因对我们大多数人来说十分熟悉。人们可以很容易指出方法设计上的缺陷或者会议主持上的不足。矛头还常指向取样的错误或者偏差、误导性的数据解释、写得十分糟糕的报告或者被忽视的建议。无论采用何种方法,上述原因都无益于做一个好的研究。但这些都不是问题的症结所在。根本的问题在于,应该去了解用户的心理,而不是像通常所认为的仅仅听他们怎么说。我们最大的失误就在于相信人们心里想什么,他们就能说什么(speak their mind)。说到这里,我想起在纽卡斯尔的一次经历——具有讽刺意味的是,那是我所主持过的最有用的焦点小组之一——当时,所有的参与者都略有醉意。焦点小组开始之前,他们一直被安排在酒店里的酒吧中等待,并且每个人到的时候都会拿到一瓶(约0.473升)啤酒!我并不是在这里推崇这个小伎俩——但我确实明显的感觉到,我绕开了他们的意识觉知,触及了他们的真实想法和信念!

洞察力还是后见之明?

有一个原因可以解释为什么“无法说清的需要”是无法被说清的。行为科学家早就知道,专家行为(消费者在他们自己的日常行为领域就是专家)是不可能被内省的,因此是很难被说清楚的。我们在差不多30年前就已经知道了(详见Nisbett和Wilson发表在Psychological Review上的经典论文),尽管可能存在一些途径,但是并没有一个可靠的途径来获取人们决策行为背后的认知推理过程;多数情况下,人们并不会意识到那些影响到他们行为反应的因素。当然,这并不意味着受访者不能回答“为什么”类型的问题;并且,多数焦点小组的主持人主要依赖于这种类型的问题。但是,这却意味着受访者给出的答案并不是基于真实的内省过程的。取而代之的是,这些答案通常反映了人们固有的一些先验因果观念,即人们对特定刺激与特定反应之间可能存在关联的固有看法。换句话说,受访者对其决策行为的解释通常是为了适应当时的情境而即时创造出来的,而并不是反映其真正的深层认知过程的。

但是,即便我们假设这样一种情况——这种情况并不是事实,但还是让我们做一下假设——即便受访者能够可靠地获取自己的推理过程并且还能够可靠地报告其决策,从而研究者能够确实收集到真实的数据,我们还是不能摆脱这样的事实:大部分常规焦点小组实际上测量的是错误的东西。它们测量到的并不是人们在购买时的想法,而是人们在参加焦点小组讨论时的想法。一个人在参与焦点小组讨论中做出回答时和他在实际购物中做出购买决策时,心理学、社会学、神经学,甚至金钱上的因素对其决策行为的影响是不一样的。哈佛商学院教授Gerald Zaltman认为,焦点小组方法只能触及到人们整个思维过程的5%——位于人们意识水平之上的5%。但是,正是位于受访者意识水平之下的95%的认知过程——焦点小组无法触及到的那一部分——主要决定了人们的决策过程。

超越消费者的声音

因此,我们需要开始考虑采用更有效和可靠的方法来发掘消费者的需要和偏好。我们得撇开泄露研究者意图的简单而直接的提问方式,从消费者所意想不到的方向来展开研究(这和侦探的工作方式有点相像)。事实上,这正是实验心理学家和认知科学家的工作方式。他们在探究人类行为的复杂机制时,不是通过简单的询问人们“你在想什么”,并且也很少依赖人们的内省和主观报告。取而代之的是,他们使用间接的方法来探究认知和行为。消费者研究可以从实验心理学家那里借鉴许多方法和工具。

关键是要设法真正的绕过消费者的直接表述。我们认为人们所说的和他们所做的通常并不是一回事。因而仍然令人费解的是:我们持续的根据人们说了什么来做出重大决策,同时却很少关注人们做了什么。我们最终想知道的是消费者的真实意图。指望焦点小组的受访者来观察自己的认知机制、理解观察到的结果并转换成语言描述,进而清晰的表述出来,这种惯用的方法不能确保实现我们的最终目标。应该不难理解这样一个事实,那些直接探究和捕捉消费者实际行为的方法对实际行为有极强的预测性!文化或者社会的人类学和民族志学(人类学家和民族志学家的研究领域),以及其结构化的方法(比如Beyer和Holtzblatt提出的Contextual Design能够十分有效地揭示那些无法说清的消费者需要当然,这并不是偶然,这些方法实际上正是在日常活动中观察人们的行为的。这样获得的结果能够驱动随后有关真正产品的构想、开发和市场方案——这些方案能够切实的解决一些问题。尽管这类消费者研究方法所投入的资源与焦点小组相比要多一些,但比起错误的开发和市场决策所付出的代价还是微不足道的。

在随后的发展过程中,在实验室或家庭中采用高保真原型进行的用户测试可用于深入理解用户需要,并可针对消费者的问题验证解决方案的适用性。尽管可用性测试通常用于识别用户交互方面的问题,但也可以有效地帮助我们理解产品的有用性问题。这类方法都是十分有效的,因为它们无需消费者的内省和想象。还有一类方法出自于MIT大脑和行为小组,比如Gerald Zaltman提出的萨尔特曼隐喻诱引技术ZMET(主要探究利用隐喻技术绕过消费者的外显意识觉知),这类方法吸收了认知科学、心理学和脑科学的精华。这类方法采用实验心理学的技术,本质上就是“探访大脑”的方法。它们被用于探究那95%的意识水平之下的认知过程,也正是焦点小组不能触及到的那部分。

我们需要反思一下焦点小组。现在,是时候去开始使用那些更能预测用户行为的新方法了。如果不采用那些能够探究消费者行为核心的方法,而继续依赖消费者所说的做决策,那么每年数十亿美元的投资仍将会在市场上饱尝失败的苦果。

原文:Is Consumer Research Losing It’s Focus? 译:陈军 齐雅琼userfree.cn

谎话,大谎话和焦点小组(Focus Group)

November 17th, 2008

原文,By Daniel Gross 译:陈军 userfree.cn

为什么消费者不告诉他们究竟想要什么的真相呢?

这里有个看起来矛盾的地方:5000万美国人都在一个叫Do Not Call的list上注册了,此举表明很多人都不想被那些电话推销所打扰,即便被打扰了也不会去买他们的产品。然而还是有那么多的电话依然持续打给了他们。为什么?因为电话推销人员相信消费者说想要什么和实际上做什么是不一样的。那些不想被电话打扰的有时候却实际上买了电话推销中的商品。

如果消费者撒谎,那么焦点小组有什么好?

有证据表明焦点小组(Focus Group)的用户经常撒谎。哈佛商学院教授Gerald Zaltman在他一本非常有影响力的书“How Customers Think”中写道:“表述的意愿和实际行为实际上相关度很低甚至是负数”。毕竟80%的新产品或者服务在通过焦点小组确认之后却在上市后半年内都失败了。好莱坞电影和电视剧的预告片也都会在发布前通过焦点小组来确认是否会受到市场欢迎,但是结果表明后来也都在市场上失败了。

焦点小组已经变成产品上市之前的一项政治运动了。但是却很少人怀疑它的价值,认识到消费者在焦点小组中表述的意愿和他们在真实的市场中的行为是有着巨大差距的。

有几个主要的原因。先从焦点小组的参与者来说:当然,他们首先是自愿参加的,但是他们背后存在的心理原因却有可能让他们在一个没有窗户的小组座谈会的会议室里说一套,而到了一个大的商场做的却是另一套。 Moneybox参加过几个焦点小组,并和几个主持人交流。不同人参加座谈会的动机很显然是不一样的。有些人因为需要钱,有些人或者为了点心或者为了和其他人交流而来;甚至有像Moneybox这样的为了搞清楚谁来参加座谈会而来的。

有一小部分的座谈会参与者可能会恶意的撒谎,但是大多数的参与者还都是想去愉悦主持人及其它参与者的。因为他们能拿到钱,还有点心吃,甚至会讨好主持人。因此,他们可能会告诉他们——在单面镜后面的市场调查人员——他们认为他们会喜欢听的话,而不是他们真正所想的。

况且,一个人很难在这种不自然的环境中提出发自内心的或者非常诚实的观点。因为报酬把一些彼此不认识的陌生人聚在一起,而且由另一个陌生人来主持,这本身就不是很自然的一个谈话环境。Herbert Rubin和Irene Rubin在他们的《定性访谈》一书中说,主持人并没有足够的时间来建立座谈会中的这种信任关系,而这种信任是参与者能表达真情实感的一个前提条件。如果讨论是有争议的话题,例如种族和妇女在工作的角色等为题,很多人将很难真实的表达自己的想法,而是会因为政治或者其它的考虑而过滤了他们的回答。

另外一个关于焦点小组的问题:焦点小组经常让参与者来判断他们从来没有见过或者用过的产品。人类学家Robbie Blinkoff,Context-Based研究公司的管理人员,说“当你问别人一个问题,别人将会有一个意见。他们可能对此一无所知,或者没有任何经验。这个问题对他们来说相对他们的现实而言是抽象的。”(与做焦点小组不同,Context是一家专注于现场研究的人。Brinkoff和他的同事去用户真实的环境观察他们如何使用产品。)

Gerald Zaltman教授同意这样的观点。因为焦点小组并没有反应人们的经验而是在假想的情形下去做一些选择,“焦点小组对于发展和评估新的产品概念,测试广告,或者评估品牌形象等是无效的。”

不过Gerald教授对于这个问题的研究更深入一些。人们可能会在焦点小组中撒谎的真正原因仅仅是因为他们不知道他们自己想要什么,或者不能欣然的说服自己想要的是什么。“标准的提问有时候可以揭示用户对他们比较熟悉的产品和服务的态度,前提是他们关于这些产品和服务的想法、感觉是稳定的,可及的,随时可以清楚的用语言表达出来的”。但是这里包含很多的“如果”。Zaltman教授说,“大多数影响消费者行为的想法和感觉都存在于无意识当中”,不是“非理性的”,而是“无意识的”。

“无意识的想法对预测人们真正的行为才是最重要的,最需要去探索的,”Zaltman教授在一次访谈中说。“在一次焦点小组中,每个人的时间平均5-10分钟,你是不可能在这么短的时间探索到他们的无意识的。”

既然如此,为什么焦点小组还这么流行呢?因为焦点小组历史悠久,有标准收费,并能在给定时间范围内交付数据。可能更重要的原因是,焦点小组被用来评测新产品和新概念,而委任这项研究的甲方可能是在该产品或项目上已经投入了大量的人力物力。比较典型的像好莱坞电影的大结局或者已经完成的pilots——而非电影剧本。广告公司希望用座谈会来讨论他们通过头脑风暴搞出来的几个ideas,并且让用户来评分,然后他们可以把评分最高的那个拿给客户。焦点小组的主要作用被用来确认市场销售人员自己关于产品的信念。 焦点小组原本应该是用来探索客户的心理需求的,现在却被更多的用来满足销售人员的心理需求了