企业如何选择在线问卷?不谈质量的样本库都是在耍“流氓”

“在互联网上,没有人知道你是一条狗。”(On the Internet, nobody knows you’re a dog.)——这句话原是美国著名杂志《纽约客》(The New Yorker)上一幅漫画的标题。互联网带来了联通的便捷,也带来了认知上的“复杂”。

2019年7月QuestMobile发布的半年报告显示,移动互联网用户规模首次出现负增长。存量竞争时代里,竞争力从资源能力转变成了精细化运营能力,如何最优的开发每个用户价值(ARPU),是下个十年企业最关心的问题。

问卷是商业社会研究中用来收集资料的一种工具,随着企业对用户数据的重视,在线问卷迎来发展的下半场。

谁在“回答”很重要

自1911年柯蒂公司组成商业调研部门开始,调查热伴随了美国商业发展百余年。互联网时代在线问卷替代了传统调研方法成为主流,全球市场相继诞生了SurveyMonkey、Qualtrics、Confirmit等巨头,仅美国的在线调研公司知名的就多达几十家。

中国在线问卷市场也进入爆发的前夜,2019年6月,问卷网获方广资本、元禾控股、中亿明源三家机构的1.4亿元C轮融资;8月,有才天下猎聘豪掷8.27亿元收购了问卷星;在资本市场整体的寒冬下,在线问卷市场却迎来了自己的“小热”。

中国在线问卷市场第一梯队有问卷星、问卷网、腾讯问卷等平台,稍弱的有麦客、表单大师、金数据、番茄表单等平台。以三大平台为代表,中国在线问卷平台正经历着从工具属性向服务属性的转型。

所谓样本库就是平台为企业做在线问卷时提供的用户库,未来的在线问卷大战,样本库的质量将是决胜点,天浩如此判断基于两个原因:

一方面,在线调研需要真实并符合筛选条件的用户回答;如国外youngpoll投票调查网要求注册用户必须是6-15岁的孩子;Surveyspot调查网的调查会员仅限于美国,用户注册和作答过程中网站都会去核实他们是否是美国IP。

任何一次调研、问卷和评测等都有明确的目的,选到真实并符合条件用户来回答非常重要,这直接决定了调研能否真实还原目标用户的“态度”。

另一方面,无论传统问卷还是在线问卷,发起方都会拿出一定的奖励作为占用用户时间的“补偿”;互联网有利益的地方就有“黑产”的身影,通过技术手段高度模拟真实用户行为轨迹来获取利益的“羊毛党”等网络黑产横行各个产业,在线问卷也不能“免俗”。

2018年,武汉大学中部发展研究院主持的《新时代中国农民工回流情况》问卷调查爆发造假丑闻。当时武汉大学悬赏(农民工)填写一份问卷就能得到10元钱的报酬。有的用户通过手机地图上搜寻地点填写假地址的方式“假冒农民工”回答调查报告,经媒体公开后引起社会轩然大波。

缺乏了真实性,问卷调查的价值就是0,各大平台纷纷发力样本库服务,核心就是围绕保证在线问卷真实性,谁在回答问题非常重要。

样本库三“模式”

问卷星、问卷网、腾讯问卷三大平台样本库服务有明显的不同,前两者将样本库服务归列在会员服务或增值服务内。腾讯问卷样本库服务——回答小组却是免费开放。因为回答小组都是用户主动申请,腾讯问卷构建样本库的成本较低。免费服务和其它两家形成差异化优势。

样本来源决定了它们样本库组成的特点和服务的优劣势,我们来具体看一下:

开源样本库:问卷星

在线问卷三大平台里,问卷星成立最早,因此问卷星样本来源于平台对部分用户的随机邀请。最早问卷星为企业提供创建在线问卷服务,企业通过QQ、微博、邮件等方式将问卷链接发给好友填写。十余年来问卷星沉淀大量用户,并从中随机邀请进入样本库。

问卷星是开源样本库模式,并没有“依托”某个平台,企业需要付费才可以使用到平台的样本服务。

优势:精准投放和效果跟踪能力;问卷星会收集样本库中用户的性别、年龄、地区、职业、行业等多种样本属性,这些用户画像和兴趣标签将为精准投放提供基础支持,比如说女性化妆品企业进行产品认知度调查,就可以把男性、儿童、老人等人群排除在调查目标之外。

同时,问卷星为企业提供全程跟踪效果的能力,企业在项目执行过程中可以随时登录问卷星查看答卷的详细情况,可对不符合要求的答卷进行人工排查。

劣势:取样范围狭窄、服务质量不可控;早期问卷星以学生用户为主要构成,被猎聘收购后,补足职场用户的短板。可无论问卷星还是猎聘,本身就是服务平台,这导致了它们在样本库来源上存在取样范围狭窄、用户属性趋同的弊端,样本库的构成上缺乏全面性。

此外,问卷星样本服务是通过QQ、微博、邮件等非可控的平台作为回收渠道,很可能造成样本回收不及时的现象,开源样本的质量控制也是一个难题。

第三方合作样本库:问卷网

问卷网前身为爱调研旗下的iSurveylink系统,样本库来源一部分来自爱调研。另外,问卷网还与华为、今日头条等公司开展了技术与数据服务合作。

问卷网选择自建+第三方合作样本库,很好的补足后发短板。今年拿下1.4亿元人民币C轮融资后,弹药也充足,花钱买样本来源算个不错的选择。

优势:样本来源广泛,样本库结构相对合理;与问卷星一样,问卷网也为企业或机构提供基于用户画像和兴趣标签的精准投放能力,通过第三方合作获得相关支持,将大大补足样本库来源不足的短板。根据问卷网官网介绍其会员规模为659万,活跃会员规模为151万。

劣势:缺乏自主能力,受制于第三方,灵活性不足;信息时代里大数据的价值,如同于石油与黄金;这种合作模式缺乏一定的自主能力,还将面临成本和收益的问题。一旦合作停止,第三方渠道也意味着会关闭。或预算一旦下调,第三方提供的服务也会“缩水”。

自建样本:腾讯问卷

微信、QQ上每个账号背后都是一个真实的网民,虽然现在其他平台也在微信上开拓样本源,就品牌信任感上用户会更倾向加入腾讯问卷旗下的问答小组。

优势:免费、样本库质量高;相比于问卷星、问卷网,腾讯问卷回答小组并不收费,投放者可以选择向回答小组成员发放红包或甜圈(回答小组的专属奖励),没有中间环节费用,投放者的红包和甜圈将全部发放给合格回答者。

腾讯问卷为企业和机构提供了完善并精确的用户画像和兴趣标签,投放页可自由选择希望投放的人群属性,包括年龄、性别、婚姻状况、学历状况、地域、行业职业、其所用的手机设备划分以及兴趣标签等等。

回答小组通过“卷叔填填圈”公众号消息提醒的方式接收问卷任务和奖励,数据显示,目前通过回答小组投放问卷,在1天内能达到约90%的目标回收量,大大缩短了调研项目的周期。样本库综合实力方面,腾讯问卷是领先的,不过这种自建模式也有自己的短板。

劣势:样本来源单一;腾讯问卷问答小组成员都是主动加入模式,相比于第三方合作模式存在来源单一的问题,例如,问卷网一面和硬件巨头华为合作,一面和内容巨头今日头条合作,能够获取多来源的数据。目前,用户只能通过关注“卷叔填填圈”公众号才能加入回答小组。

另一方面,回答小组也直接通过“卷叔填填圈”公众号来发放任务,因为微信的“随时在线”特性,能够快速的实现答卷的回收。腾讯问卷目前也在拓展短信、邮箱等其他投放渠道,相信不久之后,一个“完全体”的腾讯问卷就将面世了。

质量控制是生死根本

样本库的初衷,解决的是三大问题:投放难、回收慢、无效数据多;因此,样本库的质量,直接决定了在线问卷服务的质量。在回答环节,质量控制也是重中之重。各家平台基因的不同,在质量控制机制上也有很好的体现。

由于问卷星样本库采用开源模式,质量控制机制上使用了四个流程进行保护。分别为1、样本质量控制;2、填写者控制;3、填写过程控制;4、全程跟踪效果。

在样本质量的筛选上,问卷星采取的是“淘汰”后置模式,一开始只要求用户提供例如年龄、性别、职业、收入等信息。平台的自动筛选规则的筛选和客户人工排查,会把“有问题”的答卷标记为无效答卷,如果同一个用户被标记无效答卷的次数超出一定比率,系统将自动移除该成员,不再允许其做答。

在识别虚假用户方面,问卷星还有答题时间控制功能:另外,还规定任何一个样本服务的项目,同一个IP地址、同一台电脑、同一用户名都只能填写一次,这也是对机器“答题”方式的一种防御机制。

问卷网解决方案并没有对外公开,部分质量控制应该会交给第三方来解决,华为、今日头条等合作伙伴对旗下用户也有着丰富的用户画像和兴趣标签,它们会有自己的质量控制办法。

以上两大平台样本库服务存在两个弊端,一是收费,本身企业做在线问卷就会拿出一定的费用作为用户“劳动”的补偿,加上平台的“抽佣”,这个成本就会非常高;二是,无论是发现问题再处理的后置模式,还是把“权力”交给第三方的模式,对于质量控制上仍只是“缝缝补补”,并不是很理想的处理手段。

在这其中,腾讯问卷利用传统识别与AI技术结合的识别和剔除“羊毛党”或无效用户的手段或更为有效一点。

1、技术识别标记;腾讯问卷团队正在研发自动识别标记无效问卷(胡乱作答、伪装作答)的程序,通过跟踪用户全程的答题行为时间分布,结合AI技术依靠用户行为序列进行筛选。系统会通过有效时长、逻辑甄选、IP分析、渠道甄别和用户特征、答题行为、问卷特征等维度数据交叉验证,不仅在样本来源上把存在虚假行为的用户“拒之门外”,也会对用户回答过程进行深度监控,识别“羊毛党”或违规用户。

2、回答问卷审核机制;当企业或机构在回答小组投放问卷时,默认开启了审核回答后发放红包选项,投放者可人工审核不符合答题要求,或者随意乱填的答卷,发现这些“问题”答卷审核人员可将它们标记为无效,有此标记的用户无法获得红包或甜圈,这将保护企业或机构每一分投入都花在刀刃上。

三大平台为何会采取很严格的质量控制手段?因为,在线问卷作为一种调研方式,给予参与用户一定的奖励是全球通用的做法,可有利益的地方就有人会钻机制的漏。难免会被网络黑产盯上。此外,也存在用户为拿红包虚构“身份”回答问题,以及小撮用户既想拿奖励又“省事”胡乱回答问题等现象。

种种问题都决定了在线问卷服务的最终有效性,这是每一个在线问卷平台都要去应对的困难。在线问卷领域样本库、问卷回答等服务的质量控制非常重要,在下个十年里,将是决定各家平台是兴是衰的关键。

在线问答之战来到分水岭

国外在线问卷平台为了抢夺用户,尤其是优质用户,对答题的奖励金额也越来越高。GMI旗下的TechSay 是面向程序员、经理人、技术管理员和主管的社区,平台用户每完成一项技术调查,即可获得最低200 TekPoint 积分(10美元),每1000 TekPoint 积分可兑换50美元现金支票。

相比之下,腾讯问卷支持最低2元、最高8元的红包和甜圈(客户可以用礼品资源来换取甜圈),中国在线问卷的成本还不算太高,不过相信随着样本库的专业化、垂直化、细分化的发展,未来也会呈现多种定价梯位。

工具时代,中国在线答卷提供的只是答卷创建的功能;服务时代,样本库等综合能力成了决胜真章。

粗糙的开源样本库是特定的历史产物,因为无法有效实现对质量的控制,未来会被其他两种方式全面替代。

问卷星第三方合作应该是主流的解决方案,在用户红利见顶的时代,想要自建一个规模足够大的用户资源池,将是个不小的难题,选择拥有庞大用户数据的第三方合作是个捷径;相比之下,腾讯问卷背靠腾讯生态“先天优势”得天独厚,无需为样本来源问题发愁。对回答小组控制力要更强,而且有腾讯生态的支持,精准投放和质量筛选上也更具自主性和灵活度。总而言之,只有保证问答调查的客观性、真实性,才是能被B端认可。

80年代的美国市场,在销售额大于5亿美元的公司里,几乎都组建了专门的市场调查部门。

据估计,当时美国企业在市场调查活动中投放了10多亿美元。时光荏苒,市场调查在欧美企业中的重要作用反而愈发增加,2018年德国软件巨头思爱普(SAP SE)曾以80亿美金收购在线调研软件公司Qualtrics International。在线调查平台SurveyMonkey早在几年前,其估值就超过了20亿美元。

美国的商业的成功,从侧面印证了市场调查在企业经营管理中的决定性作用,中国处在发展国家向发达国家过渡,在中国年销售额大于5亿美元的公司已不再少数,一些大的企业年销售百亿、千亿美元也不是什么“稀罕事”。

在许许多多的中国企业内部也开始组建专门的市场调查部门,通过拉勾网搜索包括小米、搜狗、美团点评、高德、陌陌等近百家大大小小的互联网公司,都开始招聘市场调研相关的岗位,开出的平均薪金并不亚于被互联网企业争抢的程序员岗。

毫无疑问,中国企业对问卷调查的重视,将催生庞大的问答市场。在线问答之战已来到分水岭,哪个模式才是未来,我们对此拭目以待。