Visual Website Optimizer, doorbraak in MVT/AB testing?

Multi variatie testen en a/b testen worden steeds meer gebruikt. Helaas is het niet altijd zo eenvoudig om een test op te zetten en uit te voeren. Ook kosten de meeste pakketten nog veel geld. Naast Google Website Optimizer is er nu nog een pakket (software as a service) dat gratis mvt en a/b test functionaliteit aanbiedt, en hoe! Via een simpele what-you-see-is-what-you-get editor kan je testen opzetten. Het pakket heet Visual Website Optimizer en is gemaakt door Wingify (blog: het lezen waard). De test wordt actief door één (soms twee) stukje(s) javascript code op de te testte pagina te plaatsen.

Demo

Mijn collega Mesut Karaman attendeerde mij op deze tool. Als je de demo doorloopt zie je gelijk wat de mogelijkheden zijn. Je kunt kiezen voor een multi variatie test of a/b test. Vooral de multi variatie test mogelijkheid verbaasde mij, maar het werkt!

Ook testen?

Aanmelden kan hier en je gebruik daarbij de invitecode: carsonified.

Live test

Op dit moment test ik deze pagina waar je nu naar kijkt, om te kijken of het werkt. Kijk dus niet raar op wanneer je een rare pagina/variatie (op dit moment alleen de titel) te zien krijgt, dit is onderdeel van de test.

Doorbraak?

De eenvoud waarmee je een test kunt opzetten (en previewen) vind ik een doorbraak. Helaas weet ik niet hoe de performance is van de service. Omdat de variaties niet op je eigen machine(s) gehost worden, maar extern, kan dit nadelig zijn voor de laadtijd van de pagina die je test (en daarmee je test beïnvloeden). Om hier een goed antwoord op de kunnen geven zullen we dus eerst de software goed moeten testen πŸ˜€

Ik zeg: Happy testing en ik hoor graag jullie mening / ervaringen.

Reacties (13)

  1. Hey,

    Thanks for the post! I will be eager to hear your (and your readers) feedback on the tool. Performance wise, we recently switched to Amazon S3 for hosting JavaScript so it shouldn’t be too slow. See this blog post for details http://visualwebsiteoptimizer.com/split-testing-blog/no-more-downtime-amazon-s3-based-external-javascript-hosting/

    Plus, to counter page load times you have an option of inserting advanced code (available in test report section) which will completely eliminate any lag in page load.

    If you need help setting up the test or have clarifications on the tool/service, please feel free to contact me at paras@wingify.com

    Regards
    Paras Chopra

    Founder, Wingify

  2. Ik ben de tool al een beetje aan het testen. De laadtijd issues vallen op zich wel mee, al moet je niet al te grote elementen willen testen via de WYSIWYG (A/B testen is dan een optie).
    De tool is nog wat buggy. Denk bijvoorbeeld aan het niet goed meten van Adwords verkeer.

    Paras, de ontwikkelaar, zit er wel heel goed bovenop. Ik heb enkele bugs en vragen bij hem neergelegd en heb altijd een sluitend en vlot antwoord gekregen. Als de tool zich zo blijft doorontwikkelen (afgelopen week bijv. met Google Analytics integratie), dan staat er zeer binnenkort een uitstekende tool die voor veel mensen een prachtig alternatief wordt voor de Google Website Optimizer.

  3. We zijn al een tijdje met de tool bezig maar zeker erg enthousiast. Vooral het feit dat je niet steeds langs IT moet heeft veel voordelen. Het lijkt me een mooi en goedkoop (vooralsnog gratis) alternatief voor bijvoorbeeld een tool als Sitespect.

    Er zitten leuke features in zoals het tijdens de test aan- en uitzetten en toevoegen van varianten.

    Er wordt voor de berekening van de effectiviteit van de varianten gebruik gemaakt van een ander algoritme dan de Google Website Optimizer, maar deze maakt de duur van een test wel korter.

  4. Hi Martijn,

    Thanks for dropping by the conversation. You have provided great feedback both on and off the emails. Yes, the tool is still somewhat buggy, that is why it is in beta πŸ™‚ The AdWords issue is top in my priority list and by next week, it will be fixed for sure.

    My aim is to build the best A/B testing tool available and I am sure a couple of months down the line I will reach there.

    -Paras

  5. Ik heb een week of 2 terug met de tool getest en deze tool maakt de stap waarbij voor de verschillende variaties van website optimizer geen html deskundige hoeft te worden ingeschakeld. Door op je bestaande pagina de blokken aan te geven die je wilt veranderen kwa inhoud en dit daarna via de visuele editor te doen kun je zelf aan de slag.

    Voor mij de reden om de tool ook te noemen in de Online Dialogue presentatie op Online Tuesday afgelopen 9 februari 2010: http://onlinedialogue.nl/presentaties/online-tuesday-presentatie-de-slides/

    Gevaar is wel dat er steeds vaker onzinnige testen zullen worden uitgevoerd. Waar je enerzijds al het probleem hebt dat in mijn ogen de helft van de uitgevoerde testen al verkeerd geinterpreteerd wordt, maar als de andere helft al geen zinnige test was gaan we een hoop tijd verdoen… Wat ik mij afvraag is: de webmaster gebruikt al website optimizer (en snapt HTML). De grotere bedrijven hebben hier een specialist voor. Bij een goede AB / MVT tool implementatie hoef je namelijk al niet meer langs IT (binnen een bepaalde DIV kun je zelf varieren). Maar ik geloof zeker dat dit de toekomst is voor bijvoorbeeld webredactie (als laag bovenop het CMS).

    @andre Sitespect is een totaal andere tool. Je hebt daar juist vergaande HTML en reguliere expressie kennis nodig voor het opzetten van een test. Het enige waar je IT niet voor nodig hebt is het taggen van je pagina’s (slechts 1 malig het systeem laten ontsluiten). Voor visual website optimizer dien je nog steeds tags op te nemen (zoals elke javascript oplossing).

  6. @Ton My reply is basis Google Translate as I only understand English. So apologies upfront if misinterpreting some of your thoughts πŸ™‚

    Well, I don’t agree with the viewpoint that with ease of doing A/B tests non-sensical tests will be conducted. In my opinion, every test (no matter how small) yields some information. And democratization of A/B testing is the only way to have it realize its full potential. Ideally, A/B testing should cut through IT department completely and should be hands of marketer or web analysts. And that is what I am trying to do with my tool.

    Regarding SiteSpect, I think it is an excellent tool. However, it is *expensive* and you need to do DNS changes (which can be a hassle for a lot of companies).

  7. @paras thanks for your reply. I agree that the conversion optimization toolset should be in the hands of marketeers, but (and that’s a BIG but) most marketeers hardly know anything of statistics and user psychology. They need specialists to translate the results of the testing. Tools like yours perform a great job of giving the marketeer the tool (without IT hassle), but also create the risk that they don’t use it the right way (and ok, I’m a consultant, so that’s my business πŸ™‚

    Sitespect by the way has an inhouse solution which don’t need the DNS stuff.

    I think your tool is an awesome for the long tail market (websites and shops with 2 to 5 employees). Try to setup a best practises overview and offer paid help?

  8. @Tom – thanks for appreciating the tool πŸ™‚ Well yes marketers may not be able to fully comprehend the statistics and user psychology. But I guess it should be a tool’s duty to provide right perspective on dangers involved with misinterpreting the results. Ultimately, marketers will need to learn all this stuff because A/B testing works best if you do lots of it and at regular intervals. See this case study for example: http://visualwebsiteoptimizer.com/split-testing-blog/how-aquasoft-increased-their-sales-by-20-doing-ab-split-tests-in-multiple-phases/ AquaSoft do >10 A/B tests per month and that reflects in the results they are getting πŸ™‚

    Ah, I wasn’t aware that Sitespect has an inhouse solution. If it doesn’t add JavaScript, neither requires DNS change then I wonder how is it integrated with the client website. Integrated with backend? (At PHP, Java level?)

    Yup, you pointed out correctly. Aim is to bring the tool to Fortune 5 million businesses which never had a chance to access good A/B testing tool which doesn’t scare them with complexity.

  9. @Paras

    Sitespect inhouse is a seperate server (or cluster) which is placed inside your hosting area. After your webserver responds to the question of the browser from the visitor and generates the normal page, this page goes through the sitespect server which you can tell which URL’s should be changed with what content (regular expression based). See it as an extra (transparant) CMS layer on top of your existing CMS. Problem: for companies: you still need technical expertise to create tests. Good thing: you can easily use it for targeted AB testing (through URL redirecting) because every browser request goes through the Sitespect server before it reaches the webserver.

    Are you going to integrate with BTbuckets? Great tool to set up targeted Google Website Optimizer campaigns.

  10. @Ton – ah okay, since it is a hardware based solution I can see why SiteSpect could be so sxpensive.

    Targeted A/B test campaigns is a feature we are building within our tool itself — should be interesting segmenting visitors pre- and post-test. This can yield a lot of information.

  11. @Ton – yup, you are right. Tool isn’t going to be free forever. The service will be charged based on traffic. We are also considering special pricing model for consultancies/marketing agencies.

    I explored BTBuckets, by the way. Even in the current form, it should be pretty easy to integrate. By the way, I’d love to chat with you over email on the targeting part — would be wonderful to have your opinion on what exactly you are looking forward to. Please contact me at paras@wingify.com once you get some time.

  12. Ik heb de tool net een paar dagen op proef. Ik moet zeggen dat het erg eenvoudig is om varianten op je bestaande pagina aan te maken. Echt super.

    Een klein minpuntje is dat de laadtijd van de pagina’s wel iets langer is geworden.

Reacties zijn gesloten.