Wie moet kiezen tussen advies van een algoritme of een mens kiest het liefst voor het laatste. Er heerst algoritme-afkeer, zo blijkt uit eerder onderzoek door experts in consumentengedrag. Veel mensen vinden het moeilijk om op algoritmes te vertrouwen. Dat gebrek aan vertrouwen groeit als algoritmes foutjes maken. Dus crasht een Tesla als die autonoom rijdt? Dan voelt dat veel gevaarlijker dan wanneer een bestuurder de macht over het stuur verliest. De oplossing? Duidelijk maken dat algoritmes bij leren.
3 sterren *** – Wetenschappelijke inzichten vanuit de consumentenpsychologie, vertaald naar concrete voorbeelden.
Dat zit zo: het brein weet van zichzelf (of vindt van zichzelf) dat het van fouten leert. En gaat er dus vanuit dat ook andere mensen dit doen.
Dat geldt niet standaard voor algoritmes en technologie in het algemeen. Een gemaakte fout wijst op een fout in de programmering. En standaard gaat het brein er niet vanuit dat zo’n algoritme daarvan leert.
Het algoritme als almachtige
Algoritmes en beslismodellen zijn vele malen krachtiger dan het menselijk brein. Op nagenoeg ieder gebied kan technologie meer dan we menselijk voor elkaar krijgen. Toch hechten de meeste mensen meer waarde aan menselijke voorspellingen dan wat de data presenteert. Vooral professionals hebben moeite om te vertrouwen op algoritmes.
De afkeer van algoritmes komt voort uit een gebrek aan vertrouwen dat die doelen kunnen stellen en rekening kunnen houden met individuele verschillen. En het algoritme stuit op ethische bezwaren, omdat het beslissingen zou ‘ont-menselijken’.
Als algoritmes kunnen bij leren…
Die afkeer verdwijnt als sneeuw voor de zon als blijkt dat algoritmes kunnen bij leren.
De kleinste fout in het algoritme of een voorspelling overtuigt het brein namelijk dat menselijke voorspellingen beter zijn. Terwijl ook mensen fouten maken (meer zelfs dan algoritmes). Maar het brein gaat er vanuit dat mensen bij leren, dus dat het uiteindelijk goed komt.
Wie consumenten overtuigt dat het algoritme bij kan leren lost de afkeer daarvan dus op.
Andere mensen worden overtuigender als ze op eerdere beslissingen kunnen terugkomen. Dus als ze laten zien dat ze bij leren, om betere keuzes te maken. Wie fouten toegeeft, daarvan leert en het daarna beter doet krijgt het meeste vertrouwen van anderen.
Gemaakte fouten en het leren daarvan vormen het sterkste signaal van expertise. Als algoritmes kunnen leren van hun fouten groeit daarom het vertrouwen dat mensen daarin hebben.
Het lerende algoritme als vertrouwde voorspeller
Daarom hebben consumenten weinig vertrouwen in:
- Aanbevelingen van een dating-app die in 85% van de gevallen de juiste match voorstelt.
Maar hebben ze veel meer vertrouwen in: - Aanbevelingen van een dating-app die leert van iedere fout, om betere matches voor te stellen. Momenteel stelt de app in 85% van de gevallen de juiste match voor.
Wie consumenten overtuigt dat het algoritme bij leert wekt vertrouwen en omzeilt de afkeer die het brein in eerste instantie ervaart. Dat lijkt een belangrijke voorwaarde om steeds meer en steeds vaker op data te vertrouwen.
Interessant artikel gelezen en wil je op de hoogte blijven van leuke psychologische inzichten? Meld je aan voor de nieuwsbrief, zodat je iedere vrijdag de nieuwe artikelen ontvangt.
Wetenschappelijke bronnen
Verder lezen: Reich, T., Kaju, A. & Maglio, S. (2023). How to overcome algorithm aversion: Learning from mistakes. Journal of Consumer Psychology, 285-302.
Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm aversion: People erroneouslyavoid algorithms after seeing them err. Journal of Experimental Psychology: General, 144(1), 114–126.
Eastwood, J., Snook, B., & Luther, K. (2015). Measuring the reading complexity and oral comprehension of canadian youth waiver forms. Crime & Delinquency, 61(6), 798–828.
Grove, W. M., & Meehl, P. E. (1996). Comparative efficiency of informal (subjective, impressionistic) and formal (mechanical, algo- rithmic) prediction procedures: The clinical–statistical contro- versy. Psychology, Public Policy, and Law, 2(2), 293–323.
Longoni, C., Bonezzi, A., & Morewedge, C. K. (2019). Resistance to medical artificial intelligence. Journal of Consumer Research, 46(4), 629–650.
Reich, T., & Maglio, S. J. (2020). Featuring mistakes: The persua- sive impact of purchase mistakes in online reviews. Journal of Marketing, 84(1), 52–65.
Reich, T., & Tormala, Z. (2013). When contradictions foster per- suasion: An attributional perspective. Journal of Experimental Social Psychology, 49(3), 426–439.
Shaffer, V. A., Adam Probst, C., Merkle, E. C., Arkes, H. R., & Medow, M. A. (2013). Why do patients derogate physicians who use a computer-based diagnostic support system? Medical Decision Making, 33(1), 108–118.
Patrick is meer dan 10 jaar zelfstandig Consumentenpsycholoog. Hij combineert psychologie met marketing. Psychologische inzichten maken hem gelukkiger met zijn eigen (aankoop)keuzes en vormen de wetenschappelijke basis om bedrijven en instellingen te adviseren. Hij schrijft hier blogartikelen op de site, schrijft columns voor RTLZ en De Ondernemer en wordt regelmatig gevraagd voor kranten, tijdschriften, radio en televisie. Bovendien is hij zelfstandig SEO tekstschrijver.
