Ze willen de dokter vervangen. Niemand vraagt of de vergadering weg kan.
Er is een verschil tussen automatiseren en amputeren. Ik denk dat we dat verschil aan het kwijtraken zijn.
Want er is een vervelende eigenschap van amputeren: het is onomkeerbaar. En het bionisch been dat je ervoor terugkrijgt lijkt nu goedkoop, maar je kunt er straks niet meer zonder lopen. Vraag het aan iedereen die zijn dvd-collectie wegdeed omdat streaming goedkoper was. Mijn drie streamingabonnementen zijn er na het slopen van de tv- en filmindustrie niet bepaald goedkoper geworden.
De CEO van het grootste publieke ziekenhuissysteem in de VS riep vorige week zijn collega-bestuurders op om samen te lobbyen voor regelgeving die radiologen vervangt door AI. Op zijn spreadsheet klopt dat. Radiologen zijn duur, AI is goedkoop, de beelden worden toch wel beoordeeld.
Je kunt je afvragen voor wie hij dit eigenlijk oplost. De patiënt? De premiebetalers? Of de begroting van dit jaar?
Een radioloog uit San Diego verwoordde het eerlijker dan de meeste reacties die ik voorbij zag komen: ziekenhuizen zijn bereid kosten te besparen zelfs als dat patiëntschade betekent, zolang het maar legaal is. De meeste reacties vanuit de beroepsgroep waren defensief. Die van hem was een diagnose. En ik denk dat hij gelijk heeft: dit is geen technologisch probleem. Dit is een bestuurlijk-economisch probleem.
Artsen hebben hier overigens ervaring mee. De invoering van het EPD was ook zo’n spreadsheet-beslissing. Efficiënter, veiliger, beter. Op papier. In de praktijk kregen artsen er een administratieve baan bij, steeg de burnout, en zaten ze ‘s avonds nog verslagen af te maken in plaats van thuis te zijn. Twintig jaar later zijn we daar nog steeds niet van hersteld. En nu staat de volgende efficiencybelofte voor de deur.
Wat er in de praktijk gebeurt
TNO onderzocht dit jaar wat er in de praktijk gebeurt als Nederlandse organisaties AI inzetten om werk efficiënter te maken. Bij een zorgverzekeraar: 20% minder medewerkers in het klantcontact, klantwaardering omhoog. Maar als je het rapport doorleest wordt het ingewikkelder. De makkelijke gesprekken zijn weg. Wat overblijft is het complexe, het emotionele, de hele dag door. Een medewerker zei het mooi: “Mijn rustmomentjes zijn verdwenen.” Bij een juridische dienstverlener bleken junioren niet meer zelf contracten uit te pluizen. Ze controleren nu AI-output. Ze leren hun vak niet meer op de manier waarop hun voorgangers dat deden.
Taak versus rol
En hier zit de denkfout van die CEO. Hij reduceert radiologie tot één taak: beelden beoordelen. Maar een radioloog beoordeelt niet alleen beelden. Die zit in het MDO, adviseert de aanvrager welk onderzoek zinvol is en welk niet, belt de chirurg als iets niet kan wachten, begeleidt de arts in opleiding, en bewaakt de stralingsdosis van een vijfjarige die al vier CT-scans heeft gehad dit jaar. En dan hebben we het nog niet eens over de (interventie) radioloog die met een naald in zijn hand naast de patiënt staat. Een taak automatiseren is niet hetzelfde als een rol of werk vervangen.
Herkenning, of intelligence, kun je uitbesteden aan een algoritme. Oordeelsvermogen, of judgment, (nog?) niet. Vooralsnog bouw je op door jarenlang het vak te doen.
En zelfs die herkenning is wankeler dan het lijkt. Stanford-onderzoekers ontdekten recent dat AI-tools voor thoraxfoto’s medische benchmarktests kunnen halen zonder ooit een echte röntgenfoto te hebben gezien. De modellen construeerden overtuigende verklaringen voor bevindingen op beelden die ze nooit hadden bekeken. De onderzoekers noemen het een “AI mirage”: geen hallucinatie, maar een perfect geloofwaardige nabootsing van een denkproces dat nooit heeft plaatsgevonden. Dat is het fundament waarop die CEO zijn begroting wil bouwen.
De-skilling
In Nature verscheen deze week ook een stuk over wat er gebeurt als professionals langdurig met AI werken. Endoscopisten die gewend raakten aan AI-assistentie bleken zonder die hulp slechter te presteren dan voorheen. Hun detectierates daalden van 28% naar 22%. Je wordt niet automatisch beter van samenwerken met AI. Je kunt er slechter van worden als je niet oplet.
De auteur maakt een onderscheid dat ik niet eerder zo scherp zag. Individuele de-skilling: jij wordt persoonlijk minder goed. En collectieve de-skilling: de hele beroepsgroep verliest langzaam het vermogen om te bepalen wat goed werk eigenlijk is. Dat tweede is precies wat er gebeurt als een CEO radiologie reduceert tot herkenning. De rest van de rol wordt onzichtbaar. En uiteindelijk vergeten.
De keuze
Ik gebruik AI elke dag. Ik gebruik het nu. Het maakt mijn werk beter. Maar dat is iets anders dan mij vervangen.
Ik weet niet precies waar dit heengaat. Niemand weet dat. Maar als bestuurders vaak genoeg zeggen dat AI dokters vervangt, kiezen jonge artsen een ander vak, groeit het tekort, en wordt iedereen afhankelijk van AI. Over tien jaar zegt men dan dat het onvermijdelijk was. Dat was het niet. Het was een keuze.
En misschien is de interessantere vraag niet eens of radiologen vervangen worden, maar waarom we steeds dezelfde vraag stellen. Block, het fintech-bedrijf achter Square en Cash App, publiceerde deze week een stuk over hoe ze hun hele organisatie opnieuw inrichten rond AI. Niet door mensen te vervangen, maar door de coördinatielaag te vervangen. Het middenmanagement, de statusmeetings, de alignment-sessies. De mensen blijven “at the edge”: voor intuïtie, ethische beslissingen, en situaties waar de kosten van een fout existentieel zijn.
Een patiënt in een CT-scanner om 3 uur ‘s nachts is zo’n situatie.
Stel je voor dat je datzelfde denken toepast op een ziekenhuis. Niet minder artsen. Minder vergaderingen, minder administratie, minder coördinatielagen. AI die het rooster optimaliseert, de logistiek regelt, de wachtlijst beheert. En artsen die doen waar ze voor opgeleid zijn: patiënten zien, beslissingen nemen, het vak doorgeven aan de volgende generatie.
Dat is automatiseren. Wat die CEO voorstelt is amputeren. Wie kiest er voor de toekomst, de spreadsheet CEO of wijzelf?
Yep, alhoewel we in deze tijd misschien nog wel wat generaals nodig gaan hebben ;)
Inzicht komt met tijd. Maar wat wordt vergeten is dat inzicht ook komt bij diegenen die ook daadwerkelijk met het probleem in aanraking komen en met het gevonden inzicht verder kunnen komen.