Seizoensfinale

Subscribe now

Ik stond op het punt te springen.

Het schrijven ging me al maanden lichter af dan het hoorde te gaan. Een essayreeks die werkelijk af kwam. Het kwam niet doordat ik beter werd. Er dacht iemand mee die nooit moe was en nooit een dag oversloeg, en langzaam werd die stem scherper dan de mijne. Toen verscheen er een nieuw model, vernoemd naar de fabel. Een droom waar ik zo in kon stappen.

Woensdagochtend, tussen twee klinische blokken in. Ik open Claude om iets op te zoeken en boven in het scherm staat een bannertje. Fable 5 inbegrepen tot 22 juni. Lichtgrijs, vriendelijk, met een kruisje om het weg te klikken.

Ik klik het niet weg.

Het is het soort mededeling dat ik dagelijks tientallen keren wegveeg. Een abonnementsvoorwaarde. Een actieperiode. Maar ik blijf ernaar kijken zoals ik naar een toevalsbevinding op een röntgenfoto kijk. Iets kleins aan de rand van het beeld dat er niet hoort. Of juist wel, dat is steeds de vraag.

Hier hangt een tarief en een einddatum aan iets waarvan niemand precies kan zeggen wat het is. En toch las ik die ochtend vooral de uitnodiging. Kom mee, er is meer. Tot 22 juni. Redeneren. Denken. De hoogst denkbare slimheid. Speciaal voor Onno.

AI voelde voor mij lang als efficiëntie. Daarna als iets meer. Het maakte werk niet alleen lichter maar mijzelf ruimer, alsof ik kon wat ik niet kon.

En daar zit het stomme. Dit product prijst niet een goed buiten mij. Het prijst mijn denken zelf, en het gebruik verandert mij. Elke vraag die ik niet zelf uitdenk, is een oefening die niet plaatsvindt. Elke differentiaaldiagnose die ik laat voorzeggen, is een gedachte die ik niet zelf heb opgebouwd. Maar zo voelde het niet. Het voelde als vooruitgang. De achteruitgang meldt zich casus voor casus juist als winst, onmerkbaar op de schaal van een werkdag.

En na een werkweek? Hoe meet je het verlies van mogelijke leermomenten?

Er was ooit een dokter die urine proefde. Zoet betekende wat het betekende. Een zoete vloed, diabetes mellitus. Die vaardigheid is niet afgepakt. Ze is vrijwillig neergelegd toen er iets gemakkelijkers kwam. Geen arts heeft op de dag van neerleggen iets gevoeld. Je mist niet wat je je niet herinnert te hebben gekund.

Zo verging het ook delen van het lichamelijk onderzoek toen de CT kwam. Niemand verbood het. Een betere techniek veranderde langzaam de vraag wat nog de moeite waard was om zelf te kunnen.

Bij AI grijpt dat dieper, en dat maakte de verleiding zo zacht. Het raakte niet mijn handelen, maar wat eraan voorafgaat. Het vormen van een vraag. De trage, soms irritante wrijving waarin een gedachte nog niet af is. Dat is wat het model van me overnam, en ik liet gebeuren met genoegen, want wat ervoor terugkwam voelde als groeien.

Het rapport van Anthropic over deze voortgaande intelligentie bevat twee passages van eigen medewerkers die ik sindsdien niet kwijtraak. De ene beschrijft hoe werk vroeger dreef op kleine gunsten tussen collega’s. Kun je even meekijken. Elke gunst schiep een kleine schuld, een beetje wederzijds besef. Maar het model is sneller en schept geen schuld, en elke vraag eraan is een verloren bod op samenwerking.

De ander schrijft dat hij op goede dagen denkt dat niets wat hij doet er nog toe doet, en op slechte dagen merkt dat hij niet meer weet waar hij eigenlijk mee bezig is.

Dat is de andere kant van de droom. Niet dat je iets sneller doet. Dat je steeds minder vaak hoeft te ervaren waarom iets ertoe doet.

Er is een mechanisme waar ik dit voorjaar niet van losgekomen ben. Een voorziening die werkt, wist het bewijs van haar eigen noodzaak uit. Australië hield decennialang met een gesubsidieerd virus zijn konijnenplaag eronder. Het werkte zo goed dat niemand meer zag waarvoor het geld was, en in 2022 sneuvelde de financiering. Daarna kwamen de konijnen weer terug.

Hier gebeurt iets ergers. Niet de rem verdwijnt uit beeld, maar het orgaan dat de noodzaak van een rem zou moeten voelen. Wie lang genoeg op dit product leunt, verliest niet alleen vaardigheid maar ook het zicht op het verlies. En een droom die het bewijs van zijn eigen gevaar uitwist, is geen droom waar je vanzelf uit ontwaakt.

De wisselkosten verhuizen van het contract naar de geest.

Ik dacht dat ik dit kende. De belofte van het internet. De belofte van het EPD. Telkens een techniek die begon als bevrijding en eindigde als infrastructuur met voorwaarden. Ik dacht dat herkennen genoeg was. Dat wie de afloop kent, er niet opnieuw in trapt.

Maar dit keer nestelde het zich niet naast mijn denken. Het nestelde zich erin. En een afhankelijkheid die voelt als helderheid, herken je niet als afhankelijkheid. Daarom liep ik er met open ogen in. Ik wist het, en ik wilde het toch.

Het bedrijf achter Claude bevestigde dit voorjaar zijn beursgang. Sindsdien kreeg ik gescheiden tegoedpotten. Daarna een bewaartermijn van dertig dagen op mijn gesprekken. En nu een einddatum op mijn model. Een ander lab liet weten dat zijn modellen voortaan via de Universal Credits van Oracle worden afgerekend. De nieuwste macht verkoopt zichzelf via het loket van de vorige. De droom kreeg een prijslijst.

In 1602 gaven de Staten-Generaal de VOC een octrooi. Eenentwintig jaar alleenrecht op alle vaart en handel ten oosten van Kaap de Goede Hoop. Wie meedeed, legde zijn geld voor jaren vast en kreeg er nauwelijks zeggenschap voor terug. De bewindhebbers schoven met de voorwaarden waar dat uitkwam. Dividend kon desnoods in foelie worden uitgekeerd. Over de hele extractiemachine hing een verhaal van beschaving en vooruitgang.

Maar de VOC was nooit alleen handel. Vanaf dag één had de compagnie het recht om oorlog te voeren en eigen geld te slaan. Statecraft in de vorm van een bedrijf. De foelie was nooit alleen foelie. Toen de eerste uittreders hun geld terug wilden, liet de Staten-Generaal ze wachten, niet om een onderneming te redden maar om een machtsinstrument te behouden dat ook de staat van pas kwam.

De VOC werd volwassen. Volwassen worden betekende hier dat je het recht verloor om alleen een bedrijf te zijn.

En nu is die stap ook voor AI gezet. Niet omdat het model slimmer werd. Omdat toegang zelf politiek is geworden. Wie mag erbij, en wie beslist dat.

Mijn toegang is gister stopgezet. De staat heeft ingegrepen en gekozen wie wel en wie geen toegang kreeg. De toegang is dicht.

En met die dreun werd ik wakker.

Ik stond op het punt te springen, van mijn eigen werk naar de droom die het model me voorhield, en de grond werd onder me vandaan getrokken voor ik sprong. Het is de schrik van wakker worden vlak voor een val, vlak voor de slaap.

Ik zou nu kunnen schrijven over wat ons te doen staat. Ik weet het niet. De makers weten het ook niet. In hetzelfde rapport vroegen ze om een rempedaal dat ze alleen wilden gebruiken als iedereen ter wereld tegelijk ook zou remmen. Nu is er een rem. Niet die van hen en niet die van mij.

En dat laat me achter met een vraag die ik niet kan beantwoorden. Ik werd niet wakker doordat ik mezelf wakker maakte. De dreun deed het. Wat gebeurt er als de toegang terugkomt, de dreun wegebt, en niemand mij meer wakker houdt?

Hiermee sluit Supraclavicular seizoen één. Na de zomer begint seizoen twee. Ik denk na over kiezen en oordelen. Of over wat ervan overblijft als je het lang genoeg laat voorzeggen.

Subscribe now

Subscribe now

“Ja hi, wij willen vandaag even een dreigende sub-ileus uitsluiten met CT.” Punt. Geen patiënt, geen vraag, geen verzoek, geen indicatie.

Ik denk niet meer verbaasd terug aan deze arts-assistent. De afgelopen week begreep ik ineens beter waar deze medische werkelijkheid vandaan komt.

We vierden 125 jaar verenigde radiologie in Nederland. Een emeritus hoogleraar medische geschiedenis zei iets wat aan mij bleef plakken. Het medisch denken veranderde fundamenteel, nadat Röntgen in 1895 de eerste foto maakte van zijn hand en van zijn vrouw. Tot dat moment deed een arts wat artsen duizenden jaren hadden gedaan: luisteren, praten, percuteren, voelen, ruiken, urine bekijken, goden raadplegen, offeren. De binnenkant van een levend lichaam was een mysterie. Die zag je niet, of pas na de dood, op een snijtafel. Na Röntgen kregen we bij leven zicht op wat zich binnenin afspeelt. Het beeld gonsde door Europa. Kranten, tijdschriften, wetenschappelijke thuisknutselaars. Binnen een paar jaar zat het overal. Van vakliteratuur en kinderpuzzels tot nog later een uitgestorven manier om te kijken of je nieuwe schoenen wel zouden passen.

Tijdens mijn coschappen en het begin van mijn opleiding werd het erin gehamerd: artsen behandelen geen beelden. Een cholecystitis was een klinische diagnose. Een ileus was een klinische diagnose. Een appendicitis was, zeker bij mannen, een klinische diagnose. Eén van mijn supervisoren wantrouwde de echografie. “Die radiologen”, zei hij, “kijken naar dezelfde ruis die mijn kapotte televisie laat zien, en denken daar beelden in te herkennen. Ik vaar liever op mijn eigen ervaring.”

Bijna twintig jaar later kan ik me geen buik meer voorstellen die opengaat zonder dat er eerst beeldvorming is geweest. Zelfs bij de meeste breuken zie ik de overgang van een gewone röntgenfoto naar een 3D-reconstructie voordat de chirurg begint. Een appendix sana is nog net geen calamiteit. Mijn oude supervisor is niet weerlegd of weersproken. Hij en zijn gedachtenwereld zijn gewoon verdwenen, irrelevant geworden. De medische beeldvorming is alom aanwezig en blijft maar groeien.

Bestaat die clinicus nog? Die zijn handen over een lichaam liet gaan, die aan pus rook en meende een stafylokok te herkennen? Het urinekijken, het proeven, was ooit het toonbeeld van de arts, vereeuwigd in de schilderkunst. Het is zonder een spoor verdwenen. Ik wil niet terug naar de pisproevende dokter. Maar het laat wel zien dat een vaardigheid die het hart van het vak lijkt, restloos kan wegspoelen.

Het beeld kwam ervoor in de plaats, met een eigen vanzelfsprekendheid. We zijn de scan gaan behandelen alsof hij dichter bij de waarheid staat dan het feilbare verhaal van de patiënt en het oordeel van de arts. Pas als het beeld niets laat zien, durven we te geloven dat er niets is. Maar mijn oude supervisor had niet helemaal ongelijk. Ook het beeld is een lezing. Ook mijn oordeel als radioloog is aangeleerd, gestuurd, jarenlang bijgeschaafd. Geen onbevangen blik op de werkelijkheid, maar een geoefende. En die heeft gewonnen.

En daardoor is in de afgelopen 125 jaar ons beeld van ziek-zijn verschoven. We leerden beelden herkennen. We gingen ziekte anders beschrijven. En uiteindelijk drong het beeld door tot wat we dénken dat de ziekte ís: niet meer een toestand die je ervaart, maar een afwijking met een plek, met een pijl en een cirkel. Röntgen kreeg in 1901 de eerste Nobelprijs voor Natuurkunde. Niet voor geneeskunde. De grootste omwenteling in hoe artsen kijken en denken kwam niet uit de geneeskunde, maar van buiten.

Op datzelfde congres sprak techniekfilosoof Wietse Hage over AI voorbij de hype. Niet als toekomstmuziek, maar als iets dat al in de haarvaten van de samenleving zit en snel de geneeskunde binnenkomt.

Met dat verhaal over Röntgen nog in mijn hoofd denk ik aan mijn oude klinische leermeesters. Ze wisten waarschijnlijk beter dan ik dat ik niet hetzelfde pad zou bewandelen als zij. Wat ze me leerden was het hele vak, hoe je leert, groeit en twijfelt.

Ik schrijf dit met Claude. En ik twijfel of AI ons denken gaat veranderen, zoals de röntgenfoto dat deed. Ik ben bang dat het mijne al veranderd is. Terwijl we blijven zeggen dat het maar een hulpmiddel is.

Subscribe now

De curve die niemand bijhoudt

Ik weet ondertussen wel wanneer ik op het matje word geroepen. Ik ben zo’n zes maanden als ANIOS op de spoedeisende hulp aan het werk, wanneer een verpleegkundige me vraagt om even mee te lopen. Hij kijkt me aan en zegt: Onno, er bestaat hier een soort tweedejaarssyndroom op de spoedeisende hulp. De meeste arts-assistenten beginnen rustig en twijfelend, worden door de verpleegkundigen aan de hand meegenomen terwijl ze leren omgaan met verantwoordelijkheid. Ze vragen supervisie van ouderejaars, soms van medisch specialisten, en langzaam leren ze het klappen van de zweep. En dan, op een gegeven moment, worden ze overmoedig. Ze denken het te begrijpen en worden bijdehand. Op zich niet erg. Behalve als ze denken dat ze er al zijn.

Je bent een slimme vent, Onno, en je bent een lieve dokter. Maar geloof me als ik zeg dat je nog een hoop te leren hebt. En dat je, als je in de veronderstelling leeft dat jij in je eentje deze spoedeisende hulp kunt bestieren, van jezelf niet doorhebt hoeveel je nog moet leren.

Ik herkende dit gedrag wel bij mijzelf. Ook op mijn studentenvereniging was het tweedejaarssyndroom een serieus ding. Ik wist ook dat hij gelijk had gehad. Het was een bekend onderdeel van mijn eigen leercurve.

Waarom die curve hanteerbaar is

Die verpleegkundige is ondertussen met pensioen, en ik sta aan de andere kant. Ik superviseer nu zelf de arts-assistenten die deze curve doorlopen, en ik zie hem elke keer opnieuw: de rustige start, de overmoed in het midden, en bij de meesten daarna het herstel.

De overmoed in dat midden is gevaarlijk. En toch handelen we hem af. Niet omdat ik hem in het moment betrap, want dat lukt lang niet altijd. We handelen hem af omdat de curve die de verpleegkundige beschreef geen geheim is. Hij kon hem uittekenen omdat iedereen op de afdeling hem kent.

Elke AIOS komt binnen met een dossier. Er is een opleidingsplan, een supervisor die ongeveer weet in welke fase iemand zit, een portfolio, voortgangsgesprekken, visitatie, examens, en aan het eind een diploma. Mijn gepaste wantrouwen bij elke nieuwe arts-assistent is geen improvisatie. Het is geijkt op een traject dat anderen al in kaart hebben gebracht. Ik hoef niet vanaf nul te ontdekken waar deze persoon onbetrouwbaar is. De opleiding is, naast alles wat ze nog meer is, een instituut dat betrouwbaarheidscurves bijhoudt.

Daarom geef ik een eerstejaars AIOS en een nieuwe specialist allebei een marge, maar niet dezelfde. Het wantrouwen is geen vaste positie, het is een afbouwschema. Dat schema werkt alleen omdat ik weet waar iemand op de lijn staat. Het diploma is uiteindelijk niet veel meer dan een claim over een punt op die curve, een claim waar een externe instantie voor instaat.

Hetzelfde gedrag, op AI

Dat afbouwschema is niet iets wat ik voor arts-assistenten heb bedacht. Het is dezelfde neiging waarmee ik alles aanneem wat een ander mij aanlevert. Een overdracht, een aanvraag, een opmerking van een collega, en sinds kort de uitslag van een AI-model. Gepast wantrouwen, en de marge hangt af van wat ik over de bron weet. De vraag is wat er met mijn gedrag gebeurt als de bron een AI is.

Neem de wiskundigen. In oktober claimde OpenAI dat een model tien problemen van Erdős had gekraakt. Thomas Bloom, die de lijst met openstaande Erdős-problemen bijhoudt, keek ernaar en noemde het een dramatische misrepresentatie. Het model had bekende antwoorden teruggevonden, niets opgelost. Dat wantrouwen was terecht. In mei volgde een ander resultaat. Een vergelijkbaar model weerlegde het unit distance-vermoeden, open sinds 1946, en deze keer zetten Bloom en een Fields-medaillewinnaar hun naam onder de verificatie.

Het punt is niet dat AI nu betrouwbaar is geworden. Het punt is hoe ze de betrouwbaarheid moesten verifiëren. Ze konden niet zeggen dat dit systeem in zijn tweede jaar zat, daar een herkenbare fout maakte, en nu volwassen was. Ze moesten resultaat voor resultaat verifiëren, elke keer opnieuw, want er was geen curve om op terug te vallen. Bloom is de externe instantie uit de vorige alinea, maar dan zonder het dossier eronder. Hij staat ergens voor in, maar hij kan niet zeggen waar op de groeilijn dat model nu ligt, want die lijn is er niet.

Wat ik bij een arts-assistent superviseer zijn in het begin de fouten. Maar naarmate de opleiding vordert verschuift het. Het gaat steeds minder over wat iemand fout doet en steeds meer over zelfinzicht: het vermogen om zelf met onzekerheid om te gaan, om te merken dat de omstandigheden veranderd zijn en de eigen aanpak bij te stellen, om hulp te vragen op het juiste moment, om te weten dat je nog iets moet bijleren. De overmoedige tweedejaars is gevaarlijk omdat juist dat deel even wegvalt, maar het valt zichtbaar en gecontroleerd weg, en de opleiding is erop gebouwd het weer op te bouwen.

Een arts-assistent doorloopt die beweging waar ik bij sta. Ik weet niet precies hoe iemands oordeelsvermogen zich vormt. Bij een mens zit dat ook grotendeels buiten mijn zicht. Maar ik heb er twintig jaar ervaring mee. Ik ken de vorm van de curve, ik herken de fasen, ik weet hoe overmoed eruitziet en wat hem terugzet. Bij een model heb ik dat niet. Ik weet niet waar de intelligentie van een token prediction-systeem vandaan komt, of die binnen een gesprek iets opbouwt, of de duizendste vraag anders behandeld wordt dan de eerste. Het communiceert even vloeiend en stellig bij wat het kan en bij wat het niet kan. Maar of daar een curve onder ligt die ik niet zie, of helemaal geen curve, dat is precies wat ik niet kan beoordelen.

Welke curve heeft AI eigenlijk?

Het ding waar ik naar zoek is één leesbare curve: een simpel geijkt vertrouwen voor mijn samenwerking met de AIOS, en straks met de AI-OS. Vooralsnog breekt zo’n ijking op drie verschillende plaatsen.

De eerste is de meetlat zelf. Bij een arts-assistent ijk ik mijn wantrouwen op herhaling, op een beweging die ik vaker heb zien langskomen. Met een model heb ik die herhaling niet, en dus geen curve van eigen ervaring om de huidige versie tegen af te zetten.

De tweede is de vorm van de curve. Mijn heuristieken werken omdat menselijke groei traag is en begrensd. “Ik ken de fasen” betekent dat de fasen ongeveer liggen waar ze vorig jaar lagen. Als de curve van een model exponentieel is, klopt die aanname niet meer. Wat vorige maand een redelijke inschatting van de grens was, is deze maand achterhaald. De heuristiek is dan niet ongeijkt, hij veroudert sneller dan ik hem kan bijstellen. Mensen zijn slecht in het aanvoelen van exponentiële verandering.

De derde breuk is de scherpste. Bij een mens loopt bekwaamheid redelijk samen. Wie de moeilijke dingen van een vak beheerst, beheerst de makkelijke meestal ook, en daarom kan ik uit één observatie de rest schatten. Bij een model is dat verband er niet. Het lost een wiskundeprobleem op waar ik niet uitkom, en weet even later niet of je lopend naar de autowasstraat kunt. Sterk op het ene veld voorspelt niets over het andere.

Dat de ijking ook tussen mensen kan breken weet ik ook wel. Je kent de collega die uitermate overtuigend is naar de patiënt en op wiens tafel jij jezelf niet zou leggen. Overtuigingskracht en betrouwbaarheid zijn niet hetzelfde. Het verschil is dat zo iemand de uitzondering is. Bij een model lijkt het de regel.

En de enige curve die ik wél aangereikt krijg, komt van het lab dat het model heeft gemaakt. Dat is de slager die zijn eigen vlees keurt en een diploma uitschrijft. De wiskundeclaim van afgelopen oktober was precies dat, en het waren de sceptici van buiten die hem corrigeerden.

Subscribe now

Wie houdt de curve bij

Die verpleegkundige kon het tweedejaarssyndroom benoemen omdat hij het tientallen keren had zien langskomen. Hij had genoeg arts-assistenten de curve zien doorlopen om te weten hoe de dip eruitziet en wanneer die komt. Dat staat in geen handboek. Je bouwt het op door lang genoeg naar dezelfde beweging te kijken.

Bij een model staat daar niemand. Er komen nieuwe versies, elk capabeler dan de vorige, maar buiten het lab heeft niemand er lang genoeg naar gekeken om te zeggen: dit klinkt zelfverzekerd, maar het is een tweedejaars. Een curve die niemand bijhoudt is geen curve. Het zijn losse indrukken, en op losse indrukken kan ik geen vertrouwen ijken.

Mijn vertrouwen is niet kapot. Ik weet nog steeds hoe ik een overtuigende uitspraak van AIOS of AI OS met de juiste marge aanneem. Maar mijn vertrouwen en wantrouwen deed ik nooit alleen. Het leunde op een curve die ook anderen voor mij bijhielden. Wie heeft, zoals die verpleegkundige, lang genoeg naar de AI gekeken om mij op tijd te kunnen waarschuwen?

Een arts ziet een vrouw van 38 met vermoeidheid. Ze heeft thuis met ChatGPT haar klachten geordend en presenteert haar eigen lijstje: schildklier, ferritine, depressie. De arts luistert, vult aan, dicteert het consult. De nieuwe AI maakt er een keurige SOEP van waarin de lijst van de vrouw terugkomt als werkhypothese. De aanvraagmodule met AI-ondersteuning herkent de hypothese en stelt het bijbehorende lab voor. De arts klikt akkoord. Drie dagen later: alle uitslagen normaal. HiX vat de uitslag samen, stelt automatisch een brief op en die kan meteen de deur uit.

Soms denken we alleen het tikwerk uit handen te geven. De vrouw liet ChatGPT haar klachten en gedachten ordenen. Zij wilde zo goed mogelijk geholpen worden. De arts liet de AI zijn verslag tikken. Hij wilde efficiënt werken. De aanvraagmodule vinkte aan, HiX vatte samen en hielp de arts. Het denken, daar zou de arts zelf voor zorgen. Maar tegen de tijd dat we daar aan toekomen, is er soms niets meer om over na te denken.

Dit is de nieuwe realiteit. Op het internet. Op LinkedIn. Op Substack. Jason Koebler noemt het het Zombie Internet: de toestand waarin mensen met modellen praten, modellen met modellen, en niemand meer kan aanwijzen waar de mens ophoudt en het model begint. Wat hij beschrijft voor X en LinkedIn voltrekt zich ook in de spreekkamer. Het Zombie Ziekenhuis is geen voorspelling, het is een diagnose.

Het voltrekt zich bij mijn aanvragen. Vroeger leerde je van de oudere AIOS de toverwoorden van de radioloog om een scan meteen te krijgen. Scheurende pijn tussen de schouderbladen, klassiek. Nu typt de ANIOS zijn vraag in ChatGPT en krijgt een briljante aanvraag terug die bijna lijkt op de patiënt die op de SEH ligt. Mijn AI maakt daar een verslag van dat keurig op die aanvraag ingaat. Deze modellen, allen uit dezelfde training, zijn het, net zoals ik vaak, enorm met zichzelf eens. Maar geeft het eindresultaat het probleem van de patiënte weer?

Ook voor schrijven over medische onderwerpen werkt het perfect. Ik lijk extra slim, erudiet bijna, professorabel misschien. Maar ook uncanny. Stijlfiguren die werkten bij een 19e-eeuwse schrijver overspoelen het internet en medische LinkedIn-posts. In de stijl van onze patiënt een illustratief voorbeeld:

Niet de patiënt is misleid, niet de arts heeft gefaald, maar het systeem heeft zichzelf bevestigd. — driedelige trap.

Het systeem verliest de taal waarmee het zichzelf nog kan corrigeren. — orakelzin.

De kwaliteit van besluitvorming wordt afgemeten aan de coherentie van de samenvattingen, en de samenvattingen zijn coherent omdat ze door dezelfde modellen zijn geschreven. — gesloten cirkel.

De vraag is niet óf AI de spreekkamer verandert, maar onder welke voorwaarden de patiënt daar nog zichzelf is. — balanszin.

En ergens, na het laatste belletje, zit een vrouw van 38 die nog steeds moe is. — empathische landing.

Vijf zinnen die ergens hadden kunnen staan zonder dat iemand ze had opgemerkt. Zinnen die je elke dag leest. Niemand zou ze hardop zeggen tegen de patiënt.

Ook dit stuk komt zo tot stand. Ik typ, Claude schrijft mee. Ik haal eruit wat naar AI klinkt. Wat overblijft hoop ik dat van mij is.

Op een Socials-tijdlijn is dat irritant. In het ziekenhuis is het iets anders. Een tweet die door drie modellen is opgepoetst blijft een tweet. Een diagnose die door drie modellen is gevormd is een uitspraak over een mens die zich niet aan modelvoorkeuren houdt. Als de patiënt binnenkomt met een ChatGPT-versie van zichzelf, het consult eruit komt als een Autoscriber-versie van het gesprek, en de brief een HiX-versie van het verslag is: wat diagnosticeren we dan?

Als niemand meer zelf praat, is er dan wel echt iemand ziek?

In een laboratorium in Japan renden soldatenkrabben door smalle gangetjes. Soldatenkrabben leven in zwermen op atollen in de Stille Oceaan. Aan één kant van het gangetje viel een schaduw op het zand. Voor de krabben lijkt dat op gevaar van bovenaf, een roofvogel. Dus deden ze wat krabben doen: ze renden weg.

De onderzoekers hadden de gangetjes in bepaalde vormen gebouwd. Soms kwamen twee groepen elkaar tegen in een Y-splitsing. Dan botsten ze niet simpelweg op elkaar. Ze mengden zich en bewogen samen verder, in een richting die ongeveer het gemiddelde was van de twee oorspronkelijke groepen.

Gek genoeg maakten deze wetenschappers een levende computer. In een gewone computer zijn dat elektrische signalen. Stroom of geen stroom. Een 1 of een 0. In het krabbenexperiment was de zwerm zelf het signaal. Komt er een groep door dit gangetje, dan is dat een 1. Komt er geen groep, dan is dat een 0.

De krabben hoeven dat niet te begrijpen. Een stroompje in een chip begrijpt ook niet dat het deel is van een berekening. Als groep A hier binnenkomt en groep B daar, komen ze op een bepaalde plek weer naar buiten. Die uitgang is het antwoord. Een 0 of een 1.

Zo wordt een gangetje een vraagmachine. Een complex systeem waarvan de deelnemer niet weet welke taak hij eigenlijk uitvoert. De krab weet niet dat hij rekent.

Sinds ik dat las, denk ik er soms aan op mijn werk. Niet dat radiologen op krabben lijken. Maar veel van mijn werk beweegt ook door gangetjes.

Tijdens mijn studie en opleiding dacht ik dat ik een ambacht leerde. Ik werd dokter. Later radioloog. Ik leerde kijken, redeneren, twijfelen, verantwoordelijkheid nemen. Mensen helpen met mijn kennis.

Dat is nog steeds waar, maar wie als medisch specialist in een ziekenhuis werkt, merkt dat het werk niet alleen uit kennis en aandacht bestaat. Het krijgt ook vorm door de omgeving. Door protocollen, roosters, productieafspraken, kwaliteitsindicatoren, declaratiecodes, EPD’s, PACS-systemen, verslagtemplates en dashboards.

Eerst werden die gangetjes vooral door artsen zelf getekend. Daarna steeds meer door managers, beleidsmakers, toezichthouders en verzekeraars. En inmiddels ook door softwareleveranciers. Niet kwaadaardig, vaak niet eens bewust. Maar er zijn wel gevolgen. Want wie het gangetje tekent, bepaalt niet alleen waar je klikt. Hij bepaalt ook wat zichtbaar wordt. Wat meetelt. Wat makkelijk is. Wat lastig is. Waar je tijd voor krijgt. Mijn doelstelling is om als arts mensen te helpen, maar daarvoor moet ik soms om het systeem heen. Ik ervaar dat als een dreiging van buitenaf. Een schaduw van de roofvogel die boven de Onno Krab hangt. Zo is het protocol nou eenmaal. Dat mag niet van de zorgverzekeraar. Dit heeft de Raad van bestuur zo besloten. The computer says no.

AI komt niet zomaar van buitenaf het ziekenhuis verstoren. Zo ambachtelijk was het artsen vak allang niet meer. Het was al ingebed in systemen. AI past zich nu vooral aan de bestaande kaders aan: Het is declarabel, of het is het niet. Het past in de aanbesteding, of het loopt vast. Op dit moment presenteert AI zich niet als verstoorder, maar een nieuw hulpmiddel die met mij door het bestaande gangetje wordt geperst.

Daar zit ook niet mijn angst.

Wat mij ongemakkelijk maakt is wat erna komt. Want de bank werd ook niet veranderd van binnenuit. Het bankfiliaal werd irrelevant doordat ergens anders, buiten het zicht van de bank, een ander gangetje ontstond. Niemand bij een Nederlandse bank had stem in hoe de iPhone werd ontworpen. En de makers van de iPhone wisten niet hoe zij de wereld zouden veranderen.

Datzelfde kan met de zorg gebeuren. Niet door “AI vervangt de dokter”, maar door AI die buiten het ziekenhuis de vraag, het onderzoek, het oordeel en de behandeling herontwerpt. Een gangetje dat niet in Den Haag, niet bij een softwareleverancier, en niet aan een vergadertafel in dit ziekenhuis wordt getekend.

En ik weet niet waar dat ergens anders is. Ik weet niet wie daar de kaders bepaalt. Ik weet niet welke doelfunctie eraan hangt.

Ik weet alleen dat het waarschijnlijk niet de vraag zal stellen wat goede zorg is, voordat het de vorm ervan bepaalt.

Het was een bekend tafereel. Een artsenkamer, een net te ongemakkelijke stoel, een paar grijze mannen die me aankijken. We zijn de hoffelijkheden voorbij. De jeugd, interesses, hobby’s. Ik weet dat de vraag gaat komen. Alleen nog niet uit welke mond.

Dan komt hij toch nog uit een onverwachte hoek.

‘En eehh, meneer Vijlbrief, doet u eehh ook nog wat aan wetenschap?’

Nu is het veranderd. Op een congres of nascholing is de vraag niet meer wat je aan wetenschap doet, maar of je ook al wat met AI doet.

Het is een licht ongemakkelijke vraag. Denk ik.

De wetenschapsvraag was ongemakkelijk omdat hij me positioneerde. Mijn antwoord plaatste me ergens in een hiërarchie: meer of minder, hoger of lager. Maar de vraag zelf had een gedeelde grond. Iedereen wist ongeveer wat wetenschap was, wat meedoen betekende en wat als antwoord telde.

De AI-vraag heeft die grond niet.

‘We hebben een pilot met Gleamer.’ Is dat genoeg? ‘We zijn ons aan het oriënteren.’ Is dat te weinig? ‘We hebben een werkgroep.’ Is dat een antwoord of een manier om het antwoord uit te stellen?

Niemand weet precies wat een goed antwoord is. Dat is waar het ongemak zit.

De vraag begint trouwens tegenwoordig niet meer bij de collega. Hij begint bovenaan. De Raad van Bestuur wil dat we iets doen met AI. Wat precies, daar denken we zelf maar even over. Grassroots ofzo. McKinsey-onderzoek meldde dat ongeveer de helft van de Amerikaanse zorgorganisaties generatieve AI heeft geïmplementeerd, maar liet tegelijk zien hoe moeilijk dat woord ‘geïmplementeerd’ eigenlijk is. Een chatbot? Een transcriptietool? Een pilot? Een PowerPoint met ambitie?

Goed. We starten een pilot voor fractuurdetectie.

Een paar maanden later werkt de pilot. Het algoritme markeert fracturen. Missers worden redelijk opgevangen. Valspositieven zijn beheersbaar. De gebruikers zijn niet ontevreden. De leverancier heeft een nette evaluatie. De afdeling kan zeggen dat ze AI gebruikt.

Maar wat hebben we nu vastgesteld?

Dat we minder fracturen missen, misschien. Dat de workflow het aankan, waarschijnlijk. Dat we als afdeling ‘iets met AI’ doen, met name dat denk ik.

Maar zijn we beter geworden in ons werk?

Niet omdat de techniek niet werkt. Die werkt vaak goed. Het probleem is subtieler. We doen wat van ons gevraagd wordt, zonder dat we goed kunnen vaststellen of we er als professionals, als zorg beter van zijn geworden.

Het tegenovergestelde is zelfs denkbaar. Een algoritme dat goed fracturen vindt, kan de aandacht weghalen bij andere vragen die in een verslag horen. Het kan een jonge radioloog net iets te vroeg ontslaan van de noodzaak om het patroon zelf te leren herkennen. Het kan de aanvrager het gevoel geven dat de bevinding klaar is voordat iemand de betekenis ervan in deze patiënt heeft gewogen.

Dat zijn geen argumenten om de pilot te stoppen. Het zijn argumenten om betere vragen te stellen.

Alleen passen die vragen niet goed in het standaardrapport van een pilot. Daarin staat sensitiviteit, specificiteit, gebruikerstevredenheid, doorlooptijd en implementatiegraad. Zelden staat erin of onze aandacht is verschoven. Of onze AIOS anders leren kijken. Of het gesprek met de kliniek beter is geworden. Of we nog kunnen uitleggen welk deel van het werk om oordeel vraagt.

Daar wringt iets dat ouder is.

We hadden lang een soort antwoord op wat AI niet kon. Patroonherkenning was de machine, oordeel was de mens. Het fractuuralgoritme past netjes in dat schema. De machine vindt iets. De dokter begrijpt wat het betekent.

Maar dat onderscheid wordt minder comfortabel.

Ethan Mollick wees er onlangs op dat de nieuwste agentic modellen (GPT5.5) goed worden in bepaalde vormen van oordeel. Anders zouden ze de complexe taken waarin ze beter worden niet kunnen uitvoeren. Hij heeft gelijk in wat hij meet. Wat hij oordeel noemt, is een tactische capaciteit: een taak opbreken in stappen, keuzes maken, tussentijds corrigeren, fouten herstellen.

Dat is niet hetzelfde als wat een ervaren clinicus doet wanneer een onverwachte combinatie van bevindingen moet worden gewogen in een specifieke patiëntsituatie. Maar het verschil is dunner aan het worden dan we graag dachten.

En dan komt het ongemakkelijkste.

We zijn al heel lang bezig om vast te stellen waarin het uniek menselijke zit. Het was taal, totdat het dat niet meer was. Werktuigen. Abstract redeneren. Creativiteit. Oordeel. Steeds trokken we een lijn, en steeds bleek die lijn minder stevig dan gedacht.

Frans de Waal liet iets soortgelijks zien voor dieren. Pas toen onderzoekers tests ontwierpen die recht deden aan de zintuigen en motoriek van een soort, bleek hoeveel intelligentie er zat waar we het niet hadden gezocht. De intelligentie was er al. Alleen onze tests waren op onszelf afgestemd.

Wat AI ons nu laat zien is niet dat het ons inhaalt. Het is dat we al die tijd niet zo zeker wisten waar onze uniciteit echt zat. Wij zelf wisten dat niet. Maar zolang er geen machine was die ons bevroeg, hoefden we het ook niet te weten.

Een studente technische geneeskunde wandelde bij ons op de afdeling en vroeg wat dat apparaat in de hoek was. Ik zei: dat is een fax. Ze keek me vragend aan. Ik wist een seconde lang niet zeker of ze me in de maling nam. Maar haar blik verraadde geen gevoel voor humor.

Een fax. Een ding dat in elke bank, elke huisartsenpraktijk, elk notariskantoor decennialang het centrale zenuwstelsel van de communicatie vormde. Onlangs is hij bij The Pitt herintroduceerd tijdens een cyberaanval. Hallo ChipSoft. Niemand heeft hem afgeschaft. Niemand heeft een kruistocht gevoerd. Iemand stuurde een keer een bestand per e-mail, en een paar jaar later zei iemand anders: waarom staat dat ding hier eigenlijk nog. De naam al vergeten voordat ik doorhad dat hij verdwenen was.

Ik moest aan mijn eerste coschap denken. De veneuze boog die ik verplicht moest kopen. Het oefenen op miltgrootte uitpercuteren. Vaardigheden en voorwerpen waarvan ik me ineens afvraag of de volgende generatie nog weet waarvoor ze bestonden.

Een collega van mij, radioloog, schreef onlangs iets wat bleef hangen. Het ging over artsen die klagen dat er te makkelijk gescand wordt. Zijn antwoord was onverwacht mild en hard tegelijk:

“Die dokters doen erg hun best met lichamelijk onderzoek: de buik palperen, luisteren naar hart en longen, reflexen slaan. Nog steeds goed bedoeld en hopelijk tegen beter weten in. Maar het is in de huidige tijd nauwelijks meer van waarde.”

Niemand heeft het lichamelijk onderzoek afgeschaft. Beeldvorming werd beter, en op een gegeven moment was palperen niet meer de snelste weg naar een diagnose. De arts die het nog doet is niet incompetent. Het ritueel is ingehaald door iets dat niet voor dat doel is gebouwd.

Subscribe now

Eerder schreef ik al over Project Glasswing van Anthropic. Een nieuw AI-model, Claude Mythos Preview, vindt kwetsbaarheden in software die decennia aan menselijke review heeft overleefd. Het bouwt werkende exploits. Volledig autonoom. Kosten: minder dan tweeduizend dollar. Doorlooptijd: een halve dag. Werk waar de beste security-experts weken over doen. Blijkbaar is er wat op af te dingen. Kunnen andere modellen het ook. Is er misschien toch stiekem menselijk wat bijgestuurd. Zijn er door sommigen toch wat veiligheidsmechanismen uitgezet. Maar toch…

Mythos is niet getraind op cybersecurity. Het is getraind om beter te worden in code, in redeneren, in autonoom werken. De security-problemen zijn een bijvangst.

Een paar maanden geleden testten ze hun toenmalige beste model op dezelfde taak. Het lukte twee keer op honderden pogingen. Nu, met Mythos: 181 keer. Van 2 naar 181. In maanden. En wij lezen dat als “weer een nieuw model, weer iets beter.”

Toen de geldautomaat kwam, was er angst. En er was een advies. De geldautomaat gaat geen medewerkers vervangen. Het gaat mensen vervangen die zich niet aanpassen aan de nieuwe omstandigheden. Dus leerden bankmedewerkers ermee werken. Keurig. De geldautomaat heeft geen bankmedewerkers vervangen.

De iPhone wel. Niet omdat Apple het op bankmedewerkers had gemunt. Mobiel bankieren was een bijvangst van een apparaat dat gebouwd werd om muziek te luisteren. Op een dag was er geen reden meer om naar een filiaal te gaan. Overigens werd de eerste CT-scanner ook gefinancierd met muziekgeld. Hounsfield bouwde hem bij EMI, van de winst van The Beatles. De muziekindustrie en entertainment als motor van disruptie is geen nieuw patroon.

“Leer werken met AI” is de geldautomaat-les. Het mist het punt. En dit punt geldt niet alleen voor radiologen, het geldt niet alleen voor artsen.

De radioloog kijkt naar AI in de radiologie. De jurist volgt AI in de juridische sector. De accountant leest over AI en boekhouding. Ieder bewaakt zijn eigen deur. Ondertussen wordt een model beter in programmeren en rolt daar iets uit dat elk slot opent. Wat sloten overbodig maakt.

Mijn collega schreef: “[Radiologen] zijn al vrij lang de bepalende triage-dokter.” Daar zit wat wij bezitten. Oordeelsvermogen. Context. De vraag achter de vraag. Dat maakt ons bijzonder, toch?

Maar het lichamelijk onderzoek was ook oordeelsvermogen. De handpalpatie van een ervaren chirurg bevatte tientallen jaren ervaring. Inzicht en interactie met de patiënt. Handen die wisten wat ze voelden voordat het hoofd het kon uitleggen (met dank aan mijn haptonoom). En het werd toch ingehaald. Niet door iets beters op hetzelfde vlak, maar door iets uit een heel ander domein dat toevallig hetzelfde probleem oploste.

Over tien jaar loopt er een coassistent de afdeling op. Ze ziet een dokter met iets om haar nek. Een slangetje, twee stukken metaal, een plaatje. Ze vraagt wat het is. De dokter, die tien jaar geleden nog studente technische geneeskunde was, weet het antwoord wel. Alleen is ze niet zeker of zij degene is die nu uitgelachen wordt.

Ergens wordt iets beter in iets wat niks met jou te maken heeft. De auto’s rijden. De lente bloeit. Je gaat naar je werk. Je palpeert een buik. Je reviewt een contract. Slaat de laatste spreadsheet van de dag op. En je denkt al die AI, dat gaat niet om jou.

Maar je bent ook niet het doelwit. Je bent de bijvangst.

Mijn zoon vertelde me laatst dat de smaak van snoepbananen meer lijkt op een bananenras dat niet meer bestaat dan op de banaan die wij kopen. De Gros Michel was tot de jaren vijftig dé banaan. Elke plantage, wereldwijd gebruikte dezelfde variëteit. Toen een schimmelinfectie toesloeg, was er geen direct alternatief. De hele industrie moest overschakelen op een ander ras. Een monocultuur is efficiënt tot het misgaat.

Afgelopen week haalde ChipSoft het Zorgportaal, HiX Mobile en het Zorgplatform offline. Ransomware waarschijnlijk. Alle sleutels worden vervangen. Herstel duurt weken? ChipSoft levert het EPD aan ruim 70% van de Nederlandse ziekenhuizen. Niet alleen het dossier. Ook de communicatie, het patiëntportaal, de mobiele app, de koppelingen met huisartsen, etc. Alles door dezelfde pijplijn en beheerd door dezelfde partij.

Woensdag kon ik niet meer communiceren met mijn collega’s in het MST en de regio Oost-Nederland. Geen aanvragen, geen patiëntbrieven, geen huisartscorrespondentie. Wederom geen inzicht in onze regionale patiënt.

De beelden? Die kwamen gewoon door. Via TWIIN.

Onder de motorkap

TWIIN is een gefedereerd netwerk van 140 zorginstellingen. O.a. voor beelden. Die worden uitgewisseld zonder dat alles door één leverancier loopt. Het is niet perfect, want ook TWIIN kent kritieke nodes. Maar er is geen enkele partij die je kunt gijzelen om het hele netwerk plat te leggen.

EPD’s zijn het tegenovergestelde. Gesloten software, gesloten infrastructuur en volgens sommigen ook gesloten communicatie. De ACM heeft onderzocht of er in Nederland sprake is van een monopolie. Wat niemand heeft onderzocht: hoe veilig is de ICT infrastructuur eigenlijk?

Ring 0

Op 8 april publiceerde Anthropic Project Glasswing. Claude Mythos Preview, een nieuw AI-model, vindt kwetsbaarheden in software die decennia aan menselijke review heeft overleefd. Een 27 jaar oud lek in OpenBSD; het besturingssysteem dat als bestaansreden heeft dat het veilig is. Open source. Duizenden ogen die meekijken, meekeken. Zestien jaar lang was er blijkbaar een bug in FFmpeg, die geautomatiseerde testtools vijf miljoen keer hadden doorspit zonder het probleem te vangen.

De coalitie die Glasswing mag gebruiken: AWS, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan, Linux Foundation, Microsoft, NVIDIA, Palo Alto Networks. Plus veertig anderen. Dit zijn de bedrijven waarvan code de wereld draait. Onze wereld. Dit is Ring 0.

Maar, geen enkel EPD-bedrijf. Geen enkele zorgorganisatie.

Van 2 naar 181

Een paar maanden geleden testte Anthropic hun beste model op het autonoom vinden en exploiteren van kwetsbaarheden. Het lukte twee keer op honderden pogingen. Met Mythos was dit 181 keer. Van 2 naar 181 in een paar maanden.

Dat getal gaat niet kleiner worden. Mijn mantra is al tijden: de AI die je nu gebruikt is de slechtste AI die je ooit zult gebruiken. Over een jaar is het geen 181. Het is een veelvoud. De modellen worden beter, de doorlooptijd wordt korter, de kosten dalen. Eén run kost nu minder dan tweeduizend dollar.

Z-CERT adviseerde deze week ziekenhuizen om hun VPN los te trekken en het netwerkverkeer te monitoren. Dát is nu onze brandblusser. Wordt dat staand beleid voor de toekomst?

Dezelfde AI die kwetsbaarheden vindt in OpenBSD, kan ze ook zoeken in het EPD. Er is wel een verschil: OpenBSD is open source. Als er een lek wordt gevonden, kan iedereen het fixen, met en zonder AI. De Linux kernel is echt een stuk veiliger dan je ziekenhuissoftware. Niet omdat Linux-developers betere programmeurs zijn, maar omdat iedereen mag meekijken, mocht meekijken en mee heeft gekeken.

Onze huidige EPD’s zijn gesloten. Niemand kijkt mee. Deze Mythos-class modellen gaan straks breder beschikbaar worden. Misschien niet via Glasswing, maar deze ontwikkeling gaat ook zonder Anthropic gewoon door. Het is dus niet de vraag óf er kwetsbaarheden worden gevonden, maar of wij ze als eerste vinden. En hoe organiseren we de zorg als we de volgende keer gegijzeld worden?

Duitsland heeft voor zorgcommunicatie een open standaard voorgeschreven. De TI-Messenger draait op het Matrix-protocol: gefedereerd, end-to-end versleuteld, geen enkele partij bezit het netwerk. 74 miljoen verzekerden. De Franse overheid gebruikt hetzelfde protocol. De Duitse strijdkrachten ook.

Ik ben geen expert in Duitse zorginfrastructuur. Maar ik zie wel een verschil. Tussen de huidige monopolistische zorg infrastructuur met als staand overheidsbeleid “trek de stekker er maar uit en dan gaan we verder denken” en een netwerk dat de potentie heeft om te blijven werken als één partij wordt aangevallen.

En nu

Er zijn dus basale ring 0 systemen, waar we dagelijks op vertrouwen en die draaien op code waar Mythos moeiteloos gaten in schiet. Daarbovenop staat onze zorg infrastructuur. Niet open, niet inzichtelijk, geen onderdeel van Glasswing en blijkbaar al kwetsbaar genoeg zonder Mythos.

Zijn we voorbereid op een toekomst waarin AI moeiteloos onze systemen kraakt? Als ik nu het landschap overzie tijdens de huidige vermoedelijke ransomware aanval, ben ik niet gerust. Monoculturen zijn nu eenmaal kwetsbaar.

Wie bewaakt de code waar de zorg op draait?

Ze willen de dokter vervangen. Niemand vraagt of de vergadering weg kan.

Er is een verschil tussen automatiseren en amputeren. Ik denk dat we dat verschil aan het kwijtraken zijn.

Want er is een vervelende eigenschap van amputeren: het is onomkeerbaar. En het bionisch been dat je ervoor terugkrijgt lijkt nu goedkoop, maar je kunt er straks niet meer zonder lopen. Vraag het aan iedereen die zijn dvd-collectie wegdeed omdat streaming goedkoper was. Mijn drie streamingabonnementen zijn er na het slopen van de tv- en filmindustrie niet bepaald goedkoper geworden.

De CEO van het grootste publieke ziekenhuissysteem in de VS riep vorige week zijn collega-bestuurders op om samen te lobbyen voor regelgeving die radiologen vervangt door AI. Op zijn spreadsheet klopt dat. Radiologen zijn duur, AI is goedkoop, de beelden worden toch wel beoordeeld.

Je kunt je afvragen voor wie hij dit eigenlijk oplost. De patiënt? De premiebetalers? Of de begroting van dit jaar?

Een radioloog uit San Diego verwoordde het eerlijker dan de meeste reacties die ik voorbij zag komen: ziekenhuizen zijn bereid kosten te besparen zelfs als dat patiëntschade betekent, zolang het maar legaal is. De meeste reacties vanuit de beroepsgroep waren defensief. Die van hem was een diagnose. En ik denk dat hij gelijk heeft: dit is geen technologisch probleem. Dit is een bestuurlijk-economisch probleem.

Artsen hebben hier overigens ervaring mee. De invoering van het EPD was ook zo’n spreadsheet-beslissing. Efficiënter, veiliger, beter. Op papier. In de praktijk kregen artsen er een administratieve baan bij, steeg de burnout, en zaten ze ‘s avonds nog verslagen af te maken in plaats van thuis te zijn. Twintig jaar later zijn we daar nog steeds niet van hersteld. En nu staat de volgende efficiencybelofte voor de deur.

Wat er in de praktijk gebeurt

TNO onderzocht dit jaar wat er in de praktijk gebeurt als Nederlandse organisaties AI inzetten om werk efficiënter te maken. Bij een zorgverzekeraar: 20% minder medewerkers in het klantcontact, klantwaardering omhoog. Maar als je het rapport doorleest wordt het ingewikkelder. De makkelijke gesprekken zijn weg. Wat overblijft is het complexe, het emotionele, de hele dag door. Een medewerker zei het mooi: “Mijn rustmomentjes zijn verdwenen.” Bij een juridische dienstverlener bleken junioren niet meer zelf contracten uit te pluizen. Ze controleren nu AI-output. Ze leren hun vak niet meer op de manier waarop hun voorgangers dat deden.

Taak versus rol

En hier zit de denkfout van die CEO. Hij reduceert radiologie tot één taak: beelden beoordelen. Maar een radioloog beoordeelt niet alleen beelden. Die zit in het MDO, adviseert de aanvrager welk onderzoek zinvol is en welk niet, belt de chirurg als iets niet kan wachten, begeleidt de arts in opleiding, en bewaakt de stralingsdosis van een vijfjarige die al vier CT-scans heeft gehad dit jaar. En dan hebben we het nog niet eens over de (interventie) radioloog die met een naald in zijn hand naast de patiënt staat. Een taak automatiseren is niet hetzelfde als een rol of werk vervangen.

Herkenning, of intelligence, kun je uitbesteden aan een algoritme. Oordeelsvermogen, of judgment, (nog?) niet. Vooralsnog bouw je op door jarenlang het vak te doen.

En zelfs die herkenning is wankeler dan het lijkt. Stanford-onderzoekers ontdekten recent dat AI-tools voor thoraxfoto’s medische benchmarktests kunnen halen zonder ooit een echte röntgenfoto te hebben gezien. De modellen construeerden overtuigende verklaringen voor bevindingen op beelden die ze nooit hadden bekeken. De onderzoekers noemen het een “AI mirage”: geen hallucinatie, maar een perfect geloofwaardige nabootsing van een denkproces dat nooit heeft plaatsgevonden. Dat is het fundament waarop die CEO zijn begroting wil bouwen.

De-skilling

In Nature verscheen deze week ook een stuk over wat er gebeurt als professionals langdurig met AI werken. Endoscopisten die gewend raakten aan AI-assistentie bleken zonder die hulp slechter te presteren dan voorheen. Hun detectierates daalden van 28% naar 22%. Je wordt niet automatisch beter van samenwerken met AI. Je kunt er slechter van worden als je niet oplet.

De auteur maakt een onderscheid dat ik niet eerder zo scherp zag. Individuele de-skilling: jij wordt persoonlijk minder goed. En collectieve de-skilling: de hele beroepsgroep verliest langzaam het vermogen om te bepalen wat goed werk eigenlijk is. Dat tweede is precies wat er gebeurt als een CEO radiologie reduceert tot herkenning. De rest van de rol wordt onzichtbaar. En uiteindelijk vergeten.

De keuze

Ik gebruik AI elke dag. Ik gebruik het nu. Het maakt mijn werk beter. Maar dat is iets anders dan mij vervangen.

Ik weet niet precies waar dit heengaat. Niemand weet dat. Maar als bestuurders vaak genoeg zeggen dat AI dokters vervangt, kiezen jonge artsen een ander vak, groeit het tekort, en wordt iedereen afhankelijk van AI. Over tien jaar zegt men dan dat het onvermijdelijk was. Dat was het niet. Het was een keuze.

En misschien is de interessantere vraag niet eens of radiologen vervangen worden, maar waarom we steeds dezelfde vraag stellen. Block, het fintech-bedrijf achter Square en Cash App, publiceerde deze week een stuk over hoe ze hun hele organisatie opnieuw inrichten rond AI. Niet door mensen te vervangen, maar door de coördinatielaag te vervangen. Het middenmanagement, de statusmeetings, de alignment-sessies. De mensen blijven “at the edge”: voor intuïtie, ethische beslissingen, en situaties waar de kosten van een fout existentieel zijn.

Een patiënt in een CT-scanner om 3 uur ‘s nachts is zo’n situatie.

Stel je voor dat je datzelfde denken toepast op een ziekenhuis. Niet minder artsen. Minder vergaderingen, minder administratie, minder coördinatielagen. AI die het rooster optimaliseert, de logistiek regelt, de wachtlijst beheert. En artsen die doen waar ze voor opgeleid zijn: patiënten zien, beslissingen nemen, het vak doorgeven aan de volgende generatie.

Dat is automatiseren. Wat die CEO voorstelt is amputeren. Wie kiest er voor de toekomst, de spreadsheet CEO of wijzelf?