Samenwerking tussen AI-startup en Amerikaans ziekenhuis roept vragen op

In het Memorial Sloan Kettering Cancer Center in Manhattan is ophef ontstaan onder artsen en ziekenhuispersoneel. Zij maken bezwaar tegen de samenwerking tussen het kankercentrum en Paige.AI, een commerciële startup gericht op kunstmatige intelligentie, die lucratief zou zijn voor enkele vooraanstaande onderzoekers en bestuursleden van MSK. In het tijdperk waarin data het nieuwe goud is, leidt de inzet van medische data tot vragen over eigendom en rechtmatig gebruik.

Startup Paige.AI kreeg in februari van dit jaar exclusief toegang tot het intellectuele eigendom van Memorial Sloan Kettering (MSK) op het gebied van digitale pathologie, en de exclusieve rechten op de database en weefselarchief met 25 miljoen weefsels.

Over die exclusieve samenwerking tussen het gerenommeerde kankercentrum waren zowel  Memorial Sloan Kettering als Paige.AI volledig transparant, bijvoorbeeld in dit persbericht. Wat pas in de zomer aan het licht kwam, is dat Memorial Sloan Kettering, evenals een lid van de raad van bestuur van het kankercentrum, de voorzitter van de afdeling pathologie en het hoofd van een van de onderzoekslaboratoria, een aandelenbelang in Paige.AI hebben. Drie andere bestuursleden zijn investeerders. In ruil voor het delen van zijn omvangrijke database ontving Memorial Sloan Kettering ongeveer negen procent aandelen in de startup, volgens berichtgeving van ProPublica en de New York Times.

Expertise van pathologen

Medisch specialisten en pathologen maken sterk bezwaar tegen de overeenkomst met Paige.AI. Volgens critici is het onjuist dat de oprichters een aandelenbelangen hebben ontvangen of een bestuursfunctie hebben in een bedrijf dat afhankelijk is van de expertise van de pathologen en meer dan 60 jaar werk van het publiek gefinancierde kankercentrum. Ook zetten ze vraagtekens bij het gebruik van het weefselarchief en de gegevens van patiënten die, zelfs wanneer die geanonimiseerd zijn, zonder hun instemming gebruikt worden door een winstgerichte onderneming.

“Het adagium in biomedisch en oncologisch wetenschappelijk onderzoek tissue is the issue geldt nog altijd, ook als het om gescande tissue gaat”, zegt prof. dr Katrien Grünberg, klinisch patholoog en hoofd van de afdeling Pathologie in het Radboudumc in Nijmegen. “Die tendens zien we in Nederland ook heel duidelijk. Veel wetenschappelijke ontwikkelingen zijn eenvoudigweg niet mogelijk of niet naar de patiënt te brengen zonder publiek-private samenwerkingen. Helaas ontspoort dat soms als er dollartekens in de ogen springen en de omgang met verschillende belangen niet goed geregeld en geopenbaard is.”

Onafhankelijke waardering

Paige.AI richt zich op de ontwikkeling van kunstmatig intelligente algoritmes voor de diagnose van onder meer prostaatkanker en borstkanker. Door het digitaliseren van weefsels en pathologie-coupes ontwikkelt Paige.AI deep learning technieken om algoritmen te leren differentiëren tussen beelden van gezond weefsel en beelden die afwijkingen vertonen.

Paige.AI haalde in februari in een financieringsronde 25 miljoen dollar op bij investeerders, die deels afkomstig zijn uit de raad van bestuur van het ziekenhuis. Medeoprichter van Paige.AI, Thomas Fuchs, is tevens hoofd van het digitale pathologie laboratorium van Memorial Sloan Kettering. Volgens de New York Times heeft er geen onafhankelijke waardering van het weefselarchief plaatsgevonden, en zijn er niet meerdere bedrijven benaderd voordat de exclusieve samenwerking met Paige.AI werd gesloten.

Weefsel walhalla

Voor AI-bedrijven zijn de omvangrijke databases van medische instellingen een walhalla. Het weefselarchief bij het Memorial Sloan Kettering kankercentrum bestaat naast weefsel ook uit digitale annotaties, aantekeningen van artsen, en DNA-materiaal van patiënten. Die rijkdom aan gestructureerde en ongestructureerde data maakt het voor Path.AI makkelijker om computermodellen te trainen. Overigens is het digitaliseren van die 25 miljoen weefsels van patiënten een enorme opgave, die jaren kan duren.

Met deze uitgebreide weefselbibliotheek en de status van MSK als gerenommeerd kankercentrum moeten de privacy en de zeggenschap van de patiënten goed geregeld zijn, zeker in publiek-private samenwerkingen. Commercieel gebruik is een bijzondere categorie, ook in de perceptie van patiënten.

Controverse

De controverse in New York staat niet op zichzelf. Dichter bij huis, in Groot-Brittannië, ontstond ophef over een samenwerking tussen DeepMind, dochterbedrijf van Google, en de Britse NHS. DeepMind wil met partners zoals de Britse NHS nieuwe AI-toepassingen voor de zorgsector verkennen. DeepMind werkte met Royal Free Hospital in Londen (onderdeel van de NHS) samen aan een app die medische beelden en patiëntgegevens verzamelt en analyseert, om dokters te helpen om acuut nierfalen te identificeren. Britse artsen waarschuwden over een gebrek aan helderheid en transparantie bij de DeepMind-Royal Free samenwerking, en zeggen dat DeepMind ‘data van miljoenen patiënten van Royal Free en voormalige patiënten sinds november 2015’ heeft gebruikt, zonder toestemming van de betreffende patiënten en zonder goedkeuring om die data te gebruiken voor wetenschappelijk onderzoek.

Google maakt er geen geheim van samenwerking met onderzoeksinstellingen en ziekenhuizen op te zoeken. “We’re always open to collaborations on large medical datasets of all types”, aldus de oproep op Google’s blog. Volgens de New York Times benaderde Google Memorial Sloan Kettering ook meermaals om over de pathologie-databases te spreken. De woordvoerder van Google weerhield zich van commentaar.

De samenwerking tussen Paige.AI en het ziekenhuis legt het spanningsveld bloot. Gelabelde data en grote datasets blijken veel waard te zijn. Maar met de samenwerking tussen non-profit en private ondernemingen, blijkt de vraag van wie data is, lastig te beantwoorden. Zeker als die data aan patiënten en indirect aan publieke ziekenhuizen of universiteiten toebehoren, en een waardevol bezit blijken te zijn in dit tijdperk van kunstmatige intelligentie.