Juridische aansprakelijkheid voor algoritmische fouten in AI-gestuurde geneesmiddelenontwikkeling en klinische proeven

Ingang

Kunstmatige intelligentie (AI) zorgt tegenwoordig voor een revolutie in de processen van geneesmiddelenontwikkeling. Machine learning-algoritmen , met name die welke worden gebruikt op gebieden zoals het ontwerpen van geneesmiddelmoleculen , het voorspellen van bijwerkingen , het plannen van klinische studies en de analyse van patiëntgegevens , versnellen onderzoeksprocessen en verlagen de kosten aanzienlijk.

AI-systemen kunnen echter leiden tot foutieve resultaten in klinische studies als gevolg van voorspellingsfouten , misleidende analyses of vertekening van de gegevens , waardoor een verkeerd beeld ontstaat van de veiligheid en effectiviteit van het geneesmiddel. Dit roept op zijn beurt vragen op over wie juridisch verantwoordelijk is , de subjectiviteit van algoritmische beslissingen , schadevergoeding en de grenzen van ethisch toezicht

---

1. De rol van kunstmatige intelligentie bij de ontwikkeling van geneesmiddelen

Kunstmatige intelligentiesystemen worden in de volgende gebieden ingezet bij de ontwikkeling van nieuwe geneesmiddelen:

• Moleculaire doelwitbepaling (doelwitvoorspelling),

• Nieuw samengesteld ontwerp (de novo geneesmiddelenontwerp),

• Prioritering van klinische kandidaten,

• Analyse van patiëntsubgroepen (subgroepstratificatie),

• Voorspelling van bijwerkingen en toxiciteit.

Deze systemen maken doorgaans deep learning-algoritmen . Deze modellen zijn echter weinig transparant (black-box-systemen) en hun besluitvormingsmechanismen zijn vaak niet traceerbaar.

---

2. Algoritmische fouten in klinische onderzoeken: mogelijke scenario's

Door AI aangedreven systemen voor klinische besluitvormingsondersteuning of data-analyseplatforms kunnen de volgende soorten fouten optreden:

• Misleidende algoritmen voor patiëntselectie: Modellen die getraind zijn met onvoldoende gegevens kunnen de verkeerde risicogroepen selecteren.

• Dosisinschattingsfout: Een onjuiste bepaling van de toxiciteitsdrempel door het model kan leiden tot ernstige bijwerkingen.

• Vertekening door verschillende gegevensbronnen: Uitsluiting of statistische onderdrukking van bepaalde patiëntengroepen.

• Verkeerde classificatie van fasegegevens: het overschatten of onderschatten van het klinische voordeel.

Deze situaties kunnen leiden tot misleidende onderzoeksresultaten , een onjuiste beoordeling van het geneesmiddel tijdens het goedkeuringsproces of schade aan vrijwilligers

---

3. Juridische aansprakelijkheid: Wie is verantwoordelijk en in welke mate?

Wie is er juridisch aansprakelijk in geval van een algoritmische fout veroorzaakt door kunstmatige intelligentie?

⚖️ Mogelijke daders:

• Farmaceutisch bedrijf (sponsor): Als overkoepelende organisator van de klinische proef draagt ​​het de eindverantwoordelijkheid.

• De ontwikkelaar van het AI-systeem: Als er een algoritmische fout in de software zit, kan dit leiden tot productaansprakelijkheid of een softwarefout.

• Onderzoekscentrum of arts: Als zij de beslissing zonder vragen uitvaardigden, kunnen zij aansprakelijk worden gesteld op grond van de zorgplicht.

• Ethiekcommissie: Deze kan indirect aansprakelijk worden gesteld als zij het risico niet heeft voorzien door een ontoereikende risicobeoordeling.

Op dit moment is het aansprakelijkheidsregime als volgt gestructureerd:

• Contractuele aansprakelijkheid (tussen sponsor en softwareleverancier),

• Aansprakelijkheid voor onrechtmatige daad (vanwege schade toegebracht aan de vrijwilliger),

• Medische wanpraktijken (vanuit het perspectief van de arts en het onderzoekscentrum),

• Productaansprakelijkheid (voor schade als gevolg van gebrekkige software of algoritmen).

---

4. Wetgeving en regelgevingskader

In Turkije:

• De regelgeving inzake klinische proevenstelt de sponsor verantwoordelijk voor het gehele proces van klinische proeven.

• wet op de bescherming van persoonsgegevens (KVKK)schrijft voor dat patiëntgegevens die door systemen met kunstmatige intelligentie worden verwerkt, in overeenstemming met de wet moeten worden verwerkt.

• Het Turkse Agentschap voor Geneesmiddelen en Medische Hulpmiddelen (TİTCK)is bevoegd om de veiligheid van op AI gebaseerde klinische apparaten te beoordelen.

Op internationaal niveau:

• De EU-verordening inzake kunstmatige intelligentiedefinieert AI-systemen die in medische apparaten worden gebruikt als "hoog risico".

• De FDA (VS) schrijft voor dat op AI gebaseerde software voor de gezondheidszorg onder de aanduiding Software as a Medical Device (SaMD) moet worden gelicentieerd

---

5. Ethische richtlijnen en algoritmische transparantie

Door de onvoorspelbaarheid van algoritmische beslissingen neemt ook de verantwoordelijkheid van ethische commissies toe. AI-systemen die worden gebruikt in klinische studies:

• Algoritme-architectuur,

• Educatieve gegevensbronnen,

• De processen voor modelvalidatie en -testen dienen onder toezicht te staan ​​van de ethische commissie, in overeenstemming met het principe van transparantie
  

black-box-modellen roept ook de vraag op of de toestemming van de vrijwilliger wel volledig geïnformeerd was. In dat geval rijst de vraag of de tekst over "geïnformeerde toestemming" wel voldoende is.

---

Conclusie

Door AI ondersteunde geneesmiddelenontwikkeling en klinische proeven vormen een grote revolutie in de medische wetenschap. Deze transformatie vereist echter niet alleen een snelle ontwikkeling van de technologische, maar ook van de juridische en ethische infrastructuur

Algoritmische fouten:

• Het zou vrijwilligers schade kunnen berokkenen

• Het kan de resultaten van klinische onderzoeken ongeldig maken

• Dit zou ertoe kunnen leiden dat geneesmiddelen met een twijfelachtige veiligheid op de markt komen.

Omdat;

🔹 De verantwoordelijkheidsstructuur moet duidelijk gedefinieerd zijn,
🔹 Er moeten specifieke contracten worden gesloten met softwareleveranciers en sponsors,
🔹 Ethiekcommissies moeten in staat zijn om algoritmesystemen te evalueren,
🔹 Kunstmatige intelligentiesystemen moeten niet alleen technisch, maar wettelijk .