Kunstmatige intelligentie in de geneeskunde

Dit artikel, gepubliceerd in JAMA op 29 januari 2024, bespreekt de snelle ontwikkeling van klinische toepassingen van generatieve kunstmatige intelligentie en grote taalmodellen (LLM’s) in de geneeskunde. Het richt zich specifiek op de uitdagingen en overwegingen rondom LLM-gegenereerde klinische samenvattingen, die binnenkort zonder toezicht van de Amerikaanse Food and Drug Administration (FDA) patiënten kunnen bereiken. De auteurs benadrukken dat, hoewel nauwkeurigheid belangrijk is, er meer nodig is dan alleen precisie om de veiligheid en effectiviteit van deze technologieën in de klinische praktijk te waarborgen.

Enkele belangrijke punten uit het artikel:

• Summarisatie zonder FDA-toezicht: LLM’s die klinische gegevens samenvatten, kunnen zonder de gebruikelijke veiligheids- en effectiviteitswaarborgen in klinieken terechtkomen, omdat ze waarschijnlijk niet onder de FDA-medische apparaatregulering zullen vallen.
• “Nauwkeurige” Samenvattingen Kunnen Schadelijk Zijn: Er zijn vele manieren om klinische informatie nauwkeurig samen te vatten. Variaties in lengte, organisatie en toon van samenvattingen kunnen de interpretaties en besluitvorming van clinici beïnvloeden, zowel opzettelijk als onbedoeld.
• Aanbevelingen: De auteurs suggereren de ontwikkeling van uitgebreide standaarden voor LLM-gegenereerde samenvattingen, die verder gaan dan alleen nauwkeurigheid. Ze bevelen ook aan dat deze technologieën klinisch getest worden om schade en voordelen te kwantificeren voordat ze op grote schaal worden ingezet. Daarnaast moedigen ze de FDA aan om de regelgevende criteria proactief te verduidelijken.

Het artikel benadrukt de potentie van LLM’s om de toegang tot en het beheer van klinische informatie te verbeteren, maar wijst ook op de unieke risico’s die deze technologieën met zich meebrengen. Transparante ontwikkeling van standaarden en pragmatische klinische studies worden essentieel geacht voor een veilige en verstandige implementatie van deze technologieën in de patiëntenzorg.