Slimmer leren in plaats van meer: AI-model begrijpt cellen met 200 keer minder data
Een menselijk lichaam bestaat uit miljarden cellen. Elke cel heeft een eigen taak: sommige bestrijden ziektes, andere geven signalen door, weer andere bouwen weefsel op. Om dat gedrag te begrijpen, bouwen wetenschappers computermodellen die leren van de genen die in cellen actief zijn. Maar die modellen hebben tot nu toe vooral één truc: hoe meer data, hoe beter. Een nieuw onderzoek laat zien dat dit anders kan.
De modellen waar het om gaat heten "single-cell foundation models" (scFM's). Dat zijn AI-systemen die getraind worden op grote hoeveelheden data over losse cellen. Ze leren patronen herkennen in welke genen aan of uit staan in een cel, en gebruiken die kennis om bijvoorbeeld te voorspellen wat voor type cel het is, of hoe een cel zich zal gedragen.
Tot nu toe gold: hoe groter de trainingsdataset, hoe beter het model presteert. Maar dat kost steeds meer rekenkracht, en de winst wordt met elke stap kleiner. Het onderzoeksteam achter dit werk ontdekte een alternatief. In plaats van alleen maar meer ruwe celdata toe te voegen, voegden ze bestaande biologische kennis toe: beschrijvingen van wat cellen doen, en informatie over hoe genen elkaar aansturen (gen-regulatie genoemd, dat is het proces waarbij het ene gen bepaalt of het andere gen aan of uit gaat).
Een nieuw model: scKITE
Met die aanpak bouwden de onderzoekers een nieuw model, scKITE. Tijdens het trainen kreeg het model niet alleen de ruwe genactiviteit te zien, maar ook tekstuele celbeschrijvingen en gen-regulatie-informatie. Dit gebeurde via extra hulponderdelen die na de training weer werden weggehaald. Wat overblijft is een kernmodel dat rijker is aan biologische kennis, zonder dat het zwaarder of trager wordt in gebruik.
Het resultaat is opvallend. scKITE werd getraind op maar 179.067 voorbeelden. Dat is minder dan 0,5 procent van de hoeveelheid data die eerdere sterke modellen nodig hadden, oftewel ruim 200 keer minder. Toch presteerde scKITE beter dan die grotere modellen op verschillende taken, zoals het herkennen van celtypes.
Wat betekent dit (nog) niet
Dit is één onderzoek van één team, nog niet herhaald of bevestigd door andere groepen. Het model is getest op een aantal specifieke taken, maar of het net zo goed werkt in alle mogelijke toepassingen binnen de celbiologie, is nog niet duidelijk. Het gaat hier bovendien om een technische verbetering in AI-modellen, niet om een nieuwe ontdekking over hoe cellen zelf werken.
Waarom is dit interessant? Het bouwen van steeds grotere AI-modellen kost enorm veel rekenkracht en energie. Als kleinere, slimmer getrainde modellen net zo goed of beter kunnen presteren, scheelt dat niet alleen kosten, maar maakt het onderzoek ook toegankelijker voor labs met minder middelen. Daarnaast laat dit onderzoek zien dat het combineren van ruwe data met bestaande menselijke kennis een waardevolle route kan zijn, naast het simpelweg verzamelen van steeds meer data.
Bron: Towards a knowledge-enhanced single-cell foundation model