Steven Verkuil vertelde in november hoe data de zorg helpt. Dat deed hij tijdens ons ledenevent, dat we samen met de TZA Twente en TAZ Twente hielden. Tijdens de vragenronde én later per mail deelde hij nog nuttige tips voor als je wilt starten met technologie in de zorg.
- Gebruik tekstmodellen voor het interpreteren van teksten!
“Je bespaart hiermee gemakkelijk in je organisatie tijd aan rapportages. Installeer dan wel op een eigen laptop binnen de organisatie een open tekstmodel. Zo gebruik je het zonder AVG of bigtechbedrijven.” - Neem nu techneuten in dienst die dit soort tekstmodellen kunnen installeren
“Geef ze de ruimte. Accepteer dat de interfaces van open source AI net iets minder gemakkelijk zijn te gebruiken dan bijvoorbeeld ChatGPT. En benut de taalmodellen in je organisatie.” - Googel ook eens op GPT-NL en ontdek wat TNO en SURF samen maken.
- Kijk verder elke zoveel maanden opnieuw met techneuten naar de stand van zaken en probeer de laatste open taalmodellen; wat nu nog niet goed lukt, lukt over een maand of 3-6 wél.
- Denk in een overlegorgaan zoals TZA, Vitaal Twente en TAZ na over de ontwikkelingen van de nabije toekomst
“Zoals de zelfrijdende auto. Zoals de satellietbeelden die tot 30 cm nauwkeurig alles in beeld kunnen brengen en mensen op straat kunnen volgen. Als deze technologie beschikbaar is bij ons, wat betekent dat dan voor onze organisaties?”
Mag je zomaar iemand volgen via satellietbeelden?
“Dit zou niet moeten mogen. De EU is bezig met een terechte inhaalslag.”
De energievoetafdruk van ChatGPT, die is toch reuze hoog?
“Nu is die nog redelijk hoog, maar AI wordt steeds energie-efficiënter (Moore’s law). De verwachting is dat de eerste taalmodellen volgend jaar al op een smartphone kunnen draaien. Ter vergelijking: de rekenkracht die nodig was om de maanlanding door te rekenen zou nu door je smartwatch met knoopcelbatterij kunnen worden uitgevoegd.”
Wat is de invloed van dit alles op zelfredzame denkvermogen en concentratie?
“Op scholen is te weinig aandacht voor technologie en data-verdienmodellen van techbedrijven. Dit is belangrijke kennis. Daarnaast zijn de techbedrijven ook heel goed in het trekken van onze aandacht, want interactie is data en data is geld. We worden sneller afgeleid en onze concentratie lijkt te verslechteren.”
Welke resources zijn een goed startpunt voor techneuten?
LocalAI: eenvoudig diverse taalmodellen lokaal op eigen server/laptop laten draaien
Ondersteuning van afbeeldingen, tekst naar spraak, spraak naar tekst en tekstmodellen (chat/complete). Na installatie ook ingebouwde downloadmogelijkheid om taalmodellen te proberen. Zie https://localai.io/
Huggingface: De meeste populaire modellen om te gebruiken in de localAI-tool hierboven en meestal ook via de localAI-tool zelf te downloaden, zie https://huggingface.co/TheBloke.
LLAMA2: Relatief open taalmodel, offline en op eigen pc te gebruiken voor chat. Het is ook de basis voor vele modellen op huggingface. https://ai.meta.com/llama/
ChatbotUI: Een open-source kloon van de ChatGPT-interface, aan te sluiten op de localAI ‘back-end’. Deze loopt 6 maand achter op ChatGPT en zit waarschijnlijk dus over een half jaar op hetzelfde niveau als ChatGPT nu, zie
https://github.com/mckaywrigley/chatbot-ui
