patalt – Betrouwbare Kunstmatige Intelligentie

Wat is Kunstmatige Intelligentie?

KI is niet alleen ‘machinaal leren’ (ML), hoewel mensen vandaag meestal ML bedoelen als ze KI zeggen.
ML: je geeft de computer aleen een objectief en data en hij leert (bijna) vanzelf.

In de tijden van ChatGPT heeft iederen een idee van KI maar het is niet heel klar wat het eigenlijk betekent.
Volgens mij bedoelen mensen meestal “machinaal leren” als ze ‘KI’ zeggen.
“Machinaal leren”, of koort “ML”, is niet hetzelfde als “KI” maar het is wel een belangrijk onderdeel van KI.
“ML” is een manier om een computer te trainen om een taak te doen zonder dat je de computer precies vertelt hoe hij het moet doen.
Je geeft de computer alleen een objectief en een hoop voorbeelden. Dan lat je de computer zelf een manier vinden om het objectief te bereiken en ten slotte hoop je dat de computer goed geleerd heeft.
Bijvoorbeeld, je zie hier aan de rechte kant een algoritme dat leert tussen twee klassen te onderscheiden. Hoe meer data het heeft gezien, hoe beter het zijn werk doet.

De kerntechniek van de sterkste KI systemen van vandaag is “diep leren”.

“Schaal is alles wat je nodig hebt”—iemand van OpenAI

De kerntechniek van de sterkste KI systemen van vandaag is “diep leren”, of “deep learning” in het Engels.
In het kort, bij diep leren gebruiken we grote modellen met veel instellingen. Deze waarden worden geleerd en verbeterd via optimalisatie.
OpenAI’s ChatGPT heeft zoveel succes gehad omdat het een heel groot model is. Eigenlijk is het inofficiële motto van OpenAI: “Scale is all you need”, dus “Schaal is alles wat je nodig hebt”.
Aan de rechte kant zien jullie een voorbeeld van een diep neuraal netwerk. Die groene punten zijn de instellingen van het model. Kan iemand tellen hoeveel instellingen dit model heeft?
Dus er zijn 32 plus 6 plus 32 plus 12 groene punten. Dat is 82 instellingen.
Maar dit is erg niet diep. Ter vergelijking: ChatGPT heeft ongeveer 15 miljard instellingen.
Sommige mensen geloven dat deze sort modellen de toekomst van KI zijn en ons zullen helpen om de meest complexe problemen op te lossen.

Deze modellen hebben ook nadele. Ze zijn:

Dit klinkt allemaal goed, maar deze modellen hebben ook nadele.
Bijvoorbeeld, ze zijn kwetsbaar. Ze kunnen makkelijk misleid worden.
In de afbeelding aan de rechte kant zien jullie aan de linke kant een stopbord: eerst erkent het model het stopbord als een stopbord. Maar als de foto een beetje veranderen, dan ziet het model een bloempot. Dit zie je aan de rechte kant.
Een van de grootste problemen met diep leren is dat de modellen zo groot zijn dat niemand ze echt begrijpt.
Je kan niet het model zomaar openen en zien hoe het werkt. Als een model niet transparant is, noemen we het een ‘black box’.
Dit is heel problematisch voor de betrouwbaarheid van KI systemen, vooral als ze gebruikt worden in kritische toepassingen zoals medische diagnoses of autonome voertuigen.
Maar ook en mer aldagelijkse toepassingen: heeft iemand hier eermaal een lening aangevraagd? Of een sollicitatie gedaan? Of een verzekering afgesloten? Dan is de kans groot dat een KI systeem een rol heeft gespeld in de beslissing.

Betrouwbaarheid door Verklaarbaarheid:

Wat moeten we veranderen aan de modelinputs om de outputs te veranderen?