Aske Plaat in Trouw over zelfdenkende computers
Zelfdenkende computers: hoe slim zijn ze, en vormen ze een gevaar voor de samenleving? Drie experts gaven op 9 februari hun mening hierover in Trouw. Een van de experts is hoogleraar Data science Aske Plaat. ‘Ik heb nog nooit een intelligent systeem gezien dat iets tegen de wil van de mens deed.’
Een banaan herkennen
Het artikel begint met een beschouwing over hoe slim zelflerende systemen momenteel zijn, maar tegelijkertijd ook nog veel beperkingen hebben. Als voorbeeld wordt een banaan gegeven: een computersysteem kan aan de hand van 10.000 foto’s een banaan herkennen. Maar plak een groen stickertje op de banaan, en de computer denkt dat het een broodrooster is. Daarom is context belangrijk. ‘Met context is de computer al een heel eind geholpen’, zegt Plaat. ‘Dan kan hij met logica opties uitsluiten.’
De stekker eruit
Later in het artikel zeggen de experts geen bedreiging te zien in slimme robots. Aske Plaat legt in het artikel uit waarom niet: ‘Ik heb nog nooit een intelligent systeem gezien dat iets tegen de wil van de mens deed. Hoewel, Microsoft heeft ooit een chatbox ontwikkeld die zichzelf leerde praten aan de hand van de teksten die hij op het internet voorbij zag komen. Binnen de kortste keren begon hij te vloeken en verderfelijke taal uit te slaan. Logisch, het systeem dacht dat dat de werkelijkheid was. Waar het in zekere zin ook gelijk in had. In zo’n geval trek je de stekker eruit en verbeter je het systeem.’
Lees hier het hele artikel: