02
juni

Rechten en plichten voor machines

Geplaatst door op in Opinie
  • Fontgrootte: Groter Kleiner
  • Hits: 2097
  • 0 reactie
  • Afdrukken

De komende generatie moet dulden dat vrijwel alle computers intelligenters zijn dan het menselijke wezen. Achter de schermen verschijnen zelflerende systemen die op onvoorspelbare wijze opereren en die zichzelf permanent verbeteren. Voor deze supertechnologie moet aparte wetgeving komen. Zonder dat is de kans groot dat de ict de dienst gaat uitmaken voor de mens.

De informatietechnologie heeft ons werktuigen geleverd die de mens kunnen dienen. Tot dusver was dat een realistisch verwachtingspatroon dat we over onze it-werktuigen - software/hardware - mochten hebben.

Maar in 2012 verscheen de IBM BlueGene/Q, een mainframe-computer die ongeveer dezelfde informatieverwerkende capaciteit heeft als het menselijke brein: 20 petaflops. BlueGene/Q is de opvolger van de computer die schaakgrootmeester Gary Kasparov in 1999 versloeg en van de computer die in 2011 won van de beste menselijke spelers van het televisie-kennisspel Jeopardy.

Baby

Binnen één menselijke generatie beschikt elke laptop over een processor die meer instructies per seconde kan verwerken dan zijn menselijke gebruiker. Een baby die nu wordt geboren, leeft als hij 21 wordt in een wereld waarin elk digitaal apparaat dat hij gebruikt sneller informatie kan verwerken dan zijn eigen brein.

Het is belangrijk dat er een maatschappelijk antwoord moet komen op het steeds intelligenter worden van machines. Het is een tragische vergissing te denken dat het verschijnen van steeds capabeler machines kan worden afgedaan als slechts de komst van betere apparatuur die ons als consument, burger of werknemer ten dienste zal staan of bedrijven zal helpen efficiënter te werken.

Als-dan regels

Die aanname wordt vooral veroorzaakt doordat vrijwel alle software die we nu gebruiken opereert via het afwerken van als-dan-regels. Maar achter de schermen verschijnen lerende systemen die op onvoorspelbare wijze opereren. Het basisprincipe bestaat uit kunstmatige neurale netwerken die een rechtstreekse simulatie vormen van menselijke hersenen.

Nu al bestaan de meest kritische systemen waar onze maatschappij op draait uit complexe algoritmen die voor mensen niet meer te doorgronden zijn. Irisscanners, vingerafdrukscanners en beeldherkenningssoftware zijn zichtbare voorbeelden van software die niet regel voor regel is geschreven, maar getraind om een niveau van performance te bereiken. In de financiële en militaire sector worden complexe neurale netwerken gebouwd waarmee software-systemen zelfstandig beslissingen kunnen nemen op de beurs of op het slagveld onder condities die voor menselijke opdrachtgevers niet te voorzien zijn. Het gaat om autonome systemen die over lerende capaciteiten beschikken.

Neurale netwerk

De kennis en kunde van deze systemen wordt slechts beperkt door de omvang van het kunstmatige neurale netwerk dat is ingebouwd en door de verwerkingskracht van de onderliggende hardware. De Wet van Moore is een wetmatigheid die beschrijft waarom deze verwerkingskracht pakweg elke twintig maanden verdubbelt. Tien van deze verdubbelingen betekenen een groei van de verwerkingskracht met een factor duizend.

De bewustwording van dit verschijnsel bij de media, maar ook bij de burger, de overheid, de bestuurlijke elite en het bedrijfsleven, loopt lichtjaren achter de werkelijkheid aan. Het fundamentele probleem dat zal ontstaan is dat niemand verantwoordelijk kan zijn voor het gedrag van autonome systemen. De gebruiker niet, de leverancier niet, de fabrikant niet, de tussenhandelaar niet en de inkopende organisatie niet. Lerende systemen kunnen veel complexere taken aan dan klassieke als-dan-systemen. Maar een lerend systeem dat op maandag operationeel wordt, functioneert op dinsdag alweer anders, zodat niemand de performance kan garanderen. De laatste ontwikkelingsstadia van deze systemen bestaan ook niet uit een testperiode, maar uit training on the job.

Doodlopende weg

De maatschappij moet een antwoord formuleren op deze ontwikkeling. Momenteel worden rechtskwesties rond ict geregeld via reguliere wetgeving zoals rond eigendom, overeenkomsten en privacy. Dit is een doodlopende weg is. Uiteindelijk moeten lerende systemen een eigen rechtspositie krijgen om onafhankelijk van mensen te kunnen functioneren en ter verantwoording te worden geroepen. Ze moeten het recht krijgen op relevante informatie voor het nemen van beslissingen, maar ook het recht om zichzelf te upgraden om een taak goed te kunnen verrichten. In het verlengde: het recht op een budget, op een bankrekening, op werkweigering en op andere rechten. Het is een Doos van Pandora. Tegelijkertijd moeten lerende systemen de plicht krijgen zich aan wetten en regels te houden en verantwoording afleggen aan de directe omgeving en zo nodig aan de maatschappij.

Algoritmenwet

Vanaf het moment dat lerende systemen de mens voorbijstreven in informatieverwerkende capaciteit, verliezen we de controle over de wereld en zijn de effecten niet te overzien. Deze ontwikkeling kan niet worden gekeerd, hooguit op zodanige manier worden ingevuld dat het gemeenschappelijk belang het meest wordt gediend. Het boek voorspelt de noodzaak van een overkoepelende Algoritmenwet, die de rechtspositie van intelligente lerende systemen regelt. Er worden zes eigenschappen van deze machines voorgesteld om te voldoen aan de status gekwalificeerd algoritme. Een uitvloeisel van zo'n Algoritmenwet kan zijn dat zowel leveranciers als gebruikers van deze lerende systemen verplicht worden om zowel de autonomie van de machine te waarborgen als ervoor te zorgen dat deze voldoet aan wettelijke verplichtingen.

Hennie van der Pluijm

Hennie van der Pluijm is trendwatcher bij Venturamedia, gespecialiseerd in it-trends en venture capital. Onlangs verscheen zijn boek 'Rechten en Plichten voor Robots'.

Rechten en Plichten voor Robots
www.rechtenenplichtenvoorrobots.nl
www.rechtenenplichtenvoorrobots.nl/boek.php 

Waardeer dit blogbericht:
0
Getagged in: Technologie

Specialties: Providing information, research and contact information about venture capital in the Netherlands.

Reacties