AI op de beurs: zo houdt de AFM toezicht op ‘de slimsten van de klas’

Ook al is het verplicht, algoritmes zijn niet altijd uitlegbaar. Dat kan ook een probleem zijn. Doet een algoritme plots een vreemde transactie, dan moet immers wel uit te leggen zijn waarop het die keuze maakte. “Maar door de toegenomen complexiteit van de algoritmes, merken we dat partijen het lastig vinden om dat te doen.”

Daarnaast zijn  machine learning- gebaseerde algoritmes vermoedelijk te manipuleren, al heeft de AFM  dat zelf nog niet in de praktijk zien gebeuren. “De op machine learning-gebaseerde algoritmes die wij zijn tegengekomen, hebben echt een focus op dat orderbook. Dat is de allergrootste en voornaamste databron. Iedere verstoring in dat orderboek wordt dus automatisch opgenomen. Dus als je daar wat mee doet, dan zal dat een reactie ontlokken”, legt De Dobbelaere uit. “Met name in het licht van nog geavanceerdere modellen, de reinforcement learning modellen, duidt de wetenschap op risico’s van vernuftige manieren van manipulatie en ‘samenzweren’ die mogelijk moeilijk voor mensen te bevatten zijn."

Unieke positie van Nederland

Juist vanwege dergelijke risico’s is het van groot belang dat er goed toezicht wordt gehouden op dergelijke algoritmes, wat in Nederland door de AFM gedaan wordt. De organisatie surveilleert op de markt het gedrag en potentiële manipulatie. “We hebben rond de dertig HERs in Nederland. Daarmee hebben we veruit de grootste populatie professionele handelshuizen binnen Europa. De AFM is daarin dus vrij uniek”, aldus De Dobbelaere. “Daar moeten we op een slimme manier mee omgaan. Je moet echt risico-gestuurd werken.”

Direct toezicht op algoritmes gebeurt momenteel op twee manieren. Allereerst wordt naar de handelaren zelf gekeken, waar het team van De Dobbelaere verantwoordelijk voor is. “Voor hen is specifieke wetgeving ontwikkeld, met allerlei controles, regels voor compliance, governance en voorschriften voor het testen van zowel de algoritmes als de systemen waarop ze ingezet worden. Je moet bijvoorbeeld een kill functionality hebben en op allerlei manieren je algoritme monitoren op het moment dat deze live staat.” De AFM controleert bij dergelijke bedrijven zelfbeoordelingen, maar gaat op diverse plekken ook echt de diepte in. “Daarbij kijken we naar de handelsplatformen, de plek waar de handel daadwerkelijk plaatsvindt, want die hebben ook allerlei controles, zoals circuit breakers. De AFM controleert echter niet alleen of de verschillende partijen aan de wet voldoen, maar bemoeien zich ook met het wetgevingsproces in Europa. Dus waar we ruimte zien voor verbetering van de wetgeving, daar spreken we ons ook over uit.”

Daarnaast kijkt de autoriteit naar de handel door een algoritme, waar Graumans vooral mee bezig is. “Wij krijgen als AFM veel data over transacties binnen. We zoeken daarin naar vreemde patronen”, vertelt hij. Daarvoor gebruikt de AFM onder andere zelfontwikkelde algoritmes, die de data analyseren en een signaal geven als er opvallend gedrag gesignaleerd wordt. Toezichthouders beoordelen vervolgens of dat gedrag ook daadwerkelijk kwalijk is.

Gat mag niet te groot worden

Nadeel is natuurlijk dat ook zo’n model wel eens wat kan missen, al zullen dat niet de grote bewegingen zijn. “Die ziet iedereen, ook zonder een detectiealgoritme,” benadrukt Graumans, “maar het kan al best snel heel complex worden. Een algoritme kan allemaal kleine signaaltjes afgeven. Die signaaltjes zijn op zichzelf misschien geen probleem, maar als je ze combineert kunnen ze de markt misschien net een tikje in het voordeel van die partij geven. Dat blijft voor ons iets om alert op te blijven.”

Ieder algoritme is net weer anders en de ontwikkelingen in dit veld gaan snel. “Het wordt heel snel heel complex”, beaamt De Dobbelaere. “Je moet oog houden voor de impact op de markten in het heden, maar ook in de nabije toekomst.” Een grote uitdaging daarbij is bovendien dat het talent op de arbeidsmarkt beperkt is. “Als we het hebben over die algoritmische handelaren, dan hebben we het echt over de slimste jongens en meisjes van de klas”, voegt Graumans toe. “We hebben het hier over een van de meest geavanceerde industrieën van Nederland, waar partijen tientallen miljoenen betalen om een fractie van een seconde sneller te worden. Het zou fictie zijn om te veronderstellen dat wij over dezelfde mogelijkheden beschikken als deze partijen. We moeten dus alert zijn dat het gat tussen ons en die partijen niet te groot wordt.”

Dat is zeker belangrijk met het oog op de toekomst. Graumans: “De vraag is wat de volgende stap wordt. Wij denken dat dat volledig zelflerende algoritmes kunnen zijn. Die worden niet eens meer helemaal door mensen geprogrammeerd, maar gaan gewoon hun gang en leren onderweg met reinforcement learning welke gedragingen op de markt winst maken.” Vooralsnog zijn er geen signalen dat dergelijke algoritmes door HERs gebruikt worden. “Maar de vraag is of ze nóg niet gebruikt worden, of dat handelaren dit zelf ook echt te eng vinden.”