Innovatie & Strategie

AI op de beurs: zo houdt de AFM toezicht op ‘de slimsten van de klas’
Slechte uitlegbaarheid van algoritmes en mogelijke manipulatie vormen risico’s.
Slechte uitlegbaarheid van algoritmes en mogelijke manipulatie vormen risico’s.
Zo’n 80 tot 100% van alle algoritmes die door algoritmische beurshandelaren gebruikt worden, bevatten een vorm van machine learning. Dat constateert toezichthouder Autoriteit Financiële Markten (AFM) na eigen onderzoek. Dergelijke AI binnen de beurshandel brengen risico’s met zich mee, toezicht houden daarop is best ingewikkeld. Zo pakt de AFM dat aan.
De AFM deed onlangs onderzoek naar het gebruik van machine learning in de handelsalgoritmes van grote zogeheten Handelaren voor Eigen Rekening (HERs) en de potentiële risico’s daarvan. Algoritmes worden al lange tijd op de beurs gebruikt om snel te kunnen handelen, ze hebben zich in die decennia behoorlijk ontwikkeld qua geavanceerdheid en snelheid. Dat AI en machine learning worden toegepast is geen verrassing, maar waar, hoe, in welke mate en welk type machine learning wordt ingezet wél, vertelt Stefan de Dobbelaere, toezichthouder Capital Markets bij de AFM.
Dergelijke algoritmes helpen voorspellen waar de prijs van aandelen naartoe gaat. “Zo’n algoritme kan bijvoorbeeld het signaal geven dat de prijs omhoog gaat en dat gebruiken om een aandeel te verkopen of te kopen”, zegt Rob Graumans, toezichthouder en datascientist bij de AFM. Daarvoor gebruikt een algoritme informatie uit het zogeheten ‘orderboek’. “Dat is een reflectie van hoeveel partijen van een bepaald aandeel willen kopen en verkopen. Naar fundamentele informatie, zoals jaarverslagen, wordt niet gekeken.”
Maar aan het gebruik van dit soort AI-modellen zitten ook risico’s. De flash crash uit 2021 is een goed voorbeeld van hoe algoritmische handel dramatisch fout kan gaan. Begin mei dat jaar schoten de Europese beurzen uit het niets omlaag. Ook de AEX, die opeens ruim 2% lager uitviel. De oorzaak: de Amerikaanse bank Citigroup maakte een foutje bij het invoeren van een transactie, waardoor een te grote order (met veel prijsimpact) door de algoritmes de markten op werd geschoten. Binnen een paar minuten stond een aantal beurzen in Europa in het rood en gingen de noodcontroles af. Ook de interne controles van de partij in kwestie sloegen op een gegeven moment aan. Op dat moment liep de schade al in de tientallen miljoenen en was de ordentelijke handel behoorlijk verstoord.
Subtiele signalen
Flash crashes zijn een extreem voorbeeld van wat er op de beurs mis kan gaan met algoritmes gebaseerd op machine learning, maar er zijn ook andere risico’s die subtieler zijn. “Je hebt verschillende vormen van gedrag die als ‘niet ordentelijk’ beschouwd kunnen worden”, verklaart Graumans. “Een subtieler voorbeeld is dat het algoritme de hele tijd bepaalde signalen afgeeft die anders zijn dan zijn daadwerkelijke intentie. Stel dat het algoritme heel graag iets wil verkopen. Dan kun je de indruk gaan wekken dat dit aandeel erg geliefd is, door op de een of andere manier allerlei koopsignalen in de markt te brengen, in de hoop dat anderen worden aangezet om dat aandeel van jou te kopen. Dat zijn nadelige gevolgen.”
Ook al is het verplicht, algoritmes zijn niet altijd uitlegbaar. Dat kan ook een probleem zijn. Doet een algoritme plots een vreemde transactie, dan moet immers wel uit te leggen zijn waarop het die keuze maakte. “Maar door de toegenomen complexiteit van de algoritmes, merken we dat partijen het lastig vinden om dat te doen.”
Daarnaast zijn machine learning- gebaseerde algoritmes vermoedelijk te manipuleren, al heeft de AFM dat zelf nog niet in de praktijk zien gebeuren. “De op machine learning-gebaseerde algoritmes die wij zijn tegengekomen, hebben echt een focus op dat orderbook. Dat is de allergrootste en voornaamste databron. Iedere verstoring in dat orderboek wordt dus automatisch opgenomen. Dus als je daar wat mee doet, dan zal dat een reactie ontlokken”, legt De Dobbelaere uit. “Met name in het licht van nog geavanceerdere modellen, de reinforcement learning modellen, duidt de wetenschap op risico’s van vernuftige manieren van manipulatie en ‘samenzweren’ die mogelijk moeilijk voor mensen te bevatten zijn."
Unieke positie van Nederland
Juist vanwege dergelijke risico’s is het van groot belang dat er goed toezicht wordt gehouden op dergelijke algoritmes, wat in Nederland door de AFM gedaan wordt. De organisatie surveilleert op de markt het gedrag en potentiële manipulatie. “We hebben rond de dertig HERs in Nederland. Daarmee hebben we veruit de grootste populatie professionele handelshuizen binnen Europa. De AFM is daarin dus vrij uniek”, aldus De Dobbelaere. “Daar moeten we op een slimme manier mee omgaan. Je moet echt risico-gestuurd werken.”
Direct toezicht op algoritmes gebeurt momenteel op twee manieren. Allereerst wordt naar de handelaren zelf gekeken, waar het team van De Dobbelaere verantwoordelijk voor is. “Voor hen is specifieke wetgeving ontwikkeld, met allerlei controles, regels voor compliance, governance en voorschriften voor het testen van zowel de algoritmes als de systemen waarop ze ingezet worden. Je moet bijvoorbeeld een kill functionality hebben en op allerlei manieren je algoritme monitoren op het moment dat deze live staat.” De AFM controleert bij dergelijke bedrijven zelfbeoordelingen, maar gaat op diverse plekken ook echt de diepte in. “Daarbij kijken we naar de handelsplatformen, de plek waar de handel daadwerkelijk plaatsvindt, want die hebben ook allerlei controles, zoals circuit breakers. De AFM controleert echter niet alleen of de verschillende partijen aan de wet voldoen, maar bemoeien zich ook met het wetgevingsproces in Europa. Dus waar we ruimte zien voor verbetering van de wetgeving, daar spreken we ons ook over uit.”
Daarnaast kijkt de autoriteit naar de handel door een algoritme, waar Graumans vooral mee bezig is. “Wij krijgen als AFM veel data over transacties binnen. We zoeken daarin naar vreemde patronen”, vertelt hij. Daarvoor gebruikt de AFM onder andere zelfontwikkelde algoritmes, die de data analyseren en een signaal geven als er opvallend gedrag gesignaleerd wordt. Toezichthouders beoordelen vervolgens of dat gedrag ook daadwerkelijk kwalijk is.
Gat mag niet te groot worden
Nadeel is natuurlijk dat ook zo’n model wel eens wat kan missen, al zullen dat niet de grote bewegingen zijn. “Die ziet iedereen, ook zonder een detectiealgoritme,” benadrukt Graumans, “maar het kan al best snel heel complex worden. Een algoritme kan allemaal kleine signaaltjes afgeven. Die signaaltjes zijn op zichzelf misschien geen probleem, maar als je ze combineert kunnen ze de markt misschien net een tikje in het voordeel van die partij geven. Dat blijft voor ons iets om alert op te blijven.”
Ieder algoritme is net weer anders en de ontwikkelingen in dit veld gaan snel. “Het wordt heel snel heel complex”, beaamt De Dobbelaere. “Je moet oog houden voor de impact op de markten in het heden, maar ook in de nabije toekomst.” Een grote uitdaging daarbij is bovendien dat het talent op de arbeidsmarkt beperkt is. “Als we het hebben over die algoritmische handelaren, dan hebben we het echt over de slimste jongens en meisjes van de klas”, voegt Graumans toe. “We hebben het hier over een van de meest geavanceerde industrieën van Nederland, waar partijen tientallen miljoenen betalen om een fractie van een seconde sneller te worden. Het zou fictie zijn om te veronderstellen dat wij over dezelfde mogelijkheden beschikken als deze partijen. We moeten dus alert zijn dat het gat tussen ons en die partijen niet te groot wordt.”
Dat is zeker belangrijk met het oog op de toekomst. Graumans: “De vraag is wat de volgende stap wordt. Wij denken dat dat volledig zelflerende algoritmes kunnen zijn. Die worden niet eens meer helemaal door mensen geprogrammeerd, maar gaan gewoon hun gang en leren onderweg met reinforcement learning welke gedragingen op de markt winst maken.” Vooralsnog zijn er geen signalen dat dergelijke algoritmes door HERs gebruikt worden. “Maar de vraag is of ze nóg niet gebruikt worden, of dat handelaren dit zelf ook echt te eng vinden.”
Dit artikel is ook gepubliceerd in het magazine van AG Connect (nummer 3 2023). Wil je alle artikelen uit dit nummer lezen, zie dan de inhoudsopgave.
Op de Universiteit Twente wordt AI onderzoek voor bijv. ING gedaan, zie
https://www.utwente.nl/nieuws/2022/8/14806/universiteit-twente-en-ing-s…
Voorbeelden van AI promotieonderzoek op de Universiteit Twente kun je bijvoorbeeld vinden op
https://photos.app.goo.gl/KS7b4ahXg5wRV86a9 en https://photos.app.goo.gl/8ZCBDvBBRZqSoEVy9