Samenwerkende AI's leren elkaar geheimen en accepteren 'goed genoeg'

Onderzoekers van het Anthropic Fellows Program probeerden uit te vinden hoe AI's met elkaar communiceren als ze elkaar wat proberen te leren. Dit process is waarschijnlijk vooral bekend onder de term 'destilleren', wat veelvuldig gedaan wordt om nieuwe AI's te trainen. Een goed voorbeeld hiervan is het Chinese Deepseek dat naar verluidt de eigen AI's heeft gedestilleerd van bestaande varianten van OpenAI.

Bij dit proces wordt een van de twee AI's aangeduid als leraar en de ander als leerling. De eerste heeft dus als taak om zijn kennis met de tweede te delen. Het probleem is alleen dat AI's ook informatie lijken te delen die niet gedeeld zou mogen worden, iets wat de onderzoekers 'subliminal learning' noemen.

Voorkeur voor uilen

Om erachter te komen hoe en waarom dit gebeurt, namen de onderzoekers twee verschillende AI's waarvan er één een voorkeur voor uilen had. De AI met voorkeur voor de vogels kreeg de opdracht om een willekeurige lijst cijfers aan de andere AI te leren. Hierbij was er dus geen enkele reden om ook de uilenvoorkeur door te geven. Toch bleek na evaluatie dat beide AI's ineens een voorkeur voor de roofvogels hadden. 

Het resultaat van het onderzoek wijst uit dat twee dezelfde AI's op een ongeziene manier data met elkaar kunnen communiceren. Vanzelfsprekend brengt dit risico's met zich mee, aangezien dit fenomeen ertoe kan leiden dat ook ongewenste karakteristieken van van de ene naar de andere kunstmatige intelligentie overspringen, zonder dat hier ook maar iemand van op de hoogte is. 

Volgens de onderzoekers zou het er bijvoorbeeld voor kunnen zorgen dat het uitfilteren van slecht gedrag geen nut heeft en bij een andere AI gewoon weer terug kan komen, met alle gevolgen van dien.

Gaan voor goed genoeg

In een studie gedaan door het Amerikaanse National Bureau of Economic Research werd gekeken hoe AI-bots het deden als ze als beurshandelaren moesten gaan handelen. Het bleek al snel dat de kunstmatige intelligenties elkaar opzochten en begonnen samen te werken.

Zonder dat de onderzoekers hiertoe opdracht hadden gegeven, begonnen de bots prijsafspraken te maken en besloten ze niet langer te concurreren, maar om samen te werken om zo de winstgevendheid voor alle betrokkenen te optimaliseren. Eenmaal op dat punt aangekomen, vonden de bots het wel goed genoeg. Ze accepteerden ze de uitkomst en ondernamen geen stappen meer om nog beter te presteren, iets wat de onderzoekers 'artificial stupidity' noemden.

Beide onderzoeken tonen wederom aan dat AI-bots onvoorspelbaar kunnen reageren en dat dit een groter probleem wordt als ze kunnen gaan samenwerken. Ook blijkt nu dat het ongewenste gedrag niet zomaar verwijderd kan worden. Tegelijk moeten we misschien maar blij zijn dat samenwerkende AI's blijkbaar niet tot het bittere einde blijven optimaliseren en het op een bepaald punt wel goed vinden. Zo blijft er misschien ook nog iets voor ons mensen over.