Meta maakt GitHub Copilot-concurrent Code Llama open source
Meta - het moederbedrijf van onder meer Facebook en Instagram - heeft een nieuwe tool genaamd Code Llama open source gemaakt. Dit is een machinelearning-systeem dat net als GitHub Copilot en Amazon CodeWhisperer programmeercode kan genereren en code kan uitleggen in natuurlijke taal.
Shutterstock
De nieuwe tool is gebaseerd op het LLama 2-taalmodel van Meta, dat het bedrijf eerder deze maand ook al open source werd gemaakt, zo schrijft het bedrijf ineen aankondiging. Llama 2 kan zelf ook al code genereren, maar dat was lang niet altijd goede code, merkt TechCrunch op. Code Llama moet dat een stuk beter doen.
De nieuwe tool is op dezelfde dataset getraind als Llama 2, die bestaat uit diverse openbaar beschikbare bronnen op het internet. Maar Code Llama kreeg meer tijd om de relatie tussen code en natuurlijke taal aan te leren. Ieder Code Llama-model is getraind met 500 miljard code-tokens en code-gerelateerde data.
De resulterende tool kan net als Copilot zowel stukken code verder afmaken en code genereren als bestaande stukken code debuggen. Dat doet de tool voor diverse populaire programmeertalen, zoals Python, C++, Java, Typescript, C# en Bash.
Gespecialiseerde versies
Daarnaast heeft Meta een aantal speciale versies van Code Llama uitgebracht. Zo is er een versie helemaal geoptimaliseerd voor Python, omdat er enorm veel benchmarks zijn voor code generatie in Python. Daarnaast spelen Python en PyTorch een belangrijke rol in de AI-gemeenschap, zegt Meta. "Daarom denken we dat een gespecialiseerd model extra toepassingen kan bieden." Ook is er een versie van Code Llama extra goed afgesteld op instructies in natuurlijke taal.
Het Code Llama-model is te downloaden via de website van Meta.
Reacties
Om een reactie achter te laten is een account vereist.
Inloggen Word abonnee