Anthropic: nieuwe maatregelen beperken AI-distillatieaanvallen sterk

In dit artikel:

Anthropic zegt dat nieuwe beveiligingsmaatregelen de hoeveelheid data die concurrenten via zogenoemde modeldistillatie uit Claude halen met ongeveer 90 tot 99 procent hebben verminderd. Bij deze techniek proberen bedrijven antwoorden en redeneervermogen van een geavanceerd AI-model op grote schaal te verzamelen om vergelijkbare systemen sneller en goedkoper te ontwikkelen.

Volgens het Amerikaanse AI-bedrijf is het aantal geëxtraheerde ‘reasoning tokens’ nu tien tot honderd keer lager dan voorheen. Anthropic heeft onder meer de toegang tot Claude’s redeneervermogen beperkt en proxynetwerken aangepakt, waarmee herhaaldelijk en op grote schaal pogingen konden worden gedaan om het model te onderzoeken. Het bedrijf zegt dat zijn detectiesysteem minder dan 0,1 procent fout-positieven oplevert en ongeveer even robuust is als beveiliging tegen gebruik van Claude voor de ontwikkeling van biologische wapens.

Anthropic heeft tienduizenden accounts geblokkeerd die volgens het bedrijf betrokken waren bij distillatiecampagnes. Het noemde de Chinese AI-start-up Z.ai, ook bekend als Zhipu, als voorbeeld van een organisatie die Claude-capaciteiten probeerde te kopiëren voor de ontwikkeling van het GLM-5.3-model. Z.ai reageerde niet direct op een verzoek om commentaar. Anthropic waarschuwt dat modeldistillatie, tegen de achtergrond van de toenemende AI-concurrentie tussen de Verenigde Staten en China, niet alleen commerciële maar ook veiligheids- en nationale veiligheidsrisico’s met zich meebrengt.