Anthropic blokkeert gebruik van krachtigste AI-tools

In dit artikel:

De Amerikaanse regering heeft via een exportbeperking buitenlandse overheden, bedrijven en personen verboden om de krachtigste AI-modellen van Anthropic te gebruiken. Als gevolg daarvan heeft Anthropic vrijdagavond wereldwijd de toegang tot zijn topmodellen Fable 5 en Mythos 5 geblokkeerd om aan die maatregel te voldoen; de beperking geldt voor buitenlandse onderdanen ongeacht of zij zich binnen of buiten de VS bevinden, inclusief buitenlandse werknemers van Anthropic.

Anthropic zei dat de maatregel voortkomt uit nationale veiligheidszorgen rond een mogelijke methode om Fable 5 te "jailbreaken" — een techniek om ingebouwde beperkingen of veiligheidsfilters te omzeilen. Het bedrijf benadrukt echter dat de getoonde techniek alleen geringe, reeds bekende kwetsbaarheden aantoonde en dat vergelijkbare zwaktes ook door andere, openbaar beschikbare modellen kunnen worden opgespoord.

De rest van Anthropic’s modellen blijft beschikbaar; alleen Fable 5 en Mythos 5 zijn uitgeschakeld. Het bedrijf wijst erop dat deze modellen al aan honderden miljoenen gebruikers waren geleverd en noemt het intrekken van een commercieel model in reactie op een beperkte kwetsbaarheid disproportioneel. Anthropic waarschuwt dat als dergelijke normen sectorbreed zouden gelden, dat de introductie van nieuwe topmodellen door topleveranciers bijna zou stilleggen.

Anthropic werkt eraan de toegang "zo snel mogelijk" te herstellen, maar de huidige status is bedoeld om naleving van de VS-maatregel te waarborgen. De stap illustreert hoe nationale veiligheidszorgen rond geavanceerde AI nu directe invloed hebben op de beschikbaarheid van technologie voor gebruikers buiten de Verenigde Staten.