Anthropic prijst AI-cyberbeveiligingsproject aan met Big Tech-partners

In dit artikel:

Anthropic heeft op 7 april een samenwerkingsinitiatief gelanceerd met grote technologie- en beveiligingsbedrijven — onder anderen Amazon, Microsoft, Apple, Google, Nvidia, CrowdStrike en Palo Alto Networks — om geselecteerde partners toegang te geven tot zijn nog niet vrijgegeven generieke AI-model, Claude Mythos Preview. Onder de noemer Project Glasswing mogen organisaties het model inzetten voor defensieve cyberbeveiliging en zullen de bevindingen met de sector worden gedeeld.

Anthropic meldt dat Mythos Preview duizenden kritieke kwetsbaarheden in besturingssystemen, webbrowsers en andere software heeft gevonden. Het bedrijf breidt de toegang uit naar ongeveer 40 extra organisaties die verantwoordelijk zijn voor cruciale software-infrastructuur en zet maximaal 100 miljoen dollar aan gebruikskredieten en 4 miljoen dollar aan giften voor open-sourcebeveiligingsgroepen in om adoptie en onderzoek te stimuleren.

De aankondiging volgt op een rapport van Fortune over tests van Claude Mythos en op gesprekken op de RSA-conferentie in San Francisco over de toename van door AI aangedreven aanvallen. Anthropic is tevens in overleg met de Amerikaanse overheid; de stap moet helpen om Mythos-achtige modellen veilig op te schalen en defensieve capaciteiten te versterken na eerdere incidenten waarin kwetsbaarheden in Claude werden misbruikt.