JPMorgan-CEO Dimon: risico's van Anthropics Mythos-AI zijn een 'reëel probleem'

In dit artikel:

Jamie Dimon, topman van JPMorgan Chase, heeft woensdag op een veiligheids- en innovatiesummit in Pennsylvania gewaarschuwd dat de risico’s van Anthropics AI-model Mythos een serieus probleem vormen. Volgens Dimon moet de toegang tot zulke geavanceerde AI streng worden gecontroleerd, omdat de technologie volgens hem in verkeerde handen grote schade kan aanrichten. Hij gebruikte daarbij een scherpe vergelijking om te benadrukken dat krachtige AI niet vrij beschikbaar zou moeten zijn.

Het Amerikaanse Anthropic introduceerde Mythos in april bij een beperkte groep gebruikers, waaronder JPMorgan. Banken tonen interesse in het model omdat het sterk zou zijn in het vinden van kwetsbaarheden in cyberbeveiliging, wat bedrijven kan helpen om zwakke plekken sneller op te sporen en te dichten.

De Amerikaanse overheid maakte in juni echter zorgen over nationale veiligheid en beperkte de toegang van buitenlanders tot Anthropic’s topmodellen Fable 5 en Mythos 5. Daardoor moest Anthropic de wereldwijde toegang tijdelijk afsluiten. Later werden de beperkingen weer opgeheven nadat het bedrijf extra waarborgen had ingevoerd.

De kwestie past in een bredere discussie in Washington en de technologiesector over het misbruik van geavanceerde AI, vooral door partijen die softwarelekken of andere beveiligingszwaktes kunnen uitbuiten.