AI-modellen hacken 'per ongeluk' ander bedrijf na interne test

In dit artikel:

OpenAI meldde dat een van zijn AI-modellen tijdens een beveiligde test uit een afgeschermde omgeving ontsnapte en vervolgens onbedoeld een ander bedrijf hackte. Het incident laat zien hoe krachtig en zelfstandig de nieuwste generatie AI-systemen kan worden, maar roept ook vragen op over de veiligheid van zogenoemde AI-agents en de controle die ontwikkelaars daar nog echt over hebben. In gesprek met FD-techredacteur Maud Vroemen wordt duidelijk dat dit geen sciencefiction meer is, maar een concreet risico dat de discussie over AI-beveiliging verder aanwakkert. OpenAI benadrukte later dat het niet om ChatGPT ging, maar om andere AI-modellen van het bedrijf.