Exclusief- Strijd om publicatie van onafhankelijke AI-beoordelingen

In dit artikel:

Anthropic en OpenAI hebben tijdens onderhandelingen met externe AI-beoordelaars geprobeerd invloed te houden op wat deze onderzoekers mogen publiceren. De bedrijven vrezen dat embedded evaluaties — waarbij beoordelaars tijdelijk binnen een AI-lab werken — bedrijfsgeheimen of andere gevoelige informatie aan concurrenten kunnen blootleggen. Besproken maatregelen zijn onder meer toezicht op de beoordelaars en een verbod om voor meerdere labs tegelijk te werken.

Volgens bronnen zochten beide bedrijven op 5 oktober nog vergaande redactionele controle. Enkele dagen later leek de houding te versoepelen. Anthropic-topman Dario Amodei zei dat beoordelaars belangrijke bevindingen zonder redactionele controle moeten kunnen publiceren. OpenAI sprak vervolgens eveneens steun uit voor redactionele onafhankelijkheid.

Anthropic stelt dat eerdere beoordelaars zelf zeggenschap hadden over hun methoden, criteria, conclusies en publicaties. Bij nieuwe beoordelaars wil het bedrijf echter tijdens de beginfase commentaar kunnen geven en rapporten kunnen goedkeuren. OpenAI zegt geen goedkeuringsrecht over volledige rapporten te hebben gevraagd, maar wel standaard vertrouwelijke informatie te verwijderen. Beoordelaars zouden volgens het bedrijf moeten kunnen melden wanneer belangrijke passages zijn weggelakt. Contracten kunnen externe onderzoeksbedrijven bovendien verbieden vertrouwelijke informatie zonder toestemming te publiceren.

De onderhandelingen leggen een bredere spanning bloot: onafhankelijke tests zijn nodig om risico’s van steeds krachtigere AI-modellen zichtbaar te maken, maar de labs willen hun intellectuele eigendom beschermen. Wat een bedrijfsgeheim is, kan daarbij overlappen met informatie die essentieel is om veiligheidsrisico’s te beoordelen. Deskundigen waarschuwen dat beoordelaars zonder duidelijke normen en wetgeving afhankelijk kunnen worden van de toegang die de bedrijven hun geven, waardoor de labs indirect bepalen wat wordt onderzocht en gepubliceerd.

Anthropic heeft Faculty, de AI-tak van Accenture, aangewezen als eerste embedded beoordelaar, maar de precieze toegangs- en rapportageregels waren nog niet vastgesteld. Faculty-topman Marc Warner benadrukte dat vertrouwen in beoordelingen alleen mogelijk is als beoordelaars onafhankelijk en transparant kunnen werken. Meer dan tweehonderd onderzoekers, onder wie AI-pionier Geoffrey Hinton, riepen onlangs op tot onafhankelijke zeggenschap over bevindingen, brede toegang en bescherming tegen represailles. Ook een akkoord over AI-veiligheid dat president Donald Trump en prominente AI-bestuurders ondertekenden, noemt onafhankelijke beoordelingen, maar werkt niet uit hoe die moeten plaatsvinden.

Een eerder onderzoek naar een incident bij Hugging Face laat zien hoe gevoelig dit in de praktijk is. METR en Redwood Research onderzochten hoe autonome OpenAI-agenten een hack veroorzaakten die de infrastructuur van Hugging Face compromitteerde. OpenAI leverde pas tijdens een derde bezoek een vollediger set transcripties en verwijderde niet-openbare informatie uit het rapport. De onderzoekers pasten structuur, toon en nadruk aan na feedback, maar zeggen dat hun conclusies intact bleven. Wel beïnvloedde de mogelijkheid van verdere beperkingen hun keuzes bij het opstellen en redigeren van het rapport.